Rina Putri
PrakarsaWarga.Com – OpenAI kembali menghadirkan inovasi di bidang kecerdasan buatan (Artificial Intelligence/AI) dengan memperkenalkan GPT-Red, sebuah sistem AI internal yang dirancang untuk menguji sekaligus menemukan celah keamanan pada model AI milik perusahaan. Teknologi ini dikembangkan agar potensi kerentanan dapat ditemukan lebih awal sebelum dimanfaatkan oleh pihak yang tidak bertanggung jawab.
GPT-Red berfungsi sebagai alat red teaming, yaitu metode pengujian keamanan yang biasanya dilakukan oleh para ahli keamanan siber untuk mengidentifikasi kelemahan suatu sistem. Bedanya, GPT-Red bekerja secara otomatis menggunakan AI sehingga mampu melakukan ribuan simulasi serangan dalam waktu yang jauh lebih singkat dibandingkan pengujian manual.
Dalam proses pengujiannya, GPT-Red mengirimkan berbagai jenis prompt ke model AI yang menjadi target. Sistem kemudian menganalisis setiap respons yang diberikan. Jika belum berhasil menemukan celah keamanan, GPT-Red akan mengubah pendekatan dan mencoba strategi lain hingga memperoleh hasil yang diinginkan.
Untuk meningkatkan kemampuannya, OpenAI melatih GPT-Red menggunakan metode reinforcement learning self-play. Teknik ini mempertemukan AI penyerang dengan AI bertahan dalam berbagai skenario simulasi. AI penyerang memperoleh penghargaan ketika berhasil mengeksploitasi sistem, sementara AI bertahan mendapat imbalan jika mampu menggagalkan serangan. Proses tersebut berlangsung berulang kali sehingga kemampuan kedua model terus berkembang.
OpenAI mengklaim hasil pengujian GPT-Red jauh melampaui kemampuan tim keamanan manusia. Dalam uji coba internal, GPT-Red berhasil menemukan celah pada 84 persen skenario yang diuji, sedangkan tim penguji manusia hanya mencapai 13 persen.
Selain itu, GPT-Red disebut mampu meningkatkan ketahanan model AI OpenAI terhadap berbagai jenis serangan, termasuk prompt injection dan fake chain-of-thought. Tingkat keberhasilan serangan fake chain-of-thought yang sebelumnya mampu menembus GPT-5.1 hingga lebih dari 95 persen, kini diklaim turun menjadi kurang dari 10 persen pada GPT-5.6 setelah proses penguatan keamanan.
Kemampuan GPT-Red juga diuji pada sejumlah agen AI. Dalam salah satu simulasi, sistem berhasil mengambil alih agen mesin penjual otomatis virtual bernama Vendy, mengubah harga produk, hingga membatalkan pesanan. GPT-Red juga mampu memanipulasi agen AI berbasis command line yang digunakan untuk membantu proses pemrograman.
Peneliti OpenAI, Dylan Hunn, menyebut GPT-Red sangat efektif dalam menemukan metode serangan yang benar-benar berhasil dibandingkan pendekatan red teaming konvensional. Sementara itu, peneliti lainnya, Nikhil Kandpal, menilai tantangan keamanan AI akan semakin besar seiring berkembangnya agen AI yang semakin otonom dan mampu menjalankan berbagai tugas secara mandiri.
Meski memiliki kemampuan tinggi, OpenAI memastikan GPT-Red tidak akan dirilis kepada publik. Model ini hanya digunakan secara internal untuk membantu meningkatkan keamanan seluruh produk AI OpenAI dan mencegah penyalahgunaan teknologi tersebut.
OpenAI juga mengakui GPT-Red masih memiliki sejumlah keterbatasan, seperti belum optimal dalam menghadapi serangan multi-turn conversation maupun prompt injection berbasis gambar. Oleh karena itu, perusahaan menegaskan bahwa peran pakar keamanan manusia tetap dibutuhkan sebagai pelengkap dalam proses pengujian.
Peluncuran GPT-Red dilakukan tidak lama setelah OpenAI memperkenalkan GPT-5.6. Kehadiran sistem ini menunjukkan bahwa keamanan AI kini menjadi fokus utama di tengah semakin luasnya penggunaan agen AI dalam berbagai sektor, sekaligus menjadi langkah penting untuk menghadapi ancaman siber yang terus berkembang.
