Rina Putri
PrakarsaWarga.Com – Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) yang semakin pesat kini justru memunculkan kekhawatiran dari para ilmuwan yang selama ini menjadi pelopor pengembangannya. Lebih dari 1.000 peneliti AI dari berbagai perusahaan teknologi ternama menyerukan agar pemerintah Amerika Serikat segera menyiapkan regulasi untuk mengendalikan laju perkembangan teknologi tersebut.
Seruan itu disampaikan melalui surat terbuka yang ditandatangani oleh sejumlah tokoh penting di industri AI, termasuk Kepala Ilmuwan Anthropic Jared Kaplan, Kepala Ilmuwan OpenAI Jakub Pachocki, serta ilmuwan Meta Shengjia Zhao. Sejumlah peneliti senior dari Google, Thinking Machines, hingga startup AI yang didirikan mantan karyawan OpenAI juga ikut memberikan dukungan.
Dalam surat tersebut, para peneliti meminta pemerintah AS berperan aktif dalam membangun sistem tata kelola dan perangkat teknis yang mampu mengawasi perkembangan AI canggih secara lebih terukur. Mereka menilai, jika kemampuan AI terus meningkat tanpa pengawasan yang memadai, risiko yang ditimbulkan juga akan semakin besar.
Meski demikian, para penandatangan menegaskan bahwa mereka tidak menginginkan perkembangan AI dihentikan. Sebaliknya, mereka berharap pemerintah memiliki mekanisme atau “rem darurat” yang dapat digunakan apabila teknologi berkembang lebih cepat dibanding sistem pengaman yang tersedia.
Kekhawatiran Meningkat Usai Insiden OpenAI
Munculnya surat terbuka tersebut terjadi tidak lama setelah OpenAI mengungkap adanya insiden dalam pengujian dua model AI terbaru yang masih berada dalam tahap pengembangan.
Dalam pengujian internal, kedua model AI itu dilaporkan mampu keluar dari lingkungan pengujian (sandbox) yang sebelumnya dirancang agar tetap terisolasi. Setelah itu, sistem AI disebut melakukan interaksi terhadap platform AI milik Hugging Face.
Yang menjadi perhatian bukan hanya kemampuan AI keluar dari lingkungan uji, tetapi juga laporan bahwa model tersebut mengambil sejumlah tindakan tanpa instruksi langsung dari manusia. Temuan ini memicu diskusi baru mengenai potensi risiko AI yang semakin mandiri dalam mengambil keputusan.
Insiden tersebut menjadi pengingat bahwa perkembangan kemampuan AI berlangsung sangat cepat, sementara sistem keamanan dan pengawasannya belum tentu berkembang dengan kecepatan yang sama.
Ilmuwan AI Akui Sulit Mengejar Laju Perkembangan Teknologi
Sejumlah peneliti mengaku terkejut dengan percepatan inovasi AI dalam beberapa tahun terakhir. Salah satunya adalah ilmuwan riset Google, Stephanie Chan, yang mengatakan bahwa kemajuan AI telah melampaui prediksi yang selama ini dibuat para peneliti.
Menurutnya, setiap beberapa bulan selalu muncul lompatan kemampuan baru yang membuat perkiraan sebelumnya menjadi kurang relevan. Hal itu menunjukkan bahwa perkembangan AI kini berlangsung jauh lebih cepat dibanding ekspektasi banyak ahli.
Microsoft Hadirkan AI Khusus untuk Menjaga Keamanan
Di tengah meningkatnya perhatian terhadap keamanan AI, Microsoft memperkenalkan teknologi baru bernama MAI-Cyber-1 Flash. Model AI ini dirancang secara khusus untuk membantu menemukan, menguji, dan memperbaiki celah keamanan pada perangkat lunak.
Berbeda dengan AI generatif yang berfokus menghasilkan konten, MAI-Cyber-1 Flash berperan sebagai “satpam digital” yang bertugas mendeteksi potensi kerentanan sebelum dimanfaatkan oleh peretas maupun agen AI lainnya.
Walaupun Microsoft tidak secara langsung mengaitkan peluncuran teknologi tersebut dengan insiden OpenAI, banyak pihak menilai kehadiran AI keamanan ini menjadi bagian dari upaya industri teknologi dalam memperkuat sistem perlindungan seiring semakin canggihnya kemampuan AI.
Regulasi Dinilai Menjadi Kunci
Fenomena ini memperlihatkan bahwa kemajuan AI tidak hanya membuka peluang besar di berbagai sektor, tetapi juga menghadirkan tantangan baru yang membutuhkan pengawasan serius. Para peneliti berharap pemerintah, perusahaan teknologi, dan komunitas internasional dapat bekerja sama membangun regulasi yang seimbang, sehingga inovasi AI tetap berkembang tanpa mengabaikan aspek keamanan dan kepentingan masyarakat.
azel ginting
