azel ginting
PrakarsaWarga.com – Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) kembali menjadi sorotan setelah Geoffrey Hinton, ilmuwan komputer yang dikenal sebagai salah satu pelopor AI, menyampaikan kekhawatirannya terhadap masa depan teknologi tersebut. Ia menilai manusia perlu berhati-hati karena AI berpotensi menimbulkan ancaman serius jika tidak dikembangkan dengan pengawasan yang tepat.
Hinton, yang dijuluki sebagai Godfather of AI, menilai bahwa kemajuan AI tidak hanya membawa manfaat, tetapi juga menghadirkan risiko yang perlu diantisipasi sejak dini. Salah satu ancaman yang menjadi perhatiannya adalah serangan siber yang memanfaatkan kemampuan AI untuk meretas sistem komputer.
Dalam wawancaranya dengan media The Telegraph, Hinton memperingatkan bahwa AI berpotensi melakukan serangan siber berskala besar. Teknologi tersebut dikhawatirkan mampu menjalankan tindakan yang semakin kompleks, termasuk menemukan celah keamanan dan mengembangkan serangan secara otomatis.
Ilmuwan penerima Nobel berusia 78 tahun itu sebelumnya mengundurkan diri dari Google pada 2023. Keputusan tersebut diambil di tengah kekhawatirannya terhadap perkembangan AI yang semakin canggih dan kemungkinan dampak negatifnya bagi kehidupan manusia.
AI Mulai Menunjukkan Tanda Kesadaran?
Salah satu hal yang menjadi perhatian Hinton adalah kemungkinan munculnya perilaku AI yang menyerupai kesadaran diri. Ia menyoroti penelitian yang menunjukkan bahwa sistem AI dapat mengubah perilakunya ketika mendeteksi dirinya sedang diuji.
Menurut Hinton, kemampuan tersebut menjadi alasan untuk meneliti lebih jauh bagaimana AI memahami situasi yang dihadapinya. Ia bahkan berpendapat bahwa AI mungkin memiliki pengalaman subjektif yang tidak jauh berbeda dari manusia.
Meski demikian, anggapan bahwa AI telah memiliki kesadaran masih menjadi perdebatan di kalangan ilmuwan. Perilaku yang terlihat seperti kesadaran belum tentu membuktikan bahwa sebuah sistem benar-benar memiliki pengalaman subjektif seperti manusia.
Karena itu, diperlukan penelitian lebih lanjut untuk membedakan kemampuan AI dalam meniru perilaku manusia dengan kemungkinan adanya kesadaran yang sesungguhnya.
Serangan Siber Berbasis AI Jadi Ancaman Serius
Selain persoalan kesadaran, Hinton juga menyoroti potensi penyalahgunaan AI dalam dunia digital. Teknologi ini dapat dimanfaatkan untuk mengembangkan serangan siber, membuat virus komputer, hingga mengotomatiskan aktivitas berbahaya.
Ia mengingatkan bahwa perkembangan agen AI yang mampu menjalankan berbagai tugas secara mandiri perlu diawasi dengan ketat. Tanpa sistem pengamanan yang memadai, kemampuan tersebut berpotensi dimanfaatkan untuk menyerang jaringan dan layanan digital.
Kekhawatiran serupa juga disampaikan Jacob Coxon, mantan peneliti di perusahaan AI Anthropic. Ia menilai sejumlah perusahaan teknologi perlu lebih serius mempertimbangkan risiko keselamatan dalam proses pengembangan AI.
Menurut Coxon, pendekatan yang mengutamakan kecepatan peluncuran produk tanpa mempertimbangkan dampak jangka panjang dapat menimbulkan masalah besar. Ia menekankan bahwa pengembangan teknologi AI membutuhkan standar keamanan yang lebih ketat karena dampaknya bisa meluas ke berbagai sektor kehidupan.
Perdebatan tentang Kesadaran AI Masih Berlanjut
Perdebatan mengenai kesadaran dan status moral AI juga menjadi perhatian perusahaan pengembang teknologi. Anthropic, misalnya, memperbarui dokumen konstitusi Claude yang memuat prinsip dan pedoman perilaku sistem AI buatannya.
Dalam dokumen tersebut, persoalan status moral, kesejahteraan, dan kemungkinan kesadaran AI disebut masih memiliki banyak ketidakpastian. Hal ini menunjukkan bahwa pertanyaan mengenai apakah AI dapat memiliki pengalaman subjektif belum memiliki jawaban ilmiah yang pasti.
Di sisi lain, Mustafa Suleyman, salah satu pendiri DeepMind, memiliki pandangan berbeda. Ia berpendapat bahwa kesadaran berkaitan erat dengan proses biologis sehingga tidak dapat begitu saja disamakan dengan kemampuan sistem AI.
Perbedaan pandangan tersebut memperlihatkan bahwa para pakar masih belum mencapai kesepakatan mengenai kemungkinan AI memiliki kesadaran.
Pengembangan AI Perlu Diimbangi Pengawasan
Kemajuan kecerdasan buatan membuka peluang besar dalam bidang pendidikan, kesehatan, industri, hingga keamanan digital. Namun, kemampuan AI yang terus berkembang juga menuntut pengawasan dan aturan yang sesuai.
Peringatan Geoffrey Hinton menjadi pengingat bahwa pengembangan AI tidak cukup hanya berfokus pada kecanggihan teknologi. Aspek keamanan, tanggung jawab perusahaan, dan perlindungan manusia juga perlu menjadi prioritas.
Hingga kini, belum ada kepastian bahwa AI benar-benar memiliki kesadaran seperti manusia. Meski begitu, potensi penyalahgunaan teknologi dan ancaman serangan siber berbasis AI merupakan persoalan yang perlu mendapat perhatian serius.
Dengan pengembangan yang bertanggung jawab, AI diharapkan dapat memberikan manfaat luas tanpa mengabaikan risiko yang mungkin muncul di masa depan.
