Rina Putri
PrakarsaWarga.Com – Meta menghadirkan fitur keamanan baru yang dirancang untuk melindungi pengguna remaja saat berinteraksi dengan Meta AI. Melalui pembaruan ini, orang tua dapat menerima notifikasi apabila sistem mendeteksi percakapan yang mengarah pada isu sensitif, seperti risiko bunuh diri atau tindakan melukai diri sendiri.
Langkah ini menjadi bagian dari upaya Meta untuk memperkuat keamanan digital bagi remaja sekaligus melibatkan orang tua dalam menjaga kesehatan mental anak saat menggunakan teknologi berbasis kecerdasan buatan.
Sistem AI Akan Mendeteksi Percakapan Berisiko
Fitur terbaru ini terintegrasi dengan Parental Supervision di Instagram. Ketika sistem menemukan indikasi bahwa seorang remaja sedang mengalami kondisi emosional yang berisiko, orang tua akan menerima pemberitahuan beserta panduan dari para pakar untuk membantu mereka merespons situasi tersebut dengan tepat.
Meta menjelaskan bahwa sistem AI akan menganalisis berbagai sinyal dalam percakapan, baik yang disampaikan secara langsung maupun melalui ungkapan yang bersifat tidak eksplisit. Tujuannya adalah mengidentifikasi kemungkinan adanya risiko sejak dini.
Tetap Ada Proses Verifikasi Manual
Untuk meminimalkan kesalahan deteksi, setiap percakapan yang ditandai oleh sistem tidak langsung menghasilkan peringatan otomatis.
Meta menyatakan bahwa seluruh percakapan yang teridentifikasi akan melalui proses peninjauan manual terlebih dahulu sebelum notifikasi dikirim kepada orang tua. Jika isi percakapan masih bersifat ambigu, perusahaan memilih mengambil langkah yang lebih berhati-hati dengan tetap memberikan peringatan sebagai bentuk pencegahan.
Saat ini, fitur tersebut telah tersedia bagi pengguna Instagram Parental Supervision di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan ini dapat digunakan secara global pada akhir 2026.
Meta AI Juga Disiapkan Hubungi Layanan Darurat
Selain memberikan notifikasi kepada orang tua, Meta juga sedang mengembangkan sistem yang memungkinkan Meta AI menghubungi layanan darurat apabila percakapan pengguna menunjukkan risiko bunuh diri yang bersifat mendesak.
Fitur tersebut nantinya akan berlaku untuk pengguna remaja maupun dewasa sebagai bagian dari pengembangan sistem perlindungan yang sebelumnya telah diterapkan di Facebook dan Instagram.
Meta mengungkapkan bahwa sepanjang tahun lalu perusahaan telah melakukan lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara berdasarkan unggahan yang dinilai memiliki indikasi risiko bunuh diri yang kredibel.
Libatkan Pakar Kesehatan Mental
Untuk meningkatkan kualitas respons chatbot, Meta menggandeng lebih dari 75 pakar kesehatan mental, khususnya yang berfokus pada kesehatan mental remaja.
Para ahli tersebut mengevaluasi ratusan respons Meta AI terhadap pertanyaan yang berkaitan dengan bunuh diri maupun tindakan menyakiti diri sendiri. Hasil evaluasi digunakan untuk menyempurnakan cara chatbot memberikan respons yang lebih empatik sekaligus tetap mengarahkan pengguna menuju sumber bantuan yang tepat.
Meta menegaskan bahwa chatbot tidak akan langsung menghentikan percakapan, melainkan tetap mengakui perasaan pengguna sebelum memberikan rekomendasi untuk mencari bantuan profesional.
Pengaturan Konten Remaja Semakin Ketat
Bersamaan dengan fitur tersebut, Meta juga memperkuat pengaturan keamanan untuk akun remaja.
Seluruh akun remaja secara otomatis menggunakan pengaturan konten 13+, termasuk ketika berinteraksi dengan Meta AI. Dalam mode ini, chatbot hanya akan memberikan jawaban yang sesuai dengan usia pengguna serta menolak permintaan yang berkaitan dengan topik sensitif, seperti percakapan seksual, hubungan romantis yang tidak sesuai usia, maupun permintaan resep minuman beralkohol.
Selain itu, jika orang tua mengaktifkan fitur Konten Terbatas (Restricted Content) di Instagram, pembatasan serupa juga akan diterapkan pada seluruh percakapan remaja dengan Meta AI.
Melalui berbagai pembaruan tersebut, Meta berharap penggunaan kecerdasan buatan dapat menjadi lebih aman bagi remaja sekaligus memberikan ketenangan bagi orang tua dalam mendampingi aktivitas digital anak.
