Rina Putri
PrakarsaWarga.Com – Meta menghadirkan pembaruan penting pada sistem keamanan bagi pengguna remaja dengan meluncurkan fitur baru yang dapat memberi tahu orang tua ketika anak terdeteksi membahas tindakan menyakiti diri sendiri dalam percakapan dengan Meta AI. Langkah ini menjadi bagian dari upaya perusahaan memperkuat perlindungan digital bagi pengguna usia muda.
Fitur terbaru tersebut melengkapi sistem Family Supervision atau pengawasan keluarga yang sebelumnya memungkinkan orang tua memantau aktivitas tertentu anak di platform Meta. Kini, jika sistem mendeteksi adanya percakapan yang mengindikasikan risiko terhadap keselamatan pengguna remaja, orang tua akan menerima notifikasi agar dapat segera memberikan pendampingan.
Meta menjelaskan bahwa ketika remaja mengungkapkan topik yang berkaitan dengan menyakiti diri sendiri atau kondisi yang membahayakan keselamatan, Meta AI akan secara otomatis mengarahkan pengguna ke layanan bantuan profesional. Selain itu, AI juga akan mendorong mereka untuk berbicara dengan orang dewasa yang dipercaya, seperti orang tua, wali, atau guru.
Tak hanya mengirimkan pemberitahuan, Meta juga akan menyediakan berbagai informasi dan panduan bagi orang tua mengenai langkah-langkah yang dapat dilakukan untuk membantu anak menghadapi situasi tersebut.
Untuk memastikan akurasi, Meta mengembangkan sistem AI khusus yang mampu mengenali percakapan berisiko. Namun, perusahaan menegaskan bahwa setiap percakapan yang ditandai AI akan ditinjau kembali oleh tim manusia sebelum notifikasi dikirimkan. Langkah ini dilakukan guna meminimalkan kesalahan deteksi sekaligus menghindari kepanikan yang tidak diperlukan.
Meski demikian, Meta memilih menerapkan pendekatan yang lebih berhati-hati. Dalam situasi tertentu yang masih belum sepenuhnya jelas, perusahaan tetap dapat mengirimkan peringatan kepada orang tua apabila ditemukan indikasi potensi risiko terhadap keselamatan anak.
Saat ini, fitur tersebut sudah tersedia bagi pengguna Instagram yang mengaktifkan layanan pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur ini dapat diperluas secara global sebelum akhir tahun sehingga seluruh pengguna yang menggunakan Family Supervision dapat memanfaatkannya.
Selain pembaruan tersebut, Meta juga tengah mengembangkan kemampuan baru yang memungkinkan sistem menghubungi layanan darurat apabila percakapan dengan Meta AI menunjukkan adanya ancaman serius yang membutuhkan penanganan segera. Fitur ini nantinya dirancang untuk melindungi tidak hanya pengguna remaja, tetapi juga pengguna dewasa.
Meta juga memperluas penerapan pengaturan Limited Content ke layanan Meta AI. Dengan begitu, apabila orang tua mengaktifkan pembatasan konten sensitif di Instagram, pembatasan serupa juga akan otomatis diterapkan pada interaksi anak dengan Meta AI.
Langkah ini menunjukkan komitmen Meta dalam meningkatkan keamanan penggunaan AI, terutama bagi kalangan remaja, seiring semakin besarnya peran kecerdasan buatan dalam kehidupan digital sehari-hari.
azel ginting
