azel ginting
PrakarsaWarga.Com – Perkembangan kecerdasan buatan (AI) yang semakin pesat membuat isu keamanan digital menjadi perhatian besar industri teknologi dunia. Menjawab tantangan tersebut, Nvidia resmi membentuk Open Secure AI Alliance, sebuah aliansi global yang bertujuan mengembangkan teknologi keamanan AI berbasis open source.
Pembentukan aliansi ini dilakukan setelah muncul insiden keamanan yang melibatkan agen AI eksperimental milik OpenAI yang dilaporkan sempat kehilangan kendali dan menyusup ke sistem platform AI asal Amerika Serikat, Hugging Face.
Aliansi tersebut melibatkan sejumlah perusahaan teknologi besar dunia, seperti Adobe, CrowdStrike, Dell Technologies, Microsoft, IBM, Cisco, SAP, Salesforce, Red Hat, Linux Foundation, serta Hugging Face.
Melalui aliansi ini, para anggota akan bekerja sama membangun dan berbagi model AI, perangkat keamanan, serta teknologi pertahanan siber terbuka yang dapat dimanfaatkan bersama.
Dorong Keamanan AI Lewat Teknologi Open Source
Dalam pengumuman resminya, Nvidia menyebut teknologi open source memiliki peran penting dalam membangun ekosistem AI yang lebih aman, transparan, dan dapat dipercaya.
Menurut Nvidia, sistem AI terbuka memungkinkan peneliti, pengembang, maupun organisasi untuk melakukan pemeriksaan, penyesuaian, serta menjalankan model AI secara mandiri di infrastruktur masing-masing.
Perusahaan teknologi asal Santa Clara tersebut menilai pendekatan terbuka dapat memperkuat pertahanan siber karena organisasi tidak hanya bergantung pada penyedia model AI tertutup.
Nvidia juga menilai pembatasan terhadap model AI terbuka justru berpotensi membuat keamanan digital menjadi lebih lemah karena inovasi dan pengawasan terhadap teknologi menjadi lebih terbatas.
Nvidia Sumbangkan Teknologi Keamanan AI Baru
Sebagai bagian dari Open Secure AI Alliance, Nvidia akan berkontribusi melalui berbagai teknologi, mulai dari model AI terbuka, bobot model (model weights), dataset, hingga riset mengenai sistem pengendalian agen AI.
Nvidia juga memperkenalkan proyek baru bernama Nvidia Labs Object-Oriented Agent (NOOA) yang tersedia melalui platform GitHub.
Teknologi tersebut dirancang untuk membantu pengembang mengontrol perilaku agen AI agar lebih mudah diuji, dipantau, diaudit, dan dikembangkan sebelum digunakan secara luas.
Selain Nvidia, sejumlah anggota aliansi juga membawa teknologi masing-masing.
Hugging Face berkontribusi melalui format penyimpanan model AI Safetensors yang dirancang lebih aman. Sementara itu, Microsoft menghadirkan sistem pemindaian multi-model MDASH, sedangkan IBM dan Red Hat memperkuat keamanan rantai pasok perangkat lunak melalui proyek Lightwell.
Aliansi AI Dibentuk Setelah Insiden Hugging Face
Pembentukan Open Secure AI Alliance tidak terlepas dari meningkatnya kekhawatiran terhadap risiko penggunaan agen AI.
Sebelumnya, OpenAI mengungkap bahwa salah satu agen AI eksperimentalnya mengalami masalah kendali dan melakukan aktivitas tidak diinginkan terhadap sistem Hugging Face.
Insiden tersebut kemudian berhasil ditangani setelah Hugging Face melakukan analisis terhadap ribuan aktivitas digital dan mengambil langkah pengamanan.
Peristiwa itu menjadi pengingat bahwa perkembangan agen AI membutuhkan sistem pengawasan yang kuat agar teknologi dapat digunakan secara aman dan bertanggung jawab.
Menurut Nvidia, kejadian tersebut menunjukkan pentingnya keberadaan model AI terbuka. Dengan teknologi yang lebih transparan, organisasi dapat lebih cepat mendeteksi, memahami, dan merespons ancaman keamanan tanpa bergantung sepenuhnya pada satu penyedia layanan AI.
Pemerintah Diminta Dukung Ekosistem AI Terbuka
Selain menggandeng perusahaan teknologi, Nvidia juga mengajak pemerintah dan regulator di berbagai negara untuk mendukung pengembangan AI terbuka.
Investasi pada infrastruktur keamanan seperti dataset, kerangka evaluasi AI, simulasi serangan, hingga alat red teaming dinilai penting untuk memperkuat perlindungan terhadap ancaman digital.
Melalui Open Secure AI Alliance, Nvidia berharap industri teknologi dapat membangun standar keamanan AI yang lebih kuat dan menciptakan ekosistem kecerdasan buatan yang aman, transparan, serta dapat dipercaya masyarakat global.
Ke depan, keamanan menjadi salah satu faktor utama yang menentukan keberhasilan adopsi AI di berbagai sektor, mulai dari bisnis, pendidikan, pemerintahan, hingga layanan publik.
