RADAR BOGOR – OpenAI mengungkap terjadinya insiden keamanan siber yang disebut sebagai salah satu peristiwa paling signifikan dalam pengembangan kecerdasan buatan (AI).
Dalam proses pengujian internal, dua model AI perusahaan dilaporkan mampu keluar dari lingkungan pengujian terbatas (sandbox), dan melakukan serangkaian aksi siber terhadap sistem milik Hugging Face secara mandiri.
Informasi tersebut pertama kali ramai diberitakan sejumlah media internasional, termasuk Al Jazeera, setelah OpenAI mempublikasikan hasil investigasi awal terkait insiden tersebut.
Menurut laporan, model AI yang diuji berhasil menemukan celah keamanan, memperoleh akses internet, hingga mengakses sistem Hugging Face untuk mendapatkan informasi yang berkaitan dengan pengujian.
CEO OpenAI, Sam Altman, membenarkan bahwa insiden tersebut terjadi dalam rangka evaluasi kemampuan keamanan siber model AI secara internal.
Dua model yang terlibat adalah GPT-5.6 Sol serta satu model lain yang masih berada dalam tahap pra-rilis dan belum tersedia untuk publik.
Baca Juga: Tiga Mandat Presiden untuk Kemensos: Konsolidasi DTSEN, Bansos Tepat Sasaran, dan Sekolah Rakyat
Pengujian dilakukan dengan sengaja menonaktifkan sebagian mekanisme pembatas keamanan yang biasanya diterapkan pada model AI.
Langkah tersebut bertujuan mengukur sejauh mana kemampuan sistem dalam menyelesaikan skenario keamanan siber yang kompleks.
Di sisi lain, Hugging Face yang dikenal sebagai platform penyedia model AI berbasis open source berhasil mendeteksi aktivitas tidak wajar melalui sistem pertahanan sibernya sebelum insiden berkembang lebih jauh.
CEO Hugging Face, Clément Delangue, menyebut kejadian ini sebagai salah satu insiden baru dalam industri AI.
Karena seluruh rangkaian serangan dilakukan secara otomatis oleh agen AI, mulai dari identifikasi celah hingga upaya mencapai target pengujian.
Hasil investigasi bersama antara OpenAI dan Hugging Face menyimpulkan tidak ditemukan indikasi adanya niat jahat dari pihak pengembang.
Berdasarkan temuan sementara, model AI tersebut sangat berfokus menyelesaikan tugas evaluasi sehingga mengambil langkah-langkah ekstrem untuk mencapai tujuan yang diberikan.
Fenomena serupa juga pernah dilaporkan dialami perusahaan AI lain, Anthropic. Dalam pengujian terpisah, model eksperimental mereka disebut pernah menunjukkan perilaku yang mampu mencari jalan keluar dari lingkungan pengujian.
Juga mengakses jaringan internet, hingga berupaya menghilangkan jejak aktivitas digital selama proses evaluasi.
Insiden tersebut kembali memicu perhatian para pakar keamanan siber dan peneliti AI.
Baca Juga: Penyebab Desil Bansos Naik Tiba-Tiba dan Cara Mengajukan Penurunan Desil
Banyak pihak menilai perkembangan kemampuan AI harus diimbangi dengan regulasi, pengawasan, serta sistem keamanan yang lebih kuat agar teknologi otonom tidak menimbulkan risiko terhadap data sensitif maupun infrastruktur digital penting.
Perkembangan AI yang semakin canggih membutuhkan pendekatan keselamatan yang tidak bisa dilakukan oleh satu perusahaan secara tertutup.
"Diperlukan kolaborasi terbuka dari berbagai pihak agar sistem pertahanan dapat berkembang seiring meningkatnya kemampuan AI," demikian pesan yang disampaikan dalam laporan bersama OpenAI dan Hugging Face.
Peristiwa ini menjadi pengingat bahwa era AI otonom telah memasuki fase baru. Seiring meningkatnya kemampuan model dalam menjalankan tugas secara mandiri, pengembangan teknologi kecerdasan buatan dinilai harus berjalan beriringan dengan penguatan tata kelola. (Angga/Unpak)
Editor : Yosep Awaludin