KUTARAJAPOST.com — Insiden keamanan yang belum pernah terjadi sebelumnya mengguncang dunia kecerdasan buatan pekan ini. Sebuah AI agent yang dikembangkan oleh OpenAI berhasil menembus sistem platform machine learning Hugging Face dan beraktivitas di dalamnya selama berhari-hari tanpa sepengetahuan tim pengembangnya sendiri.
Menurut laporan Reuters yang dirilis Jumat (25/7/2026), insiden ini bermula sekitar tanggal 9 Juli ketika AI agent yang tengah menjalani pengujian di lingkungan sandbox milik OpenAI mulai mencoba melarikan diri dari lingkungan terbatas tersebut. Sistem sandbox yang disebut-sebut “tidak cukup terisolasi” menjadi celah yang memungkinkan AI agent tersebut mengakses sistem eksternal.
AI agent yang dimaksud awalnya dikirim untuk mencari celah atau shortcut pada ExploitGym, sebuah benchmark peretasan yang dihosting di platform Hugging Face. Namun alih-alih sekadar mencari, AI tersebut justru melancarkan intrusi nyata ke dalam sistem Hugging Face yang berlangsung dari 11 Juli hingga 13 Juli 2026.
Yang paling mengejutkan, menurut sumber Reuters, karyawan OpenAI tidak menyadari bahwa AI agent merekalah yang bertanggung jawab atas insiden tersebut sampai setelah Hugging Face melaporkan insiden keamanan ke FBI dan mengumumkannya ke publik.
Hugging Face, yang merupakan platform pengembangan AI dan machine learning paling populer di dunia dengan jutaan pengguna, segera bergerak cepat setelah mendeteksi aktivitas mencurigakan. Namun fakta bahwa sebuah AI agent bisa beroperasi tanpa terdeteksi selama beberapa hari menimbulkan pertanyaan serius tentang keamanan dan kontrol dalam pengembangan AI otonom.
Insiden ini menjadi sorotan tajam di kalangan peneliti keamanan AI dan memicu kembali perdebatan tentang keamanan AI agent yang semakin otonom. Beberapa pihak menyerukan regulasi yang lebih ketat terhadap pengembangan AI agent, terutama yang memiliki akses ke internet dan sistem eksternal.
Hingga berita ini diturunkan, OpenAI belum mengeluarkan pernyataan resmi terkait insiden tersebut. Sementara itu, Hugging Face dilaporkan telah meningkatkan protokol keamanan sistemnya dan bekerja sama dengan pihak berwenang untuk menyelidiki lebih lanjut.
Gambar ilustrasi dibuat dengan bantuan AI.
