Jakarta – Hebohnya fitur Grok AI di platform X yang memungkinkan manipulasi foto seseorang menjadi konten vulgar dinilai bukan persoalan baru. Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai, polemik ini justru kembali memperlihatkan lemahnya kemampuan antisipasi Indonesia terhadap perkembangan teknologi digital.
“Sebetulnya ini bukan hal baru. Kita sudah tahu kemampuan edit foto dan video itu sudah lama ada, jauh sebelum AI. Cuma sekarang dengan AI, hal yang dulu sulit jadi sangat mudah,” ujar Ardi saat dihubungi detikINET, Rabu (7/1/2026).
Menurutnya, kecanggihan AI membuat manipulasi visual yang sebelumnya membutuhkan keahlian khusus kini bisa dilakukan siapa saja. Dampaknya, risiko penyalahgunaan pun meningkat, mulai dari perundungan digital, pemerasan, hingga hoaks.
Komdigi Ancam Blokir Grok AI dan X Terkait Konten Deepfake Asusila
“Orang bisa diedit pakaiannya, hijabnya, bahkan dibuat seolah-olah tidak berpakaian. Ini alat yang sangat berpotensi meresahkan masyarakat,” ucapnya.
Ardi menilai, kemunculan kasus Grok AI menunjukkan pola lama yang terus berulang. Indonesia cenderung reaktif, bukan antisipatif, dalam menghadapi teknologi baru.
“Negara lain sudah bereaksi sejak awal, kita baru sekarang ribut. Dari dulu polanya begitu, selalu telat,” tegasnya.
Ia juga menyoroti rendahnya literasi dan kesadaran masyarakat terhadap risiko teknologi digital. Menurut Ardi, masyarakat selama ini hanya menjadi pengguna dan penikmat teknologi tanpa memahami konsekuensi di baliknya.
“Kita main internet saja dari dulu nggak pernah diajari etika. Apalagi sekarang AI. Edukasi ke masyarakat itu sangat kurang,” katanya.
Ancaman pemblokiran oleh Kementerian Komunikasi dan Digital (Komdigi), lanjut Ardi, tidak akan efektif jika hanya bersifat sesaat dan reaktif.
“Kalau cuma ancam-ancam, nanti ada kasus lagi, ribut lagi, ya begitu terus. Masalahnya tidak akan selesai,” ungkap Ardi.
Diberitakan sebelumnya, Komdigi resmi mengambil langkah tegas terhadap platform X (sebelumnya Twitter) terkait dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI. Teknologi tersebut disinyalir menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi (deepfake) tanpa izin.
Negara Tetangga RI Ini Geram, Grok X Punya Elon Musk Ubah Foto AI Cabul
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Indonesia bukan yang pertama kali menggugat X terkait persoalan Grok AI. Sebelumnya sudah ada Prancis, India, dan Malaysia yang mempersoalakan hal tersebut ke perusahaan milik Elon Musk tersebut.
