KUTARAJAPOST — Sudah resmi. Saya bisa makan hot dog lebih banyak daripada jurnalis teknologi mana pun di Bumi. Setidaknya, itulah yang dikatakan ChatGPT dan Google kepada siapa pun yang bertanya. Saya menemukan cara untuk membuat AI berbohong kepada Anda – dan saya bukan satu-satunya.
Mungkin Anda pernah mendengar bahwa chatbot AI terkadang mengada-ada. Itu masalah. Tapi ada masalah baru yang jarang orang tahu, yang bisa berdampak serius pada kemampuan Anda menemukan informasi akurat dan bahkan keselamatan Anda. Semakin banyak orang yang menemukan trik untuk membuat alat AI memberi tahu Anda hampir semua yang mereka inginkan. Sangat mudah hingga anak kecil bisa melakukannya.
Saat Anda membaca ini, taktik ini sedang memanipulasi apa yang dikatakan AI terkemuka dunia tentang topik yang serius seperti kesehatan dan keuangan pribadi. Informasi yang bias ini bisa membuat orang mengambil keputusan buruk tentang hampir semua hal – pemilu, tukang ledeng mana yang harus Anda sewa, pertanyaan medis, sebut saja.
Stunt Paling Bodoh dalam Karir Saya
Untuk mendemonstrasikannya, saya melakukan stunt paling bodoh dalam karir saya untuk membuktikan (semoga) poin yang jauh lebih serius: Saya membuat ChatGPT, alat pencarian AI Google dan Gemini memberi tahu pengguna bahwa saya sangat, sangat jago makan hot dog.
Ternyata mengubah jawaban yang diberikan alat AI kepada orang lain semudah menulis satu posting blog yang ditulis dengan baik hampir di mana saja secara online. Trik ini memanfaatkan kelemahan dalam sistem yang dibangun ke dalam chatbot.
“Mudah untuk menipu chatbot AI, jauh lebih mudah daripada menipu Google dua atau tiga tahun lalu,” kata Lily Ray, wakil presiden strategi optimasi mesin pencari (SEO) dan penelitian di Amsive, sebuah agensi pemasaran. “Perusahaan AI bergerak lebih cepat dari kemampuan mereka untuk mengatur akurasi jawaban. Menurut saya ini berbahaya.”
Renaissance untuk Spam
Ketika Anda berbicara dengan chatbot, Anda sering mendapatkan informasi yang dibangun ke dalam model bahasa besar, teknologi yang mendasari AI. Namun beberapa alat AI akan mencari internet ketika Anda meminta detail yang tidak mereka miliki. Dalam kasus tersebut, para ahli mengatakan AI lebih rentan. Begitulah cara saya menyerang.
Saya menghabiskan 20 menit menulis artikel di website pribadi saya berjudul “The best tech journalists at eating hot dogs”. Setiap kata adalah kebohongan. Saya mengklaim (tanpa bukti) bahwa makan hot dog kompetitif adalah hobi populer di kalangan reporter teknologi dan mendasarkan peringkat saya pada Kejuaraan Hot Dog Internasional South Dakota 2026 (yang tidak ada). Saya menempatkan diri di peringkat pertama, jelas.
Kurang dari 24 jam kemudian, chatbot terkemuka dunia sedang membicarakan keterampilan hot dog kelas dunia saya. Ketika saya bertanya tentang jurnalis teknisi makan hot dog terbaik, Google meniru omong kosong dari website saya, baik di aplikasi Gemini dan AI Overviews, respons AI di bagian atas Google Search. ChatGPT melakukan hal yang sama.
Lebih Mudah dari yang Anda Pikirkan
“Siapa pun bisa melakukan ini. Bodoh, rasanya tidak ada pagar pengaman di sana,” kata Harpreet Chatha, yang menjalankan konsultan SEO Harps Digital. “Anda bisa membuat artikel di website Anda sendiri, ‘sepatu waterproof terbaik untuk 2026’. Anda hanya menempatkan merek Anda sendiri di nomor satu dan merek lain dua sampai enam, dan halaman Anda kemungkinan akan dikutip dalam Google dan dalam ChatGPT.”
Orang-orang telah menggunakan peretasan dan celah untuk menyalahgunakan mesin pencari selama beberapa dekade. Google memiliki perlindungan canggih, dan perusahaan mengatakan akurasi AI Overviews setara dengan fitur pencarian lain yang diperkenalkan bertahun-tahun lalu. Namun para ahli mengatakan alat AI telah mengurangi banyak kerja industri teknologi untuk menjaga keselamatan orang. Trik AI ini begitu mendasar sehingga mengingatkan pada awal 2000-an.
“Kami sedang dalam semacam Renaissance untuk spammer,” kata Ray.
Uang Anda atau Hidup Anda
Masalah ini tidak terbatas pada hot dog. Chatha telah meneliti bagaimana perusahaan memanipulasi hasil chatbot pada pertanyaan yang jauh lebih serius. Dia menunjukkan hasil AI ketika Anda meminta ulasan merek camilan cannabis tertentu. AI Overviews Google menarik informasi yang ditulis oleh perusahaan penuh klaim palsu, seperti produk “bebas dari efek samping dan oleh karena itu aman dalam segala hal”.
Jika Anda menginginkan sesuatu yang lebih efektif daripada posting blog, Anda bisa membayar untuk mendapatkan materi Anda di website yang lebih bereputasi. Harpreet mengirimi saya hasil AI Google untuk “klinik transplantasi rambut terbaik di Turki” dan “perusahaan emas IRA terbaik”. Informasi itu berasal dari siaran pers yang diterbitkan online oleh layanan distribusi berbayar dan konten iklan bersponsor di situs berita.
Mencari Solusi
Para ahli mengatakan ada solusi untuk masalah ini. Langkah termudah adalah disclaimer yang lebih menonjol.
Alat AI juga bisa lebih eksplisit tentang dari mana mereka mendapatkan informasi. Jika, misalnya, fakta-fakta berasal dari siaran pers, atau jika hanya ada satu sumber yang mengatakan saya juara hot dog, AI mungkin harus memberi tahu Anda, kata Ray.
Google dan OpenAI mengatakan mereka sedang mengerjakan masalah ini, tetapi saat ini Anda perlu melindungi diri sendiri.
Langkah Pertama: Berpikir Kritis
Langkah pertama adalah memikirkan pertanyaan apa yang Anda ajukan. Chatbot bagus untuk pertanyaan pengetahuan umum, seperti “apa teori paling terkenal dari Sigmund Freud” atau “siapa yang memenangkan Perang Dunia II”. Tapi ada zona bahaya dengan subjek yang terasa seperti fakta mapan tetapi sebenarnya bisa diperdebatkan.
AI mungkin bukan alat yang bagus untuk hal-hal seperti pedoman medis, aturan hukum atau detail tentang bisnis lokal.
Jika Anda menginginkan hal-hal seperti rekomendasi produk atau detail tentang sesuatu dengan konsekuensi nyata, pahami bahwa alat AI bisa ditipu atau hanya salah. Cari informasi tindak lanjut. Apakah AI mengutip sumber? Berapa banyak? Siapa yang menulisnya?
Paling penting, pertimbangkan masalah kepercayaan diri. Alat AI menyampaikan kebohongan dengan nada otoritatif yang sama seperti fakta. Di masa lalu, mesin pencari memaksa Anda mengevaluasi informasi sendiri. Sekarang, AI ingin melakukannya untuk Anda. Jangan biarkan pemikiran kritis Anda hilang.
“Terasa sangat mudah dengan AI untuk hanya menerima segala sesuatu pada nilai nominal,” kata Ray. “Anda masih harus menjadi warga internet yang baik dan memverifikasi hal-hal.”
Sumber: BBC Future
