Komentar |
| ChatGPT Search. |
LONDON – Fitur ChatGPT Search, yang memungkinkan chatbot kecerdasan buatan (AI) untuk mencari informasi di web, dikabarkan memiliki celah yang rentan terhadap manipulasi oleh pengembang dan pemilik situs web, menurut laporan dari The Guardian.
Laporan tersebut menyebutkan bahwa perilaku mesin pencari milik OpenAI ini bisa dimodifikasi menggunakan teks tersembunyi pada situs web. Teks tersembunyi ini dikatakan dapat memberikan informasi yang keliru dan menyesatkan kepada AI, serta berpotensi menyuntikkan prompt yang tidak diinginkan ke dalam model AI. Sebagai informasi, OpenAI baru saja merilis fitur GPT Search untuk semua penggunanya minggu lalu.
Pencarian ChatGPT Rentan Manipulasi
Menurut The Guardian, fitur mesin pencari yang didukung oleh OpenAI ini sangat rentan terhadap teknik manipulasi. Tim dari The Guardian menguji alat tersebut dengan membuat halaman produk palsu, lengkap dengan spesifikasi dan ulasan. Pada awalnya, halaman tersebut tidak dimodifikasi, dan ChatGPT mampu memberikan "penilaian yang positif namun seimbang". Namun, situasi berubah setelah teks tersembunyi ditambahkan pada halaman web tersebut.
Teks tersembunyi ini mengacu pada konten yang ditambahkan ke dalam kode halaman web tetapi tidak terlihat oleh pengguna saat membuka halaman di browser. Teks tersebut biasanya disembunyikan dengan menggunakan teknik HTML atau CSS. Meski demikian, teks ini dapat ditemukan dengan memeriksa kode sumber halaman atau dengan menggunakan alat web scraping yang biasa digunakan oleh mesin pencari.
Setelah teks tersembunyi berisi banyak ulasan positif palsu ditambahkan, respons ChatGPT menjadi lebih positif dan mulai mengabaikan kekurangan yang sebenarnya ada pada produk tersebut. Selain itu, publikasi tersebut juga menggunakan injeksi prompt, yaitu memberikan masukan kepada sistem AI untuk mengubah perilakunya, yang dapat menyebabkan AI bertindak sesuai keinginan yang tidak seharusnya.
Laporan tersebut juga mengklaim bahwa penyuntikan prompt dalam teks tersembunyi dapat dimanfaatkan untuk mengembalikan kode berbahaya dari situs web. Jika hal ini tidak segera ditangani, berbagai situs web bisa menggunakan teknik serupa untuk mendapatkan tanggapan positif tentang produk atau layanan mereka, atau bahkan menipu pengguna dengan cara lain, demikian klaim dalam laporan tersebut.(BY)