Jakarta – OpenAI memblokir akun dari sekelompok pengguna asal China yang berusaha menggunakan ChatGPT untuk men-debug dan menyunting kode untuk alat pengawasan media sosial (medsos) artificial intelligence/AI (kecerdasan buatan).
Kampanye ini sebagai Peer Review guna membuat kelompoknya meminta ChatGPT untuk membuat promosi penjualan.
Langkah ini untuk sebuah program yang menurut dokumen-dokumennya dirancang untuk memantau sentimen anti-China di X, Facebook, YouTube, Instagram, dan platform lainnya.
Operasi ini untuk menemukan seruan protes terhadap pelanggaran hak asasi manusia di China, dengan tujuan berbagi wawasan tersebut dengan pihak berwenang negara.
“Jaringan ini terdiri dari akun ChatGPT yang beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan, meminta model kami dalam bahasa Mandarin, dan menggunakan alat kami dengan volume dan variasi yang konsisten dengan permintaan manual, bukan otomatisasi,” kata OpenAI pada Ahad (23/2/2025).
“Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan besar China di luar negeri, dan kepada agen intelijen yang memantau protes di negara-negara termasuk Amerika Serikat, Jerman, dan Inggris.”
Menurut Ben Nimmo, seorang peneliti utama di OpenAI, ini adalah pertama kalinya perusahaan tersebut menemukan alat AI semacam ini.
“Pelaku ancaman terkadang memberi kita gambaran sekilas tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami,” ujarnya.
Sebagian besar kode untuk alat pengawasan tampaknya didasarkan pada versi sumber terbuka dari salah satu model Llama milik Meta.
Kelompok ini juga telah menggunakan ChatGPT untuk membuat tinjauan kinerja akhir tahun yang mengklaim telah menulis email phishing atas nama klien di China.
“Menilai dampak dari aktivitas ini akan membutuhkan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang dapat menjelaskan aktivitas ini,” kata OpenAI tentang upaya operasi menggunakan ChatGPT untuk mengedit kode untuk alat pengawasan media sosial AI.
Sementara itu OpenAI mengatakan mereka melarang sebuah akun yang menggunakan ChatGPT untuk membuat postingan media sosial yang mengkritik Cai Xia, seorang ilmuwan politik yang dianggap membangkang China yang tinggal di AS dalam pengasingan.
Kelompok yang sama juga menggunakan chatbot untuk membuat artikel dalam bahasa Spanyol yang mengkritik AS. Artikel-artikel ini diterbitkan oleh organisasi berita ‘arus utama’ di Amerika Latin dan sering kali dikaitkan dengan individu atau perusahaan China. (adm)
Sumber: detik.com
