OpenAI mengatakan mereka telah memblokir kelompok akun yang terkait dengan operasi pengaruh Rusia dan Iran yang memakai ChatGPT untuk menyusun laporan internal, menyunting artikel, dan membuat sebagian materi menyesatkan. Uraian perusahaan pada 8 Oktober menggambarkan kampanye dengan lembaga dan identitas palsu, sementara skala audiens di dunia nyata masih tidak pasti.

Perubahan besar

  • Laporan itu menempatkan ChatGPT sebagai satu alat dalam alur kerja pengaruh yang lebih luas, dengan peran paling jelas pada pelaporan internal dan penyuntingan.
  • OpenAI mengatakan sebagian materi rekaan muncul daring dan operator Iran menempatkan artikel dengan nama penulis palsu di media sungguhan; uraian perusahaan sendiri menjadi sumber utama temuan tersebut.
  • Jangkauan yang diklaim para operator tidak dapat diandalkan. OpenAI mengatakan beberapa klaim terkonfirmasi, lainnya tidak, dan dampak terhadap audiens tidak dapat diketahui dari metrik operator sendiri.

Menurut perusahaan, operasi Rusia yang disebut OpenAI “Dark Clark” terutama menggunakan ChatGPT untuk menyusun dan memperbarui laporan tentang kampanye. OpenAI mengatakan operator juga memakai model untuk menyiapkan sejumlah dokumen palsu, naskah audio, dan pesan. Operasi itu diduga bekerja melalui “lembaga pemikir” bernama Social Research Center, dengan persona rekaan “Mia Clark” sebagai wajahnya; orang yang direkrut di Amerika Latin mungkin tidak mengetahui siapa yang mengendalikan organisasi tersebut.

OpenAI mengatakan penyelidiknya menemukan contoh konten serupa serta peliputan pemeriksa fakta atau pejabat. Salah satu contoh adalah video palsu yang mengklaim Ekuador merekrut anak muda untuk berperang di Ukraina. Organisasi pemeriksa fakta Ekuador, Lupa Media secara terpisah melaporkan bahwa berita Teleamazonas yang disebut-sebut itu tidak ada, video memakai gambar media sosial curian, audionya dibuat dengan AI, dan perusahaan yang disebut tidak memiliki registrasi sah. Temuan itu menguatkan keberadaan dan rekayasa materi serupa, tetapi tidak secara independen membuktikan siapa yang memesannya atau setiap unsur dalam uraian OpenAI.

Menurut OpenAI, operasi Iran bernama “Bogus Bylines” memakai ChatGPT untuk menyunting artikel dan usulan panjang, menyusun surel pendekatan, membuat kumpulan komentar media sosial, serta memoles laporan internal. Perusahaan mengidentifikasi hampir 100 artikel yang diterbitkan atau disindikasikan dengan tujuh identitas jurnalis rekaan di sekitar selusin media, dari Juli 2025 hingga Oktober 2026. Angka tersebut adalah temuan penyelidikan OpenAI. Peliputan independen yang ditinjau untuk artikel ini melaporkan temuan perusahaan, tetapi tidak mengaudit sendiri semua nama penulis atau publikasi itu.

Laporan tersebut juga membedakan dengan tegas pembuatan materi dari distribusinya. OpenAI mengatakan komentar media sosial dalam operasi Iran diunggah berdekatan, tetapi tidak menemukan bukti bahwa modelnya mengotomatiskan pengunggahan. Perusahaan menyebut banyak komentar mendapat sedikit keterlibatan. Laporan internal operator menghitung tayangan pada unggahan yang mereka balas, bukan tayangan balasan mereka, dan membandingkan total selama rentang waktu yang tidak disebutkan. Metode itu tidak dapat mengisolasi apakah kampanye menyebabkan tayangan tersebut.

OpenAI memberi operasi Rusia Kategori 5 dan upaya penempatan artikel Iran Kategori 4 pada Breakout Scale. Skala yang diajukan Brookings pada 2020 itu mengategorikan operasi pengaruh berdasarkan penyebaran yang dapat diamati lintas platform dan komunitas, termasuk apakah konten masuk ke media arus utama atau memicu perhatian tokoh penting maupun tindakan nyata. Peringkat tersebut adalah penilaian OpenAI, bukan pengukuran independen tentang berapa banyak orang yang memercayai pesan atau mengubah perilaku.

Pembedaan itu penting bagi pembaca yang ingin memahami perubahan akibat AI generatif. Laporan tersebut menjelaskan bantuan untuk menyusun, menyunting, menerjemahkan, membuat naskah, dan merangkum secara internal. Laporan tidak menunjukkan bahwa ChatGPT menjalankan kampanye secara mandiri, memilih sasaran, atau mengendalikan distribusinya. Orang dan infrastruktur konvensional menyediakan identitas palsu, usulan kepada media, akun sosial, dan pengunggahan. Dalam satu kasus yang dijelaskan, operator memakai model untuk memperhalus dan menerjemahkan surat palsu, lalu gambar dan audio yang cocok muncul daring. Urutan itu menunjukkan bagaimana model teks dapat mendukung rangkaian produksi yang diarahkan manusia; bukan bukti bahwa model menciptakan setiap bagian artefak akhir.

Karena itu, tantangan lebih sulit bagi platform dan penerbit adalah asal-usul serta koordinasi, bukan sekadar mendeteksi kalimat buatan mesin. Usulan yang rapi bisa saja merupakan bantuan menulis biasa; risikonya berubah ketika dikaitkan dengan nama penulis fiktif, sponsor tersembunyi, atau penempatan terkoordinasi. Pegawai sungguhan juga dapat tanpa sadar menghasilkan laporan autentik bagi organisasi yang kendalinya tidak ia pahami. Uraian laporan OpenAI tentang Social Research Center membuat kemungkinan ini sangat relevan, meski karakterisasi tersebut tetap didasarkan pada bukti perusahaan.

Bagi ruang redaksi, pemeriksaan praktisnya tetap dikenal: verifikasi identitas penulis dan kendali organisasi, hubungi sumber melalui saluran yang ditetapkan secara independen, periksa klaim dan dokumen dari asalnya, serta jangan memperlakukan angka keterlibatan sebagai bukti pengaruh. Laporan memberi contoh bagaimana pemeriksaan itu dapat diakali atau dimanipulasi; laporan tidak mengukur secara lengkap paparan maupun dampak politik berikutnya.

OpenAI mengatakan telah memblokir kelompok akun dan membagikan informasi kepada otoritas serta mitra industri terkait. Laporan publik memberikan gambaran terperinci tentang penyelidikan perusahaan, tetapi kategori dan atribusi kampanyenya harus dibaca sebagai temuan OpenAI. Pemeriksaan fakta independen mendukung beberapa contoh tertentu. Jangkauan total, struktur kendali penuh para operator, dan dampak jangka panjang masih lebih tidak pasti dibanding aktivitas yang menurut OpenAI telah diamatinya.

Sumber dan bacaan lanjutan