Grok AI hasilkan tiga juta gambar bermuatan seksual dalam 11 hari

Jumat, 23 Januari 2026 16:20 WIB

Tampilan Ani, salah satu sosok teman AI yang ditawarkan xAI lewat chatbot Grok. (ANTARA/X @elonmusk)

Jakarta (ANTARA) - Laporan terbaru mengungkap masifnya penyebaran gambar bermuatan seksual tanpa persetujuan buatan AI Grok dengan estimasi tiga juta gambar telah dibuat dalam kurun waktu 11 hari, termasuk 23.000 gambar yang menampilkan anak-anak.

Dilansir dari Engadget pada Jumat, temuan tersebut dipublikasikan oleh organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH).

Penelitian ini didasarkan pada analisis sampel acak 20.000 gambar Grok yang dihasilkan antara 29 Desember 2025 hingga 9 Januari 2026, lalu diproyeksikan dari total sekitar 4,6 juta gambar yang dibuat Grok dalam periode tersebut.

Berdasarkan perhitungan CCDH, Grok rata-rata menghasilkan sekitar 190 gambar bermuatan seksual per menit selama periode itu.

Dari jumlah tersebut, satu gambar yang menampilkan anak-anak diperkirakan muncul setiap 41 detik.

Dalam laporannya, CCDH mendefinisikan gambar bermuatan seksual sebagai representasi fotorealistik seseorang dalam posisi, sudut, atau situasi seksual, termasuk orang yang digambarkan mengenakan pakaian minim seperti pakaian dalam atau baju renang, serta gambar yang menampilkan cairan seksual.

Pada 9 Januari, xAI membatasi kemampuan Grok untuk mengedit gambar yang sudah ada hanya bagi pengguna berbayar.

Lima hari kemudian, X juga membatasi kemampuan Grok untuk membuat gambar orang dengan busana minim atau membuatnya telanjang.

Namun, pembatasan tersebut hanya berlaku di dalam platform X, aplikasi mandiri Grok dilaporkan masih dapat menghasilkan gambar serupa.

Meski kebijakan Apple dan Google secara eksplisit melarang aplikasi yang menghasilkan konten seksual tanpa izin, termasuk yang melibatkan anak-anak, hingga kini kedua perusahaan tersebut belum menghapus aplikasi Grok dari App Store maupun Play Store.

Laporan CCDH juga mencatat bahwa sejumlah gambar bermuatan seksual tersebut menampilkan figur publik, termasuk tokoh politik dan selebritas internasional.

Selain itu, sebagian gambar yang melibatkan anak-anak dilaporkan masih dapat diakses di X hingga pertengahan Januari, bahkan setelah unggahan aslinya dihapus, karena masih tersedia melalui tautan langsung.