Jakarta (ANTARA) - Badan pengawas media Inggris, Ofcom, menyelidiki platform media sosial X menyusul laporan soal penyalahgunaan chatbot kecerdasan buatan Grok untuk membuat dan menyebarkan konten pornografi dan pelecehan seksual terhadap anak.
Menurut siaran Engadget pada Senin (12/1), investigasi yang dilakukan berdasarkan Undang-Undang Keamanan Daring itu berfokus pada apakah X telah "mematuhi kewajiban untuk melindungi orang-orang di Inggris dari konten yang ilegal di Inggris."
Penyelidikan itu mencakup apakah X mengambil langkah-langkah yang tepat untuk mencegah pengguna Inggris melihat konten ilegal seperti materi pelecehan seksual anak dan gambar intim tanpa persetujuan; apakah platform menghapus konten ilegal dengan cepat setelah mengetahuinya; dan apakah X melakukan penilaian risiko yang diperbarui sebelum membuat perubahan signifikan pada platform.
Ofcom juga akan menyelidiki apakah X telah menilai risiko yang ditimbulkan oleh platformnya terhadap anak-anak di Inggris dan apakah perusahaan memiliki sistem verifikasi usia yang efektif untuk mencegah anak mengakses konten pornografi.
Regulator menyatakan telah menghubungi X pada 5 Januari dan menerima tanggapan sesuai tenggat pada 9 Januari 2026.
Ofcom sedang melakukan penilaian cepat terhadap bukti yang tersedia dan telah meminta xAI untuk menyampaikan klarifikasi mengenai langkah-langkah yang diambil perusahaan untuk melindungi pengguna platformnya di Inggris.
"Laporan tentang penggunaan Grok untuk membuat dan menyebarkan gambar intim ilegal tanpa persetujuan serta materi eksploitasi seksual anak sangat mengkhawatirkan," kata juru bicara Ofcom.
"Platform harus melindungi masyarakat di Inggris dari konten yang ilegal di Inggris, dan kami tidak akan ragu untuk menyelidiki jika kami mencurigai perusahaan gagal dalam menjalankan tugasnya, terutama jika ada risiko yang membahayakan anak-anak," katanya.
Jika platform terbukti melanggar hukum, Ofcom dapat memerintahkan platform menjalankan langkah korektif sesuai dengan ketentuan.
Regulator juga dapat menjatuhkan denda hingga 18 juta poundsterling atau 10 persen dari pendapatan global platform.
Selain itu, regulator dapat meminta perintah pengadilan untuk menghentikan kerja sama penyedia layanan pembayaran atau pengiklan dengan platform atau mewajibkan penyedia layanan internet untuk memblokir situs di Inggris.
Pemerintah Inggris menyatakan akan mendukung langkah Ofcom jika tindakan penegakan hukum diperlukan.
Regulator di Uni Eropa dan India juga sedang menyelidiki platform X berkenaan dengan penyalahgunaan Grok.
Malaysia dan Indonesia telah memblokir akses ke Grok. Otoritas di Indonesia menilai Grok belum memiliki pengamanan efektif untuk mencegah pembuatan dan penyebaran konten pornografi deepfake eksplisit.
Sementara itu, Komisi Komunikasi dan Multimedia Malaysia menyampaikan adanya penyalahgunaan berulang Grok untuk membuat deepfake eksplisit non-konsensual, termasuk yang melibatkan perempuan dan anak-anak.Regulator Malaysia menyatakan pemblokiran akses Grok akan diberlakukan sampai X Corp dan xAI menjalankan langkah pengamanan yang memadai.
