Konten Asusila AI Grok Disorot Global, Pemerintah Asia dan Eropa Desak Tindakan Tegas

JAKARTA, Pastime News – Beberapa negara di Asia maupun Eropa memperhatikan konten pornografi yang dihasilkan oleh AI Grok yang dimiliki Elon Musk.
Selain itu, teknologi generatif ini mampu menghasilkan foto dan video berisi konten seksual secara besar-besaran.

Pemerintah Inggris, Uni Eropa, hingga Asia meningkatkan tekanan terhadap xAI dan Elon Musk terkait temuan masif konten pornografi ilegal hasil Grok AI

Di Inggris, pemerintah aktif mendorong Elon Musk untuk menangani masalah serius tersebut.

Hal ini karena beberapa bukti menunjukkan adanya penyebaran gambar anak-anak yang berisi konten sensual dari alat Grok AI.

Perdana Menteri Inggris Keir Starmer mengecam keras hasil produksi Grok AI.

Ia mengatakan konten tersebut sangat memalukan, menjijikkan, dan tidak dapat di terima.

Starmer menegaskan pemerintah akan mengambil langkah tegas karena konten ini di anggap ilegal.

Pernyataan ini di sampaikan dalam laporan Bloomberg News, Jumat (9/1/2025).

Laporan lain juga mengungkapkan bahwa ribuan konten pornografi di hasilkan setiap jam.

Selain itu, Internet Watch Foundation (IWF) telah menemukan dan melaporkan konten tersebut ke pihak berwenang.

IWF mengklasifikasikan konten tersebut sebagai bahan kriminal yang melibatkan anak-anak usia 11 hingga 13 tahun.

Kemudian, konten ini terdeteksi menyebar luas di dark web.

Selain itu, Ngaire Alexander, kepala layanan pengaduan IWF, memperingatkan risiko penyebaran konten ke jaringan utama.

Ia menilai kemampuan Grok AI bisa mendorong produksi konten ekstrem secara pribadi.

Ngaire Alexander menyatakan dampak negatif dari konten Grok bisa menyebar ke berbagai platform AI lain.

Pernyataan ini di sampaikannya kepada Bloomberg News.

IWF memiliki kewenangan resmi untuk mengidentifikasi dan mengklasifikasikan materi pelecehan seksual terhadap anak.

Oleh karena itu, lembaga tersebut meminta penghapusan wajib dan proses hukum lebih lanjut.

Di Indonesia, Kemkomdigi mengidentifikasi kemampuan Grok dalam memproduksi serta menyebarkan konten asusila.

Dirjen Pengawasan Ruang Digital Alexander Sabar menilai penyalahgunaan ini melanggar hak atas citra diri.

Selain itu, Bareskrim Polri menegaskan penyalahgunaan AI dapat di hukum dengan pidana manipulasi data elektronik.

Direktur Siber Brigjen Himawan Bayu Aji menekankan perlunya batasan tegas terhadap pengembangan AI.

Himawan Bayu Aji menyoroti maraknya penyalahgunaan AI, termasuk deepfake, untuk menghasilkan konten negatif.

Pernyataan ini di sampaikan dalam penjelasan resmi kepolisian.

Di Eropa, Uni Eropa sedang menyelidiki penggunaan Grok untuk memproduksi gambar pornografi ilegal.

Juru bicara UE Thomas Regnier menegaskan bahwa konten ini melanggar hukum.

Anggota parlemen Belanda Jeroen Lenaers mengecam ketidakterlibatan platform terhadap konten pornografi AI.

Ia menilai penghapusan konten setelah kejadian tidak bisa memulihkan kerusakan yang di alami korban.

Dari Asia, Malaysia dan India juga melakukan penyelidikan terkait penggunaan Grok AI.

India bahkan meminta X untuk meninjau chatbot AI dalam waktu 72 jam.

Hingga berita ini di terbitkan, xAI belum memberikan tanggapan resmi.

Sementara itu, Elon Musk mengklaim bahwa X dan Grok menindak tegas konten ilegal.

Elon Musk menyatakan pengguna Grok yang membuat konten ilegal akan menerima konsekuensi yang setara.

Pernyataan ini di sampaikannya melalui unggahan resmi di platform X.