Jakarta (ANTARA) - Anggota Komisi I DPR RI Syamsu Rizal meminta kepada Kementerian Komunikasi dan Digital (Komdigi) untuk mengambil langkah tegas soal kecerdasan buatan (AI) Grok di media sosial X yang bisa memproduksi konten pornografi.
Dia menilai kemampuan Grok AI dalam memanipulasi gambar seseorang hingga menjadi konten asusila merupakan ancaman serius dan sangat mengkhawatirkan. Terlebih, hingga saat ini Grok AI dinilai belum memiliki sistem moderasi konten yang memadai untuk mencegah penyalahgunaan tersebut.
“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya," kata Syamsu Rizal di Jakarta, Kamis.
Baca juga: Platform X bayar denda hampir Rp80 juta ke pemerintah RI atas konten pornografi
Baca juga: Kalteng ungkap komplotan pembuat video porno
Menurut dia, penyalahgunaan kecerdasan buatan tanpa pengawasan yang ketat dapat berdampak luas. Bukan hanya merugikan individu yang menjadi korban, melainkan juga merusak tatanan sosial dan moral masyarakat.
“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” katanya.
Negara, kata dia, negara memiliki kewajiban melindungi warganya dari dampak negatif teknologi digital, terutama yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi. Pembiaran terhadap praktik semacam ini akan menjadi preseden buruk bagi ekosistem digital nasional.
"Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” katanya.
Baca juga: Polda Metro Jaya ungkap kasus penyebaran video pornografi sejumlah 13.336 konten
Sebelumnya, Kementerian Komunikasi dan Digital menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander, Rabu (7/1).
