Jakarta (ANTARA) - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses sementara terhadap aplikasi Grok sebagai langkah melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi (artificial intelligence/AI).
Menteri Komunikasi dan Digital, Meutya Hafid dalam pernyataan resminya di Jakarta, Sabtu (10/1), menyatakan kebijakan tersebut diambil sebagai bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, dan menghormati hak asasi manusia.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya.
Menurut dia, penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek merupakan bentuk kekerasan berbasis digital yang dampaknya dapat merugikan korban secara psikologis, sosial, maupun hukum.
Baca juga: Komdigi diminta ambil langkah tegas soal pornografi Grok X
Meutya menjelaskan pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif.
Pemerintah, kata dia, perlu memastikan bahwa setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai agar tidak dimanfaatkan untuk memproduksi atau menyebarluaskan konten terlarang.
Selain melakukan pemutusan akses, Kementerian Komunikasi dan Digital juga telah meminta Platform X sebagai pihak terkait untuk segera hadir memberikan klarifikasi.
Klarifikasi tersebut diperlukan untuk menjelaskan dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan dilakukan guna mencegah terulangnya penyalahgunaan teknologi tersebut.
“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya.
Tindakan pemutusan akses sementara ini, lanjut Meutya, memiliki dasar hukum yang jelas.
Baca juga: Kemkomdigi pastikan jaringan tetap stabil sepanjang periode libur Nataru
Kementerian Komunikasi dan Digital menjalankan kewenangannya sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan.
Seperti diketahui, Grok mengundang kritik keras berbagai kalangan dari seluruh dunia karena memungkinkan pengguna untuk membuat gambar yang berbau pornografi.
Dalam sebuah pernyataan, Grok menyatakan bahwa hanya pelanggan berbayar di X yang dapat membuat dan mengedit gambar di platform tersebut.
Baca juga: Kemkomdigi bertujuan bentuk sovereign AI melalui program AI Talent Factory
Namun demikian, tidak sedikit yang menuding aplikasi tersebut memungkinkan siapapun untuk membuat gambar tanpa harus membayar biaya berlangganan.
Sejumlah negara seperti Inggris, Uni Eropa, dan India secara terbuka mengecam X dan Grok karena mengizinkan penggunaan kemampuan tersebut.
Uni Eropa bahkan meminta xAI untuk menyimpan semua dokumentasi yang berkaitan dengan chatbot tersebut.
India juga dikabarkan memerintahkan X untuk segera melakukan perubahan untuk menghentikan penyalahgunaan fitur pembuatan gambar atau berisiko kehilangan perlindungan safe harbor di negara tersebut.
Lembaga pengawas komunikasi Inggris juga mengatakan bahwa mereka juga telah menghubungi xAI terkait masalah ini.
