Selasa, 13 JANUARI 2026 • 20:25 WIB

Tindakan Tegas Kemkomdigi untuk Mencegah Penyebaran Konten Seksual melalui AI Grok

Author

Fiddy Anggriawan

Kementerian Komunikasi dan Digital (Kemkomdigi) melakukan langkah tegas dalam mengawasi penggunaan AI Grok guna menghindari penyebaran konten pornografi di platform X.

Inisiatif ini muncul setelah pertemuan yang menegaskan komitmen platform X untuk mematuhi regulasi yang berlaku dan meningkatkan perlindungan terhadap anak dan perempuan.

Upaya Kemkomdigi dalam Memastikan Keamanan Digital

Kemkomdigi mengundang pihak X untuk memberikan klarifikasi terkait fitur AI Grok sebagai bagian dari upaya menjaga etika dan keamanan ruang digital.

Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, menyatakan bahwa pertemuan tersebut berhasil menekankan komitmen X untuk mematuhi hukum yang berlaku.

Ia menegaskan, 'X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi.'

Kewajiban Penyelenggara Sistem Elektronik dalam Keselamatan Konten

Alexander Sabar juga menjelaskan kewajiban bagi setiap Penyelenggara Sistem Elektronik (PSE) untuk mematuhi ketentuan perundang-undangan di Indonesia.

Kewajiban tersebut meliputi pendaftaran, moderasi konten, dan respons cepat terhadap penghapusan konten terlarang.

'Apabila ditemukan pelanggaran, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,' tambahnya.

Kolaborasi untuk Mendorong Keamanan Digital

Kemkomdigi menekankan pentingnya kolaborasi antara platform digital dan aparat penegak hukum untuk mencegah penyalahgunaan teknologi AI.

'Apabila penyedia layanan maupun pengguna terbukti memproduksi dan/atau menyebarkan konten pornografi, dapat dikenakan sanksi administratif dan/atau pidana,' ungkap Alexander.

Sejalan dengan langkah preventif tersebut, pemerintah sebelumnya telah memutus akses sementara terhadap Grok sebagai upaya menjaga ruang digital yang aman dan beretika.