Kemkomdigi Tindak Lanjuti Penyebaran Konten Ilegal oleh Grok AI

Kemkomdigi Tindak Lanjuti Penyebaran Konten Ilegal oleh Grok AI

Kementerian Komunikasi dan Digital (Kemkomdigi) mengonfirmasi bahwa chatbot Grok AI yang dimiliki X terlibat dalam distribusi konten asusila pengguna. Pihak kementerian berkomitmen untuk menyelidiki masalah ini secara menyeluruh.

Baca juga: Realme Luncurkan Smartphone dengan Baterai Jumbo dan Teknologi Pendingin Terbaru

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menekankan perlunya pengaturan yang lebih ketat untuk mencegah distribusi konten pornografi yang melanggar privasi individu di Indonesia.

Kurangnya Pengaturan di Grok AI

Alexander Sabar, dalam penjelasannya, menyatakan bahwa penyelidikan awal menunjukkan tidak adanya pengaturan spesifik dalam Grok AI yang mencegah pemanfaatan teknologi ini untuk pembuatan konten pornografi. Hal ini berpotensi melanggar hak privasi dan citra diri warga negara.

Sabar juga menjelaskan bahwa masalah manipulasi foto pribadi tidak hanya berkaitan dengan kesusilaan, tetapi juga dapat mengganggu kontrol individu atas identitas visual mereka, berisiko menciptakan kerugian psikologis dan reputasi sosial.

Baca juga: Film KPop Demon Hunters Raih Kesuksesan di Netflix

Sanksi bagi Pelanggar Kebijakan

Kemkomdigi menegaskan bahwa semua penyelenggara sistem elektronik (PSE) di Indonesia wajib mematuhi peraturan perundang-undangan yang berlaku. Pelanggaran terhadap kewajiban ini dapat berujung pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.

Penyedia layanan AI yang terlibat dalam produksi atau penyebaran konten pornografi dapat dikenakan sanksi administratif atau bahkan pidana sesuai dengan hukum yang berlaku. Pengguna yang terlibat juga akan menghadapi konsekuensi serupa.

Perlindungan Hukum bagi Korban

Dengan diberlakukannya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana, pengaturan mengenai pornografi tercantum dalam Pasal 172 dan 407. Pasal 172 mengartikan pornografi sebagai media yang mengandung kecabulan yang melanggar norma kesusilaan, sedangkan Pasal 407 menjelaskan sanksi bagi pelanggar.

Korban manipulasi foto atau pelanggaran hak citra diri memiliki hak untuk melaporkan kejadian tersebut kepada aparat penegak hukum atau langsung ke Kemkomdigi. Sabar juga menyerukan kepada semua pengguna teknologi untuk memahami tanggung jawab mereka dalam menghormati hak privasi dan citra diri orang lain.

Baca juga: Sepatu Putih: Aksesori Fashion yang Tak Pernah Lekang oleh Waktu