SUARAINDONEWS. COM, Jakarta – Dunia maya lagi panas. Pemerintah lewat Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara aplikasi Grok AI, chatbot berbasis kecerdasan artifisial milik platform X. Alasannya bikin publik mengernyit: Grok dinilai rawan disalahgunakan untuk konten pornografi palsu atau deepfake seksual.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan, langkah tegas ini diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari bahaya konten manipulatif yang bisa merusak martabat seseorang.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tegas Meutya dalam keterangan resmi, Sabtu (10/1/2026).
Tak berhenti di situ, Komdigi juga meminta platform X untuk segera hadir memberikan klarifikasi. Pemerintah ingin mengetahui dampak negatif penggunaan Grok sekaligus langkah konkret yang disiapkan agar teknologi ini tidak kembali disalahgunakan.
Pemutusan akses ini bukan langkah tiba-tiba. Komdigi bertindak berdasarkan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Aturan tersebut mewajibkan setiap platform digital memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang.
Sebelumnya, isu Grok AI memang sudah lebih dulu bikin geger. Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar mengungkapkan temuan awal yang cukup mengkhawatirkan. Menurutnya, Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto asli warga Indonesia.
“Belum ada pengaturan spesifik untuk mencegah pemanfaatan Grok AI dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander.
Kasus ini menjadi sinyal keras bahwa teknologi kecerdasan artifisial tak bisa dilepas tanpa pengawasan. Pemerintah menegaskan tidak akan ragu mengambil tindakan tegas jika ruang digital justru menjadi ancaman bagi masyarakat.
Kini publik menunggu kelanjutan kisah Grok AI. Apakah akan kembali dengan sistem pengamanan baru, atau justru makin tenggelam dalam kontroversi, waktu yang akan menjawab.
(Anton)
