Kuala Lumpur, (Kubus.ID) – Pemerintah Malaysia resmi membatasi sementara akses ke kecerdasan buatan (AI) Grok. Langkah tegas itu diambil setelah alat AI milik xAI yang terintegrasi di platform X tersebut berulang kali disalahgunakan untuk menghasilkan konten cabul, manipulatif (deepfake), dan melanggar hukum, termasuk yang melibatkan perempuan serta anak di bawah umur.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menegaskan, pembatasan akses dilakukan sebagai langkah pencegahan menyusul maraknya penyalahgunaan Grok untuk membuat gambar eksplisit secara seksual, tidak senonoh, sangat menyinggung, hingga konten manipulasi visual tanpa persetujuan korban.
“Ini terjadi meskipun MCMC telah berkoordinasi dengan regulator terkait serta menyampaikan pemberitahuan resmi kepada X Corp. dan xAI LLC pada 3 dan 8 Januari,” demikian pernyataan MCMC, dikutip dari The New Strait Times, Senin (12/1/2026).
Dalam pemberitahuan tersebut, MCMC menuntut X Corp. dan xAI LLC segera menerapkan perlindungan teknis dan sistem moderasi yang efektif. Tujuannya, mencegah konten buatan AI yang berpotensi melanggar hukum Malaysia, termasuk Pasal 233 Undang-Undang Komunikasi dan Multimedia terkait penyalahgunaan fasilitas jaringan.
Namun, respons X Corp. yang disampaikan pada 7 dan 9 Januari dinilai belum memadai. “Sebagian besar tanggapan hanya mengandalkan mekanisme pelaporan berbasis pengguna dan gagal mengatasi risiko bawaan dari desain serta operasional alat AI tersebut,” tegas MCMC.
Menurut komisi, pendekatan itu tidak cukup untuk mencegah potensi bahaya maupun menjamin kepatuhan hukum. Karena itu, pembatasan akses Grok diberlakukan sebagai langkah “pencegahan dan proporsional” sembari menunggu proses hukum dan regulasi berjalan.
“Akses ke Grok akan tetap dibatasi sampai perlindungan yang efektif benar-benar diterapkan, khususnya untuk mencegah konten yang melibatkan perempuan dan anak-anak,” lanjut MCMC. Meski demikian, otoritas Malaysia menyatakan tetap terbuka bekerja sama dengan X Corp. dan xAI LLC sepanjang ada bukti kepatuhan terhadap hukum setempat.
Langkah Malaysia ini menyusul kebijakan serupa yang lebih dulu diambil Indonesia. Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) memutus akses sementara Grok, menjadikannya negara pertama yang memblokir AI tersebut.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan, pemutusan akses dilakukan demi melindungi perempuan, anak, dan masyarakat luas dari risiko pornografi palsu berbasis kecerdasan artifisial.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya dalam keterangan resmi, Sabtu (10/1/2025).
Kemkomdigi juga telah meminta platform X memberikan klarifikasi terkait dampak negatif penggunaan Grok. Tindakan pemutusan akses dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Regulasi tersebut mewajibkan setiap PSE memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarluaskan konten elektronik yang dilarang.
Sebelumnya, pengacara Malaysia Azira Aziz mengungkap langkah hukum yang dapat ditempuh perempuan jika foto mereka dimanipulasi menggunakan Grok. Hal itu mencuat setelah laporan menyebut sejumlah pengguna X memanfaatkan AI tersebut untuk “menanggalkan” pakaian atau jilbab perempuan secara digital. Fenomena ini kian menguatkan kekhawatiran regulator di kawasan Asia Tenggara terhadap bahaya AI tanpa pengamanan ketat.(adr)
