Pemerintah Malaysia mengambil langkah tegas dengan membatasi sementara akses terhadap Grok, sebuah chatbot berbasis kecerdasan buatan generatif. Kebijakan ini di umumkan pada Minggu (11/1) dan langsung menarik perhatian publik internasional. Pasalnya, Grok di nilai telah di salahgunakan untuk menghasilkan dan menyebarkan konten cabul, termasuk manipulasi gambar tanpa persetujuan pemiliknya.
Langkah tersebut menempatkan Malaysia sebagai negara kedua di kawasan Asia Tenggara yang membatasi layanan Grok. Sebelumnya, Indonesia telah lebih dahulu menerapkan kebijakan serupa. Oleh karena itu, isu tata kelola teknologi kecerdasan buatan kembali menjadi sorotan serius di tingkat regional.
Temuan Pelanggaran oleh Otoritas Malaysia
Pembatasan ini di umumkan oleh Komisi Komunikasi dan Multimedia Malaysia (MCMC). Lembaga tersebut menyebutkan bahwa penyalahgunaan Grok di temukan secara berulang. Konten yang di hasilkan dinilai cabul, eksplisit secara seksual, dan sangat ofensif.
Lebih lanjut, MCMC mengungkapkan bahwa sebagian konten melibatkan perempuan serta anak di bawah umur. Kondisi ini dinilai sangat mengkhawatirkan. Selain melanggar norma sosial, praktik tersebut juga berpotensi melanggar hukum yang berlaku di Malaysia.
Sementara itu, manipulasi gambar tanpa izin dianggap sebagai bentuk pelanggaran privasi yang serius. Dampaknya tidak hanya bersifat digital, tetapi juga dapat menimbulkan tekanan psikologis bagi korban. Oleh sebab itu, pemerintah memandang pembatasan akses sebagai langkah pencegahan yang mendesak.
Tuntutan terhadap Pengembang Grok
Sebagai tindak lanjut, MCMC telah mengirimkan surat resmi kepada perusahaan xAI dan platform X. Keduanya merupakan pihak yang bertanggung jawab atas pengembangan dan distribusi Grok, yang berada di bawah kepemilikan Elon Musk.
Namun demikian, respons yang di terima dinilai belum memuaskan. Solusi yang di tawarkan masih bertumpu pada sistem pelaporan pengguna. Menurut MCMC, pendekatan tersebut bersifat reaktif dan tidak menyentuh akar permasalahan.
Di sisi lain, otoritas Malaysia menilai bahwa risiko justru berasal dari desain dan operasional teknologi AI itu sendiri. Oleh karena itu, di perlukan sistem pengamanan teknis yang lebih kuat dan bersifat preventif.
Ilustrasi Grok AI milik Elon Musk.
Status Pembatasan dan Ruang Dialog
Pembatasan akses terhadap Grok bersifat sementara. Meski begitu, kebijakan ini akan tetap di berlakukan hingga perusahaan pengembang mampu menerapkan perlindungan yang efektif. Fokus utama pemerintah adalah mencegah produksi konten ilegal sejak tahap awal.
Walaupun bersikap tegas, MCMC tetap membuka ruang dialog. Pemerintah menyatakan siap berdiskusi dengan pihak xAI dan X. Pendekatan ini menunjukkan keseimbangan antara dukungan terhadap inovasi dan perlindungan terhadap kepentingan publik.
Indonesia Lebih Dulu Memutus Akses Grok
Sebelum Malaysia, Indonesia telah mengambil langkah serupa melalui Kementerian Komunikasi dan Digital. Akses Grok di putus sementara pada Sabtu (10/1) akibat dugaan penyebaran konten pornografi palsu berbasis AI.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa kebijakan tersebut bertujuan melindungi masyarakat. Perlindungan terhadap perempuan dan anak menjadi prioritas utama pemerintah.
Selain itu, Indonesia meminta pihak X memberikan klarifikasi resmi. Permintaan tersebut di sertai undangan untuk hadir langsung ke kantor kementerian guna membahas permasalahan secara terbuka.
Regulasi dan Tantangan AI Generatif
Di Indonesia, kebijakan pemutusan akses di dasarkan pada Permenkominfo Nomor 5 Tahun 2020. Aturan ini memberi kewenangan kepada pemerintah untuk menindak platform digital yang memfasilitasi konten terlarang.
Kasus Grok di Malaysia dan Indonesia menunjukkan tantangan besar dalam pengelolaan AI generatif. Oleh karena itu, regulasi yang adaptif dan bertanggung jawab menjadi kebutuhan mendesak. Inovasi teknologi harus berjalan seiring dengan etika, hukum, dan perlindungan hak asasi manusia.
