Tindakan Suruhanjaya Komunikasi dan Multimedia Malaysia (SKMM) menyekat perkhidmatan Grok menandakan pendirian tegas negara dalam menangani penyalahgunaan teknologi kecerdasan buatan. Walaupun Grok merupakan produk syarikat milik hartawan dunia, Elon Musk, status dan pengaruh global tidak mengatasi keperluan untuk mematuhi undang-undang tempatan serta prinsip perlindungan awam.
Kontroversi Grok tercetus apabila media antarabangsa mendedahkan kegagalan sistem AI tersebut menghalang penjanaan imej seksual tanpa persetujuan. Lebih serius, laporan daripada Reuters, BBC, CBS News dan ABC News mendapati ciri ‘Edit Image’ Grok telah disalahgunakan untuk menghasilkan imej seksual melibatkan kanak-kanak, yang tergolong dalam kategori Child Sexual Abuse Material (CSAM).
Isu ini bukan bersifat terpencil. Dalam beberapa laporan, pengguna dilaporkan mampu ‘menanggalkan pakaian’ individu sebenar, termasuk kanak-kanak, hanya melalui manipulasi imej menggunakan Grok. Amalan ini bukan sahaja melanggar etika, malah merupakan jenayah berat di kebanyakan negara, termasuk Malaysia.
Syarikat pengendali Grok, xAI, akhirnya mengakui wujud kelemahan serius dalam sistem keselamatan mereka. Walaupun permohonan maaf dikeluarkan, perkhidmatan penjanaan imej tidak dihentikan sepenuhnya pada peringkat awal. Keadaan ini mencetuskan kemarahan awam dan kebimbangan bahawa risiko terhadap mangsa terus berlarutan.
Ketegasan dalam menangani isu ini dapat dilihat melalui tindakan undang-undang dan siasatan yang dibuka di beberapa negara, termasuk Perancis, United Kingdom dan India. Pengawal selia di Eropah dan Asia menyifatkan kandungan sedemikian sebagai pelanggaran undang-undang sedia ada berkaitan perlindungan kanak-kanak dan penyalahgunaan teknologi digital.
Dalam konteks Malaysia, penyebaran atau penghasilan bahan seksual melibatkan kanak-kanak adalah kesalahan jenayah yang berat. Oleh itu, tindakan SKMM bukan bertujuan menyekat inovasi, sebaliknya memastikan teknologi yang beroperasi di negara ini tidak mencetuskan mudarat sosial dan jenayah rentas sempadan.
Sekatan terhadap Grok juga membawa mesej yang lebih luas: kebebasan teknologi tidak boleh dipisahkan daripada tanggungjawab moral dan perundangan. Malaysia menegaskan bahawa pembangunan AI mesti selari dengan undang-undang, nilai kemanusiaan dan tatasusila masyarakat timur.
Menjadikan kanak-kanak sebagai objek eksploitasi digital adalah perbuatan yang keji dan tidak boleh dikompromi. Syarikat besar, walau siapa pemiliknya, tidak boleh bersembunyi di sebalik slogan kebebasan bersuara atau inovasi tanpa kawalan. Dalam isu ini, tindakan SKMM wajar dilihat sebagai langkah perlindungan, bukan penindasan teknologi.
