bukamata.id – Kementerian Komunikasi dan Digital (Komdigi) tengah menelusuri dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi di platform media sosial X. Teknologi berbasis AI milik Elon Musk tersebut belakangan disorot karena dimanfaatkan untuk membuat dan menyebarkan konten bermuatan asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa setiap Penyelenggara Sistem Elektronik (PSE) memiliki kewajiban menghadirkan sistem perlindungan yang kuat bagi pengguna. Upaya tersebut meliputi penyempurnaan moderasi konten, pencegahan pembuatan deepfake bermuatan pornografi, serta mekanisme penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” kata Alexander dalam keterangan tertulis, Rabu (7/1/2026).
Ia menegaskan, kepatuhan terhadap regulasi di Indonesia merupakan kewajiban mutlak bagi seluruh PSE yang beroperasi di dalam negeri. Jika ditemukan pelanggaran atau sikap tidak kooperatif, Komdigi memiliki kewenangan menjatuhkan sanksi administratif hingga penghentian akses terhadap layanan Grok AI maupun platform X.
Pemanfaatan Grok AI sendiri memicu diskursus luas soal etika kecerdasan buatan di ruang digital. Sejumlah pengguna diketahui memberikan perintah tertulis agar sistem AI tersebut memodifikasi foto individu, termasuk mengubah pakaian tertutup menjadi busana terbuka seperti bikini, meski foto asli tidak menampilkan hal tersebut.
Berdasarkan penelusuran awal Komdigi, Grok dinilai belum memiliki sistem pengamanan yang cukup tegas untuk mencegah produksi konten pornografi berbasis manipulasi foto. “Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” tutur Alexander.
Menurutnya, praktik semacam ini tidak sekadar persoalan manipulasi visual, melainkan bentuk perampasan kontrol individu atas identitas dirinya. Dampaknya pun dapat meluas, mulai dari tekanan psikologis, stigma sosial, hingga kerusakan reputasi korban.
Alexander menegaskan bahwa baik penyedia layanan AI maupun pengguna yang terbukti membuat atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif dan/atau pidana sesuai hukum yang berlaku.
Ia juga mendorong masyarakat yang menjadi korban deepfake asusila atau pelanggaran hak citra diri untuk menempuh jalur hukum yang tersedia, termasuk melapor kepada aparat penegak hukum serta mengajukan pengaduan resmi ke Kementerian Komdigi.
Regulasi terkait konten pornografi tercantum dalam Pasal 172 dan Pasal 407 Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku sejak 2 Januari 2026. Pasal 172 menjelaskan definisi pornografi sebagai media bermuatan kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sedangkan Pasal 407 mengatur ancaman pidana penjara minimal enam bulan dan maksimal sepuluh tahun atau denda sesuai ketentuan.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
Baca Berita bukamata.id lainnya di Google News
