Pemerintah mengultimatum platform X dan fitur kecerdasan artifisial (AI) Grok setelah temuan penyalahgunaan teknologi untuk memanipulasi foto orang menjadi konten asusila tanpa persetujuan. Kementerian Komunikasi dan Digital (Komdigi) menyatakan tidak menutup kemungkinan menjatuhkan sanksi hingga pemutusan akses layanan bila pengamanan dan moderasi tidak segera diperbaiki.
Komdigi menilai temuan awal menunjukkan belum ada pengaturan spesifik yang memadai untuk mencegah penyalahgunaan Grok AI dalam pembuatan konten asusila berbasis foto orang nyata. Pemerintah menyebut sanksi dapat berjenjang, dari administratif sampai blokir bila platform tidak kooperatif.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dikutip dari portal komdigi, Rabu (07/01/2026).
Di sisi lain, Bareskrim Polri menegaskan praktik rekayasa gambar non-konsensual berbasis AI masuk kategori deepfake dan dapat diproses pidana jika terbukti terjadi manipulasi data elektronik tanpa izin pemiliknya.
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya. Itu termasuk deepfake dalam menggunakan AI,” kata Brigjen Himawan Bayu Aji menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Bareskrim Polri menyatakan fenomena manipulasi foto menjadi konten vulgar dengan bantuan AI tengah diawasi. Penindakan dapat dilakukan sepanjang penyidik dapat membuktikan ada manipulasi data elektronik dan dilakukan tanpa persetujuan korban.
Akademisi Unismuh Makassar: Kasus Grok AI Pelanggaran HAM
Akademisi Universitas Muhammadiyah (Unismuh) Makassar, Andi Amalia Suhra, menilai praktik tersebut sebagai bentuk pelanggaran berat terhadap hak privasi, martabat, dan keamanan individu di ruang digital, serta menuntut kejelasan tanggung jawab hukum para pihak yang terlibat. Pandangan itu disampaikan dalam wawancara via WhatsApp, Kamis, 8 Januari 2026.
Menurut Amalia, manipulasi gambar seksual non-konsensual melalui AI merupakan serangan terhadap hak asasi manusia. Ia menegaskan bahwa privasi tidak semata soal data pribadi, melainkan juga menyangkut kontrol atas citra diri dan kehormatan seseorang.
“Kasus Grok AI ini adalah serangan terhadap hak asasi digital serta merupakan bentuk pelanggaran serius terhadap hak asasi manusia. Khususnya, pada hak atas privasi, martabat, dan rasa aman secara digital,” ujarnya.
Ia menjelaskan bahwa penggunaan AI untuk merekayasa konten seksual terhadap individu nyata telah melampaui batas kebebasan berekspresi. Menurutnya, manipulasi gambar tanpa izin secara langsung mencederai martabat manusia yang dijamin oleh konstitusi.
“Privasi bukan hanya soal data, tapi juga kontrol atas citra diri. Manipulasi gambar tanpa izin adalah mencederai martabat manusia,” kata Dosen Fakultas Hukum Unismuh Makassar tersebut.
Dari sisi hukum positif, ia menilai praktik tersebut dapat dijerat melalui berbagai regulasi yang berlaku di Indonesia. Selain Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Perlindungan Data Pribadi (UU PDP), ketentuan pidana juga tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku 2 Januari 2026.
Ia menerangkan bahwa Pasal 172 KUHP mendefinisikan pornografi secara luas, termasuk gambar, animasi, dan konten visual lain yang memuat kecabulan atau eksploitasi seksual. Sementara itu, Pasal 407 ayat (1) KUHP mengatur ancaman pidana penjara enam bulan hingga 10 tahun bagi pihak yang memproduksi atau menyebarluaskan konten pornografi.
“Korban juga dapat mengajukan gugatan perdata ke pengadilan negeri atas dasar perbuatan melawan hukum dan menuntut ganti kerugian. Baik materiil maupun immateriil,” ujarnya menjelaskan opsi hukum yang tersedia.
Terkait pihak yang bertanggung jawab, ia menilai pertanggungjawaban hukum tidak hanya berhenti pada pengguna. Menurutnya, pengembang dan platform digital juga dapat dimintai tanggung jawab apabila terbukti lalai menyediakan sistem yang memungkinkan terjadinya tindak pidana.
Amalia memaparkan bahwa pengguna dapat dipidana sebagai aktor utama karena memiliki niat jahat. Sementara pengembang atau platform dapat dimintai pertanggungjawaban apabila tidak melakukan pengamanan memadai. Pendekatan ini, menurutnya, penting untuk menciptakan efek jera dan tanggung jawab kolektif.
Namun demikian, penegakan hukum atas kejahatan berbasis AI menghadapi tantangan besar, terutama dalam hal yurisdiksi lintas negara. Ia menjelaskan bahwa perbedaan lokasi server, pengembang, dan korban sering kali menghambat proses hukum dan penyidikan digital.
Selain itu, posisi korban masih relatif lemah karena beban pembuktian berada pada pihak yang dirugikan. Ia menilai aparat penegak hukum menghadapi tantangan teknis dalam mengungkap kejahatan siber yang melibatkan anonimitas dan teknologi canggih.
Dalam konteks tersebut, Dosen Fakultas Hukum Unismuh Makassar itu menekankan pentingnya literasi hukum dan digital bagi masyarakat. Menurutnya, masyarakat perlu memahami bahwa ruang digital tidak sepenuhnya aman dan jejak digital bersifat permanen.
“Teknologi berkembang lebih cepat daripada hukum. Jangan menganggap ruang digital sebagai ruang privat sepenuhnya. Manipulasi AI adalah ancaman nyata, dan literasi hukum digital adalah perisai terbaik kita saat ini,” katanya.
Ia berharap kasus Grok AI dapat menjadi momentum bagi pemerintah untuk segera merumuskan regulasi khusus tentang kecerdasan artifisial. Regulasi tersebut dinilai penting untuk memastikan inovasi teknologi berjalan seiring dengan perlindungan hak asasi dan martabat manusia.
The post Grok AI Disorot Komdigi dan Bareskrim, Akademisi Unismuh: Manipulasi Seksual AI Bisa Dipidana appeared first on Warta PTM.
