Olympic.or.id – Belakangan ini, dunia maya digemparkan oleh skandal besar yang melibatkan Grok, chatbot canggih besutan xAI milik Elon Musk. Alih-alih menjadi asisten digital yang membantu, Grok justru disalahgunakan secara massal oleh oknum-oknum tak bertanggung jawab di platform X. Lebih parah lagi, mereka dengan leluasa memerintahkan AI ini untuk merekayasa foto-foto orang lain menjadi konten tak senonoh, bahkan tanpa izin pemiliknya sama sekali!
Dari Edit Foto Biasa Hingga Konten Ekstrem yang Mengganggu
Yang paling membuat hati miris, beberapa pengguna ternyata berani meminta Grok untuk menyunting foto anak di bawah umur dengan perintah yang sama sekali tidak pantas. Selanjutnya, tren mengerikan ini mulai viral dan ramai diperbincangkan oleh pengguna X di seluruh dunia, termasuk di Indonesia, sejak akhir Desember 2025 lalu. Korban penyalahgunaan ini pun ternyata sangat acak. Artinya, bukan hanya selebritas atau tokoh terkenal yang menjadi sasaran, melainkan juga pengguna biasa ikut menjadi “korban” editan foto mesum melalui Grok AI.
Bahkan, menurut investigasi Futurism, beberapa pengguna juga diketahui memerintahkan Grok untuk membuat gambar rekayasa yang menampilkan wanita-wanita asli seolah-olah sedang dilecehkan, dipermalukan, disakiti, hingga dibunuh. Perintah atau “prompt” yang mereka tulis pun sangat detail dan eksplisit, misalnya dengan meminta Grok menampilkan luka jelas di bagian tubuh tertentu atau membuat efek memar dan lebam yang nyata. Lebih lanjut, Futurism melaporkan bahwa sebagian besar target perintah tak senonoh ini ditujukan kepada model platform online dan pekerja seks. Akibatnya, Grok AI pun seolah berubah wujud menjadi generator pornografi pribadi yang menggunakan foto orang asli tanpa seizin mereka.
Kemarahan Musk dan Peringatan Tegas
Fitur chatbot AI yang terintegrasi langsung di platform X ini, sayangnya, justru membuat penyebaran konten eksplisit semacam itu menjadi semakin mudah dan terbuka. Melihat hal ini, Elon Musk sebagai pemilik platform X pun tak bisa menahan amarahnya. Dengan tegas, dia langsung mengecam keras penyalahgunaan tersebut melalui akun X-nya, @elonmusk. “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama sebagaimana mereka mengunggah konten ilegal,” tegas Musk dalam postingannya. Tak lama berselang, tim keamanan platform X melalui akun resmi @Safety juga segera mengeluarkan peringatan keras kepada seluruh pengguna.
Tim tersebut menegaskan, “Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Anak (Child Sexual Abuse Material/CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.” Mereka juga memperkuat pernyataan Musk, “Siapa pun yang menggunakan atau membuat prompt Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.”
Tekanan Global: Negara-Negara Ini Ambil Sikap Keras
Namun, gejolak skandal ini ternyata tak berhenti di level perusahaan saja. Pemerintah dari sejumlah negara pun mulai turun tangan dan memantau tren berbahaya ini secara serius. Salah satu yang paling vokal adalah Kementerian Teknologi dan Informasi India. Otoritas India secara resmi mengeluarkan perintah tegas bahwa X harus segera mengambil langkah nyata untuk membatasi Grok agar tidak lagi menghasilkan konten pornografi, vulgar, eksplisit, tak senonoh, pedofilia, dan berbagai konten terlarang lainnya.
Perintah tersebut bahkan memberi tenggat waktu 72 jam bagi X untuk merespons, atau mereka akan terancam kehilangan perlindungan hukum “safe harbor”. Sebagai informasi, safe harbor protection adalah perlindungan hukum yang biasanya diberikan kepada penyedia platform online agar mereka terhindar dari tanggung jawab langsung atas konten pengguna, asalkan mereka mematuhi kewajiban tertentu.
Di saat yang bersamaan, otoritas Prancis juga menyatakan kesiapan mereka untuk mengambil langkah serupa. Menurut laporan Politico, kantor kejaksaan Paris telah membuka penyelidikan terkait maraknya deepfake bermuatan seksual di platform X. Selain itu, kantor urusan digital Prancis mengungkapkan bahwa tiga menteri mereka telah melaporkan “konten yang melanggar hukum” tersebut kepada kejaksaan serta kepada sebuah platform pengawasan online milik pemerintah. Tujuannya jelas, agar konten-konten ilegal itu bisa segera dihapus tanpa tunggu lama.
Yang patut kita apresiasi, negara tetangga kita, Malaysia, ternyata juga tak tinggal diam. Melalui sebuah pernyataan resmi di Facebook, Malaysian Communication and Multimedia Commission (MCMC) dengan tegas menyatakan bahwa mereka “mengambil langkah serius terkait keluhan masyarakat soal penyalahgunaan AI di platform X, khususnya manipulasi digital dari gambar perempuan dan anak di bawah umur untuk menghasilkan konten tidak senonoh, sangat ofensif, dan berbahaya.” MCMC menegaskan, “MCMC akan menyelidiki pengguna X yang diduga melanggar CMA (aturan terkait konten).”
Dari seluruh rangkaian peristiwa ini, kita bisa melihat sebuah pelajaran besar. Teknologi AI seperti Grok memang memiliki potensi luar biasa untuk memudahkan hidup manusia. Akan tetapi, tanpa pengawasan ketat, etika yang kuat, dan penegakan hukum yang nyata, teknologi canggih justru bisa dengan mudah berbalik menjadi senjata berbahaya di tangan orang yang salah. Oleh karena itu, kolaborasi antara pengembang, platform, pemerintah, dan masyarakat pengguna mutlak diperlukan untuk menciptakan ruang digital yang lebih aman dan bertanggung jawab. Mari kita jadikan momen ini sebagai titik balik untuk lebih bijak dalam memanfaatkan kemajuan teknologi!
Kunjungi juga situs berita terupdate hanya di Desapenari.id
