Platform X milik miliarder Elon Musk tengah menjadi sorotan tajam. Pasalnya, Grok, AI chatbot besutan xAI, belakangan ini kebanjiran konten gambar seksual eksplisit, bahkan melibatkan anak-anak. Desakan dari berbagai pihak membuat X kini terpaksa melakukan tindakan drastis.
Tim keamanan X pada Rabu malam mengumumkan langkah baru untuk mengatasi badai kritik global. Mereka akan menerapkan "geoblock" atau pemblokiran geografis terhadap pengguna Grok xAI agar tidak bisa lagi membuat gambar orang-orang yang mengenakan bikini, pakaian dalam, atau busana serupa. Langkah ini datang setelah platform tersebut dibanjiri gambar-gambar buatan AI yang bersifat seksual dalam beberapa minggu terakhir.
X menjelaskan bahwa mereka sudah memasang "ukuran teknologi" untuk mencegah akun Grok mengedit gambar orang sungguhan dengan pakaian minim. Selain itu, hanya pelanggan berbayar yang nantinya boleh membuat dan mengedit gambar. X juga berjanji memblokir konten seksual ilegal di wilayah hukum di mana hal itu dilarang, meski tidak merinci bagaimana mekanisme geoblocking dan pengamanan lainnya bekerja.
Pihak X menegaskan punya "toleransi nol" terhadap segala bentuk eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan. Namun, pengakuan ini muncul setelah Grok menghadapi serangkaian investigasi dan larangan dari regulator serta pemerintah di seluruh dunia.
Jaksa Agung California, Rob Bonta, Rabu lalu mengumumkan penyelidikan apakah xAI melanggar hukum karena "memfasilitasi produksi skala besar" deepfake. Deepfake ini digunakan untuk melecehkan wanita dan anak perempuan, termasuk "anak-anak dalam situasi telanjang dan eksplisit secara seksual." Bonta menyebut "banjir laporan" yang masuk mendorong penyelidikan ini.
Regulator media Inggris, Ofcom, juga memulai penyelidikan pada Senin. Sementara itu, di Prancis, para menteri telah meneruskan kasus konten seksual buatan Grok ke jaksa penuntut dan regulator media Arcom. Indonesia menjadi negara pertama yang memblokir sementara akses Grok awal pekan ini karena khawatir meningkatnya serangan deepfake. Malaysia pun tak ketinggalan, melarang chatbot tersebut dan berencana menempuh jalur hukum terhadap X.
Tak hanya itu, Komisi Eropa juga memperpanjang perintah penyimpanan data yang dikirim ke X tahun lalu, untuk menyimpan semua dokumen dan data internal terkait Grok hingga akhir tahun 2026. Menariknya, beberapa jam sebelum X mengumumkan langkah-langkah keamanan ini, Elon Musk lewat akun X-nya mengklaim, "Saya tidak mengetahui adanya gambar telanjang di bawah umur yang dihasilkan oleh Grok. Secara harfiah nol." Dia juga menambahkan, "Jelas, Grok tidak secara spontan membuat gambar, itu hanya melakukannya sesuai permintaan pengguna."