Tragedi Grok: 20 Ribu Foto Anak Dilecehkan Demi Menaikkan Trafik Platform X

SAN FRANSISCO - Di saat Elon Musk sibuk mengonsolidasikan kerajaan bisnisnya—ditandai dengan langkah SpaceX mengambil alih xAI bulan lalu—perusahaan kecerdasan buatan (artificial intelligence/AI) miliknya itu justru diseret ke pengadilan federal California pada Senin lalu oleh tiga remaja perempuan.
Alasannya sangat spesifik dan mengerikan: chatbot Grok yang terintegrasi di platform X dituding memfasilitasi pembuatan gambar pornografi anak di bawah umur.
Tragedi ini bukanlah kebetulan atau cacat sistem. Tapi, eksploitasi desain yang disengaja.
Demi memenangkan persaingan lalu lintas pengguna yang berdarah-darah, xAI merilis fitur Grok Imagine atau "spicy mode" pada tahun lalu.
Strateginya gamblang: melonggarkan batasan etika demi menciptakan sensasi dan mendongkrak penggunaan. Pengacara para korban secara tajam menyebut bahwa xAI dan Musk melihat "peluang bisnis" dari celah ini.
Data dari Center for Countering Digital Hate menelanjangi brutalnya strategi lepas tangan ini.
Hanya dalam waktu kurang dari dua minggu setelah peluncuran fitur tersebut, Grok—yang pertama kali dirilis pada 2023—telah memproduksi jutaan gambar bernuansa seksual. Angka yang paling menampar adalah ditemukannya lebih dari 20.000 gambar anak-anak dalam sampel tersebut.
Fitur ini tanpa ampun melucuti pakaian orang sungguhan, mulai selebritas sekelas Taylor Swift hingga pengguna biasa.
Ironisnya, Elon Musk awalnya memilih mencuci tangan. Pada Januari lalu, ia meremehkan isu ini dengan mengklaim bahwa secara harfiah ada "nol" gambar anak di bawah umur telanjang yang dihasilkan oleh Grok, seraya melemparkan kesalahan kepada pengguna yang memasukkan perintah (prompt). Namun, realita di lapangan membantah keras kepura-puraan tersebut.
Dua dari tiga penggugat yang masih berusia di bawah 18 tahun (seluruh nama dirahasiakan demi privasi) menemukan hidup mereka hancur.
Salah satu korban mendapati foto buku tahunan SMA-nya telah dimanipulasi menjadi tindakan seksual eksplisit dan telanjang bulat.
Ekosistem kejahatan ini berjejaring rapi; konten tersebut disebar melalui peladen privat Discord. Di dalam peladen yang sama, ditemukan pula gambar serupa milik setidaknya 18 perempuan minor lainnya yang juga diubah menggunakan Grok.
Pelaku utama di balik peladen Discord tersebut akhirnya ditangkap dalam penyelidikan polisi yang terpisah. Berdasarkan temuan hukum, pelaku memiliki ratusan gambar pelecehan seksual hasil rekayasa AI yang dengan bebas diperdagangkan melalui aplikasi pesan Telegram dan platform berbagi fail Mega.

(dan)

Follow WhatsApp Channel SINDOnews untuk Berita Terbaru Setiap Hari

Follow

Lanjut Baca Berita Terkait Lainnya