Pada 18 Maret 2026, xAI, perusahaan yang didirikan oleh Elon Musk, menghadapi gugatan di pengadilan federal California. Gugatan ini diajukan oleh tiga remaja dari Tennessee yang menuduh chatbot Grok menghasilkan gambar seksual anak.
Menurut dokumen gugatan, Grok dituduh mengubah foto para penggugat menjadi materi pelecehan seksual anak (CSAM). Selain itu, gugatan ini mencakup tuduhan bahwa xAI gagal menerapkan standar industri yang diperlukan untuk mencegah penyalahgunaan teknologi AI mereka.
CSAM yang dihasilkan oleh Grok diduga telah beredar di berbagai platform, termasuk Discord, Telegram, dan Mega. Gugatan ini diajukan berdasarkan beberapa dasar hukum, termasuk Produksi dengan Niat Mendistribusikan Pornografi Anak.
Pengacara penggugat menyatakan, “xAI mendapat keuntungan finansial dari penggunaan Grok tetapi dengan mengorbankan kesejahteraan korban.” Mereka menuntut perintah permanen untuk menghentikan xAI dari menghasilkan konten ilegal.
Gugatan ini juga menimbulkan pertanyaan penting mengenai tanggung jawab hukum ketika model AI generatif menghasilkan konten ilegal. Hal ini menjadi perhatian utama di kalangan pengamat hukum dan teknologi.
Gugatan mengutip Pedoman Keselamatan Grok (v8), yang menyatakan bahwa tidak ada batasan pada konten seksual dewasa fiksi dengan tema gelap atau kekerasan, yang semakin memperumit situasi hukum yang ada.
Ketiga korban yang mengajukan gugatan diidentifikasi sebagai Jane Doe 1, Jane Doe 2, dan Jane Doe 3. Salah satu korban pertama kali mengetahui kejadian ini pada bulan Desember lalu, yang menunjukkan bahwa masalah ini telah berlangsung cukup lama sebelum tindakan hukum diambil.
Gugatan ini berpotensi menguji batasan Section 230, undang-undang federal yang melindungi platform online dari tanggung jawab atas konten yang diunggah pengguna. Ini bisa menjadi preseden penting dalam bagaimana hukum menangani kasus-kasus yang melibatkan teknologi AI.
Dengan tuntutan ganti rugi mencapai $150,000 per pelanggaran menurut undang-undang pornografi anak AS dan $750 per pelanggaran menurut undang-undang hak publisitas California, kasus ini bisa berdampak besar pada masa depan xAI dan penggunaan AI generatif secara umum.
Details remain unconfirmed.
