Regulator komunikasi Inggris, Ofcom, menyatakan telah menghubungi perusahaan xAI milik Elon Musk. Langkah ini diambil setelah muncul laporan bahwa AI Grok di platform X bisa digunakan untuk membuat gambar seksual anak. Selain itu, Grok juga diduga dipakai untuk mengedit foto perempuan agar terlihat tanpa busana.
Ofcom Bertindak Cepat
Seorang juru bicara Ofcom mengatakan bahwa pihaknya telah melakukan kontak mendesak dengan xAI.
Mereka juga sedang menyelidiki laporan bahwa Grok menghasilkan gambar āundressedā tanpa izin orang yang fotonya digunakan.
Sebelumnya, BBC menemukan beberapa unggahan di X. Dalam unggahan itu, pengguna meminta Grok mengubah foto asli menjadi seolah-olah korban memakai bikini atau berada dalam konteks seksual.
Berita Terkait
Namun, pihak X belum memberikan komentar resmi. Meski begitu, pada Minggu lalu, platform tersebut mengingatkan pengguna agar tidak memakai Grok untuk membuat konten ilegal, termasuk materi seksual anak.
Elon Musk juga menegaskan bahwa siapa pun yang meminta AI memproduksi konten ilegal akan mendapat konsekuensi hukum yang sama seperti pelaku yang mengunggah konten tersebut.
Aturan Hukum Berlaku Ketat
Di Inggris, membuat atau menyebarkan gambar intim tanpa izin adalah tindakan ilegal. Hal ini termasuk deepfake berbasis AI.
Selain itu, platform digital wajib menghapus konten ilegal dengan cepat.
Sementara itu, Komisi Eropa menyebut sedang memantau kasus ini dengan serius.
Otoritas di Prancis, Malaysia, dan India juga dilaporkan sedang meninjau laporan serupa.
Korban Mulai Bersuara
Sejumlah perempuan mengaku menjadi korban nudifikasi Grok. Salah satunya adalah jurnalis Samantha Smith.
Ia mengatakan bahwa pengalaman tersebut membuatnya merasa ādihumanisasi dan direduksi menjadi objek seksual.ā
Menurutnya, meski foto itu bukan dirinya secara langsung, gambar tersebut tetap tampak seperti dirinya. Oleh karena itu, dampaknya terasa sangat ofensif.
Seruan Agar Platform Bertanggung Jawab
Ketua Komite Sains, Inovasi, dan Teknologi Inggris, Dame Chi Onwurah, menyebut laporan ini sangat mengkhawatirkan.
Ia menilai perlindungan hukum masih tertinggal dibanding perkembangan teknologi AI.
Pada saat yang sama, Komisi Eropa menegaskan bahwa konten tersebut ilegal dan tidak dapat diterima di Eropa.
Kebijakan xAI Dinilai Belum Cukup
Sebenarnya, kebijakan penggunaan Grok melarang pembuatan konten pornografi menggunakan wajah orang nyata. Namun, praktik nudifikasi tetap terjadi.
Oleh karena itu, Ofcom memastikan penyelidikan akan terus berjalan.
Sementara itu, pemerintah Inggris juga sedang menyiapkan aturan untuk melarang teknologi nudifikasi secara khusus.
Dalam aturan baru tersebut, penyedia teknologi dapat dihukum penjara dan denda besar.
Akhirnya, kasus ini kembali membuka diskusi besar. Siapa yang harus bertanggung jawab ketika AI disalahgunakan?
Dan yang lebih penting, bagaimana melindungi perempuan dan anak di era AI?
