Perempuan Mengaku Dirugikan Setelah Grok AI Digunakan untuk Nudification Tanpa Izin
Seorang perempuan di Inggris mengaku merasa “terdehumanisasi dan direduksi menjadi stereotip seksual” setelah kecerdasan buatan Grok AI digunakan untuk mengedit fotonya. Perangkat AI tersebut membuat fotonya seolah-olah mengenakan pakaian minim, tanpa persetujuannya.
Kasus ini ikut menyoroti fenomena Grok AI nudification, yakni penggunaan AI untuk menghilangkan pakaian seseorang secara digital.
Contoh Kasus Bermunculan di Platform X
BBC melaporkan adanya sejumlah unggahan di platform X, di mana pengguna meminta Grok AI untuk mengedit foto perempuan menjadi berbikini atau berada dalam situasi seksual.
Perusahaan pengembang Grok, xAI, tidak memberikan tanggapan langsung selain jawaban otomatis yang menyebutkan “legacy media lies”.
Berita Terkait
Korban bernama Samantha Smith mengatakan foto yang diedit itu tampak sangat mirip dirinya, meskipun bukan benar-benar foto asli dirinya. Namun, dampak emosional yang dirasakan tetap signifikan.
Ia menegaskan bahwa perempuan tidak memberikan persetujuan atas tindakan tersebut.
Pemerintah Inggris Siapkan Larangan
Sebagai respons, Kementerian Dalam Negeri Inggris menyatakan bahwa pemerintah sedang menyiapkan larangan terhadap alat nudification. Nantinya, penyedia teknologi tersebut dapat dikenakan hukuman penjara dan denda besar.
Sementara itu, regulator Ofcom menyebut platform digital wajib menilai risiko penyebaran konten ilegal dan mengambil langkah untuk menghapusnya.
Kritik Terhadap Platform dan Pengembang AI
Pakar hukum dari Durham University, Prof Clare McGlynn, menilai bahwa platform seperti X seharusnya dapat mencegah penyalahgunaan ini. Namun, menurutnya, penegakan kebijakan masih lemah sehingga masalah dibiarkan berlanjut.
Padahal, kebijakan resmi xAI melarang penggunaan AI untuk menampilkan seseorang secara pornografis.
Regulator Ingatkan Aspek Legal
Ofcom menegaskan bahwa pembuatan atau penyebaran deepfake intim tanpa persetujuan adalah tindakan ilegal. Termasuk di dalamnya konten yang dihasilkan AI.
Selain itu, aturan mewajibkan platform digital untuk mengurangi risiko paparan konten ilegal di Inggris dan segera menghapusnya begitu dilaporkan.
Grok AI di Tengah Sorotan
Grok adalah asisten AI yang terintegrasi di platform X. Selain menjawab teks, AI ini juga memiliki fitur pengeditan gambar.
Namun, teknologi ini menuai kritik karena dianggap terbuka terhadap penyalahgunaan konten seksual berbasis AI.
Kasus Grok AI nudification ini kembali menegaskan pentingnya tanggung jawab etis dan hukum dalam pengembangan AI, sekaligus perlindungan terhadap korban manipulasi digital.
