Eramuslim.com – Aplikasi fotografi digital yang digerakkan oleh teknologi artificial intelligence (AI) yang mampu mendiskreditkan dan memanipulasi citra perempuan telah membuka jalan bagi kejahatan ‘pemerasan seksual’.
Foto-foto palsu itu disebut deepfake, sedangkan ledakan pornografi semacam itu tumbuh lebih cepat daripada upaya Amerika Serikat dan Eropa untuk mengatur teknologi AI.
Teknologi deepfake sering digunakan untuk membuat pornografi ilegal yang dapat menghancurkan kehidupan perempuan.
The Eves adalah target utama perangkat keras dan aplikasi AI yang dapat diunduh secara gratis, dan bahkan penggunaannya tidak memerlukan keterampilan teknis apa pun. Aplikasi ini memungkinkan pengguna membuka pakaian secara digital atau menempelkan wajah mereka ke dalam video.
“Menggunakan foto atau video wanita tanpa persetujuannya sudah menjadi hal yang biasa. Telah sampai pada titik di mana alat AI dapat melukai wanita mana pun. Pesan apa yang disampaikan di sini ten,” Sophie Maddocks, seorang peneliti di University of Pennsylvania, mengatakan kepada kantor berita AFP.
“Pesan apa yang ingin kami sampaikan tentang hak privasi dan kebenaran dalam masyarakat ketika Anda bisa membuka pakaian wanita mana pun?” tambahnya.
Pornografi deepfake yang menargetkan wanita dilaporkan sedang meningkat di Amerika Serikat dan negara-negara Eropa. Deepfake adalah sistem yang menggunakan teknologi AI untuk mengubah orang dalam foto dan video.
AI dapat digunakan untuk mengedit video, audio, dan gambar serta membuatnya kembali dengan cara yang melampaui aslinya. Deepfake porn adalah penggunaan gambar dan video media sosial wanita untuk membuat konten pornografi.
Dalam rekaman video kejahatan tersebut, seorang taipan media sosial yang dikenal sebagai QTCinderella mengungkapkan penyesalannya atas ‘eksploitasi berkelanjutan’ terhadap perempuan setelah dia sendiri menjadi korban pornografi deepfake.
Dia dilecehkan oleh orang-orang yang mengirim foto palsu yang menampilkan dirinya.
Skandal itu pecah Januari lalu ketika siaran langsung taipan media sosial lainnya, Brandon Ewing, terlihat menonton layar situs web yang menampilkan gambar sejumlah wanita termasuk QTCinderella.
“Ini bukan hanya pelecehan seksual, ini lebih dari itu,” kata QTCinderella dalam komentar di halaman Twitter-nya menambahkan bahwa insiden itu “menghancurkan” hidupnya.
Maraknya gambar deepfake secara online menyiratkan adanya ancaman penyalahgunaan informasi yang dihasilkan oleh AI yang dapat merusak reputasi dan menimbulkan gejala cyberbullying.
Kejahatan tersebut tidak mengenal korban dengan selebritas seperti Taylor Swift dan Emma Watson yang menjadi sasaran pornografi deepfake.
Media Amerika dan Eropa penuh dengan kesaksian perempuan, dari akademisi hingga aktivis, yang kaget melihat wajah mereka berubah menjadi dekorator deepfake.
Sekitar 96 persen video deepfake yang diposting online ‘tidak diminta’, sementara sebagian besar menampilkan wanita, menurut sebuah studi tahun 2019 oleh perusahaan AI Belanda, Sensity.
“Fantasi seksual yang sebelumnya hanya ada dalam pikiran seseorang kini dapat diubah menjadi gambar nyata dengan menggunakan teknologi AI,” kata Roberta Duffield, direktur perusahaan intelijen Blackbird AI.
Teknologi baru seperti Stability Diffusion, model AI yang dikembangkan oleh Stability AI perusahaan, memungkinkan pembuatan gambar realistis berdasarkan deskripsi teks.
Kemajuan teknologi AI telah menyebabkan keberadaan apa yang disebut Duffield sebagai ‘industri hilir’ pornografi AI dengan banyak pembuat foto atau video deepfake dibayar untuk menghasilkan konten yang menampilkan preferensi pelanggan.
Bulan lalu, Biro Investigasi Federal (FBI) mengeluarkan peringatan tentang ‘skema pemerasan seks’ di mana scammers mengambil gambar dan video dari media sosial untuk menghasilkan pornografi deepfake yang kemudian digunakan untuk memeras uang.
Menurut FBI, di antara korban penipuan termasuk anak di bawah umur dan orang dewasa. “Kejahatan ini terjadi di bawah pengawasan kami. Hukum perlu ditegakkan seiring dengan kemajuan teknologi AI,” kata CEO dan pendiri perusahaan perlindungan merek AI Ceartas, Dan Purcell.
Sementara itu, pemerintah Inggris mengajukan RUU Keamanan Online yang bertujuan menjadikan tindakan berbagi foto deepfake sebagai tindakan kriminal.
Saat ini, empat negara bagian AS termasuk California dan Virginia telah melarang distribusi pornografi deepfake, tetapi korban seringkali tidak memiliki akses hukum jika pelaku tinggal di luar negara bagian atau di luar negara bagian.
(Hidayatullah)
