Unbox.id – Para peneliti telah menemukan beberapa fakta yang meresahkan tentang penggunaan teknologi AI (kecerdasan buatan). Ternyata, ada beberapa aplikasi dan website yang menggunakan teknologi AI untuk menghapus foto wanita. Mengutip laporan Time, hingga September 2023, sebanyak 24 juta orang telah mengunjungi situs web yang memungkinkan perempuan ditelanjangi. Hal ini berdasarkan temuan dari perusahaan analisis media sosial Graphika. Menurut Graphika, sebagian besar layanan website striptis yakni bugil menggunakan media sosial untuk memasarkan produknya. Para peneliti melaporkan bahwa sejak awal tahun ini, jumlah tautan iklan ke aplikasi berbasis AI yang membuat foto wanita telanjang telah meningkat sebesar 2.400% di jejaring sosial. Termasuk di jejaring sosial X dan Reddit.
Layanan di Website Gunakan AI Untuk Buat Ulang Sebuah Gambar
Kecerdasan Buatan AI. (Sumber: InfoWorld)
Layanan website menggunakan teknologi AI untuk mereproduksi gambar. Aplikasi ini juga membuat gambar baru yang menunjukkan orang di foto itu telanjang.
Parahnya lagi, sebagian besar layanan berbasis AI ini hanya bisa diterapkan pada perempuan. Aplikasi ini merupakan bagian dari pornografi yang meresahkan, terutama foto wanita yang diedit hingga terlihat telanjang tanpa persetujuan orang tersebut.
Foto-foto ini dikembangkan dan didistribusikan dengan kemajuan teknologi kecerdasan buatan, sejenis media palsu yang dikenal sebagai pornografi palsu. Penyebarannya menghadapi hambatan hukum dan pelanggaran etika yang serius. Alasannya karena gambar sering kali diambil dari jejaring sosial dan disebarkan tanpa izin atau sepengetahuan subjek foto.
Semakin populernya aplikasi atau situs web yang menyediakan Alat ini hadir dengan beberapa rilis sumber terbuka. model atau kecerdasan buatan yang menghasilkan gambar lebih unggul dari yang dibuat beberapa tahun lalu.
Yang parahnya, karena open source, model tersebut digunakan bahkan oleh pengembang aplikasi. Bahkan disediakan secara gratis.
Hasilnya Begitu Realistis
Santiago Lakatos, analis di Graphika, berkata: “Dulu, gambar deepfake sering kali buram, namun saat ini, berkat kemajuan AI, orang dapat membuat gambar yang sangat realistis.”
Selain ‘meningkatkan kunjungan ke situs web, beberapa orang layanan juga mendukung pengubahan gambar orang menjadi telanjang, dengan biaya: 9,99 USD per bulan. Ada juga orang yang mengklaim bahwa situsnya menarik banyak pelanggan.
“Situs web mereka mengklaim memiliki lebih dari 1.000 pengguna per hari,” kata Lakatos. Faktanya, salah satu gambar yang diunggah ke jejaring sosial menyebabkan pelecehan online. Sementara itu, sebuah aplikasi yang membayar untuk konten bersponsor di YouTube dan akan muncul pertama kali ketika pengguna lain mencari kata “telanjang”.
Baca juga: Kecerdasan Buatan Bisa Pecahkan Password Dalam Hitungan Detik
Google Tidak Izinkan Pornografi
Google Application. (Sumber: Nairametrics)
Menanggapi hal ini, juru bicara Google mengatakan perusahaan tidak mengizinkan iklan yang menampilkan ketelanjangan atau bertema seksual. “Kami meninjau iklan tersebut dan menghapus iklan tersebut yang melanggar aturan kami,” kata Google.
Seorang juru bicara Reddit mengatakan situs web mereka melarang berbagi konten palsu dan pornografi tanpa izin. Reddit juga melarang beberapa domain pelacakan pencarian. X, sebaliknya, tidak menanggapi permintaan komentar. Pornografi non-konsensual terhadap tokoh masyarakat telah lama menjadi momok di Internet. Namun pakar privasi semakin khawatir dengan kemajuan teknologi AI yang membuat perangkat lunak deepfake semakin mudah diakses dan efektif.
“Kami melihat semakin banyak hal ini dilakukan terhadap target yang buruk,” kata direktur keamanan siber di organisasi ini. Yayasan Perbatasan Elektronik, Eva Galperin. Bahkan menurutnya, sasarannya juga mencakup siswa sekolah menengah dan pelajar.
Parahnya lagi, banyak korban tidak menyadari bahwa mereka menjadi sasaran foto telanjang palsu berbasis AI. Bahkan, ada pula yang memperjuangkan keadilan, investigasi, atau tuntutan hukum karena fotonya telah digunakan. Saat ini, di Amerika Serikat tidak ada kerangka hukum yang melarang penciptaan karya yang sangat erotis. Namun, pemerintah melarang anak di bawah umur menggunakan teknologi ini.
September lalu, seorang psikiater anak di North Carolina dijatuhi hukuman 40 tahun penjara karena menggunakan aplikasi foto telanjang pasiennya.
Di sisi lain, TIkTok memblokir istilah pencarian “undressing”, istilah pencarian populer terkait layanan teknologi AI untuk menghapus gambar perempuan. Menurut TikTok, menelusuri kata “menanggalkan pakaian” dapat mengakibatkan pelanggaran terhadap kebijakan perusahaan.
Sumber & Foto: Dari berbagai sumber
