Connect with us

Hi, what are you looking for?

Software

Viral Aplikasi AI Yang Edit Foto Buat Publik Jadi Resah

Kecerdasan Buatan AI_2b
Kecerdasan Buatan AI. (Sumber: JAIN Online)

Last updated on 25 Juni, 2024

Unbox.id – Para peneliti telah menemukan beberapa fakta yang meresahkan tentang penggunaan teknologi AI (kecerdasan buatan). Ternyata, ada beberapa aplikasi dan website yang menggunakan teknologi AI untuk menghapus foto wanita. Mengutip laporan Time, hingga September 2023, sebanyak 24 juta orang telah mengunjungi situs web yang memungkinkan perempuan ditelanjangi. Hal ini berdasarkan temuan dari perusahaan analisis media sosial Graphika. Menurut Graphika, sebagian besar layanan website striptis yakni bugil menggunakan media sosial untuk memasarkan produknya. Para peneliti melaporkan bahwa sejak awal tahun ini, jumlah tautan iklan ke aplikasi berbasis AI yang membuat foto wanita telanjang telah meningkat sebesar 2.400% di jejaring sosial. Termasuk di jejaring sosial X dan Reddit.

baca artikel menarik lainnya tentang : aplikasi ai foto video

Layanan di Website Gunakan AI Untuk Buat Ulang Sebuah Gambar

Kecerdasan Buatan AI_1a

Kecerdasan Buatan AI. (Sumber: InfoWorld)

Layanan website menggunakan teknologi AI untuk mereproduksi gambar. Aplikasi ini juga membuat gambar baru yang menunjukkan orang di foto itu telanjang.

Parahnya lagi, sebagian besar layanan berbasis AI ini hanya bisa diterapkan pada perempuan. Aplikasi ini merupakan bagian dari pornografi yang meresahkan, terutama foto wanita yang diedit hingga terlihat telanjang tanpa persetujuan orang tersebut.

Foto-foto ini dikembangkan dan didistribusikan dengan kemajuan teknologi kecerdasan buatan, sejenis media palsu yang dikenal sebagai pornografi palsu. Penyebarannya menghadapi hambatan hukum dan pelanggaran etika yang serius. Alasannya karena gambar sering kali diambil dari jejaring sosial dan disebarkan tanpa izin atau sepengetahuan subjek foto.

Semakin populernya aplikasi atau situs web yang menyediakan Alat ini hadir dengan beberapa rilis sumber terbuka. model atau kecerdasan buatan yang menghasilkan gambar lebih unggul dari yang dibuat beberapa tahun lalu.

Yang parahnya, karena open source, model tersebut digunakan bahkan oleh pengembang aplikasi. Bahkan disediakan secara gratis.

Hasilnya Begitu Realistis

Santiago Lakatos, analis di Graphika, berkata: “Dulu, gambar deepfake sering kali buram, namun saat ini, berkat kemajuan AI, orang dapat membuat gambar yang sangat realistis.”

Selain ‘meningkatkan kunjungan ke situs web, beberapa orang layanan juga mendukung pengubahan gambar orang menjadi telanjang, dengan biaya: 9,99 USD per bulan. Ada juga orang yang mengklaim bahwa situsnya menarik banyak pelanggan.

“Situs web mereka mengklaim memiliki lebih dari 1.000 pengguna per hari,” kata Lakatos. Faktanya, salah satu gambar yang diunggah ke jejaring sosial menyebabkan pelecehan online. Sementara itu, sebuah aplikasi yang membayar untuk konten bersponsor di YouTube dan akan muncul pertama kali ketika pengguna lain mencari kata “telanjang”.

Baca juga: Kecerdasan Buatan Bisa Pecahkan Password Dalam Hitungan Detik

Google Tidak Izinkan Pornografi

Google Application_3c

Google Application. (Sumber: Nairametrics)

Menanggapi hal ini, juru bicara Google mengatakan perusahaan tidak mengizinkan iklan yang menampilkan ketelanjangan atau bertema seksual. “Kami meninjau iklan tersebut dan menghapus iklan tersebut yang melanggar aturan kami,” kata Google.

Seorang juru bicara Reddit mengatakan situs web mereka melarang berbagi konten palsu dan pornografi tanpa izin. Reddit juga melarang beberapa domain pelacakan pencarian. X, sebaliknya, tidak menanggapi permintaan komentar. Pornografi non-konsensual terhadap tokoh masyarakat telah lama menjadi momok di Internet. Namun pakar privasi semakin khawatir dengan kemajuan teknologi AI yang membuat perangkat lunak deepfake semakin mudah diakses dan efektif.

“Kami melihat semakin banyak hal ini dilakukan terhadap target yang buruk,” kata direktur keamanan siber di organisasi ini. Yayasan Perbatasan Elektronik, Eva Galperin. Bahkan menurutnya, sasarannya juga mencakup siswa sekolah menengah dan pelajar.

Parahnya lagi, banyak korban tidak menyadari bahwa mereka menjadi sasaran foto telanjang palsu berbasis AI. Bahkan, ada pula yang memperjuangkan keadilan, investigasi, atau tuntutan hukum karena fotonya telah digunakan. Saat ini, di Amerika Serikat tidak ada kerangka hukum yang melarang penciptaan karya yang sangat erotis. Namun, pemerintah melarang anak di bawah umur menggunakan teknologi ini.

September lalu, seorang psikiater anak di North Carolina dijatuhi hukuman 40 tahun penjara karena menggunakan aplikasi foto telanjang pasiennya.

Di sisi lain, TIkTok memblokir istilah pencarian “undressing”, istilah pencarian populer terkait layanan teknologi AI untuk menghapus gambar perempuan. Menurut TikTok, menelusuri kata “menanggalkan pakaian” dapat mengakibatkan pelanggaran terhadap kebijakan perusahaan.

 

 

Sumber & Foto: Dari berbagai sumber

Karya yang dimuat ini adalah tanggungjawab penulis seperti tertera, tidak menjadi bagian tanggungjawab redaksi unbox.id.
Click to comment

Leave a Reply

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Advertisement
Advertisement

Trending

Baca Juga

Tech Industry

Unbox.id – OpenAI baru saja mengumumkan bahwa mereka akan menunda peluncuran fitur “Voice Mode” di ChatGPT hingga bulan depan, sekitar Juli 2024. Sebelumnya, OpenAI...

Software

Unbox.id – Gmail mendapatkan lebih banyak fitur AI yang dapat membantu pengguna mengakses email mereka dengan lebih mudah. Di web, Google meluncurkan sidebar Gemini...

Apps & Games

Last updated on 28 Juni, 2024 Jakarta, Unbox.id — Meta AI kini telah resmi meluncur di India. Asisten AI, yang sudah populer di lebih...

Social Media

Unbox.id – TikTok secara tidak sengaja mengunggah tautan ke versi internal alat avatar digital AI barunya selama jangka waktu yang tidak diketahui. Hal ini...