Unbox.id – Konten berbahaya dan kecerdasan buatan (AI) yang beredar di internet menjadi sorotan pemerintah India. Baru-baru ini, dilaporkan bahwa India telah memperkenalkan undang-undang untuk mendeteksi dan mencegah penyebaran konten palsu dan iklan berbahaya yang dihasilkan oleh AI. Pemerintah India, eksekutif media sosial, badan industri Nasscom, dan akademisi sepakat bahwa undang-undang diperlukan untuk memerangi penyebaran video palsu, karena video palsu akan lebih mudah dibuat di aplikasi.
Memerangi Konten Deepfake Yang Berbahaya
Deepfake. (Sumber: ZDNet)
“Perusahaan-perusahaan ini mempunyai keprihatinan yang sama dengan kami dan mereka memahami bahwa ini (deepfake) bukanlah kebebasan berbicara,” kata Menteri Teknologi Informasi India Ashwini Vaishnaw.
Menurut Vaishnaw, seperti dikutip Tech Crunch, dalam pertemuan informasi dengan kelompok tersebut, mereka mengatakan bahwa pemalsuan itu merugikan masyarakat. “Mereka memahami perlunya undang-undang yang kuat dalam hal ini, itulah sebabnya kami sepakat untuk mulai membuat undang-undang tersebut hari ini,” katanya.
Vaishnaw mengatakan kementeriannya akan siap untuk memberikan “poin-poin yang bisa ditindaklanjuti” tentang cara melawan perang yang mengakar dalam waktu 10 hari. Selain itu, pemerintah India juga mempertimbangkan sanksi bagi mereka yang tidak mematuhi dan pertanggungjawaban bagi mereka yang membuat video atau video palsu dari AI.
Perusahaan media sosial tersebut juga akan mengadakan pertemuan lanjutan dan informasi pada awal Desember mengenai masalah ini. Vaishnaw juga mengklaim bahwa ada video palsu yang menunjukkan seorang menteri terkemuka India meminta warganya untuk memilih partai oposisi.
Potensi Misinformasi Dari Deepfake
“Deepfake dapat menyebar dengan cepat tanpa kendali apa pun dan menjadi viral dalam beberapa menit setelah diunggah secara online,” kata Vaishnaw pada konferensi pers.
Ia menambahkan, “Itulah sebabnya kita harus bertindak cepat untuk memperkuat kepercayaan publik dan melindungi demokrasi kita.” Selain itu, undang-undang baru ini juga akan fokus pada peningkatan proses pelaporan bagi individu yang melaporkan jenis video tersebut, serta tindakan cepat dan tepat waktu oleh perusahaan media sosial.
Deepfake adalah iklan sintetis yang dibuat, sering kali menggunakan AI, untuk menggantikan gambar atau suara manusia yang sebenarnya. Meski terkadang dilakukan hanya sebagai bentuk hiburan, ada banyak kekhawatiran etis terkait misinformasi dan misinformasi.
Keputusan Kementerian TI India ini bertepatan dengan kekhawatiran yang diungkapkan Perdana Menteri India Narendra Modi di masa lalu tentang video palsu.
Baca juga: YouTube Wajibkan Kreator Untuk Tandai Konten Hasil Produksi AI
PM India Sampaikan Kekhawatiran Soal Deepfake
Deepfake. (Sumber: Metaroids)
Modi mengungkapkan keprihatinannya setelah muncul video palsu yang menunjukkan dia sedang menari Garba, yang dia sebut “asli” dan bersikeras bahwa dia tidak menari Garba sejak dia masih kecil.
Namun, seperti dikutip India Today, video ini tidak dalam, melainkan video yang bagus. Namun yang ada di sana adalah Vikas Mahante, seorang aktor dan pengusaha yang mirip dengan perdana menteri India.
Pemeriksa fakta India Today melaporkan bahwa Mahante membagikan video tersebut pada tanggal 7 November, ketika ia mengumumkan bahwa ia telah diundang sebagai tamu di Diwali Mela di London. Selain itu, Mahante melalui akun Instagramnya juga mengatakan bahwa orang dalam video tersebut tidak mendalam dan bukan Narendra Modi.
“Untuk menyadarkan isu berita palsu yang terjadi belakangan ini, Perdana Menteri India yang terhormat, Shri Narendra Modi, saya ingin memberi tahu Anda semua bahwa orang dalam video viral itu adalah saya, Tuan Vikas Mahante,” dia dikatakan. – dia menyatakan.
“Saya ingin mengklarifikasi bahwa saya sama sekali tidak mengaku atau meniru Modi ji dan saya tidak melakukan apa pun yang dapat mencoreng reputasinya sebagai Perdana Menteri India,” tegasnya.
Banyak aktris seperti Kajol, Katrina Kaif, dan Rashmika Mandanna yang menjadi sasaran pemalsuan belakangan ini.
Sumber & Foto: Dari berbagai sumber
