Antisipasi Deep Fake, Kominfo Lindungi Kelompok Rentan

TERBAIKNEWS.com | Kementerian Komunikasi dan Informatika (Kemkominfo) terus berupaya melindungi kelompok rentan seiring peningkatan pemanfaatan teknologi Artificial Intelligence (AI).

Wamenkominfo, Nezar Patria menegaskan telah mengantisipasi peluang penyebaran disinformasi yang menggunakan teknologi AI dan deep fake, terutama menjelang Pemilihan Umum Serentak Tahun 2024.

“Melalui algoritma dan otomasi yang dapat menghasilkan bias maupun otomasi yang bersifat preskriptif serta penyalahgunaan algoritma yang berpotensi menimbulkan disinformasi,” ungkapnya  dalam Seminar Nasional “Disinformasi dan Kelompok Rentan di Era Manipulasi Media Digital” di Wisma Magister Manajemen UGM, Yogyakarta, Kamis (16/11/2023).

Selama tahun 2023, data Home Security Heroes menunjukkan terdapat 95.820 video Deep Fake yang tersebar secara global. Teknik Depp Fake bisa memanipulasi video, gambar, dan suara secara digital sesuai dengan pesan yang tidak pernah terjadi di dunia nyata.

“Ada peningkatan sebesar 550 persen dari tahun 2019 secara global. Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi,” tandas Wamenkominfo.

Mengutip hasil survei UNESCO & IPSOS (2023), Wamen Nezar Patria menujukkan lebih dari 80 persen masyarakat yang akan menghadapi pemilihan umum percaya bahwa disinformasi telah berdampak pada politik di negara masing-masing dan khawatir akan dampak dari disinformasi tersebut. 

“Terlebih, dampak disinformasi bisa sangat luas, mulai dari potensi polarisasi politik, penurunan kepercayaan terhadap jurnalisme hingga proses demokrasi sendiri,” tegasnya.

Di era proliferasi AI dan ancaman disinformasi yang makin intensif, Wamenkominfo menilai kelompok rentan memiliki risiko yang lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi. 

Ada tiga dampak dan viktimisasi yang mungkin terjadi, pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan. Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan kelompok rentan. Ketiga, perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi deepfake.

Oleh karena itu, Kementerian Kominfo memberikan perhatian penuh pada kelompok rentan seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda.

“Pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman,” tandasnya.

Acara seminar juga dihadiri Guru Besar Sosiologi UGM Heru Nugroho, Guru Besar Universitas Negeri Yogyakarta Sugeng Bayu Wahyono, Peneliti Senior Depertemen Politik dan Perubahan Sosial Centre For Strategic and International Studies (CSIS) Vidhyandika Djati Perkasa, Wakil Dekan Bidang Keuangan, Aset dan Sumber Daya Manusia Khabib Mustofa UGM dan Manajer Program RUAS Indonesia Tarlen Handayani.

Tuliskan Komentar Anda di Sini