Perlindungan kelompok rentan dalam menghadapi pemanfaatan teknologi Artificial Intelligence (AI) menjadi hal yang perlu mendapatkan perhatian serius seiring perkembangan teknologi saat ini.
Wamenkominfo, Nezar Patria, menegaskan langkah-langkah antisipatif telah diambil untuk menghadapi potensi penyebaran disinformasi yang menggunakan teknologi AI dan deep fake, terutama menjelang Pemilihan Umum Serentak Tahun 2024.
“Melalui algoritma dan otomasi yang dapat menghasilkan bias maupun otomasi yang bersifat preskriptif serta penyalahgunaan algoritma yang berpotensi menimbulkan disinformasi,” ungkapnya dikutip dari keterangan resmi.
Selama tahun 2023, data dari Home Security Heroes mencatat adanya 95.820 video deep fake yang tersebar secara global. Teknik deep fake memiliki kemampuan untuk memanipulasi video, gambar, dan suara secara digital, menciptakan konten yang tampak autentik tetapi sesungguhnya tidak pernah terjadi di dunia nyata.
Fenomena ini menunjukkan dampak yang signifikan dari penggunaan teknologi deep fake dalam menyebarkan konten manipulatif secara luas di berbagai platform.
“Ada peningkatan sebesar 550 persen dari tahun 2019 secara global. Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi,” tandas Wamenkominfo.
Prodi Teknik Robotika dan Kecerdasan Buatan: The One and Only in Indonesia
Potensi dampak yang buruk
Mengutip hasil survei UNESCO & IPSOS (2023), Wamen Nezar Patria menyoroti bahwa lebih dari 80 persen masyarakat yang akan menghadapi pemilihan umum percaya bahwa disinformasi telah berdampak signifikan pada politik di negara mereka masing-masing dan menyatakan keprihatinan terhadap dampak yang mungkin dihasilkan dari penyebaran disinformasi.
Dampak disinformasi, menurut Wamen Nezar Patria, mencakup potensi polarisasi politik, penurunan kepercayaan terhadap jurnalisme, dan bahkan dapat merugikan proses demokrasi secara keseluruhan.
Perhatian terhadap dampak luas ini menekankan pentingnya menghadapi tantangan yang muncul seiring dengan kemajuan teknologi, termasuk dalam konteks pemilihan umum, untuk memastikan integritas dan keberlanjutan proses demokrasi.
Di era penggunaan AI dan ancaman disinformasi yang semakin intensif, Wamenkominfo menilai bahwa kelompok rentan memiliki risiko yang lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi.
Artificial Intelligence: Peluang atau Ancaman?
Terdapat tiga dampak dan viktimisasi yang mungkin terjadi. Pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan.
Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja untuk merugikan kelompok rentan.
Ketiga, perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi deepfake.
Oleh karena itu, Kementerian Kominfo memberikan perhatian penuh pada kelompok rentan seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda.
"Pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman," imbuhnya.
Sisi Lain Telemedicine: Pantaskah Artificial Intelligence Menjadi Andalan Health 4.0?
Cek berita, artikel, dan konten yang lain di Google News
