Pakar Keamanan Siber Ingatkan Dampak Hoaks dan Deepfake yang Memanfaatkan AI

Admin CPG, Jakarta – Konten hoaks dan fenomena deepfake (gambar subjek manusia yang dihasilkan komputer dan tidak ada dalam kehidupan nyata) menjamur di banyak negara, terutama dengan hadirnya teknologi artificial intelligence (AI) yang semakin canggih dan kompleks. Kondisi ini membuat pemerintah harus bekerja ekstra dalam membatasinya, supaya pengguna internet tidak terpapar konten disinformasi. Dampak buruk perkembangan AI ini, disampaikan oleh pakar keamanan siber dan manajemen risiko digital dari Amerika Serikat, Melissa Hathaway.

Perempuan yang akrab disapa Melissa itu, hadir lewat Zoom saat diskusi integrasi kecerdasan buatan di Jakarta, Selasa, 7 Mei 2024. Dia berpendapat bahwa pengguna media sosial harus mempunyai kemampuan untuk tidak mudah percaya pada konten yang dilihatnya. Kemampuan ini diklaim ampuh untuk memastikan dan menjaga pengguna terhindar dari paparan hoaks di sosial media.

Melissa mengingatkan untuk tidak terburu-buru menyebarkan konten yang dilihatnya di media sosial maupun website. Sebab, bisa jadi konten tersebut adalah hoaks dan diproduksi dengan AI untuk menarik pembaca yang lebih banyak. “Ketika Anda memposting semua informasi yang Anda dapat, maka akan sangat mudah untuk membuat konten hoaks tersebar. Sebab itu perlu kemampuan untuk menganalisis konten ini terlebih dahulu sebelum disebar,” kata Mellisa.

Cara yang dapat dilakukan untuk memastikan kebenaran sebuah konten, kata Mellisa, adalah dengan memastikan sumber dari informasi yang dimuatnya. Konten hoaks yang diproduksi oleh AI biasanya tidak memiliki sumber yang jelas dan cenderung sensasional. Menurut dia, konten serupa ini paling banyak tersebar di Facebook dan media sosial X.

Melissa membandingkan Amerika Serikat dengan negara lain dalam memerangi hoaks. Dia menilai AS sudah mempunyai cukup banyak teknisi untuk mengurangi konten disinformasi dan deepfake. Bahkan disediakan laboratorium khusus untuk menghapus, mengidentifikasi hingga menuntut penyebar konten. Namun itu belum bisa sepenuhnya mengatasi masalah ini.

“Berita palsu menyebar seperti virus bahkan lebih banyak dari konten yang berisi fakta. Si pembuat konten palsu menggunakan kecanggihan AI untuk mengedit dan membagikannya supaya terkesan asli. Fenomena ini menakutkan jika tidak diatasi dan perlu regulasi yang tegas dari setiap negara,” kata Mellisa, dalam acara yang dihadiri para mahasiswa dari Universitas Multimedia Nusantara di Ruang America, Pacific Place Mall, jakarta itu.

Iklan

Menurut Melissa, penyebar deepfake dan konten hoaks seperti mengeksploitasi kerentanan psikologis korban. Pelaku menggunakan kecanggihan AI sehingga mampu mengecek algoritma TikTok dan media sosial lainnya, bahkan hingga ke jenis musik yang disukai. Ketika semua informasi dasar ini didapatkan, maka sangat mudah untuk menipu pengguna di media sosial.

Konten dengan unsur disinformasi juga membuat situasi menjadi rusak akibat dimanipulasi. “Masyarakat bisa saja tidak menyukai orang lain atau pemerintah sebuah negara akibat konten disinformasi ini. Padahal kebenaran data yang disampaikan tidak jelas sumber dan keakuratannya,” ujar Mellisa. Ia mendorong penguatan kualitas dan literasi media sosialnya supaya masyarakat terhindar dari paparan konten hoaks dan disinformasi ini.

Dalam kesempatan yang sama, staf Kementerian Komunikasi dan Informatika (Kominfo), Mediodecci Lustarini menjelaskan bahwa AI bisa mengetahui preferensi pengguna dalam bermedia sosial. Kemampuan yang canggih ini akan mempersonalisasi konten untuk bisa dilihat setiap saat di media sosial. Jika konten yang dipaparkan ini adalah hoaks, maka penyebaran disinformasi bisa semakin masif.

“Kondisi seperti ini sudah terjadi di masa sekarang, jadi bukan prediksi atau potensi lagi. Indonesia sedang mengatur lebih detail soal mengatasi AI ini. Sekarang baru masih dalam tahap (ada) pedoman etika dan regulasi saja. Sebab sangat perlu kajian yang dalam dan khusus untuk memetakan dampak buruk AI,” kata Lustarini.