Penggunaan AI Meningkat dalam Kempen Pengaruh dalam Talian, Namun Kesan Terhad - Syarikat Siber AS Utama Melaporkan

Dalam laporan bersemangat yang dikeluarkan pada 17 Ogos, firma siber keselamatan Mandiant di bawah naungan Google, menerangkan trend meningkatnya penggunaan kecerdasan buatan (AI) untuk kempen maklumat manipulatif dalam talian. Walaupun peranan AI dalam intrusi digital yang lain masih agak terhad, landskapnya sedang berubah.

Penyelidik di Mandiant, yang beribu pejabat di Virginia, telah mengamati pelbagai kejadian sejak 2019 di mana kandungan yang dijana oleh AI, termasuk imej profil yang dihasilkan secara palsu, telah digunakan untuk usaha pengaruh dalam talian yang bermotifkan politik. Aktiviti-aktiviti ini telah dikenalpasti kepada pelbagai kumpulan yang berkaitan dengan kerajaan negara seperti Rusia, China, Iran, Ethiopia, Indonesia, Cuba, Argentina, Mexico, Ecuador, dan El Salvador.

Pendedahan ini timbul di tengah-tengah peningkatan berterusan dalam model AI generatif, seperti ChatGPT, yang sangat memudahkan pembangunan video, imej, teks, dan kod palsu yang meyakinkan. Komuniti keselamatan siber telah membangkitkan keprihatinan mengenai penyalahgunaan model-model sedemikian oleh penjenayah siber.

Penggunaan AI generatif memberi kuasa kepada entiti yang terhad sumber untuk menghasilkan kandungan berkualiti tinggi untuk kempen pengaruh dalam skala besar, kata pakar-pakar Mandiant.

Sebagai contoh, ambil inisiatif maklumat pro-China yang dinamakan Dragonbridge. Bermula pada tahun 2019 untuk mengesan peserta demonstrasi pro-demokrasi di Hong Kong, ia sejak itu berkembang pesat, menyebar ke 30 platform sosial dan merangkumi 10 bahasa. Sandra Joyce, Naib Presiden Mandiant Intelligence, menyoroti contoh ini sebagai satu contoh pertumbuhan eksponensial.

Namun begitu, impak sebenar kempen-kempen ini masih terhad. Seperti yang diterangkan oleh Joyce, "Dari segi keberkesanan, tidak banyak kemenangan yang dicapai. Usaha-usaha ini belum mengubah haluan landskap ancaman."

China secara konsisten menafikan tuduhan keterlibatan dalam kempen pengaruh sedemikian pada masa lalu.

Mandiant, terkenal kerana membantu entiti awam dan swasta dalam menangani pelanggaran digital, menyatakan bahawa walaupun AI belum memainkan peranan utama dalam ancaman dari Rusia, Iran, China, atau Korea Utara, landskapnya sedang berubah. Pada masa terdekat, sumbangan AI terhadap intrusi digital dijangka akan terhad.

Joyce menekankan, "Sehingga kini, kami belum menghadapi sebarang tindak balas insiden yang menampilkan AI dengan ketara. Pelaksanaan praktikal AI belum melebihi keupayaan alat konvensional yang kami dapati."

Namun, dia menambah nota yang tepat, menyatakan, "Kita boleh yakin bahawa cabaran ini akan menjadi lebih signifikan seiring berlalunya masa."

Source : Reuters (Reporting by Zeba Siddiqui)