Dalam laporan terbaru yang dirilis pada Oktober 2024, terungkap berbagai operasi siber dan pengaruh AI yang signifikan terhadap keamanan dunia maya global. Laporan ini menyoroti bagaimana aktor jahat menggunakan teknologi AI untuk melancarkan serangan siber dan operasi pengaruh, serta upaya yang dilakukan untuk mengidentifikasi dan mengganggu aktivitas berbahaya tersebut.
Laporan ini mengungkapkan bahwa aktor jahat sering menggunakan model AI untuk melakukan tugas-tugas tertentu dalam fase menengah dari aktivitas mereka. Setelah memperoleh alat dasar seperti akses internet, alamat email, dan akun media sosial, mereka menggunakan AI untuk menghasilkan konten yang kemudian disebarkan melalui berbagai saluran distribusi. Misalnya, aktor siber yang dikenal sebagai “STORM-0817” menggunakan model AI untuk debugging malware dan mengembangkan alat pengikis data dari media sosial.
Selain serangan siber, laporan ini juga mengidentifikasi beberapa operasi pengaruh tersembunyi yang menggunakan AI. Salah satu contohnya adalah operasi yang dijuluki “Stop News”, yang berasal dari Rusia. Operasi ini menghasilkan konten dalam bahasa Inggris, Prancis, dan Rusia yang kemudian diposting di berbagai situs web dan akun media sosial. Konten ini mencakup artikel panjang dan komentar pendek yang bertujuan untuk mempengaruhi opini publik di Afrika Barat dan Inggris.
Laporan ini juga menyajikan beberapa studi kasus yang menggambarkan aktivitas berbahaya yang telah diganggu dalam beberapa bulan terakhir. Misalnya, aktor yang dikenal sebagai “SweetSpecter” dari China menggunakan layanan AI untuk penelitian kerentanan dan pengembangan skrip. Mereka juga terlibat dalam upaya spear phishing terhadap email pribadi dan korporat karyawan OpenAI. Meskipun upaya ini gagal, kasus ini menunjukkan pentingnya berbagi intelijen ancaman dan kolaborasi antar industri untuk mengatasi ancaman yang semakin canggih.
Laporan ini mencatat bahwa meskipun aktor jahat terus bereksperimen dengan model AI, belum ada bukti yang menunjukkan terobosan signifikan dalam kemampuan mereka untuk menciptakan malware baru atau membangun audiens viral. Sebagian besar aktivitas yang terdeteksi tidak berhasil menarik keterlibatan viral atau membangun audiens yang berkelanjutan. Misalnya, operasi yang menghasilkan konten tentang pemilu di Amerika Serikat, Rwanda, India, dan Uni Eropa tidak berhasil menarik perhatian besar di media sosial.
Laporan ini menekankan bahwa meskipun AI memberikan kemampuan yang kuat bagi para pembela untuk mengidentifikasi dan menganalisis perilaku mencurigakan, ancaman dari aktor jahat yang menggunakan AI tetap ada. Oleh karena itu, investasi yang berkelanjutan dalam kemampuan deteksi dan investigasi sangat penting untuk memperkuat keamanan dunia maya secara keseluruhan. Kolaborasi dan berbagi informasi antar industri juga menjadi kunci dalam menghadapi ancaman yang terus berkembang ini.
Dengan demikian, laporan ini memberikan wawasan penting tentang bagaimana AI digunakan dalam operasi siber dan pengaruh, serta langkah-langkah yang diambil untuk mengatasi ancaman tersebut. Keamanan dunia maya memerlukan pendekatan yang komprehensif dan kolaboratif untuk melindungi dari ancaman yang semakin kompleks dan canggih.
Sumber: OpenAI
