LONDON – Laporan terbaru menunjukkan bahwa generative Kecerdasan Buatan i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, lalu aktivitas jahat lainnya.
Salah satu serangan yang mana teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dijalankan oleh aktor ancaman selama China yang mana memiliki target pemerintah di dalam Asia.
Seperti dilansir dari CNET, metode spear-phishing yang mana digunakan dikenal dengan nama ‘SweetSpecter’, yang mana melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diambil dan juga dibuka, file ini dapat menciptakan rantai infeksi di tempat sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang mana memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip lalu menemukan kerentanan dengan alat LLM.
Serangan berbasis Kecerdasan Buatan kedua diadakan oleh kelompok selama Iran yang dimaksud dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan dan juga mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang mana dipimpin oleh kelompok lain selama Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan juga riwayat penelusuran, mendapatkan lokasi tepat perangkat, juga mengakses file di dalam perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang dimaksud telah ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tak ada indikasi bahwa Asisten Percakapan GPT menciptakan malware baru yang tersebut substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Kecerdasan Buatan untuk menimbulkan alat serangan yang tersebut berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa mereka itu akan terus meningkatkan keamanan Teknologi AI dia untuk menjaga dari metode-metode sejenis digunakan di tempat masa depan.
Selain itu, dia akan bekerja sejenis dengan kelompok keamanan internal juga terus berbagi temuan dengan rekan lapangan usaha dan juga komunitas riset guna menjaga dari situasi sama terulang.
