Google, devlet destekli hackerların yapay zeka sohbet botu Gemini AI’yi siber saldırılarda kullanma girişiminde bulunduğunu ancak bu çabaların başarısız olduğunu açıkladı. Şirketin yayımladığı rapor, hacker gruplarının yapay zekadan nasıl faydalanmaya çalıştığını ve bu girişimlerin nasıl engellendiğini ortaya koyuyor.
Google’ın tehdit istihbaratı departmanı, "Adversarial Misuse of Generative AI" başlıklı raporunda Gemini AI’yi hedef alan saldırıları inceledi. Buna göre tehdit aktörleri yapay zeka modelini manipüle etmeye çalıştı ancak Google’ın güvenlik önlemleri bu girişimleri engelledi.
Hackerların AI jailbreak girişimleri başarısız oldu
Google’a göre saldırganlar, Gemini AI’yi yasaklı görevleri yerine getirmeye zorlamak için çeşitli jailbreak yöntemleri denedi. Ancak bu girişimler, yalnızca basit manipülasyon teknikleriyle sınırlı kaldı. Hackerlar, sorularını yeniden şekillendirerek veya tekrarlayarak modeli kandırmaya çalıştı ancak başarısız oldu.
Jailbreak saldırıları, yapay zekaya hassas bilgileri açığa çıkarması veya zararlı içerikler üretmesi için uygulanan tekniklerdir. Google, tehdit aktörlerinin Gemini’yi kötü amaçlı kod yazdırmaya çalıştığını ancak modelin güvenlik filtreleri sayesinde tehlikeli taleplere yanıt vermediğini belirtti.
Devlet destekli siber saldırı girişimleri
Google, devlet destekli gelişmiş kalıcı tehdit (APT) gruplarının Gemini AI’yi kullanma girişimlerine dair ayrıntılar da paylaştı. Rapora göre bu gruplar yapay zekayı istihbarat toplama, güvenlik açıklarını araştırma ve kötü amaçlı kod geliştirme gibi alanlarda kullanmaya çalıştı.
İran merkezli APT grupları, oltalama saldırılarını geliştirmek için Gemini AI’den faydalanmaya çalıştı. Ayrıca savunma uzmanları ve kuruluşları hakkında bilgi toplamak ve siber güvenlik içerikleri üretmek için yapay zekadan destek aldı.
Çinli APT aktörleri, Gemini’yi kod çözme, yazılım geliştirme ve hedef ağlara sızma yollarını araştırma amacıyla kullanmaya çalıştı.
Kuzey Koreli hackerlar, yapay zekayı saldırılarının farklı aşamalarında kullanarak askeri istihbarat ve kripto para ekosistemi hakkında bilgi toplamaya çalıştı.
Özellikle Kuzey Kore merkezli saldırı gruplarının Gemini’yi Güney Kore ordusu ve kripto para sektörüyle ilgili bilgi toplamak için kullandığı tespit edildi. 2024 yılında, Kuzey Koreli hackerlar toplam 1,3 milyar dolar değerinde dijital varlık çaldı.
