Mevcut ve emekli askeri yetkililer, rakiplerin yapay zeka (YZ) sohbet robotlarındaki doğal bir kusuru kullanarak kritik verileri çalma veya kamuoyunu manipüle etme potansiyeli taşıyan “hızlı enjeksiyon saldırılarına” karşı ciddi uyarılarda bulunuyor. Bu tür saldırılar, büyük dil modellerinin (LLM), kötü niyetli talimatlar ile güvenilir kullanıcı komutları arasındaki ayrımı yapamamasından kaynaklanıyor. İsrail Savunma Kuvvetleri siber savaş biriminin eski üyesi Liav Caspi, bu durumu “saflarınızda bir casus varmış gibi” olarak tanımlıyor.
Güvenilir Casusu İkna Etmek: Saldırı Mekaniği
Hızlı enjeksiyon (Prompt Injection) saldırıları, kötü amaçlı talimatların (bazen beyaz veya küçük metinlerle) bir sohbet robotuna veya robotun okuduğu harici bir içeriğe (PDF, blog yazısı vb.) gizlenmesini içeriyor. Legit Security kurucu ortağı Caspi’ye göre, bir düşman bu yöntemle içerideki bir YZ asistanını kayıtları silmek veya hassas verileri çalmak gibi “yapmaması gereken bir şeyi yapmaya ikna edebiliyor.”
Microsoft’un yıllık dijital savunma raporunda da ilk kez, YZ sistemlerinin bu yöntemlerle saldırganlar için “yüksek değerli hedefler” haline geldiği belirtildi. OpenAI ve güvenlik araştırmacıları, hızlı enjeksiyon sorununun kolay bir çözümü olmadığını vurguluyor. OpenAI’nin bilgi güvenliği sorumlusu Dane Stuckey, rakiplerin bu açığı kullanmak için önemli kaynak harcayacağını kabul ediyor.
Savunma Stratejisi: Karantina ve Erişimi Sınırlama
Uzmanlar, hızlı enjeksiyonu tamamen engellemek mümkün olmasa da, etkisinin sınırlanması gerektiğini belirtiyor. Çözüm, YZ asistanının hassas kurumsal verilere ve kullanıcının diğer verilere erişimini kısıtlamaktan geçiyor.
ABD Ordusu, bu amaçla kullanıcıların YZ modellerinin (Gemini, Copilot vb.) erişebileceği verileri kısıtlamasına olanak tanıyan Ask Sage adlı bir araç dağıtıyor. Bu sistem, saldırıyı, içerideki casusun odadan çıkamadığı veya hassas bilgiyi aktaramadığı bir karantina durumuna benzetiyor.
Eski Ordu siber subayı Andre Slonopas ise, YZ’nin saldırı hızının inanılmaz derecede yüksek olduğunu ve insanların buna karşı koyamadığını belirterek, “siber güvenlik yapay zekasını daha erişilebilir ve daha uygun fiyatlı hale getirme” ihtiyacını vurguluyor. Çin’in, YZ’yi en saldırgan şekilde kullanan ülke olarak öne çıktığı da askeri yetkililer tarafından dile getirilen önemli bir endişe.
