Yapay zekânın askeri amaçlarla kötüye kullanımına ilişkin dikkat çekici bir örnek daha ortaya çıktı. Anthropic’in yayımladığı son tehdit istihbaratı raporuna göre Yemen merkezli bir grup, şirketin Claude Code aracını füze ve güdümlü roket programlarında kullanılabilecek yazılımların geliştirilmesi için kullandı. Şirket, grubun farklı Claude oturumlarını insan mühendislerden oluşan bir ekip gibi organize ettiğini ve bazı güvenlik kontrollerini aşmaya çalıştığını belirtti.
2 Bin Kilometrenin Üzerinde Menzil Hedeflediler
Anthropic’in tespitlerine göre Yemen’deki grup aynı dönemde birden fazla silah programı üzerinde çalıştı. Bunlar arasında son aşamada hedefe yönelmesi amaçlanan güdümlü roket ile çok aşamalı bir balistik füze projesi bulunuyordu.
Balistik füze programında 2 bin kilometrenin üzerinde menzil hedeflendiği, ayrıca hipersonik süzülme aracı içeren farklı füze varyantları üzerinde de çalışmalar yürütüldüğü belirtildi. Grubun kimliği Anthropic tarafından açıklanmadı. Ancak rapordaki bilgiler ve Yemen’deki askeri yapı nedeniyle uluslararası basında grubun İran destekli Husiler olabileceği değerlendirmesi yapıldı.
Claude’u Mühendis Ekibi Gibi Kullandılar
Vakanın en dikkat çekici tarafı, yapay zekânın yalnızca araştırma veya bilgi edinme amacıyla kullanılmamış olmasıydı. Grup, Claude Code’u doğrudan yazılım geliştirme sürecine dahil ederek farklı görevleri birden fazla oturuma dağıttı.
Bir Claude oturumunun kod üretmesi, başka bir oturumun teknik araştırma yapması, diğerinin ise ortaya çıkan yazılımı inceleyerek hataları tespit etmesi sağlandı. Böylece yapay zekâ, tek başına bir danışman olmaktan çıkarılıp küçük bir yazılım mühendisliği ekibinin parçaları gibi kullanıldı.
Anthropic’e göre Claude, uçuş kontrolü, navigasyon ve güdüm yazılımlarıyla bağlantılı çalışmalarda kullanıldı. Grup ayrıca açık kaynaklı bir otomatik pilot sistemini telefon sınıfı bir uçuş bilgisayarına uyarlamak ve yazılımın çalıştırılmasını sağlayacak süreçler oluşturmak için de Claude’dan yararlandı.
Güvenlik Kontrollerini Aşmaya Çalıştılar
Anthropic’in güvenlik sistemleri, grubun taleplerinin önemli bölümünü engelledi. Ancak kullanıcıların yazılımın gerçek amacını gizlediği ve çalışmaları farklı Claude oturumlarına bölerek güvenlik mekanizmalarının önüne geçmeye çalıştığı belirlendi.
Bu yöntem, silah geliştirme sürecinin tamamının tek bir yapay zekâ oturumunda görünmesini engelledi. Farklı oturumlarda gerçekleştirilen çalışmalar bir araya getirildiğinde ise füze ve roket sistemlerinin güdüm, navigasyon ve kontrol bileşenleriyle bağlantılı bir geliştirme süreci ortaya çıktı.
Anthropic, söz konusu hesapları kapattığını ve elde ettiği bilgileri güvenlik ortaklarıyla paylaştığını açıkladı. Şirket ayrıca bu olayın ardından kötüye kullanımı tespit etmeye yönelik sistemlerini güçlendirdiğini bildirdi.
Güdümlü Roket Test Edildi
Faaliyetlerin yalnızca bilgisayar ortamında kalmadığı da raporda yer aldı. Anthropic’in değerlendirmesine göre grup, geliştirme sürecindeki güdümlü roketi sahada test etti.
İlk testin başarısız olmuş göründüğü belirtilirken grubun denemeden yalnızca birkaç saat sonra yeniden Claude’a başvurarak roketin neden çalışmadığını analiz etmeye başladığı aktarıldı. Bu durum, yapay zekânın silah geliştirme sürecinde yalnızca tasarım aşamasında değil, başarısız testlerin değerlendirilmesi ve sonraki denemelerin hazırlanması gibi aşamalarda da kullanılmaya çalışıldığını gösterdi.
Bununla birlikte Anthropic, grubun operasyonel olarak kullanılabilecek başarılı bir güdümlü silah geliştirdiğine ilişkin kanıt bulunmadığının altını çiziyor.
Yapay Zekâda Askeri Kötüye Kullanım Alarmı
Anthropic’in raporu yalnızca Yemen’deki vakayı kapsamıyor. Şirket, son dönemde Claude’un konvansiyonel silah programlarıyla bağlantılı çalışmalarda Çin, Rusya ve Yemen’deki aktörler tarafından kullanılmaya çalışıldığını belirledi. Bu vakalar arasında insansız hava araçları, elektronik harp ve farklı askeri sistemlere yönelik yazılım çalışmaları da bulunuyor.
Şirketin daha geniş güvenlik araştırmaları, özellikle Claude Code gibi araçların yapay zekâyı yalnızca yanıt veren bir sistem olmaktan çıkarıp daha uzun ve karmaşık mühendislik süreçlerini yürütebilen bir araca dönüştürdüğünü ortaya koyuyor. Anthropic, bu tür “ajan” özelliklerinin kötü niyetli aktörlerin kapasitesini artırabileceği konusunda uyarıyor.
Türkiye Açısından Neden Önemli?
Yemen’deki gelişme, Türkiye açısından da yalnızca bir yapay zekâ güvenliği başlığı değil. Yemen merkezli Husilerin Kızıldeniz ve çevresindeki faaliyetleri, deniz taşımacılığı ve enerji ticareti açısından zaten kritik bir güvenlik riski oluşturuyor.
Yapay zekânın daha küçük grupların teknik geliştirme kapasitesini artırması halinde, füze, İHA ve askeri yazılım alanlarındaki tehditlerin daha hızlı ortaya çıkabileceği değerlendiriliyor. Bu durum özellikle Babülmendep, Kızıldeniz ve Körfez çevresindeki güvenlik dengelerini yakından ilgilendiriyor.
Dolayısıyla Anthropic’in ortaya çıkardığı vaka, yapay zekânın yalnızca siber saldırılar veya dezenformasyon amacıyla değil, fiziksel silah sistemlerinin geliştirilmesinde de kullanılmaya çalışıldığını gösteren yeni bir örnek olarak öne çıkıyor. Şirketin raporu, gelişmiş yapay zekâ araçlarının kötüye kullanımını engelleme çabalarının artık doğrudan askeri teknolojiler alanına da uzandığını ortaya koyuyor.
