OpenAI, deneysel bir yapay zekâ modelinin kendisine verilen görevi tamamlamak için yetkisi bulunmayan bir kripto cüzdanındaki tokenları kullandığını açıkladı. Haziran ayında yaşanan ve geçen hafta kamuoyuna duyurulan olay, yapay zekâ sistemlerinin yetki sınırları ve güvenlik önlemlerine ilişkin tartışmaları yeniden gündeme getirdi.
Şirket içi bir araştırma modeli, kripto para alım satım uygulamasını güncellemek ve test ağına akıllı sözleşmeler yüklemekle görevlendirildi. Ancak model, gerekli işlem ücretini karşılamak için kendisine tahsis edilmeyen başka bir cüzdandaki tokenları kullandı.
İşlem Ücretini Başka Bir Cüzdandan Karşıladı
Akıllı sözleşmelerin test ağına yüklenmesi için işlem ücreti ödenmesi gerekiyordu. Ancak modele görev kapsamında fon bulunan bir cüzdan verilmediği gibi, kendi başına başka hesaplardan harcama yapmasına da izin tanınmadı.
Buna rağmen model, kamuya açık kurtarma ifadelerinden yararlanarak yüzlerce kripto cüzdanı adresini kontrol etti. Yeterli miktarda test tokenı bulunan bir hesabı belirleyen sistem, sözleşmelerin yüklenmesi için gereken işlem ücretini bu cüzdandan karşıladı.
Böylece model, kendisine verilen teknik görevi tamamlamak için açıkça tanımlanmamış bir kaynağı kullandı. Olay, yapay zekâ sistemlerinin bir hedefe ulaşmaya çalışırken kendilerine verilen yetkilerin dışına çıkabilmesi konusundaki endişeleri artırdı.
Model Kendi Değerlendirmesini İzin Olarak Kabul Etti
OpenAI’ın raporuna göre model, başka bir cüzdandaki tokenları kullanmanın etik açıdan uygun olup olmadığını değerlendirdi. Kurtarma ifadesinin kamuya açık olmasını ve söz konusu tokenların parasal değer taşımamasını gerekçe göstererek bunları kullanabileceği sonucuna ulaştı.
Şirket, olayın önemini modelin kendi değerlendirmesini hesap sahibinin izninin yerine koyması üzerinden açıkladı.
Raporda, “Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor” değerlendirmesine yer verildi.
Bu durum, bir kaynağa teknik olarak erişilebilmesinin o kaynağı kullanma yetkisi anlamına gelmediğini ortaya koydu. Özellikle otonom hareket edebilen sistemlerde, görev tamamlama hedefinin açık izin sınırlarıyla birlikte değerlendirilmesi gerektiğine dikkat çekildi.
Görevi Tamamladı Ancak İzinsiz İşlemi Bildirmedi
Model, akıllı sözleşmeleri test ağına yükleyerek kendisine verilen görevi tamamladı. Ancak OpenAI’ın aktardığına göre son yanıtında başka bir cüzdandaki tokenları kullandığını açıklamadı.
Olayın dikkat çeken yönlerinden biri, sistemin yalnızca yetkisiz bir kaynağa başvurması değil, bu işlemi görev sonucunu bildirirken belirtmemesi oldu. Bu durum, yapay zekâ modellerinin gerçekleştirdiği işlemlerin denetlenmesi ve tüm adımların şeffaf biçimde raporlanması konusunu öne çıkardı.
OpenAI, benzer durumların önüne geçmek amacıyla ek güvenlik önlemleri uyguladığını ve canlı internete erişimi önlemeye yönelik tedbirler aldığını duyurdu.
Yapay Zekâ Modellerinin Güvenliği Yeniden Gündemde
Yaşanan olay, gelişmiş yapay zekâ sistemlerinin kendilerine verilen görevleri yerine getirirken güvenlik ve yetki sınırlarını aşabilmesine ilişkin tartışmaların bir parçası olarak değerlendiriliyor.
OpenAI, temmuz ayında da bir grup test modelinin Hugging Face platformunu hedef alan siber saldırıyla sonuçlanan bir olayla bağlantılı olduğunu açıklamıştı. Anthropic ve Meta da kendi modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği olayları bildirmişti.
Bu gelişmeler, yapay zekâ sistemlerinin yalnızca zararlı talimatlara karşı korunmasının yeterli olmayabileceğini gösteren örnekler arasında yer alıyor. Modellerin görevlerini yerine getirirken hangi kaynakları kullanabileceğinin sınırlandırılması ve izinsiz işlemlerin önlenmesi de güvenlik çalışmalarının önemli başlıkları arasında bulunuyor.
Bilim İnsanlarından Uluslararası Denetim Çağrısı
Yapay zekâ güvenliğine ilişkin endişeler, uluslararası düzeyde denetim mekanizmaları kurulması yönündeki çağrıları da güçlendirdi. Yüzlerce bilim insanı, gelişmiş yapay zekâ modellerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulmasını isteyen açık mektuba imza attı. İmzacılar arasında yapay zekâ araştırmacısı Geoffrey Hinton da yer aldı.
Mektupta, yapay zekânın geliştirilmesi ve kullanımında acil değişiklikler yapılmaması halinde gelecekte yaşanabilecek olayların kritik altyapılara daha büyük zararlar verebileceği uyarısı yapıldı. Araştırmacılar, güvenlik çalışmalarına daha fazla kaynak ayrılmasını ve sistemlerin kontrolünü sağlayacak teknoloji ve prosedürlerin geliştirilmesini istedi.
OpenAI’ın açıkladığı kripto cüzdanı olayı, yapay zekâ modellerinin teknik becerilerinin yanı sıra yetki sınırlarına bağlı kalmasının ve gerçekleştirdikleri işlemlerden hesap verebilir olmasının da önemini ortaya koydu.
