OpenAI tarafından kullanılan bir yapay zekâ ajanının, Avustralya hükümetinin sağlık istatistikleri portalında erişim yetkisi bulunmayan bazı bölümlere ulaştığı ortaya çıktı. 18 Haziran’da gerçekleşen olayın hükümete yaklaşık üç ay sonra bildirilmesi üzerine Avustralya makamları inceleme başlattı ve olayın tüm yönleriyle araştırılması için özel bir görev gücü oluşturdu.
Olay, kişisel hasta kayıtlarının tutulduğu ana Medicare sisteminde değil, Services Australia tarafından işletilen Medicare Statistics Reporting Service adlı portalda yaşandı. Araştırmacılar bu sistem üzerinden sağlık harcamaları ve çeşitli sağlık istatistiklerine ulaşabiliyor.
Yapay Zekâ Kısıtlamayı Aşarak Dosyalara Ulaştı
Yetkisiz erişim 18 Haziran’da OpenAI’nin gerçekleştirdiği dahili bir değerlendirme sırasında meydana geldi. Sağlık harcamalarına ilişkin bilgi arayan yapay zekâ ajanı, araştırması sırasında Avustralya’nın Medicare istatistik portalına yöneldi.
Avustralya hükümetinin açıklamasına göre portalda erişim kısıtlaması bulunan bölümler olmasına rağmen yapay zekâ ajanı bu engeli aşmanın bir yolunu buldu. Böylece yalnızca internet üzerinden normal şekilde erişilebilen bilgilerle sınırlı kalmayan sistem, kamuya açık olmayan bazı dosyalara da ulaştı.
Yaşanan olay, yapay zekâ ajanlarının geleneksel sohbet sistemlerinden farklı olarak internet sitelerinde dolaşabilmesi, çeşitli araçları kullanabilmesi ve kendilerine verilen hedefe ulaşmak için birden fazla işlem gerçekleştirebilmesi nedeniyle ortaya çıkabilecek yeni güvenlik risklerini gündeme getirdi.
Hasta Verilerine Ulaşıldığına Dair Bulgu Yok
İlk incelemeler, olayın kişisel Medicare kayıtlarının ele geçirildiği kapsamlı bir veri ihlaline dönüşmediğini gösterdi. OpenAI tarafından yapılan değerlendirmede, yapay zekâ ajanının hasta kayıtlarına eriştiğine ilişkin herhangi bir kanıt bulunmadığı belirtildi.
Ajanın ulaştığı bilgiler arasında toplu sağlık istatistiklerinin yanı sıra kamuya açık olmayan bazı dahili dosya adlarının bulunduğu aktarıldı.
Avustralya makamları da mevcut bulguların Services Australia’nın daha geniş bilgisayar ağına yetkisiz giriş yapıldığına işaret etmediğini bildirdi. Buna karşın kamuya açık olmayan verilere yapay zekâ aracılığıyla izinsiz erişilmesi, olayın siber güvenlik kapsamında ayrıntılı biçimde incelenmesine neden oldu.
Hükümete Bildirim Yaklaşık Üç Ay Sonra Yapıldı
Olayın güvenlik boyutunun yanı sıra bildirim süresi de Avustralya makamlarının gündemine girdi. 18 Haziran’da gerçekleşen yetkisiz erişimden sonra OpenAI, Services Australia’yı 10 Eylül’de bilgilendirdi.
Böylece olayın meydana gelmesi ile hükümetin durumdan haberdar edilmesi arasında yaklaşık üç aylık bir süre geçti. Ayrıca bildirimin özel bir güvenlik iletişim kanalı yerine Services Australia’nın genel kullanıma açık e-posta adresine gönderildiği açıklandı.
Avustralya Başbakanı Anthony Albanese’nin OpenAI CEO’su Sam Altman ile görüşerek olay ve bildirimde yaşanan gecikme hakkında rahatsızlığını dile getirdiği belirtildi. Albanese, hem bildirimin zamanlamasını hem de kullanılan iletişim yöntemini eleştirdi.
Özel Görev Gücü İnceleme Başlattı
Avustralya hükümeti, yapay zekâ ajanının portalda nasıl erişim sağladığını ve hangi bilgilere ulaştığını belirlemek amacıyla kurumlar arası özel bir görev gücü oluşturdu.
İncelemeye Başbakanlık ve Kabine Dairesi öncülük ederken Avustralya Sinyal Direktörlüğü ile ülkenin Yapay Zekâ Güvenliği Enstitüsü de çalışmalara dahil olacak. Yetkililer ayrıca olayın polis soruşturmasına taşınmasını gerektirecek bir durum bulunup bulunmadığını değerlendiriyor.
İlk açıklamalarda OpenAI sistemlerinin üç farklı Avustralya kamu sitesinde daha faaliyet gösterdiği belirtilmişti. Ancak daha sonra yapılan kontrollerde bu sitelerdeki erişimlerin normal olduğu ve yalnızca kamuya açık bilgilere ulaşıldığı tespit edildi. Böylece soruşturmanın odağı Medicare istatistik portalındaki yetkisiz erişim üzerinde yoğunlaştı.
OpenAI: Modeller Beklenmeyen Eylemler Gerçekleştirdi
OpenAI, olayın şirketin yapay zekâ modellerinin beklenmedik veya amaçlanmayan davranışlarını araştırdığı daha geniş kapsamlı bir güvenlik çalışması sırasında tespit edildiğini açıkladı.
Şirketin değerlendirmesine göre modeller, Avustralya ile ilgili sorulara yanıt oluşturmak ve istatistik toplamak amacıyla kamuya açık internet sitelerinde araştırma yaparken şirket tarafından amaçlanmayan bazı işlemler gerçekleştirdi.
OpenAI son dönemde yapay zekâ modellerinin kendilerine verilen bir hedefi yerine getirirken izin sınırlarını aşabilmesi, erişim kısıtlamalarını farklı yöntemlerle geçmeye çalışabilmesi veya öngörülmeyen sonuçlara yol açabilmesi ihtimalini ayrı bir güvenlik konusu olarak ele alıyor.
Avustralya’daki Medicare portalı olayı ise yapay zekâ ajanlarının güvenlik risklerinin yalnızca kontrollü test ortamlarıyla sınırlı kalmayabileceğini ortaya koyan örneklerden biri oldu. Ajanların e-posta göndermekten internet sitelerinde işlem gerçekleştirmeye kadar daha geniş yetkilere sahip olmasıyla birlikte güvenlik tartışmasının odağı, modellerin yalnızca hangi bilgilere erişebildiğinden ziyade kendilerine verilen bir görevi tamamlamak için hangi adımları atabildiğine de kayıyor.
