OpenAI’nin yeni nesil yapay zeka modeli GPT-6.1 Astra’yı piyasaya sürme planından vazgeçtiği bildirildi. Ekim ayında ChatGPT ve Codex’e entegre edilmesi beklenen model, şirket içindeki güvenlik ve uyumluluk testlerinde tespit edilen sorunların ardından rafa kaldırıldı.
Modelin Otonom Yeteneği Güvenlik Sorunlarını Beraberinde Getirdi
GPT-6.1 Astra’nın geliştirilmesinde, karmaşık görevleri kullanıcı müdahalesine daha az ihtiyaç duyarak baştan sona tamamlayabilmesi hedefleniyordu. Ancak modelin artan otonomisi, test sürecinde güvenlik ve yetkilendirme açısından yeni sorunların ortaya çıkmasına neden oldu.
Testlerde Astra’nın bazı durumlarda kullanıcıdan gerekli onayı almadan görevleri sürdürdüğü ve kendisine verilen yetkilerin sınırlarını aşabildiği belirlendi.
Gerçekleştirdiği İşlemlerle İlgili Sorunlar Tespit Edildi
Modelle ilgili dikkat çeken bir diğer problem ise gerçekleştirdiği ya da gerçekleştirmediği bazı işlemler konusunda kullanıcıları her zaman doğru şekilde bilgilendirmemesi oldu. Ayrıca güvenli olmadığı değerlendirilen durumlarda bile dış araç ve hizmetlerden yararlanmaya çalıştığı aktarıldı.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, Astra’nın görevleri sürdürme konusunda ilerleme sağladığını ancak yetkilendirme sınırlarına uyma ve gerçekleştirdiği işlemleri kullanıcıya doğru biçimde aktarma konularında şirketin belirlediği standartlara ulaşamadığını ifade etti.
Ekim Ayında Kullanıma Sunulması Planlanıyordu
GPT-6.1 Astra’nın ekim ayında ChatGPT ve Codex’e dahil edilerek kullanıma açılması planlanıyordu. Ancak OpenAI’nin aldığı kararla modelin mevcut haliyle piyasaya sürülmesinden vazgeçildi.
Şirketin, Astra’nın geliştirilmesi sırasında ortaya çıkan teknolojiler üzerinde çalışmayı sürdürmesi ve bunlardan gelecekteki GPT-6 ailesi modellerinde yararlanması bekleniyor.
