OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zekâ modellerindeki hızlı gelişimin insanlığın bu sistemleri anlama ve kontrol etme kapasitesini zorlayabileceği uyarısında bulundu. Pachocki, yapay zekânın yakın gelecekte bilgisayarları kullanabilen, insanlarla ve diğer yapay zekâ sistemleriyle birlikte çalışabilen ve araştırma süreçlerini büyük ölçüde bağımsız biçimde yürütebilen yapılara dönüşebileceğini belirtti.
Pachocki’ye göre asıl kritik eşik ise yapay zekâ modellerinin insan müdahalesine ihtiyaç duymadan kendi yeteneklerini geliştirmeye başlaması olacak. Böyle bir dönemin son derece dikkatli yönetilmesi gerektiğini vurgulayan Pachocki, makine zekâsındaki hızlı yükselişin ortaya çıkarabileceği sonuçlara karşı kimsenin tam anlamıyla hazırlıklı olmadığını ifade etti.
Yapay Zekâ Gelişiminde Kritik Eşik
OpenAI yöneticisi, yapay zekâ sistemlerinin yalnızca verilen görevleri yerine getiren araçlar olmaktan çıkarak daha karmaşık iş süreçlerini bağımsız şekilde gerçekleştirebileceğine işaret etti. Bilgisayar kullanımı, insanlarla iletişim ve farklı yapay zekâlarla işbirliği gibi yeteneklerin bir araya gelmesiyle sistemlerin araştırma faaliyetlerinde daha fazla sorumluluk üstlenebileceği değerlendiriliyor.
Ancak bu gelişimin bir sonraki aşaması, modellerin kendi performanslarını artıracak yöntemleri insan yönlendirmesi olmadan keşfetmesi olabilir. Pachocki, bu ihtimalin yapay zekâ güvenliği açısından çok daha hassas bir dönemi beraberinde getireceğini savundu.
Yapay Zekâ Şirketlerine “Yavaşlama” Mesajı
Pachocki, yapay zekâ geliştiricilerinin önünde iki temel seçenek bulunduğunu belirtti. Buna göre şirketler sistemleri insan çıkarlarıyla daha uyumlu hale getirecek yöntemler geliştirebilir ya da risklerin kabul edilemez seviyeye ulaştığı durumlarda yapay zekâ çalışmalarının hızını düşürebilir.
Bu kapsamda ortak güvenlik standartlarının oluşturulması gerektiğine dikkat çeken Pachocki, standartlar belirlenene kadar şirketlerin gönüllü olarak gelişim hızını azaltmasını beklediğini ve bunu umduğunu söyledi.
Şirketler Daha Güçlü Modeller İçin Yarışıyor
Uyarının, teknoloji şirketlerinin daha gelişmiş yapay zekâ modelleri oluşturmak için rekabeti hızlandırdığı bir dönemde gelmesi dikkat çekti. Sektördeki çalışmaların önemli bir bölümü, yapay zekânın kendi araştırma süreçlerini yürütebilmesi ve zaman içerisinde yeni beceriler kazanabilmesi üzerine yoğunlaşıyor.
OpenAI de iki yıldan kısa bir süre içerisinde insan müdahalesine çok daha az ihtiyaç duyacak, araştırma faaliyetlerini bağımsız şekilde gerçekleştirebilen “gerçek bir otomatik yapay zekâ araştırmacısı” geliştirmeyi hedefliyor.
Pachocki’nin açıklamaları, yapay zekâ yarışında yalnızca daha hızlı ve daha yetenekli modeller geliştirmenin yeterli olmayacağını ortaya koyuyor. Modellerin kendi gelişimlerini hızlandırabilecek bir seviyeye ulaşması halinde, güvenlik standartları oluşturuluncaya kadar şirketlerin gönüllü biçimde frene basması gerekebileceği belirtiliyor.
