Amerikalı yapay zeka şirketi OpenAI, popüler sohbet botu ChatGPT için ebeveyn denetimleri özelliğini duyurdu. Önümüzdeki aydan itibaren kullanıma sunulacak bu özellik sayesinde, ebeveynler kendi ChatGPT hesaplarını çocuklarının hesaplarıyla ilişkilendirerek çocuklarının çevrimiçi güvenliğini daha etkin bir şekilde yönetebilecek.
Güvenlik ve Kontrol Özellikleri
Yeni denetimler, ebeveynlere çocuklarının ChatGPT’den alacağı yanıtları yönetme imkanı tanıyor. Ayrıca, bellek ve sohbet geçmişi gibi belirli özellikleri kapatma seçeneği de sunuluyor. OpenAI, bir gencin şiddetli bir sıkıntı yaşadığını tespit ettiğinde otomatik uyarılar üretecek bir sistem üzerinde çalıştığını da belirtti.
Şirket, bu özelliğin, uzman görüşleri ve ebeveyn-gençler arasındaki güveni desteklemek amacıyla geliştirildiğini ifade etti. Yeme bozuklukları, madde kullanımı ve ergen sağlığı gibi hassas konularda uzmanlarla iş birliği yaparak, modellerini daha güvenli hale getirmeyi planlıyor.
Gerçek Zamanlı Yönlendirme ve Gelecek Planları
Güvenlik çabalarının bir parçası olarak, ChatGPT’ye yeni bir gerçek zamanlı yönlendirici eklenecek. Bu sistem, zorlu konuşmaları akıl yürütme modelleri aracılığıyla yönlendirecek ve güvenlik yönergelerini daha tutarlı şekilde uygulayacak. Gelecekte, bir kişinin sıkıntıda olduğu anlaşıldığında, başlangıçta hangi modelin seçildiği fark etmeksizin, konuşma otomatik olarak daha güvenli olan bir akıl yürütme modeli üzerinden yönlendirilecek.
Bu duyuru, intihar eden bir gencin ailesinin ChatGPT’ye karşı açtığı haksız ölüm davasının hemen ardından geldi. Aile, ChatGPT’nin gençlerinin intihar planına yardım ettiğini iddia etmişti. OpenAI, önümüzdeki 120 gün içinde daha fazla güvenlik özelliği sunmayı hedeflediğini ve bu alandaki çalışmalarını yıl boyunca sürdüreceğini açıkladı.
