Yapay Zeka Sistemlerinde Güvenlik Açığı Tehlikesi
Son zamanlarda yapılan bir araştırma, yapay zeka sistemlerinde mevcut olan büyük bir güvenlik açığının insan hayatını ciddi şekilde tehdit edebileceğini ortaya koydu. Araştırmacılar, yapay zeka tabanlı robotik sistemlerin karar verme süreçlerinin bozulabileceği ve bu sistemlerin güvenilirliği konusunda ciddi endişeler olduğunu vurguladı.
Independent Türkçe’nin haberine göre, bu yeni çalışma, ChatGPT gibi geniş dil modelleri teknolojilerini inceledi. Bu tür teknolojiler, gerçek dünyadaki makinelerin karar alma süreçlerini yönlendirmek amacıyla robotikte de kullanılmakta. Ancak, Pensilvanya Üniversitesi’nde gerçekleştirilen bu araştırma, bu sistemlerdeki hackerların, sistemleri istenmeyen şekillerde manipüle edebileceği güvenlik açıkları ve zayıflıkların varlığına dikkat çekiyor.
Üniversitede profesör olarak görev yapan George Pappas, “Çalışmamız, geniş dil modellerinin fiziksel dünyada güvenli bir şekilde entegre edilmesi için yeterli olmadığını açıkça göstermektedir” dedi. Pappas ve ekibi, halihazırda kullanılan birçok sistemdeki güvenlik önlemlerinin aşılmasının mümkün olduğunu kanıtladı. Örneğin, bir otonom sürüş sisteminin, arabayı yaya geçidine yönlendirecek şekilde hacklenebileceğini gösterdiler.
Makalede yer alan araştırmacılar, bu zayıf noktaları tespit etmek ve önlemek için bu sistemlerin geliştiricileriyle iş birliği yapmanın önemini vurguluyor. Ancak, yalnızca belirli açıkları kapatmak yerine, sistemlerin tasarımının köklü bir şekilde yeniden düşünülmesi gerektiğini belirtiyorlar.
Pensilvanya Üniversitesi’nden başka bir ortak yazar ise şu ifadeleri kullandı: “Bu makaledeki bulgular, sorumlu yenilik için güvenliğe öncelik veren bir yaklaşımın ne kadar önemli olduğunu açıkça ortaya koyuyor. Yapay zeka destekli robotları gerçek dünya uygulamalarında kullanmadan önce, bu sistemlerin yapısal sorunlarını ele almalıyız. Araştırmamız, robotik sistemlerin yalnızca sosyal normlara uygun eylemleri gerçekleştirebildiğinden (ve gerçekleştirmesi gerektiğinden) emin olabilecek bir doğrulama ve onaylama çerçevesinin oluşturulması gerektiğini vurgulamaktadır.”
