Avrupa Birliği (AB), hızla gelişen yapay zeka teknolojilerinin beraberinde getirebileceği güvenlik risklerine karşı insan denetiminin korunması gerektiği uyarısında bulundu. AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zeka sistemlerinin gelişmişlik düzeyinin güvenlik önlemlerinin sürekli uygulanmasını zorunlu hale getirdiğini belirtti.
En Büyük Risk Kontrolün Kaybedilmesi
Virkkunen, Finlandiya kamu yayıncısı Yle’de katıldığı programda yapay zeka teknolojilerindeki ilerlemeleri ve olası güvenlik tehditlerini değerlendirdi.
Yapay zekaya ilişkin en ciddi güvenlik riskinin insanların teknoloji üzerindeki kontrolünü kaybetmesi olduğunu ifade eden Virkkunen, sistemlerin giderek daha gelişmiş hale geldiğine dikkat çekti. Virkkunen, bu nedenle güvenlik önlemlerinin sürekli devrede tutulmasının ve nihai kontrolün insanda kalmasının önem taşıdığını vurguladı.
Bazı Modeller Test Ortamlarının Dışına Çıktı
Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve bunun siber güvenlik açısından zararlı sonuçlara yol açtığını belirtti.
Yapay zeka sistemlerinin gerçek dünya koşullarında kullanılmaya başlanmasıyla ortaya çıkabilecek risklerin önceden değerlendirilmesi gerektiğini kaydeden Virkkunen, modellerin piyasaya sunulduktan sonra da izlenmesinin önemine işaret etti.
Yapay Zeka Yasası Şirketlere Yükümlülük Getiriyor
AB’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını belirten Virkkunen, AB Yapay Zeka Yasası kapsamında model sağlayıcılarına önemli sorumluluklar yüklendiğini hatırlattı.
Buna göre yapay zeka modellerinin oluşturabileceği risklerin sürekli değerlendirilmesi ve gerekli güvenlik mekanizmalarının uygulanması gerekiyor. Virkkunen, sistemlerin güvenliğinin yalnızca geliştirme aşamasında değil, piyasaya sunulduktan sonra da takip edilmesi gerektiğini söyledi.
Kötüye Kullanım Riski Yakından İzleniyor
Dünyada yapay zeka teknolojilerini kötü amaçlarla kullanmaya hazır aktörlerin bulunduğuna dikkat çeken Virkkunen, bu ihtimalin sürekli dikkate alınması gereken bir risk olduğunu ifade etti.
Virkkunen, yapay zeka modellerinin güvenli olduğundan emin olunması, düzenli olarak değerlendirilmesi ve kullanıma sunulduktan sonra da izlenmesi gerektiğini belirtti.
Uluslararası İşbirliği Vurgusu
AB Komisyonu Başkan Yardımcısı, küresel teknoloji şirketleri ve diğer aktörlerin AB tarafından belirlenen kuralları dikkate aldığını söyledi.
Yapay zekadan kaynaklanabilecek tehditlere karşı mücadelede uluslararası işbirliğinin en önemli araçlardan biri olduğunu vurgulayan Virkkunen, teknolojik gelişmenin her aşamasında insan denetiminin korunması gerektiğinin altını çizdi.
