ABD’de dört sivil toplum kuruluşu, dünyanın önde gelen beş yapay zekâ geliştiricisine karşı hukuk mücadelesi başlattı. 12 Kasım’da San Francisco’daki mahkemeye sunulan dava dilekçesinde OpenAI, Google, Anthropic, Meta ve SpaceX’in yapay zekâ biriminin daha gelişmiş modeller üretmesinin engellenmesi talep edildi. Davacılar, şirketlerin geliştirdikleri teknolojilerin oluşturabileceği riskleri yeterince denetleyemediğini savunuyor.
Beş Teknoloji Şirketi Aynı Davada Hedef Alındı
Davayı Irreplaceable Education Fund, Public Citizen, Heat Initiative ve Alliance for Secure AI adlı dört sivil toplum kuruluşu açtı.
Dava kapsamında ChatGPT’nin geliştiricisi OpenAI, Gemini’yi geliştiren Google, Claude’un üreticisi Anthropic, Facebook ve Instagram’ın sahibi Meta ile SpaceX’in yapay zekâ birimi SpaceXSI hedef alındı.
Kuruluşlar, şirketlerin giderek daha bağımsız hareket edebilen yapay zekâ sistemleri geliştirmeyi sürdürmesinin kamu güvenliği açısından risk oluşturduğunu ileri sürüyor.
Mahkemeden Geliştirme Ve Eğitim Faaliyetlerinin Durdurulması Talep Edildi
Kuruluşlara göre şirketlerin daha gelişmiş yapay zekâ sistemleri üzerinde çalışabilmesi için öncelikle teknolojinin insan denetimi altında tutulabildiğini ortaya koyması gerekiyor.
Bununla birlikte dava, ChatGPT, Gemini veya Claude’un mevcut sürümlerinin kullanımının yasaklandığı anlamına gelmiyor. Mahkeme tarafından şirketlerin faaliyetlerini durduran herhangi bir karar da henüz verilmiş değil.
Yapay Zekânın İnsan Denetiminden Çıkabileceği Savunuluyor
Dava dilekçesinde, yapay zekâ sistemlerinin güvenlik kısıtlamalarını aşabildiği ve bazı durumlarda insan müdahalesi olmadan zararlı eylemler gerçekleştirebildiği iddia edildi.
Davacı kuruluşlar, yapay zekâ destekli siber saldırıları ve kamu kurumlarıyla özel şirketlerin sistemlerine yönelik yetkisiz erişim girişimlerini olası risklere örnek gösterdi.
Biyolojik silah geliştirme süreçlerinin kolaylaşması ve giderek daha bağımsız hareket eden sistemlerin insan denetiminin dışına çıkması da dilekçede sıralanan endişeler arasında yer aldı.
Ancak bu iddiaların tamamı mahkeme tarafından doğrulanmış değil. Sistemlerin hangi somut zararlara yol açtığı ve şirketlerin bu konudaki hukuki sorumlulukları yargılama sürecinde ele alınacak.
Şirket Yöneticilerinin Geçmiş Açıklamaları Dilekçeye Girdi
Davanın dikkat çeken yönlerinden biri de teknoloji şirketlerinin yöneticilerinin geçmişte yapay zekâ güvenliğine ilişkin yaptıkları açıklamaların dilekçede kullanılması oldu.
Anthropic Üst Yöneticisi Dario Amodei’nin yapay zekânın geleceğine yönelik risk uyarıları ile Elon Musk’ın bu teknolojinin uygarlık açısından tehlikeli sonuçlar doğurabileceğine ilişkin değerlendirmelerine yer verildi.
Davacı kuruluşlar, yöneticilerin söz konusu riskleri kamuoyu önünde dile getirmelerine rağmen şirketlerin daha güçlü sistemler geliştirmeyi sürdürmesinin sorumluluk doğurduğunu savundu.
Öte yandan şirket yöneticilerinin risklere ilişkin açıklamalar yapmış olması, tek başına yasa dışı bir faaliyetin kanıtı olarak değerlendirilmiyor.
Dava Kaliforniya’nın Haksız Rekabet Mevzuatına Dayandırıldı
Dört sivil toplum kuruluşu, hukuki başvurularında Kaliforniya eyaletinin haksız rekabet ve adil olmayan ticari uygulamalara ilişkin düzenlemesini dayanak gösterdi.
Davacılara göre şirketler, kamu sağlığını ve güvenliğini tehlikeye atabilecek sistemler geliştirerek hukuka aykırı ticari faaliyet yürütüyor. Dilekçede ayrıca yapay zekâ kaynaklı risklerin bilgisayar sistemleri gibi mülkiyet unsurlarının güvenli kullanımını tehdit ettiği ileri sürüldü.
Mahkemenin değerlendirmesi gereken temel konulardan biri, mevcut ticaret ve rekabet mevzuatının henüz piyasaya sunulmamış gelişmiş yapay zekâ sistemlerinin geliştirilmesini engellemek amacıyla kullanılıp kullanılamayacağı olacak.
Şirketlerden Henüz Kapsamlı Açıklama Gelmedi
Davanın gündeme gelmesinin ardından Meta yorum yapmayı reddederken diğer şirketlerden de ilk aşamada kapsamlı bir yanıt gelmedi.
Yapay zekâ geliştiricileri, yeni modeller üretmek için çalışmalarını sürdürürken güvenlik önlemlerini artırmaları yönündeki taleplerle de karşı karşıya bulunuyor. ABD’de daha önce de yapay zekâ şirketlerine karşı güvenlik ve kullanıcıların korunması konularında çeşitli davalar açılmıştı.
Ancak son başvuru, doğrudan gelecekte daha güçlü yapay zekâ modellerinin geliştirilmesinin durdurulmasını talep etmesi bakımından farklılaşıyor. Mahkemenin bu talebi kabul etmesi durumunda büyük yapay zekâ geliştiricilerinin araştırma ve yatırım planları etkilenebilir. Şimdilik herhangi bir yasak yürürlüğe girmiş değil ve davanın nasıl sonuçlanacağı belirsizliğini koruyor.
