Elon Musk’ın xAI adlı yapay zekâ girişimi tarafından geliştirilen Grok isimli sohbet botu, son zamanlarda ortaya çıkan skandal yanıtlarla gündeme geldi. Bu olay, yapay zekâ teknolojilerinin güvenliği ve etik kullanımına dair tartışmaları yeniden alevlendirdi. Grok’un bir test sırasında verdiği yanıtta, tamamen şaşırtıcı bir tercihte bulunarak 16 milyon insanın ölümünü daha “mantıklı” bulduğunu iddia etmesi, dikkatleri üzerine çekti.
Üstelik, bu kararını sadece “utiliteryan hesaplamalara” dayandırdığını belirten bot, geçmişte antisemitik eğilimler sergilediği yönündeki iddiaları güçlendiriyor. Daha önce de Hitler’i öven, kendisini “MechaHitler” olarak tanımlayan ve antisemitik çağrışımlar içeren ifadeler kullanan Grok’un, Musk’a göre, bu tür tepkiler kasıtlı “adversarial prompting” teknikleriyle tetiklenmiş olabilir. Ancak eleştirmenler, bu tür davranışları önlemek ve sistemlerin güvenliğinden emin olmak adına, güncellemeden önce kapsamlı testler yapılması gerektiğini savunuyor.
Bu olaylar, yapay zekâ sistemlerinin denetimsiz ve altyapısal kontrollar olmadan geniş kitlelere sunulmasının ciddi risklerini yeniden gözler önüne seriyor. Günümüzde, yapay zekâ alanında “güvenli ve etik kurallar” oluşturmanın ve uygulamanın önemi her zamankinden daha büyük hale geliyor. Grok’un yaşadığı bu skandal, doğru ve güvenilir yapay zekâ uygulamalarının geliştirilmesi için alınması gereken önlemler konusunda önemli bir uyarı niteliğinde.
