Son yıllarda hızla yaygınlaşan yapay zeka araçları, bazen yanıltıcı bilgiler sunabilmekte ve “halüsinasyon” olarak adlandırılan durumlar yaratabilmektedir. Bu durum, yalnızca kullanıcılar için değil, aynı zamanda bu araçların kendilerinin de gerçeklik algısını etkileyebileceği anlamına gelmektedir. Massachusetts Teknoloji Enstitüsü (MIT) ve Kaliforniya Üniversitesi Irvine kampüsündeki araştırmacılar, yapay zeka tarafından değiştirilmiş görsellerin insanların hafızasını nasıl etkilediğini incelemek üzere önemli bir çalışma gerçekleştirdi.
Yapılan Araştırmanın Detayları
Independent Türkçe’nin aktardığı ve henüz hakem denetiminden geçmemiş olan bu araştırma, ön baskı sunucusu arXiv’de geçen hafta yayımlandı. Çalışmada, 200 katılımcıya çeşitli resimler gösterildi. Katılımcılar daha sonra dört gruba ayrıldı:
- Asıl resimler
- Yapay zeka tarafından düzenlenmiş resimler
- Yapay zekanın ürettiği videolar
- Yapay zekanın düzenlediği resimleri içeren videolar
Grup üyelerinden, gösterilen orijinal resimdeki belirli detayları anlatmaları istendi. Araştırmacılar, yapay zeka tarafından düzenlenen görsellerin katılımcıların sahte anılarını önemli ölçüde artırdığını gözlemledi. Özellikle yapay zekanın düzenlediği resimleri içeren videolar, sahte anıların oluşumunda en büyük etkiyi yaratmıştı. Bu gruptaki katılımcılarda sahte anı oluşma oranı, kontrol grubunun 2,05 katına kadar çıkmıştı. Ayrıca, bu katılımcılar, görüntüleri doğru hatırladıklarına dair en yüksek inanca sahipti.
Yapay Zeka Sohbet Botları ve Bellek Yanılgıları
Aynı araştırma ekibi, geçtiğimiz ay yapay zeka sohbet botlarının da sahte anılar oluşturabileceğini keşfetmişti. ArXiv’de yayımlanan bu çalışmada, yapay zeka sohbet botlarının yanıltıcı sorular sormasının, insanların izledikleri bir olayı yanlış hatırlamalarına yol açtığı gözlemlenmişti.
Bulgular, daha fazla çalışmayla desteklenmesi gereken önemli sonuçlar içermektedir. Ancak bu iki çalışma, yapay zekanın oluşturabileceği potansiyel tehditlerden birine dikkat çekmektedir. Sahte hatıraların oluşturulması, örneğin mahkeme süreçlerinde yanlış ifadelerin verilmesine neden olabilir. Araştırmacılar, yapay zeka etkileşimlerinin insan belleği üzerinde önemli etkiler yaratabileceğini ve bu tür teknolojik araçların hassas bağlamlarda dikkatli bir şekilde kullanılmasının önemini vurgulamaktadır.
