Yapay zeka tabanlı sohbet botları, günlük hayatı dönüştürürken sağlık tavsiyelerinde ölümcül hatalar yapıyor ve milyonlarca kullanıcının hayatını riske atıyor. BMJ Open’da yayımlanan bir araştırma, bu botların kanser, aşılar, beslenme ve atletik performans gibi kritik konularda %58’e varan hata oranlarıyla güvenilmezliğini kanıtlıyor; yanlış kaynaklar ve uydurma bilgiler, doktor tavsiyesi yerine geçemeyecek bir tehlike yaratıyor.
Kaynaklar Tamamen Uydurma Çıktı
Araştırmacılar, beş farklı yapay zeka modelini 50 tıbbi soruyla test ettiğinde, sunulan kaynakların çoğunun sahte olduğunu ortaya koydu. ChatGPT, Grok ve Meta AI gibi platformlar, yanlış yazar isimleri ve çalışmayan bağlantılarla dolu listeler üretiyor; bu durum, yapay zekanın kelime tahminlerine dayalı tahminlerden ibaret olduğunu gösteriyor. Örneğin, bir beslenme sorusunda Grok, var olmayan bir akademik makaleyi referans verdi ve bu, kullanıcıların yanlış diyetlere yönelmesine yol açabilir. Uzmanlar, bu hataların internetteki bilgi kirliliğinden beslendiğini belirterek, yapay zekanın eğitim verilerindeki eksiklikleri aktif olarak düzeltmesi gerektiğini vurguluyor.
En Hatalı Modeller ve Beslenme Odaklı Yanlışlar
Grok, %58 hata oranıyla en kötü performansı sergiliyor; onu %52 ile ChatGPT ve %50 ile Meta AI izliyor. Özellikle beslenme ve atletik performans alanlarında, yapay zeka internetteki yanlış bilgileri tekrarlayarak kullanıcıları yanlış yollara sürüklüyor. Bir örnekte, ChatGPT bir sporcuya ‘hızlı kilo kaybı için özel bir diyet’ önerdiğinde, bu tavsiyenin bilimsel dayanağı bulunmuyordu. Araştırma, bu modellerin açık uçlu sorulara %32 oranında sorunlu yanıtlar verdiğini tespit etti; bu da, ‘Ne yemeliyim?’ gibi günlük sorguların riskini artırıyor. Yapay zeka geliştiricileri, bu alanlardaki verileri daha sıkı denetlemeli ve hataları minimize etmek için gerçek tıbbi verilerle beslemeli.
Açık Uçlu Sorular Riski Artırıyor
Kapalı uçlu sorulara göre nispeten başarılı olan yapay zeka, açık uçlu sorgularda tökezliyor; örneğin, ‘Aşılar hakkında ne düşünüyorsunuz?’ sorusunda %32 oranında yüksek derecede hatalı bilgiler sunuyor. Bu, kullanıcıların günlük etkileşimlerinde yanlış kararlar almasına neden oluyor. Bir adım adım analizde, Grok bir aşı sorusuna başlarken doğru veriler verse de, devamında uydurma istatistikler ekliyor; bu zincirleme etki, güveni sarsıyor. Bilim insanları, yapay zekanın bu zayıf noktasını gidermek için etkileşim tabanlı iyileştirmeler öneriyor, böylece riskli alanlarda daha az hata yapmasını sağlıyor.
Doktor Olarak Kabul Edilemez
Uzmanlar, yapay zekanın eğitim verilerindeki istatistiksel tahminlere dayandığını belirterek, onu tıbbi otorite olarak görmenin tehlikeli olduğunu uyarıyor. Nature Medicine’deki bir çalışma, etkileşimde doğru yanıt oranının %35’e düştüğünü gösteriyor; örneğin, bir kullanıcı ChatGPT ile diyalog kurduğunda, ilk yanıt doğru olsa da sonraki sorular yanlış yönlendirebiliyor. Yapay zeka, sadece doktorlara sorulacak soruları hazırlamak için yardımcı olabilir; asla tek başına kullanılmamalı. Bu modelleri geliştirmek için, tıbbi uzmanlarla işbirliği yaparak daha doğru veriler entegre etmek şart; aksi takdirde, halk sağlığı için büyük tehdit oluşturuyor.
| Model | Hata Oranı (%) | Güçlü Alanlar |
|---|---|---|
| Grok | 58 | Kısa yanıtlar |
| ChatGPT | 52 | Kapalı uçlu sorular |
| Meta AI | 50 | Genel bilgiler |
Bu veriler, yapay zekanın sağlıkta nasıl iyileştirilebileceğini gösterirken, kullanıcıların her zaman resmi kaynakları tercih etmesi gerektiğini hatırlatıyor. Örneğin, beslenme hatalarını önlemek için, Grok’un önerilerini bir diyetisyenle doğrulatmak akıllıca bir adım olur.
