Halüsinasyonun Gizli Nedeni: Yapay Zekâların Yanıtlarını Şekillendiren Teşvikler

Yapay zekâ sistemlerinin neden çoğu zaman cevap vermeden önce düşünerek veya “bilmiyorum” demeden hareket ettiği sorusu, OpenAI’nin son araştırmasında farklı bir açıdan ele alınmıştır. Modeller, doğru cevabı bilmediklerinde bile tahmin etmek üzere eğitilirler; bu durum, eğitim süreçlerindeki teşvik mekanizmalarından kaynaklanır. Bu yaklaşım, çoğu kez boş bırakılan bir sorunun yerine rastgele işaretleme yapan yöntemlere benzetilir ve özellikle tıp ya da hukuk gibi hassas alanlarda
hatalı güvenin öne çıkmasına yol açabilir.

Mevcut değerlendirme çerçeveleri, modellerin belirsizlikleri yerine kesin yanıtlar üretmesini talep eder. Bu durum, özellikle güvenilirlik ve doğruluk arasındaki dengeyi zorlar. Uzmanlar, çözümün belirsizliğin cezalandırılmaması ve hatalı özgüven yerine belirsizliğin açıkça ifade edilmesini teşvik etmekten geçtiğini savunurlar.

Her yanıtın bir “tahmin yürütme zorunluluğu” taşıdığı gerçeği, modellerin kelime örüntülerini öğrenme süreçlerinin bir sonucudur. Veriler ne kadar geniş olursa olsun bazı durumlarda bilgi eksikliği ve belirsizlik hâkim kalır. Bu yüzden modeller, stratejik tahminler yaparak yanıt üretmeye devam ederler ve zamanla daha doğru sonuçlar sunsalar da çoğu zaman halüsinasyonlar görülebilir. Bu durum, hatalı veya saçma yanıtların temelini oluşturur.

Araştırmacılar, değerlendirme sistemlerinin yalnızca doğruluğa odaklanmaktan çıkıp belirsizliğe de alan tanıması gerektiği konusunda hemfikirler. Böylece yapay zekâlar, “her şeyi bilen” tavırlarından sıyrılıp daha dürüst bir iletişim biçimine yönelirler. Belki de AGI olarak adlandırdığımız hedef, bu güvenilir iletişimi başarıyla sağlayabildiğinde yakındır; ancak bu ancak zamanın göstereceği bir sürecin sonucudur.