Yapay zekâ neden bilgi uydurur, bu nasıl azaltılır?

Yazar: Mobilina Ekibi · Yayın:

Emin görünen bir tahmin ile soruyu ekibe devreden dürüst bir cevabı karşılaştıran çizim.

Kısa yanıt: Bir dil modeli en olası sonraki kelimeleri yazar. Elinde gerçek bilgi olmadığında makul görünen ama yanlış bir cevap çıkabilir ve bu cevap doğrusu kadar emin görünür. 2025’te yayımlanan bir araştırma, eğitimin ve özellikle modellerin puanlanma biçiminin “bilmiyorum” demek yerine emin bir tahmini ödüllendirdiğini savunuyor. Bir işletme asistanında uydurma cevaplar şöyle azaltılır: Yalnız sizin belgelerinizden cevap vermesi sağlanır, bilmediğini söylemesine açıkça izin verilir, iddialarını alıntıyla desteklemesi istenir ve emin olmadığı durumlar bir insana devredilir.

Halüsinasyon neye denir?

Anthropic’in dokümantasyonu halüsinasyonu, olgusal olarak yanlış ya da modele verilen bağlamla tutarsız metin olarak tanımlar. Bir müşteri konuşmasında bu; uydurulmuş bir iade süresi, olmayan bir ürün özelliği ya da başka bir şubenin çalışma saati olabilir.

Neden olur?

Why Language Models Hallucinate makalesinde Adam Tauman Kalai ve arkadaşları iki noktaya dikkat çeker:

  1. Ön eğitimde başlar. Halüsinasyonları sıradan sınıflandırma hataları olarak ele alırlar. Model doğru ve yanlış ifadeleri güvenilir biçimde ayıramıyorsa, makul görünen yanlışlar olağan istatistiksel baskıların sonucu olarak ortaya çıkar.
  2. Sonraki eğitimde, puanlama yüzünden sürer. Değerlendirmelerin çoğu belirsizliği kabul etmeye puan vermez; bu yüzden tahmin etmek skoru yükseltir. Modeller iyi sınav çözen öğrencilere dönüşür.

Önerdikleri çözüm yeni bir halüsinasyon testi değil; yaygın kullanılan karşılaştırma testlerinin belirsiz cevapları puanlama biçimini değiştirmek. İşletmeler için ders daha yakın: Yalnız asistanın cevap verip vermediğini ölçüyorsanız siz de tahmini ödüllendiriyorsunuz.

Azaltan teknikler

Anthropic’in rehberindeki teknikler, temel olanlardan başlayarak:

Teknik Ne yapar?
“Bilmiyorum”a izin ver Belirsizliği kabul etmenin uygun olduğunu modele açıkça söyle.
Önce alıntı, sonra cevap Uzun belgelerde cevaptan önce ilgili cümlelerin birebir alıntısını iste ve cevabı yalnız onlara dayandır.
Kaynakla doğrula Her iddianın destekleyen bir alıntıya bağlanmasını iste; dayanağı olmayan iddiayı çıkar.
Akıl yürütmeyi kontrol et Cevap yanlış göründüğünde modelin özetlenmiş akıl yürütmesine bak; hatalı varsayımları gösterebilir.
Birkaç çalıştırmayı karşılaştır Aynı istemi birden fazla kez çalıştır; cevaplar arasındaki tutarsızlık bir uyarıdır.
Yinelemeli iyileştir Cevabı geri ver ve modelden kontrol etmesini ya da düzeltmesini iste.
Verilen belgelerle sınırla Modele genel bilgisini değil, yalnız verilen içeriği kullanmasını söyle.

Aynı sayfa bu tekniklerin halüsinasyonu azalttığını ama tamamen ortadan kaldırmadığını açıkça belirtir; kritik bilgilerin yine kontrol edilmesi gerekir.

Müşteriyle konuşan bir asistan için anlamı

  • Ona bir doğru kaynağı verin. Cevaplar kataloğunuzdan, politikalarınızdan ve yardım içeriğinizden gelmeli. Asistanların doğru bölümü nasıl bulduğu için RAG nedir yazısına bakabilirsiniz.
  • “Emin değilim”i geçerli bir sonuç yapın. Raporlarınızda doğru yapılmış bir devri başarısızlık değil, başarı olarak sayın.
  • Emin olunmayan durumları insana devredin. Ekip için açılmış bir talep ya da bilet, emin görünen yanlış bir cevaptan iyidir.
  • Gerçek konuşmaları okuyun. Düzenli olarak bir örneklemi inceleyin; asistanın tahmin etmek zorunda kaldığı yerlere eksik bilgiyi ekleyin.

Mobilina portföyündeki yapay zekâ asistanı Agenola bu yaklaşımı izler: Yalnızca işletmenin kataloğu, politikaları ve eklenen bilgilerden cevap verir; emin olmadığında tahmin etmek yerine ekip için bir talep ya da yardım masasında bir bilet açar.

Özet

  • Modeller uydurur, çünkü akıcı bir tahmin çoğu zaman belirsizliği kabul etmekten daha iyi puan alır.
  • Kaynağa dayandırma, “bilmiyorum” izni, alıntılar ve insana devir bunu azaltır.
  • Hiçbir teknik tamamen ortadan kaldırmaz; devirleri başarı olarak ölçün ve konuşmaları incelemeye devam edin.

Kaynaklar

  1. Why Language Models Hallucinate (Kalai vd., 2025) – arXiv
  2. Reduce hallucinations – Anthropic dokümantasyonu