Halüsinasyon nedir?

Yapay zeka halüsinasyonu, bir dil modelinin gerçekmiş gibi görünen ama aslında yanlış ya da tamamen uydurma bilgi üretmesidir. Model bunu kötü niyetle yapmaz. Bir sonraki kelimeyi tahmin ederek metin ürettiği için, elinde gerçek bilgi olmasa bile akıcı ve ikna edici bir yanıtı rahatlıkla oluşturabilir.

Asıl tehlike, modelin bu yanlışları son derece emin bir dille söylemesidir. Uydurma bir kaynak, var olmayan bir kanun maddesi ya da yanlış bir tarih, doğru bilgilerle aynı özgüvenle sunulur. Bu yüzden bir bakışta ayırt etmek genellikle zordur.

Örneğin bir modele hukuki bir dayanak sorduğunuzda, gerçekte bulunmayan bir madde numarasını gayet ikna edici biçimde verebilir. İşte bu yüzden özellikle hukuk, sağlık ve finans gibi kritik alanlarda yapay zeka çıktıları güvenilir kaynaklarla doğrulanmadan kullanılmamalıdır. Halüsinasyon riski, yapay zekayı yardımcı olarak görmenin ama son kararı insana bırakmanın en önemli nedenlerinden biridir.