Why AI hallucinates: models predict text instead of checking facts
AI predicts the most likely next word rather than verifying facts, which is why the same prompt can give different answers and why benchmarks like AA-Omniscience measure hallucination rates.
Betul, karena AI itu main text prediction. Dia ga ngecek fakta, dia nebak kata berikutnya yg paling mungkin.. Jadi kayak gini - Kamu kasih prompt "Ibu kota Australia adalah ..." - Model ngitung peluang tiap kata. Canberra 62%, Sydney 30%, Melbourne 8% (contoh) - Dia pilih berdasarkan peluang, ga buka "database fakta" - Kalau yg kepilih Sydney, jawabannya tetap lancar dan pede.. padahal salah. Ini yg disebut halusinasi Ini juga kenapa AI non-deterministic, prompt sama bisa beda jawaban tiap kali Makanya ada benchmark buat ngukur halusinasi. Salah satunya AA-Omniscience dari Artificial Analysis Yg diukur, seberapa sering model jawab salah padahal harusnya bilang "ga tau" Hasilnya (makin kecil makin bagus) - Gemini 4 Argon 15% - Muse Wonder Full 23% - Muse Wonder 27% - Claude Sonnet 5.5 47% - GPT-6 Astra 51% - GPT-6.1 Sol 54% - Claude Opus 5.5 59%
This post quotes another post: x.com/978646566/status/2109944286112592335