Co to je „Halucinace AI“?

Halucinace je situace, kdy jazykový model (LLM) odpoví s naprostou jistotou věc, která prostě není pravda – vymyšlenou citaci, neexistující zákon, špatné datum, vykonstruovaný odkaz. Model totiž negeneruje fakta, ale pravděpodobnostně další slova. Halucinace se omezuje kvalitními prompty, ověřováním výstupů a hlavně technikou RAG, která modelu dodává reálná data jako podklad.