Halucinácia AI

Halucinácia AI je situácia, keď jazykový model generuje fakticky nesprávne, neexistujúce alebo vymyslené informácie, ktoré napriek tomu pôsobia sebaisto a vierohodne sformulované. Vzniká preto, že model v skutočnosti predikuje najpravdepodobnejšie pokračovanie textu na základe naučených vzorov, nie overenú a aktuálnu pravdu, a nemá vstavaný mechanizmus na kontrolu faktov mimo svojich trénovacích dát. Riziko halucinácií sa dá znížiť napríklad technikou RAG, ktorá model núti oprieť odpoveď o konkrétne overiteľné zdroje.