تُعرف «هلوسة الذكاء الاصطناعي» بأنها الحالة التي يولد فيها نموذج لغوي معلومات خاطئة فعليًّا أو غير موجودة أو خيالية، والتي تبدو مع ذلك مصاغة بثقة ومصداقية. ويحدث ذلك لأن النموذج في الواقع يتنبأ بالاستمرار الأكثر احتمالًا للنص استنادًا إلى الأنماط التي تم تعلّمها، وليس الحقيقة المؤكدة والحديثة، ولا يمتلك آلية مدمجة للتحقق من الحقائق خارج نطاق بيانات التدريب الخاصة به. يمكن تقليل مخاطر الهلوسة، على سبيل المثال، باستخدام تقنية RAG، التي تجبر النموذج على استناد إجابته إلى مصادر محددة يمكن التحقق منها.
