تأخير نماذج الذكاء الاصطناعي هو الوقت الذي يستغرقه النموذج لتوليد إجابة بدءًا من لحظة استلام الطلب وحتى اكتماله. ويُعد انخفاض زمن الاستجابة عاملاً أساسياً لتوفير تجربة مستخدم سلسة، على سبيل المثال في المساعدات الصوتية، أو روبوتات الدردشة التي تعمل بالذكاء الاصطناعي في خدمة دعم العملاء، أو أنظمة الوكلاء التي تعمل في الوقت الفعلي، حيث قد يؤدي الانتظار الطويل إلى تدهور كبير في قابلية الاستخدام.
