الاستدلال هو المرحلة التي يقوم فيها النموذج الذي تم تدريبه بالفعل وأصبح جاهزًا بمعالجة مدخلات جديدة وتوليد مخرجات بناءً عليها، مثل الرد على المطالبة — على عكس التدريب، الذي لا يزال النموذج خلاله في مرحلة تعلم البيانات. تعد سرعة الاستدلال وتكلفته عاملين أساسيين للتطبيق التجاري الفعلي لمنتجات الذكاء الاصطناعي، حيث إن عملية الاستدلال هي التي تحدث عند كل استخدام فردي للنموذج من قِبل المستخدم النهائي.
