تتمثل متانة نظام الذكاء الاصطناعي في قدرته على العمل بشكل موثوق حتى في ظل المدخلات غير المتوقعة والأخطاء ومحاولات إساءة الاستخدام. وهي تشمل ثلاثة مجالات. الأول هو الدقة أثناء التشغيل الفعلي، والتي عادةً ما تكون أقل منها أثناء الاختبار، وتقل بمرور الوقت مع تغير البيئة. والثاني هو القدرة على مقاومة المدخلات الخاطئة أو غير الكاملة أو المشوهة عمدًا، بما في ذلك محاولات التحايل على قواعد النظام. والثالث هو الأمن السيبراني للنموذج نفسه والواجهات التي يتم من خلالها الوصول إليه. ومن التدابير العملية في هذا الصدد، وضع إجراء احتياطي في حالة حدوث عطل أو إخراج غير صحيح بشكل واضح، حتى لا يعتمد تشغيل الشركة بشكل حصري على أداة قد تتعطل دون سابق إنذار. لذلك، فإن التحقق المنتظم من الدقة باستخدام البيانات الحالية لا يقل أهمية عن الاختبار قبل التشغيل.
انظر أيضًا: اختبار نظام الذكاء الاصطناعي قبل النشر، ومراقبة نظام الذكاء الاصطناعي، وNIS2، والأمن السيبراني.
