يُقصد بمراقبة نظام الذكاء الاصطناعي (AI) المتابعة المستمرة لسلوكه بعد بدء تشغيله. وهو أمر ضروري لأن جودة المخرجات ليست ثابتة – فهي تتغير عندما يتغير طابع البيانات المدخلة، أو عندما يقوم المزود بتحديث النموذج، أو عندما يتغير البيئة نفسها التي يعمل فيها النظام. يجب مراقبة ثلاثة أمور. جودة المخرجات على عينة يتم فحصها بانتظام ويقوم الإنسان بتقييمها. مؤشرات الأداء التشغيلي مثل زمن الاستجابة ومعدل الأخطاء والاستهلاك. وردود فعل المستخدمين، بما في ذلك إمكانية بسيطة للإبلاغ عن المخرجات الخاطئة. حدد عتبة يتم عندها تعليق النظام أو التحول إلى المعالجة اليدوية. سجل النتائج، فهي تشكل أساسًا لإعادة تقييم المخاطر وللتدقيق. حدد تواتر عمليات المراجعة بناءً على تأثير النظام: في القرارات التي تؤثر على الأشخاص، قم بالمراجعة بشكل أكثر تكرارًا مقارنة بالمهام الداعمة.
انظر أيضًا: إدارة مخاطر الذكاء الاصطناعي، حادثة تتعلق بنظام الذكاء الاصطناعي، الإشراف البشري على الذكاء الاصطناعي.
