يُقصد بحادثة نظام الذكاء الاصطناعي أي حدث تسبب فيه النظام أو كان من الممكن أن يتسبب فيه في حدوث ضرر – مثل اتخاذ قرار خاطئ أثر على شخص ما، أو الكشف عن بيانات لم يكن من المفترض أن تكون متاحة له، أو حدوث خلل كبير في دقة النظام. تحتاج الشركة إلى إجراء بسيط يشمل أربع خطوات: أين يتم الإبلاغ عن الحادث وفي غضون أي مهلة، وكيف يتم التخفيف الفوري من تأثيره بما في ذلك إمكانية تعليق تشغيل النظام، وكيف يتم تحديد السبب وما هي الإجراءات التصحيحية التي سيتم اتخاذها، وكيف يتم تسجيل الحادث. كما أن سجل الحوادث هو أحد أول الوثائق التي يطلبها المدقق، حيث إن وجود سجل فارغ بعد عام من التشغيل يوحي بوجود عملية معطلة، وليس بنظام خالٍ من الأخطاء. وفي حالة الحوادث الخطيرة، قد ينشأ أيضًا واجب الإبلاغ إلى السلطات.
انظر أيضًا: مراقبة نظام الذكاء الاصطناعي، والمسؤولية عن الأضرار الناجمة عن الذكاء الاصطناعي، والسياسة الداخلية لاستخدام الذكاء الاصطناعي.
