سجلات تشغيل نظام الذكاء الاصطناعي هي سجلات تُنشأ تلقائيًا عن استخدامه – متى تم تشغيل النظام، وما هي المدخلات التي عمل بها، وما هي المخرجات التي قدمها، ومن الذي تدخل في عملية اتخاذ القرار. وفي حالة الأنظمة عالية المخاطر، يُعد ذلك التزامًا يهدف إلى ضمان التتبع: فبدون هذه السجلات، لا يمكن التحقيق في أي حادث، أو إثبات إجراء الإشراف البشري، أو الدفاع عن القرار أمام هيئة الرقابة أو المحكمة. يجب الاحتفاظ بها لفترة مناسبة تتناسب مع الغرض من النظام. ومع ذلك، قد تحتوي السجلات نفسها على بيانات شخصية، ولذلك فهي تخضع لقواعد حماية البيانات، بما في ذلك قيود الوصول ومواعيد الحذف. يجب على الشركات التوفيق بين هذين المطلبين منذ مرحلة تصميم الحل. ولذلك، يتم تحديد نطاق البيانات التي يتم تسجيلها مسبقًا، وليس بعد وقوع الحادث الأول.
انظر أيضًا: مراقبة نظام الذكاء الاصطناعي، حادثة تتعلق بنظام الذكاء الاصطناعي، الاحتفاظ بالبيانات وحذفها.
