إدارة مخاطر الذكاء الاصطناعي هي العملية التي تقوم من خلالها الشركة بتحديد وتقييم وتقليل المخاطر المرتبطة باستخدام الذكاء الاصطناعي. ويختلف هذا النوع من التقييم عن التقييم المعتاد للمخاطر المعلوماتية من حيث العناصر التي يتم تقييمها. فإلى جانب التوافر والسرية والسلامة، تضاف مخاطر خاصة بالذكاء الاصطناعي، مثل: النتائج الخاطئة أو المختلقة، والتحيز ضد مجموعات معينة، وعدم قابلية القرارات للتفسير، وتدهور الدقة بمرور الوقت، والاعتماد على مورد النموذج، والتأثير على حقوق الأشخاص المعنيين بالنتائج. يتم تحديد إجراء لكل خطر، والشخص المسؤول، وطريقة التحقق من فعاليته. يتم إعادة تقييم سجل المخاطر عند كل نظام جديد، وعند تغيير النموذج، وعلى فترات منتظمة، نظرًا لأن البيئة تتغير بوتيرة أسرع مقارنة بالتقنيات الأخرى.
انظر أيضًا: نظام إدارة الذكاء الاصطناعي، تقييم الأثر على الحقوق الأساسية، مراقبة نظام الذكاء الاصطناعي.
