نظام الذكاء الاصطناعي عالي المخاطر هو نظام قد يؤثر استخدامه بشكل كبير على حقوق الأشخاص أو أمنهم أو فرصهم الحياتية. وتندرج ضمن هذه الفئة، على سبيل المثال، استخدام الذكاء الاصطناعي في اختيار المتقدمين للوظائف وتقييم الموظفين، وفي تقييم الجدارة الائتمانية، وفي الوصول إلى التعليم والخدمات الأساسية، في التعرف البيومتري أو في البنية التحتية الحيوية. الغرض من الاستخدام هو العامل الحاسم، لذا فإن الأداة المتاحة بشكل عام تصبح عالية المخاطر عند استخدامها في مثل هذه العمليات، حتى لو لم تدرك الشركة ذلك. وترتبط هذه الفئة بأشد مجموعة من الالتزامات صرامةً: إدارة المخاطر، ومتطلبات جودة البيانات، والوثائق الفنية، وحفظ السجلات، والإشراف البشري، والدقة والمقاومة، وإبلاغ الأشخاص المعنيين. إذا كنت تفكر في مثل هذا الاستخدام، فقم بتقييمه مسبقًا وليس بعد النشر.
انظر أيضًا: تصنيف الذكاء الاصطناعي حسب المخاطر، تقييم الأثر على الحقوق الأساسية، الإشراف البشري على الذكاء الاصطناعي.
