إن قابلية تفسير قرار الذكاء الاصطناعي هي القدرة على توضيح الأساس الذي استند إليه النظام في التوصل إلى النتيجة المعينة. وتكتسب هذه القدرة أهمية عملية في كل مكان يؤثر فيه القرار على الإنسان – سواء في تقييم الطلبات، أو اختيار المرشحين، أو تقييم الجدارة الائتمانية، أو تخصيص الخدمات. في الأنظمة عالية المخاطر، يحق للشخص المعني الحصول على تفسير لدور النظام في عملية اتخاذ القرار ولعناصره الرئيسية. ومع ذلك، تعمل النماذج المعقدة كـ«صندوق أسود»، ولذلك يتم ضمان قابلية التفسير من خلال مجموعة من التدابير: توثيق العوامل المدخلة، وسجلات التشغيل، والأدوات التكميلية للتوضيح، وبشكل أساسي من خلال أن القرار النهائي يتخذه شخص قادر على تبريره. لذلك، يجب على الشركات ألا تستخدم نماذج غير قابلة للتفسير في المجالات التي تتعلق بحقوق الإنسان.
انظر أيضًا: الإشراف البشري على الذكاء الاصطناعي، نظام الذكاء الاصطناعي عالي المخاطر، سجلات تشغيل الذكاء الاصطناعي.
