Incident s AI systémom je udalosť, pri ktorej systém spôsobil alebo mohol spôsobiť škodu – vydal nesprávne rozhodnutie s dopadom na človeka, sprístupnil údaje, ktoré nemal, alebo výrazne zlyhal v presnosti. Firma potrebuje jednoduchý postup, ktorý pokrýva štyri kroky: kam sa incident hlási a v akej lehote, ako sa okamžite zmierni dopad vrátane možnosti systém pozastaviť, ako sa zistí príčina a aké nápravné opatrenie sa prijme, a ako sa udalosť zaeviduje. Evidencia incidentov je zároveň jedným z prvých dokumentov, ktoré audítor žiada, pričom prázdna evidencia po roku prevádzky pôsobí ako nefunkčný proces, nie ako bezchybný systém. Pri závažných incidentoch môže vzniknúť aj oznamovacia povinnosť voči orgánom.
Pozri aj: monitorovanie AI systému, zodpovednosť za škodu spôsobenú AI, interná politika používania AI.
