Monitorovanie AI systému je priebežné sledovanie jeho správania po nasadení do prevádzky. Je nutné preto, že kvalita výstupov nie je stála – mení sa, keď sa zmení charakter vstupných dát, keď poskytovateľ aktualizuje model alebo keď sa posunie samotné prostredie, v ktorom systém pracuje. Sledujte tri veci. Kvalitu výstupov na pravidelne kontrolovanej vzorke, ktorú posúdi človek. Prevádzkové ukazovatele ako čas odozvy, chybovosť a spotrebu. A spätnú väzbu používateľov vrátane jednoduchej možnosti nahlásiť nesprávny výstup. Nastavte prah, pri ktorom sa systém pozastaví alebo prejde na ručné spracovanie. Zistenia zaznamenávajte, sú podkladom pre prehodnotenie rizík aj pre audit. Frekvenciu kontrol odvoďte od dopadu systému: pri rozhodnutiach s vplyvom na ľudí kontrolujte častejšie než pri podporných úlohách.
Pozri aj: riadenie rizík AI, incident s AI systémom, ľudský dohľad nad AI.
