Robustnosť AI systému je jeho schopnosť fungovať spoľahlivo aj pri neočakávaných vstupoch, chybách a pokusoch o zneužitie. Zahŕňa tri oblasti. Prvou je presnosť za reálnej prevádzky, ktorá býva nižšia než pri testovaní a v čase klesá, keď sa mení prostredie. Druhou je odolnosť voči chybným, neúplným alebo zámerne skresleným vstupom vrátane pokusov o obídenie pravidiel systému. Treťou je kybernetická bezpečnosť samotného modelu a rozhraní, cez ktoré sa k nemu pristupuje. Praktickým opatrením je zavedenie záložného postupu pre prípad výpadku alebo zjavne nesprávneho výstupu, aby prevádzka firmy nezávisela výhradne od nástroja, ktorý môže zlyhať bez varovania. Pravidelné preverovanie presnosti na aktuálnych dátach je preto rovnako dôležité ako testovanie pred spustením.
Pozri aj: testovanie AI systému pred nasadením, monitorovanie AI systému, NIS2 a kybernetická bezpečnosť.
