Zaujatosť v AI vzniká vtedy, keď systém systematicky znevýhodňuje určitú skupinu ľudí. Príčinou býva zloženie trénovacích dát odrážajúce doterajšiu prax, chýbajúce zastúpenie niektorých skupín alebo nevhodne zvolené vstupné znaky, ktoré nepriamo zastupujú chránené vlastnosti – napríklad bydlisko alebo dĺžku prerušenia kariéry. Dôsledkom môže byť nezákonná diskriminácia so sankciami a so škodou na povesti. Obmedziť ju možno testovaním výstupov na jednotlivých skupinách pred nasadením aj počas prevádzky, kontrolou zloženia dát a ľudským preskúmaním nepriaznivých rozhodnutí. Zásadné je, že zodpovednosť nesie firma, ktorá systém používa, nie dodávateľ modelu, preto sa testovanie nedá presunúť naň. Výsledky testovania sa oplatí zdokumentovať, pretože práve ony sú dôkazom, že firma prijala primerané opatrenia. Bez záznamu sa obhajoba pred dozorným orgánom vedie ťažko.
Pozri aj: AI v nábore, posúdenie vplyvu na základné práva, správa trénovacích dát.
