Vysokorizikový AI systém je systém, ktorého použitie môže významne zasiahnuť do práv, bezpečnosti alebo životných príležitostí ľudí. Do tejto kategórie spadá napríklad využitie AI pri výbere uchádzačov o zamestnanie a hodnotení zamestnancov, pri posudzovaní úverovej bonity, v prístupe k vzdelávaniu a k zásadným službám, v biometrickej identifikácii či v kritickej infraštruktúre. Rozhoduje účel použitia, takže bežne dostupný nástroj sa nasadením do takéhoto procesu stáva vysokorizikovým aj vtedy, keď si to firma neuvedomí. S kategóriou sa spája najprísnejší balík povinností: riadenie rizík, požiadavky na kvalitu dát, technická dokumentácia, evidencia záznamov, ľudský dohľad, presnosť a odolnosť, informovanie dotknutých osôb. Ak takéto použitie zvažujete, posúďte to vopred a nie po nasadení.
Pozri aj: klasifikácia AI podľa rizika, posúdenie vplyvu na základné práva, ľudský dohľad nad AI.
