Predpojatosť
Systémy umelej inteligencie sa učia na dátach, ktoré pripravujú ľudia. Zle pripravené, nevyvážené dáta alebo ich nedostatok môžu spôsobiť, že umelá inteligencia bude určitým spôsobom predpojatá a bude odpovedať skreslene (v angličtine biased). Predpojatosť môže byť napríklad historická, keď sa dlho opakované ľudské predsudky (rasa, gender...) premietnu aj do dát — umelá inteligencia bude na vedúce pozície odporúčať skôr mužov, pretože v minulosti to tak naozaj bolo. Alebo reprezentačná — bude rozpoznávanie tvárí správne fungovať v Afrike, keď sme natrénovali systém umelej inteligencie na tvárach ľudí zo strednej Európy? Ak má umelá inteligencia hrať väčšiu rolu v rozhodovacích procesoch, je dôležité, aby sme sa na ňu boli schopní spoľahnúť s ohľadom na jej presnosť a nezaujatosť. Preto je veľmi dôležité, aby sme AI systémy učili na tých správnych dátach.