Nagy hibát követünk el akkor, ha a mesterséges intelligencia esetében kritika nélkül adunk meg neki például olyan adatokat, mint a lakáshitel-igénylések jóváhagyása.
Nem túl nehéz belátni, hogy a mesterséges intelligencia abból „dolgozik”, amit tőlünk „lát”. Tehát ha például olyan adatsorokat mutatunk neki, amikben bizonyos diszkriminatív tendenciák figyelhetők meg, akkor ő maga is diszkriminatív lesz. Ugyanis az MI-modellek betanításához használt adatokban tükröződő valós előítéletek azok reprodukálásához fognak vezetni. Erről Meredith Broussard, a New York University professzora beszélt a VMware Explore 2023 rendezvényen. Szerinte a a mesterséges intelligencia azért van, hogy segítse az embert, és nem azért, hogy helyettesítse. A technológia nagy lehetőségeket rejt magában, de megzavarhatja azt, hogy kiben, hogyan és miben bíznak az emberek. Befolyásolhatja az emberek közötti interakciókat és a bánásmódot, továbbá hatással lehet a globális környezetre.
A meggyőződés, hogy a technológia objektív, semleges és elfogulatlan, nem helytálló, mivel az automatizált rendszerek alapból diszkriminálnak. Ezért tehát nem az a kérdés, hogy ez megtörténik-e, hanem az, hogy miként. Egy 2021-es tengerentúli vizsgálat megállapította, hogy a jelzálogkérelmek jóváhagyására vagy elutasítására használt algoritmusok sokkal nagyobb valószínűséggel utasították el a színes bőrű hitelfelvevőket, mint a fehér bőrűeket. Ez köszönhető volt az Egyesült Államok pénzügyi diszkriminációjának, a lakáshitelezésben tapasztalható elfogultságnak és a lakóhelyi szegregációnak. Éppen ezért a professzor azt javasolja, hogy az első lépés a probléma beismerése legyen. Ezt követően „matematikailag is rátehetjük az ujjunkat a mérlegre, … és módosíthatjuk a modell kimeneteit, hogy igazságosabbá tegyük”. A mesterséges intelligenciát alkalmazó üzleti vezetőknek „szembe kell nézniük a valósággal”, és üdvözölniük kell a munkahelyi faji, nemi és fogyatékossági kérdések megvitatását . „Ezek olyan dolgok, amelyekről nem szoktunk beszélni az irodákban, de szükségünk van ezekre a kemény beszélgetésekre”, és ha úgy teszünk, mintha nem történne diszkrimináció, azzal senkinek sem teszünk jót.
