A SafeRent nevű, mesterséges intelligencia segítségével működő bérlőszűrő jövedelmi és faji alapú tulajdonságokat is figyelembe vett a lakhatási támogatások használatakor.
Egy 2022-ben, Massachusetts államban indított csoportos kereset azt állította, hogy a SafeRent mesterséges intelligencia közreműködésével dolgozó pontozási rendszere aránytalanul hátrányosan érinti a lakhatási támogatást igénybe vevőket, különösen a fekete és a spanyol ajkú jelentkezőket. Az eredeti periratok szerint a SafeRent algoritmusa olyan tényezőket vesz figyelembe, mint a hiteltörténet és a nem lakhatáshoz kapcsolódó tartozások, hogy egy SafeRent Pontszámot hozzon létre a potenciális bérlőkről.
A pontszámot a bérbeadók arra használják, hogy eldöntsék, elfogadják-e vagy elutasítják-e a jelentkező bérleti kérelmét. A kereset szerint azonban a rendszer átláthatatlan: a SafeRent nem közli a bérbeadókkal, hogyan állapítja meg a pontszámokat. Emellett a rendszer állítólag alacsonyabb pontszámokat adott az afroamerikai és spanyol ajkú bérlőknek, valamint a lakhatási támogatást használóknak, így a bérbeadók gyakran utasították el ezeknek a jelentkezőknek a kérelmeit.
A per végük megegyezéssel zárult, miszerint a SafeRent többé nem jeleníthet meg bérlőszűrési pontszámot azoknál a jelentkezőknél, akik lakhatási támogatást vesznek igénybe. Emellett a rendszer nem adhat ajánlásokat arra vonatkozóan, hogy a támogatást használók kérelmét „elfogadják” vagy „elutasítsák”. Ez azt jelenti, hogy a bérbeadóknak mostantól az egész bérlői előéletet kell értékelniük, nem csupán a SafeRent pontszámra támaszkodhatnak, amit a mesterséges intelligencia számol ki.
A megállapodásból származó 2,3 millió dollár pénzösszeget azoknak a massachusettsi bérlőjelölteknek ítélik oda, akik lakhatási támogatást használtak, de a SafeRent pontozása miatt nem tudtak lakást bérelni. A SafeRent nem az egyetlen algoritmusvezérelt ingatlankezelő rendszer, amely jogi problémákkal szembesült. Augusztusban az Igazságügyi Minisztérium pert indított a RealPage ellen, azzal vádolva a céget, hogy algoritmikus árképzési szoftvere megemeli a lakbéreket.
