Amerykańskie algorytmy wyceny domów i oceny najemców trafiają pod lupę za dyskryminację

Sztuczna inteligencja od kilku lat wycenia amerykańskie domy w ułamku sekundy i decyduje, kto dostanie klucze do wynajmowanego mieszkania. Ta sama technologia, która miała wyrównać szanse kupujących i najemców wobec sprzedających i zarządców, w praktyce coraz częściej działa jak niewidzialne sito odsiewające ludzi według dochodu, rasy i adresu.

Wycena w kilka sekund

Modele automatycznej wyceny nieruchomości, w branży określane skrótem AVM, analizują setki tysięcy transakcji i w ciągu kilku sekund podają szacunkową wartość domu. Zestimate od Zillow jest tu przykładem najbardziej znanym, obejmuje 116 milionów domów w Stanach Zjednoczonych, a jego mediana błędu dla nieruchomości aktualnie wystawionych na sprzedaż wynosi około 2 procent.

Dla nieruchomości, które nie są w danym momencie na sprzedaż, błąd rośnie do około 7 procent, co w przeliczeniu na realne kwoty potrafi oznaczać różnicę rzędu dziesiątek tysięcy dolarów. Zillow przekonał się o skali tego problemu boleśnie, gdy jego własny program skupu domów Zillow Offers systematycznie przepłacał za nieruchomości na podstawie błędnych prognoz modelu, co skończyło się startowymi startami liczonymi w setkach milionów dolarów i zamknięciem programu.

Kto ocenia najemcę

Drugą stroną tej samej technologii są algorytmy screeningu najemców, które zarządcy nieruchomości wykorzystują do decydowania, komu wynająć mieszkanie. Firma SafeRent rozliczyła się w 2024 roku ugodą wartą 2,3 miliona dolarów po tym, jak jej system oceny kandydatów systematycznie zaniżał wyniki osób czarnoskórych i latynoskich oraz posiadaczy dopłat mieszkaniowych.

Badania przywoływane w analizie wskazują, że algorytmy tego typu odrzucają nawet 10 procent posiadaczy voucherów mieszkaniowych, ponieważ wymagają dochodu nawet trzykrotnie wyższego od wysokości czynszu, nie uwzględniając przy tym publicznych dopłat, które realnie pokrywają część opłaty. W efekcie osoby uprawnione do pomocy mieszkaniowej tracą dostęp do mieszkań, mimo że formalnie stać je na czynsz.

Zmowa cenowa algorytmem

Osobnym wątkiem jest sprawa RealPage, dostawcy oprogramowania do ustalania stawek najmu, który zapłacił 50 milionów dolarów w zbiorowym pozwie. Zarzut dotyczył tego, że algorytm firmy, wykorzystując dane od wielu konkurujących ze sobą zarządców nieruchomości, w praktyce ułatwiał im uzgadnianie cen najmu zamiast konkurowania o najemców, co podnosiło czynsze ponad poziom wynikający z normalnej konkurencji rynkowej.

Sprawa RealPage doprowadziła do tego, że kilka amerykańskich stanów i miast wprowadziło ograniczenia dotyczące oprogramowania do algorytmicznego ustalania cen najmu, uznając je za mechanizm sprzyjający zmowom cenowym, nawet jeśli formalnie żadna rozmowa między konkurentami się nie odbyła.

Czarna skrzynka

Analiza wskazuje na fundamentalną asymetrię, która towarzyszy tej technologii od początku istnienia rynku nieruchomości. Historycznie to sprzedający, pośrednicy i banki dysponowali informacją niedostępną dla przeciętnego kupującego czy najemcy. AI miała tę asymetrię zniwelować, dając zwykłym ludziom dostęp do tych samych narzędzi analitycznych co profesjonaliści.

W praktyce efekt bywa odwrotny. Osoby z dobrym dochodem i adresem korzystają z pełnej przejrzystości, jaką dają algorytmy, podczas gdy dla osób biedniejszych czy z gorszych dzielnic te same systemy działają jak filtr utrudniający dostęp do ofert. Personalizacja, która miała dopasowywać oferty do potrzeb użytkownika, w praktyce oznacza też, że część możliwości po prostu nigdy nie zostaje im pokazana.

Co dalej z nadzorem

Postulat, który pojawia się w tym kontekście najczęściej, dotyczy przejrzystości i testowalności algorytmów pod kątem dyskryminacji, a także zagwarantowania możliwości odwołania się od automatycznej decyzji do człowieka. W Stanach Zjednoczonych regulacje idą w tym kierunku fragmentarycznie, stan po stanie i miasto po mieście, bez jednolitych federalnych ram dla algorytmów wyceny i screeningu.

Dla polskiego rynku nieruchomości sprawy SafeRent i RealPage są na razie odległym scenariuszem, algorytmiczna wycena i ocena najemców dopiero raczkuje nad Wisłą. Unijny AI Act i krajowe przepisy o ochronie danych osobowych dają jednak już dziś podstawy prawne do kwestionowania automatycznych decyzji kredytowych czy rekrutacyjnych, a te same mechanizmy mogą w przyszłości objąć również algorytmy działające na rynku najmu i sprzedaży mieszkań.

Dom pozostaje dobrem innym niż typowy towar konsumencki, bo decyduje często o dostępie do dobrej szkoły, pracy czy opieki zdrowotnej. Decyzja o tym, kto go dostanie, zapadająca wewnątrz nieprzejrzystego algorytmu, budzi więc opór silniejszy niż w przypadku innych zastosowań sztucznej inteligencji konsumenckiej.