Holandia karze Ubera rekordową grzywną za algorytm zwalniający kierowców

Holenderski regulator ochrony danych osobowych Autoriteit Persoonsgegevens nałożył na Ubera karę w wysokości 825 milionów euro. Powód to automatyczne blokowanie i usuwanie kont kierowców przez systemy algorytmiczne, które działały bez realnej ludzkiej kontroli nad decyzjami wpływającymi na zarobki tysięcy osób.

Co ustalił regulator

Autoriteit Persoonsgegevens ustalił, że Uber w latach 2020-2022 wykorzystywał zautomatyzowane systemy do czasowego lub trwałego dezaktywowania kont kierowców na terenie Holandii. Kluczowy zarzut dotyczy tego, że decyzje o odcięciu kogoś od możliwości zarabiania zapadały bez wystarczającej przejrzystości co do tego, jak dokładnie działał algorytm, oraz bez realnego udziału człowieka w wielu przypadkach.

Regulator wskazał dwa główne mechanizmy działania systemu. Pierwszy to wykrywanie podejrzeń oszustwa, na przykład celowego wybierania dłuższych tras w celu zawyżenia opłaty za kurs, co algorytm oceniał samodzielnie. Drugi to automatyczne i trwałe usuwanie z platformy kierowców, którzy zbierali zbyt niskie oceny od pasażerów.

Zdecydowanie nie zgadzamy się z tą decyzją i z nieproporcjonalną wysokością kary - Uber

Prawo do ludzkiej decyzji

Sprawa dotyka jednego z centralnych mechanizmów unijnego prawa o ochronie danych. Przepisy RODO ograniczają możliwość podejmowania w pełni zautomatyzowanych decyzji, które wywierają istotny skutek prawny lub w podobny sposób znacząco wpływają na daną osobę. Osoba, wobec której zapadła taka decyzja, musi mieć możliwość jej zakwestionowania i uzyskania interwencji człowieka.

Dla kierowcy platformy zarobkowej dezaktywacja konta oznacza natychmiastową utratę źródła dochodu, często bez jasnego wyjaśnienia przyczyny i bez realnej ścieżki odwoławczej. Regulator holenderski uznał, że Uber przez lata nie zapewniał takich gwarancji w wystarczającym stopniu.

Odpowiedź Ubera

Firma kwestionuje ustalenia regulatora. Uber twierdzi, że nigdy nie podejmował decyzji o trwałym usunięciu kierowcy bez udziału człowieka, a większość zawieszeń miała charakter krótkotrwały. Spółka podała też własne dane liczbowe, wskazując, że w 2021 roku z powodu niskich ocen dezaktywowano relatywnie niewielką liczbę kont kierowców w Europie.

Uber zapewnia, że obecnie decyzje o blokowaniu kont podlegają przeglądowi przez pracowników, a kierowcy mogą je zaskarżyć. Firma zapowiedziała odwołanie się od decyzji holenderskiego regulatora, co oznacza, że ostateczne rozstrzygnięcie sprawy może potrwać jeszcze lata.

Miejsce wśród kar RODO

Kara 825 milionów euro, jeśli się utrzyma, stanie się drugą najwyższą sankcją w historii RODO. Rekord należy do Mety, która w 2023 roku zapłaciła 1,2 miliarda euro nałożone przez irlandzkiego regulatora za niezgodny z prawem transfer danych europejskich użytkowników Facebooka do Stanów Zjednoczonych. Meta również odwołała się od tamtej decyzji.

Zestawienie obu spraw pokazuje rosnącą gotowość europejskich regulatorów do karania firm technologicznych za praktyki związane z automatyzacją decyzji na dużą skalę, niezależnie od tego, czy dotyczą transferu danych, czy zarządzania siłą roboczą przez algorytmy.

Znaczenie dla rynku pracy platformowego

Sprawa ma znaczenie wykraczające poza samego Ubera. Modele zarządzania algorytmicznego, w których system automatycznie ocenia, nagradza i karze pracowników platform, są standardem w branży przewozów i dostaw na terenie całej Unii Europejskiej, w tym w Polsce. Decyzja holenderskiego regulatora może stać się precedensem wpływającym na to, jak inne platformy projektują swoje systemy oceny i dezaktywacji kont.

Unia Europejska od pewnego czasu pracuje też nad odrębnymi przepisami dotyczącymi pracy platformowej, które mają wprost regulować kwestię automatycznego zarządzania pracownikami przez algorytmy. Sprawa Ubera pokazuje, że nawet bez tych szczegółowych przepisów istniejące prawo o ochronie danych już dziś daje regulatorom narzędzia do karania firm za nieprzejrzyste systemy decyzyjne.