Algorytm odrzucił wniosek o pracę, kredyt lub świadczenie? Można żądać wyjaśnień

Odmowa zatrudnienia, kredytu czy świadczenia coraz częściej zapada bez udziału człowieka, decyduje algorytm oceniający wniosek według własnych kryteriów. Unijny AI Act wprowadza w takich sytuacjach konkretne narzędzie, artykuł 86 przyznaje osobie dotkniętej taką decyzją prawo do żądania jasnego wyjaśnienia, jaką rolę odegrał system sztucznej inteligencji i jakie czynniki zaważyły na wyniku.

Co daje artykuł 86

Przepis działa wtedy, gdy decyzja oparta na wynikach systemu sztucznej inteligencji wysokiego ryzyka wywołuje skutki prawne albo w podobny sposób znacząco wpływa na sytuację danej osoby, a ta uznaje decyzję za niekorzystną dla siebie. W takiej sytuacji może zażądać od podmiotu stosującego system jasnego i zrozumiałego wyjaśnienia roli algorytmu oraz głównych elementów podjętej decyzji.

Obowiązek nie wymaga od firmy czy instytucji ujawnienia pełnego kodu modelu ani szczegółów technicznych działania sieci neuronowej. Wystarczy przedstawienie informacji pozwalających zrozumieć, jakie dane i okoliczności zdecydowały o wyniku. Odpowiedź w rodzaju odmowy z powodu niespełnienia kryteriów wewnętrznych może okazać się niewystarczająca, jeśli osoba zainteresowana nie dowiaduje się, które dane lub okoliczności były kluczowe i jak mogłaby poprawić swoją sytuację.

Rekrutacja i praca

Systemy sztucznej inteligencji wykorzystywane przy zatrudnieniu, zarządzaniu pracownikami oraz dostępie do samozatrudnienia AI Act klasyfikuje jako systemy wysokiego ryzyka. Dotyczy to zwłaszcza algorytmów filtrujących zgłoszenia rekrutacyjne, oceniających wydajność, przydzielających zadania czy wspierających decyzje o zakończeniu współpracy.

Kandydat do pracy, którego zgłoszenie odrzucił algorytm skanujący CV, może zażądać od potencjalnego pracodawcy wyjaśnienia, jakie parametry i kryteria zdecydowały o odrzuceniu. Podobnie pracownik, wobec którego zapadła niekorzystna decyzja kadrowa oparta na wynikach systemu AI, może domagać się wyjaśnienia, jeśli o to wystąpi.

Kredyty i ubezpieczenia

Scoring kredytowy trafił na unijną listę systemów wysokiego ryzyka, podobnie jak systemy oceniające ryzyko i ustalające składki w ubezpieczeniach na życie i zdrowotnych. W Polsce banki mają obowiązek tłumaczenia odmowy kredytu już od 2019 roku na mocy prawa bankowego, jednak AI Act dokłada dodatkową warstwę ochrony w sytuacjach, gdy decyzję podjął w pełni automatyczny algorytm.

Klient, którego wniosek odrzucił system oceny zdolności kredytowej, może zażądać ponownego rozpatrzenia sprawy przez analityka, a dodatkowo domagać się wyjaśnienia roli algorytmu w podjętej decyzji. Szczegółowe obowiązki dla systemów wysokiego ryzyka w niektórych kategoriach, w tym część mechanizmów scoringowych, zaczną obowiązywać w pełni dopiero od grudnia 2027 roku, co oznacza stopniowe wdrażanie przepisów przez kolejne miesiące.

Polska perspektywa

Zbliżający się termin 2 sierpnia 2026 roku, od którego zaczynają obowiązywać kolejne przepisy AI Act, w tym wymóg oznaczania treści generowanych przez AI oraz ujawniania rozmowy z botem, wzmacnia presję na firmy i instytucje, by przygotowały procedury odpowiadania na żądania wyjaśnień. Prezes Urzędu Ochrony Danych Osobowych już wcześniej apelował o pilne uregulowanie zasad stosowania AI w rekrutacji, wskazując na lukę między tempem wdrażania algorytmów a gotowością przepisów krajowych do ich nadzorowania.

Instytucje publiczne w Polsce, w tym Zakład Ubezpieczeń Społecznych, korzystają z narzędzi analitycznych opartych na modelach predykcyjnych, na przykład przy analizie zaświadczeń lekarskich, gdzie system przypisuje wartości punktowe sygnalizujące nieprawidłowości, branych pod uwagę przez lekarzy orzeczników. ZUS zastrzega jednak, że nie traktuje takiego narzędzia jako systemu sztucznej inteligencji w rozumieniu AI Act, co pokazuje, jak łatwo instytucje mogą starać się wyłączyć swoje systemy spod nowych obowiązków wyjaśnialności.

Co dalej

Prawnicy specjalizujący się w AI Act wskazują, że najbliższe miesiące pokażą, jak firmy i urzędy w praktyce odpowiadają na żądania wyjaśnień, zwłaszcza że wiele polskich instytucji przyznaje, iż nie ma pewności, czy stosowane przez nie systemy w ogóle podlegają nowym przepisom. Dla obywateli oznacza to, że warto pytać wprost o rolę algorytmu przy każdej niekorzystnej decyzji dotyczącej pracy, kredytu czy świadczenia, egzekwowanie tego prawa zależy w dużej mierze od świadomości samych zainteresowanych.

Źródła: Dziennik.pl, Forsal.pl, RP.pl, Prawo.pl