Prezes UODO chce nowych przepisów o AI w rekrutacji i zwolnieniach

Prezes Urzędu Ochrony Danych Osobowych Mirosław Wróblewski wystąpił do Ministerstwa Rodziny, Pracy i Polityki Społecznej z wnioskiem o rozpoczęcie prac nad przepisami regulującymi wykorzystanie sztucznej inteligencji w rekrutacji i ocenie pracowników. Powodem jest rosnąca liczba sygnałów o algorytmach, które automatycznie odsiewają kandydatów i oceniają zatrudnionych bez realnego nadzoru człowieka.

Wniosek UODO nie jest reakcją na jeden konkretny przypadek, lecz na narastające zjawisko. Firmy rekrutacyjne i działy HR coraz częściej korzystają z narzędzi opartych na sztucznej inteligencji do skanowania CV, profilowania kandydatów, prowadzenia wstępnych rozmów kwalifikacyjnych i wspierania decyzji o zaproszeniu na kolejny etap rekrutacji lub o zatrudnieniu. Podobne systemy trafiają też do oceny już zatrudnionych pracowników.

Ryzyko powielania uprzedzeń

Głównym zarzutem prezesa UODO jest to, że modele sztucznej inteligencji uczą się na historycznych danych, które same w sobie mogą zawierać uprzedzenia dotyczące płci, wieku czy pochodzenia kandydatów. Algorytm trenowany na takich danych może je bezwiednie powielać i utrwalać, podejmując decyzje pozornie neutralne, a faktycznie dyskryminujące.

Istnieje ryzyko, że systemy sztucznej inteligencji mogą powielać uprzedzenia istniejące w danych treningowych - Mirosław Wróblewski, prezes UODO

Drugi problem dotyczy zakresu przetwarzanych danych. Zdaniem Wróblewskiego narzędzia AI używane w rekrutacji mogą analizować znacznie więcej informacji o kandydacie, niż przewiduje określony w Kodeksie pracy katalog danych, jakich pracodawca ma prawo żądać. Systemy skanujące profile w mediach społecznościowych czy treści publikowane w sieci mogą sięgać po dane, które w tradycyjnym procesie rekrutacyjnym byłyby niedostępne lub wprost zakazane.

Czego brakuje w polskim prawie

UODO wskazuje, że obecne przepisy o ochronie danych osobowych dopuszczają w prawie krajowym wyjątki od zakazu automatycznego podejmowania decyzji, ale wymagają przy tym odpowiednich zabezpieczeń, których polskie prawo dziś nie precyzuje. Nie wiadomo między innymi, kto powinien przeprowadzać audyty takich systemów ani jaką ścieżkę odwoławczą ma kandydat przekonany, że algorytm odrzucił go niesłusznie.

Urząd powołuje się też na unijny AI Act, który zalicza systemy rekrutacyjne do kategorii wysokiego ryzyka. Zgodnie z artykułem 86 ustęp 1 tego rozporządzenia, osoba, wobec której podjęto decyzję na podstawie systemu wysokiego ryzyka, ma prawo do jasnego i merytorycznego wyjaśnienia roli, jaką system odegrał w tej decyzji.

Systemy wysokiego ryzyka powinny być transparentne, to znaczy powinny gwarantować dostęp do informacji o sposobie działania modeli sztucznej inteligencji - Mirosław Wróblewski, prezes UODO

Co to oznacza dla pracodawców

Dla firm korzystających już z narzędzi AI w HR wniosek UODO to sygnał, że regulacyjna luka może zostać zamknięta szybciej, niż część pracodawców zakładała. Jeśli ministerstwo podejmie prace legislacyjne, przedsiębiorstwa mogą zostać zobowiązane do przeprowadzania ocen skutków dla ochrony danych przed wdrożeniem takich systemów, zapewnienia realnego nadzoru człowieka nad automatycznymi decyzjami oraz umożliwienia kandydatom odwołania się od werdyktu algorytmu.

AI Act już dziś nakłada część tych obowiązków na poziomie unijnym, ale UODO chce, żeby doprecyzowanie trafiło wprost do polskich ustaw, w tym do Kodeksu pracy. Bez takiej wykładni firmy mogą trzymać się interpretacji korzystniejszych dla siebie, a kandydaci nie mają dziś jasnej ścieżki, by zakwestionować odrzucenie przez algorytm.

Szerszy kontekst sporów o AI w HR

Sprawa wpisuje się w szerszy, międzynarodowy nurt kontrowersji wokół sztucznej inteligencji stosowanej do oceny pracowników. Podobne zarzuty, dotyczące algorytmicznej oceny wydajności bez uwzględniania niepełnosprawności czy urlopów macierzyńskich, pojawiały się już wobec dużych firm technologicznych za granicą. UODO nie odnosi się w swoim wniosku do konkretnego postępowania sądowego, ale traktuje takie przypadki jako argument za wyprzedzającym uregulowaniem tematu w Polsce, zanim skala wdrożeń AI w rekrutacji urośnie na tyle, że problem stanie się systemowy.

UODO zadeklarował gotowość wsparcia eksperckiego resortu pracy przy analizie zgodności przyszłych przepisów z RODO. Na razie nie wiadomo, czy i kiedy ministerstwo podejmie prace legislacyjne ani jaki kształt miałyby przyjąć nowe przepisy. Wniosek prezesa UODO otwiera jednak formalną ścieżkę do dyskusji o granicach automatyzacji decyzji kadrowych w Polsce.