Polska badaczka dostała 2,5 mln euro z ERC na zbadanie uprzedzeń AI w procesie karnym

Uniwersytet Wrocławski dostał pierwszy w swojej historii grant Europejskiej Rady ds. Badań Naukowych (ERC Advanced Grant), a jego laureatka od razu bierze na warsztat jeden z najbardziej newralgicznych problemów sztucznej inteligencji w prawie: systematyczne uprzedzenia algorytmów wobec kobiet i mniejszości w procesie karnym.

Kremens kieruje na Wydziale Prawa, Administracji i Ekonomii UWr Centrum Sprawiedliwości Cyfrowej, które od lat zajmuje się wpływem nowych technologii na proces karny. Grant ERC Advanced, przyznawany naukowcom z ugruntowanym dorobkiem i ambitnymi projektami badawczymi, pozwoli jej przez pięć lat prowadzić zespół zajmujący się jednym pytaniem: co się stanie z zasadami procesu karnego, gdy zderzą się z cyfrowymi narzędziami zbudowanymi na danych obciążonych uprzedzeniami.

Skąd biorą się uprzedzenia w AI

Punktem wyjścia projektu jest teza, że prawo karne, mimo pozornej neutralności, powstało w oparciu o męskie doświadczenie i dopiero później uznano je za uniwersalne. Kremens przenosi ten argument na grunt technologii używanych dziś przez organy ścigania, wskazując konkretny mechanizm: systemy rozpoznawania twarzy trenowane głównie na wizerunkach mężczyzn oraz białych kobiet radzą sobie najgorzej właśnie z identyfikacją czarnoskórych kobiet.

Prawo tworzono na podstawie męskiego doświadczenia, a następnie uznano je za uniwersalne - prof. Karolina Kremens, Uniwersytet Wrocławski

To nie jest abstrakcyjny problem akademicki. Błędna identyfikacja przez system rozpoznawania twarzy w praktyce oznacza fałszywe podejrzenia, zatrzymania czy wnioski dowodowe oparte na wadliwych przesłankach. Badaczka argumentuje, że skoro tego rodzaju narzędzia trafiają już do rąk prokuratury i policji, a proces karny nie ma mechanizmów korygujących te uprzedzenia, ryzyko błędu systemowo obciąża grupy, które i tak są w gorszej pozycji dowodowej.

Asymetria między oskarżeniem a obroną

Drugi wątek dotyczy nierówności proceduralnej, jaką wprowadza cyfryzacja postępowania karnego. Kremens zwraca uwagę, że rewolucja cyfrowa już dziś podważa fundamentalne zasady procesu, takie jak bezpośredniość czy równość broni: prokuratura dysponuje zaawansowanymi narzędziami AI do analizy dowodów cyfrowych, do których broniący się oskarżony często nie ma dostępu ani możliwości ich zweryfikowania.

W praktyce oznacza to, że strona z większymi zasobami technologicznymi i finansowymi zyskuje przewagę niezależną od meritum sprawy. Projekt crimPROfem ma zbadać, jak dużą rolę odgrywa ta asymetria i czy da się ją zniwelować regulacyjnie, zanim narzędzia AI na stałe wejdą do standardowego wyposażenia sądów i prokuratur w Europie.

Metoda: przepisywanie wyroków

Zespół Kremens zamierza w ramach projektu dosłownie przepisać wybrane wyroki karne z kilku krajów, stosując do nich narzędzia feministycznej teorii prawa, żeby sprawdzić, czy zmieniłyby się wnioski lub uzasadnienie, gdyby dowody i komunikację cyfrową oceniano z tej perspektywy. To metoda znana z podobnych projektów prawniczych za granicą, ale rzadko stosowana w kontekście technologii kryminalistycznych opartych na AI.

Badaczka podkreśla przy tym, że reformy korzystne dla jednej grupy kobiet mogą szkodzić innej. Jako przykład podaje obowiązkowe aresztowanie sprawców przemocy domowej: polityka wprowadzona z myślą o ochronie ofiar może w praktyce pogrążać w biedzie rodziny znajdujące się już w trudnej sytuacji materialnej, jeśli jedyny żywiciel trafia za kraty automatycznie, bez uwzględnienia kontekstu. Projekt ma więc uwzględniać perspektywę intersekcjonalną: rasę, klasę, orientację seksualną, wykształcenie i sytuację finansową, a nie tylko płeć.

Znaczenie dla Polski

Dla polskiej nauki to wydarzenie samo w sobie: Uniwersytet Wrocławski nigdy wcześniej nie zdobył grantu ERC, a w tegorocznej edycji konkursu Advanced Grants był to jedyny polski sukces. Prestiż ERC Advanced polega właśnie na tym, że przyznawany jest nielicznym badaczom z uznanym dorobkiem na realizację ryzykownych, ale potencjalnie przełomowych projektów badawczych, finansowanych na dużą skalę i długi okres.

Dla polskich prawników i twórców systemów wykorzystujących AI w wymiarze sprawiedliwości projekt crimPROfem może w ciągu najbliższych pięciu lat dostarczyć konkretnych rekomendacji, jak projektować procedury karne odporne na uprzedzenia algorytmiczne, zanim podobne narzędzia na dobre wejdą do polskich sądów i prokuratur. Wnioski z badania mogą też zasilić dyskusję o standardach stosowania AI w organach ścigania, prowadzoną obecnie na poziomie unijnym w ramach wdrażania AI Act.