Niemcy dają urzędom prawo trenowania AI na danych z wniosków azylowych

Niemiecki rząd federalny przyjął projekt ustawy, który po raz pierwszy da urzędom migracyjnym wyraźną podstawę prawną do wykorzystywania sztucznej inteligencji przy rozpatrywaniu wniosków azylowych, wizowych i pobytowych. Krytycy, w tym organizacja AlgorithmWatch, mówią wprost, że osoby ubiegające się o ochronę mają stać się królikami doświadczalnymi dla niedopracowanych systemów AI.

Co przewiduje ustawa

Za projektem stoi niemieckie Ministerstwo Spraw Wewnętrznych. KIMVG ma stworzyć ramy prawne, w tym dotyczące ochrony danych osobowych, dla rozwoju i praktycznego zastosowania inteligentnych systemów analitycznych w administracji migracyjnej. Rząd argumentuje to utrzymującą się wysoką liczbą wniosków i ograniczonymi zasobami kadrowymi w urzędach.

Ustawa ma też ujednolicić praktykę administracyjną w całych Niemczech, gdzie dotąd poszczególne landy i urzędy lokalne różniły się podejściem do podobnych spraw. W tym celu systemy AI mają analizować wzorce w już zakończonych postępowaniach azylowych, żeby zestandaryzować kryteria oceny.

Zakres uprawnień urzędów

Zgodnie z projektem uprawnienia obejmą nie tylko Federalny Urząd ds. Migracji i Uchodźców (BAMF), ale też komunalne urzędy ds. cudzoziemców, niemieckie Ministerstwo Spraw Zagranicznych wydające wizy, a także policję, służby bezpieczeństwa i agencje pracy zajmujące się cudzoziemcami.

Najbardziej kontrowersyjnym elementem jest zezwolenie na zautomatyzowane przeszukiwanie internetu, w tym publicznie dostępnych profili w mediach społecznościowych takich jak Instagram, LinkedIn czy Facebook, w poszukiwaniu materiału mającego potwierdzać lub podważać wiarygodność wniosków.

Krytyka organizacji praw człowieka

AlgorithmWatch zarzuca rządowi, że projekt umożliwia systematyczne wykorzystywanie wrażliwych danych osobowych z procesów migracyjnych bez wystarczających ograniczeń, różnicowania i przejrzystości. Podobne zastrzeżenia zgłosiły Amnesty International oraz Pro Asyl, ostrzegając przed ryzykiem algorytmicznych zniekształceń i mechanicznym przejmowaniem wskazówek AI przez przeciążony personel.

Rząd planuje wdrożenie zawodnych i dyskryminacyjnych systemów AI właśnie w procedurach azylowych, gdzie decyduje się o ochronie i ludzkich losach - Sarah Lincoln, Gesellschaft für Freiheitsrechte

Tu powinny zadźwonić alarmy - Clara Bünger, Die Linke

Ryzyko samonapędzającej się dyskryminacji

Prawniczka Sarah Lincoln z Gesellschaft für Freiheitsrechte wskazuje, że wdrożenie zawodnych systemów AI akurat w procedurach azylowych oznacza podejmowanie decyzji o ochronie i losie ludzi na podstawie narzędzi, których błędy nie zostały jeszcze dostatecznie zbadane. Deputowana Clara Bünger z Die Linke ostrzega, że AI wzmacnia istniejące uprzedzenia, a grupy już teraz narażone na dyskryminację będą kontrolowane intensywniej, bez wystarczającej liczby urzędników zdolnych krytycznie ocenić rekomendacje algorytmu.

Eksperci zwracają uwagę na mechanizm samonapędzającej się stronniczości: jeśli system AI oznaczy jako podejrzane wnioski osób z konkretnych krajów pochodzenia lub uczelni wcześniej zamieszanych w przypadki oszustw, te grupy będą częściej kontrolowane, co statystycznie wygeneruje więcej wykrytych nieprawidłowości i utrwali wzorzec, niezależnie od faktycznej winy poszczególnych osób.

Co dalej

Projekt ustawy przeszedł już etap przyjęcia przez gabinet Fryderyka Merza i trafi teraz do procedury parlamentarnej. Debata w Bundestagu i Bundesracie zaplanowana jest na jesień 2026 roku, po przerwie letniej, co pozostawia organizacjom pozarządowym i opozycji czas na dalsze naciski wobec zapisów dotyczących ochrony danych i mechanizmów odwoławczych.

Dla polskiego czytelnika sprawa ma znaczenie wykraczające poza Niemcy. Jako duży kraj tranzytowy i docelowy w Unii Europejskiej, Niemcy testują rozwiązania, które mogą później posłużyć za wzór dla innych państw członkowskich rozważających automatyzację procedur migracyjnych, w tym Polski, gdzie temat wykorzystania AI w administracji publicznej dopiero raczkuje.