Urzędy w Polsce nie wiedzą, czy stosują systemy objęte unijnym AI Act

Zakład Ubezpieczeń Społecznych ocenia zwolnienia lekarskie modelem predykcyjnym przypisującym wnioskom wskaźnik ryzyka, ale nie uznaje tego za system sztucznej inteligencji. Agencja Bezpieczeństwa Wewnętrznego odmawia jakiejkolwiek odpowiedzi, twierdząc, że samo przyznanie się do używania AI ujawniłoby metody działania. Dwa urzędy gminy zaprzeczyły, jakoby korzystały z AI, choć wydawały decyzje administracyjne powołujące się na sfabrykowane przepisy prawa, co świadczy o użyciu generatywnych modeli językowych.

Definicja, która nie działa

Artykuł 3 ustęp 1 unijnego rozporządzenia o sztucznej inteligencji definiuje system AI jako mechanizm działający z pewnym poziomem autonomii, zdolny do adaptacji po wdrożeniu i wnioskujący, jak wygenerować wyniki takie jak prognozy, treści, rekomendacje czy decyzje wpływające na środowisko fizyczne lub wirtualne. Definicja obejmuje zarówno chatboty generatywne, jak ChatGPT czy Claude, jak i modele predykcyjne oraz narzędzia scoringowe używane od lat w administracji.

Z raportu Watchdog Polska wynika, że urzędy interpretują ten przepis skrajnie różnie. Część instytucji zalicza do systemów AI zwykłe oprogramowanie OCR rozpoznające tekst ze skanów dokumentów, inne uznają za AI wyłącznie aplikacje generujące treści typu ChatGPT, a jeszcze inne odmawiają ujawnienia zaawansowanych modeli analitycznych, twierdząc, że ich rozwiązania nie spełniają definicji z rozporządzenia.

Konkretne przypadki

ZUS wykorzystuje system predykcyjny analizujący zaświadczenia lekarskie i przypisujący wnioskom wskaźnik ryzyka nieprawidłowości. Mimo stosowania technik analizy predykcyjnej instytucja nie klasyfikuje tego mechanizmu jako systemu AI podlegającego rozporządzeniu, a więc nie wdraża wymaganych zabezpieczeń, takich jak kwalifikacja ryzyka czy ocena wpływu na prawa podstawowe.

System STIR, czyli Szybkiego Informowania o Ryzyku prowadzony przez Krajową Administrację Skarbową, analizuje ryzyko oszustw bankowych i wylicza wskaźniki decydujące o blokadzie rachunków. Funkcje systemu sugerują wykorzystanie technologii AI, ale Ministerstwo Finansów i izba rozliczeniowa ograniczają się do minimum informacji, powołując się na tajemnicę operacyjną. Podobnie postąpiła Agencja Bezpieczeństwa Wewnętrznego, odmawiając ujawnienia jakichkolwiek danych o stosowanych narzędziach.

Paradoks samorządów

Najbardziej jaskrawym przykładem problemu są dwie gminy, które w odpowiedzi na pytania Watchdog Polska formalnie zaprzeczyły, jakoby korzystały z AI, a jednocześnie wydawały decyzje administracyjne noszące ślady generatywnych modeli językowych, w tym powołujące się na nieistniejące przepisy prawa. To pokazuje, że urzędnicy sięgają po narzędzia typu ChatGPT w codziennej pracy bez wiedzy przełożonych i bez jakiejkolwiek kontroli nad jakością generowanych treści.

Każdy podmiot musi samodzielnie ocenić, czy dany system spełnia definicję z artykułu 3 ustęp 1, w tym określić swoją rolę jako dostawcy lub użytkownika, co decyduje o zakresie obowiązków - Paweł Dymek, prawnik, kancelaria Głowacki i Wspólnicy

Spór o definicje bywa pretekstem do unikania przejrzystości. Instytucje twierdzą, że narzędzie nie jest systemem AI, że jego użycie jest opcjonalne albo że ostateczną decyzję podejmuje człowiek - Michał Zemełka, Watchdog Polska

Co grozi za ukrywanie

Rozporządzenie daje organom nadzoru realne narzędzia nacisku. Artykuł 80 AI Act pozwala interweniować, gdy instytucja celowo zaniża poziom ryzyka swojego systemu, a artykuł 99 przewiduje dotkliwe kary finansowe za ignorowanie nakazów dostosowania się do przepisów, jeśli po weryfikacji okaże się, że system wysokiego ryzyka działał bez wymaganych zabezpieczeń.

Watchdog Polska rekomenduje przyjęcie jednolitej, operacyjnej definicji AI dla administracji publicznej, opartej na faktycznej funkcji systemu i jego wpływie na obywateli, a nie na deklaracji samego operatora. Organizacja proponuje też stworzenie publicznego, centralnego rejestru aplikacji AI używanych przez urzędy oraz niezależny mechanizm szybkiej weryfikacji odmów udzielenia informacji.

Znaczenie dla Polski

Do pełnego wejścia w życie AI Act, 2 sierpnia 2026 roku, zostało niewiele czasu, a z raportu wynika, że znaczna część administracji nie jest w stanie nawet zinwentaryzować, jakich narzędzi AI używa. Bez takiej inwentaryzacji trudno mówić o realnym wdrożeniu obowiązków dotyczących przejrzystości, oceny ryzyka czy nadzoru nad systemami wysokiego ryzyka, które rozporządzenie nakłada na instytucje publiczne.

Problem dotyczy nie tylko dużych instytucji centralnych, ale też małych gmin, gdzie świadomość obowiązków wynikających z unijnego rozporządzenia jest jeszcze niższa. Wśród mniejszych samorządów odsetek jednostek posiadających jakiekolwiek wewnętrzne zasady korzystania z AI spada poniżej jednego procenta, co oznacza, że w praktyce urzędnicy działają bez żadnych wytycznych.