Watchdog Polska proponuje rejestr wykorzystania AI w urzędach

Podczas posiedzenia senackiej komisji infrastruktury 24 czerwca Michał Zemełka z Sieci Obywatelskiej Watchdog Polska przedstawił propozycję utworzenia publicznego rejestru systemów sztucznej inteligencji wykorzystywanych przez polską administrację. Postulat padł w momencie, gdy Senat pracował nad ustawą o systemach sztucznej inteligencji wdrażającą unijny AI Act, co dało organizacji rzadką okazję, by wpisać żądanie jawności wprost do przepisów.

Co proponuje Watchdog

Organizacja chce dwóch rozwiązań zapisanych wprost w ustawie. Pierwsze to publiczny rejestr, w którym obywatel sprawdzi, jaka instytucja używa jakiego systemu AI, w jakim obszarze działania i w jakim celu. Drugie to obowiązek oznaczania udziału sztucznej inteligencji w decyzjach, pismach i innych dokumentach urzędowych, gdy model brał udział w przygotowaniu analizy, rekomendacji albo rozstrzygnięcia.

Zemełka argumentował, że jawność nie jest przeszkodą dla wdrażania nowych technologii w administracji, tylko warunkiem zaufania do nich. Watchdog powtarza ten postulat od maja, gdy zgłosił go również w konsultacjach dokumentu Polityka Rozwoju Sztucznej Inteligencji w Polsce do 2030 roku, ale dopiero prace nad ustawą dały mu realną szansę na wejście do przepisów.

Obywatel ma prawo wiedzieć, czy technologia miała wpływ na sposób potraktowania jego sprawy - Michał Zemełka, Sieć Obywatelska Watchdog Polska

Skala rozbieżności między urzędami

Badanie, na którym Watchdog opiera swój postulat, pokazuje ogromne rozbieżności w wykorzystaniu AI między typami instytucji. Duże miasta na prawach powiatu deklarują użycie sztucznej inteligencji w 34 procentach przypadków, urzędy centralne w 20 procentach, starostwa w 14 procentach, a zwykłe gminy poniżej 1 procenta. Organizacja podkreśla przy tym problem rozmywania definicji AI - część instytucji uznaje za sztuczną inteligencję wyłącznie chatboty, pomijając systemy analizy dokumentów, rozpoznawania obrazu czy wspierania decyzji.

Wśród zastosowań, które urzędy same zgłosiły w odpowiedziach na wnioski o informację publiczną, znalazły się transkrypcja nagrań i streszczanie spotkań, praca z dokumentami i analiza tekstu, chatboty i voiceboty dla mieszkańców, diagnostyka medyczna, analiza obrazu i monitoringu oraz wsparcie decyzji administracyjnych. Tylko 20 spośród ponad 2000 przebadanych gmin ma spisane wewnętrzne zasady korzystania z AI przez pracowników, co Watchdog wskazuje jako główne źródło ryzyka, a nie samo używanie narzędzi.

Ustawa tuż przed finiszem

Propozycja padła w kluczowym momencie procesu legislacyjnego. Rządowy projekt trafił do Sejmu w kwietniu, izba uchwaliła ustawę 11 czerwca stosunkiem głosów 421 do 3 przy 18 wstrzymujących się. Senat zgłosił poprawki 25 czerwca, głosując za nimi jednogłośnie 79 głosami, po czym dokument wrócił do Sejmu, który zakończył nad nim prace parlamentarne. Ustawa wdraża unijny AI Act i powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować rynek AI w Polsce i będzie mogła udzielać wybranym podmiotom zgody na testowanie nowych technologii w regulacyjnych piaskownicach.

Reakcja rządu na propozycję Watchdogu była pozytywna, choć na razie deklaratywna. Wiceminister cyfryzacji Dariusz Standerski powiedział podczas posiedzenia komisji, że popiera rozwiązanie zaproponowane przez organizację i jest gotów konsultować szczegóły z nią oraz innymi podmiotami. Nie oznacza to jednak, że rejestr trafi do ostatecznego tekstu ustawy - na tym etapie prac legislacyjnych zmiana zakresu przepisów wymagałaby kolejnej rundy poprawek.

Dlaczego to ważne dla obywateli

Bez rejestru i obowiązku oznaczania trudno dziś ustalić, czy dana decyzja administracyjna, na przykład w sprawie zasiłku, pozwolenia czy odwołania, powstała z udziałem modelu językowego czy systemu wspierającego decyzje. Watchdog Polska od lat zajmuje się jawnością działania instytucji publicznych, w tym prowadzi Sieć Sygnalistów i monitoruje dostęp do informacji publicznej, więc traktuje AI jako kolejny obszar, w którym urzędy powinny tłumaczyć się z narzędzi, jakich używają wobec obywateli.

Dla polskich urzędów oznaczałoby to nowy obowiązek sprawozdawczy, porównywalny z rejestrami umów czy rejestrami zbiorów danych osobowych. Firmy i instytucje, które już wdrożyły AI bez wewnętrznych procedur, musiałyby nadrobić dokumentację niemal od zera, skoro tylko garstka gmin ma dziś spisane zasady korzystania z tych narzędzi przez pracowników.

Losy postulatu zależą teraz od tego, czy temat wróci w toku prac nad przepisami wykonawczymi do ustawy albo w pracach nowo powołanej komisji nadzorującej rynek AI. Watchdog zapowiada, że będzie pilnował, czy deklaracje wiceministra przełożą się na konkretny zapis prawny, i planuje kolejne rundy monitoringu urzędów w kolejnych latach.