Polscy naukowcy stworzyli metodę DAVE do prześwietlania decyzji AI

Naukowcy z Uniwersytetu Jagiellońskiego wspólnie z niemieckim Max Planck Institute for Informatics opracowali metodę o nazwie DAVE, która pozwala precyzyjnie prześledzić, na jakiej podstawie model sztucznej inteligencji podjął konkretną decyzję. Praca została zaprezentowana w lipcu 2026 roku na International Conference on Machine Learning i zdobyła status Spotlight, przyznawany zaledwie 2,2 procent zgłoszonych artykułów.

Metoda dotyczy modeli typu Vision Transformer, czyli architektury, na której opiera się dziś większość systemów rozpoznających obrazy, od aplikacji medycznych po systemy wizyjne aut autonomicznych. Problem, który rozwiązuje DAVE, jest praktyczny: dotychczasowe narzędzia do wyjaśniania decyzji AI często generują niestabilne lub nieprecyzyjne mapy uwagi, które trudno zinterpretować, a jeszcze trudniej im zaufać w zastosowaniach o wysokiej stawce.

Jak działa DAVE

Dr hab. Bartosz Zieliński, dyrektor Jagiellońskiego Centrum Sztucznej Inteligencji, wyjaśnił zasadę działania narzędzia wprost. Zadaniem metody jest wskazanie, które fragmenty obrazu były najważniejsze dla podjęcia przez model konkretnej decyzji.

Jej zadaniem jest wskazanie, które fragmenty obrazu były najważniejsze dla podjęcia przez model konkretnej decyzji - dr hab. Bartosz Zieliński, dyrektor Jagiellońskiego Centrum Sztucznej Inteligencji

Kluczowa różnica względem wcześniejszych podejść polega na tym, że DAVE nie traktuje modelu jak czarnej skrzynki. Zamiast obserwować wyłącznie wejście i wyjście, metoda analizuje sposób przepływu informacji przez wnętrze sieci i oddziela sygnały związane z rzeczywistym przetwarzaniem obrazu od elementów wynikających z architektury modelu lub jego lokalnej niestabilności.

Większość obecnych metod traktuje model jak czarną skrzynię... DAVE wykorzystuje wiedzę o wewnętrznej architekturze Vision Transformerów - dr Adam Wróbel, pierwszy autor publikacji

W praktyce oznacza to, że narzędzie potrafi odróżnić, czy model naprawdę rozpoznaje istotną cechę obiektu na obrazie, czy jego decyzja wynika z przypadkowego artefaktu, na przykład sposobu, w jaki obraz został podzielony na fragmenty na etapie wstępnego przetwarzania. Efektem jest bardziej stabilna i precyzyjna mapa wskazująca, na które elementy obrazu model faktycznie zwraca uwagę.

Gdzie to się przyda

Autorzy wskazują kilka obszarów, w których taka przejrzystość ma bezpośrednie znaczenie praktyczne. W diagnostyce medycznej lekarz analizujący zdjęcie rentgenowskie lub wynik tomografii oceniony przez AI może sprawdzić, czy system rzeczywiście opiera się na zmianie chorobowej, czy na artefakcie obrazu. Podobnie w kontroli jakości w przemyśle, systemach wizyjnych pojazdów autonomicznych oraz przy analizie zdjęć satelitarnych, gdzie błędne skojarzenie może kosztować realne pieniądze lub bezpieczeństwo.

To odpowiedź na rosnącą presję regulacyjną i biznesową na wyjaśnialność systemów AI. W sektorach wysokiego ryzyka, takich jak medycyna czy motoryzacja, coraz częściej wymaga się, by decyzje algorytmów dało się uzasadnić, a nie tylko zaakceptować na podstawie skuteczności statystycznej.

Uznanie na ICML i dalsze plany

Skala selekcji na ICML 2026 pokazuje wagę wyróżnienia. Na 23 918 zgłoszonych prac konferencja przyjęła 26,6 procent, a status Spotlight, zarezerwowany dla prac ocenionych najwyżej, trafił do zaledwie 536 artykułów, czyli 2,2 procent wszystkich zgłoszeń. DAVE znalazł się w tej wąskiej grupie.

Zespół zapowiedział, że pracuje nad rozszerzeniem metody poza modele wizyjne, w stronę systemów przetwarzających tekst oraz modeli multimodalnych, które łączą obraz i język. Kod źródłowy narzędzia ma zostać udostępniony publicznie, co pozwoli innym badaczom i firmom testować go we własnych zastosowaniach.

Dla polskiej sceny AI to kolejny przykład, że badania nad wyjaśnialnością sztucznej inteligencji, dziedziną uznaną za jeden z kluczowych kierunków rozwoju branży w 2026 roku, powstają także w krajowych ośrodkach naukowych, a nie wyłącznie w laboratoriach wielkich firm technologicznych. Współpraca Uniwersytetu Jagiellońskiego z Max Planck Institute for Informatics pokazuje też, że tego typu projekty łatwiej realizować w międzynarodowych zespołach łączących teorię uczenia maszynowego z praktyczną wiedzą o architekturze konkretnych modeli.