Generał Andrzejczak: AI nie musi się pomylić, by zabić niewinnego człowieka

Sztuczna inteligencja nie musi się pomylić, żeby na wojnie zginął niewinny człowiek - mówi gen. Rajmund Andrzejczak, w latach 2018-2023 szef Sztabu Generalnego Wojska Polskiego, w rozmowie z filozofką i badaczką nowych technologii prof. Aleksandrą Przegalińską. Rozmowa otwiera nowy cykl "Znam Przyszłość" na kanale ZNAM i dotyka pytania, kto ponosi odpowiedzialność, gdy system uzbrojony w algorytmy wybierze złe dane wejściowe.

Punktem wyjścia rozmowy jest pytanie, czy sztuczna inteligencja zmienia wyłącznie sposób prowadzenia wojny, czy też samą jej naturę. Andrzejczak odpowiada wymijająco wobec technologicznego entuzjazmu, przypominając, że wojna od wieków rządzi się podobnymi prawami, niezależnie od narzędzi, jakimi się ją prowadzi.

Wojna jest cały czas taka sama - gen. Rajmund Andrzejczak

Gdzie tkwi ryzyko

Generał tłumaczy, że najpoważniejsze zagrożenie związane z algorytmicznym wyborem celów nie leży w awarii czy pomyłce technicznej systemu. Software może działać dokładnie tak, jak go zaprogramowano, i mimo to doprowadzić do śmierci osoby niewinnej. Kluczowe jest to, kto i jak wcześniej ustalił reguły gry - jakie dane uznaje się za wystarczające do uderzenia, jaki poziom priorytetu przypisuje się poszczególnym celom i jaki próg strat ubocznych uznaje się za akceptowalny.

W rozmowie pada przykład namierzania na podstawie sygnału telefonu komórkowego. Dane geolokalizacyjne mogą być technicznie bezbłędne, a mimo to prowadzić do fałszywego wniosku, jeśli telefon danej osoby trafił w ręce kogoś innego, na przykład został pożyczony lub skradziony. System AI nie popełnia w takiej sytuacji błędu obliczeniowego, po prostu przetwarza dokładnie te dane, które dostał.

Kto odpowiada za algorytm

To przesuwa ciężar odpowiedzialności z maszyny na ludzi, którzy projektują reguły działania systemu, ustalają progi alarmowe i decydują, ile niepewności jest do zaakceptowania przy wydawaniu rozkazu. Andrzejczak i Przegalińska rozmawiają też o tym, czy usunięcie żołnierza z bezpośredniej linii frontu faktycznie czyni wojnę bezpieczniejszą, czy wręcz przeciwnie, obniża próg decyzji o użyciu siły, skoro nie naraża się już życia własnych żołnierzy.

Temat nie jest czysto teoretyczny. Autonomiczne systemy rozpoznania i namierzania celów są już częścią doktryn wojskowych wielu państw, a debata o odpowiedzialności prawnej za decyzje algorytmów toczy się równolegle na forach międzynarodowych, w tym w ramach apeli ONZ i Czerwonego Krzyża o ograniczenia dla autonomicznej broni.

Nowy format o technologii

"Znam Przyszłość" to nowy cykl rozmów prof. Aleksandry Przegalińskiej, filozofki i badaczki nowych technologii, która publicznie zajmuje się wpływem sztucznej inteligencji na państwo, gospodarkę, naukę, kulturę i codzienne funkcjonowanie ludzi. Rozmowa z Andrzejczakiem otwiera serię jako pierwszy odcinek, poświęcony wojnie i bezpieczeństwu.

Wybór generała na pierwszego gościa nie jest przypadkowy. Jako szef Sztabu Generalnego nadzorował okres intensywnej modernizacji Wojska Polskiego, w tym rozwój systemów łączących dane z sensorów, dronów i wywiadu w jeden obraz sytuacyjny wspierany algorytmami. Doświadczenie to daje mu perspektywę praktyka, a nie wyłącznie komentatora technologii.

Znaczenie dla debaty w Polsce

Dla polskiego czytelnika rozmowa jest istotna, bo pytania o odpowiedzialność za decyzje algorytmów przestają być abstrakcyjne w momencie, gdy polska armia sama inwestuje w systemy dowodzenia oparte na sztucznej inteligencji i integrację danych z wielu źródeł, w tym satelitów. Wątek odpowiedzialności prawnej za błędy systemów AI pojawia się też w cywilnych regulacjach, które w Polsce dopiero się kształtują wraz z wdrażaniem unijnego AI Act.

Rozmowa Andrzejczaka i Przegalińskiej nie rozstrzyga tych pytań, ale pokazuje, że w wojsku, podobnie jak w biznesie czy administracji, kluczowym problemem nie jest sama technologia, lecz zasady, według których ludzie pozwalają jej działać w ich imieniu.