Kongresmeni żądają wstrzymania narzędzia AI w kontroli ruchu lotniczego wokół Waszyngtonu

Grupa członków Izby Reprezentantów domaga się od amerykańskiego urzędu lotnictwa FAA wstrzymania wdrożenia SMART, narzędzia wspieranego przez sztuczną inteligencję, które od września działa na lotniskach w rejonie Waszyngtonu. List z 9 października prowadzi demokratka Rep. April McClain Delaney z Maryland.

Czym jest SMART

SMART to skrót od Strategic Management of Airspace, Routes and Trajectories. Według Departamentu Transportu, cytowanego przez AVweb, system łączy około 200 strumieni danych, w tym pogodę, trasy lotów, natężenie ruchu i obsadę kontrolerów, aby wskazywać potencjalne zatory, zanim dojdzie do zakłóceń. Narzędzie powstaje z firmą Air Space Intelligence w ramach szerszego kontraktu FAA na oprogramowanie do zarządzania ruchem.

Resort transportu opisuje SMART jako źródło rekomendacji planistycznych, o których przyjęciu decydują pracownicy FAA. Według resortu system nie steruje samolotami i nie zastępuje kontrolerów. FAA zamierza stopniowo rozszerzać go poza rejon Waszyngtonu.

Zarzuty ustawodawców

Autorzy listu twierdzą, że nie opublikowano oceny bezpieczeństwa narzędzia, a konsultacje z kontrolerami i ekspertami były ograniczone. List przywołuje doniesienia, według których pracownicy odpowiedzialni za bezpieczeństwo lotnictwa dostali tylko kilka dni uprzedzenia przed wdrożeniem albo nie dostali go wcale.

Kongresmeni wskazują, że kontrolerzy już teraz pracują pod presją braków kadrowych, więc nowa technologia wymaga szkoleń i jasnych procedur nadzoru człowieka. Odwołują się też do śmiertelnej katastrofy w rejonie lotniska DCA, w której według komunikatu zginęło 67 osób. Zwracają uwagę na brak przejrzystości co do działania systemów AI i podejmowania decyzji.

Wzywam FAA do wstrzymania wdrożenia, pokazania nam testów bezpieczeństwa i wyjaśnienia, kto ponosi odpowiedzialność, gdy coś pójdzie nie tak - Rep. April McClain Delaney, Maryland

Pytania do FAA

List zawiera pytania w trzech obszarach. Pierwszy to testy: jakie oceny przeprowadzono, jak system radzi sobie przy ciężkiej pogodzie lub awariach oraz czy w umowach nie pominięto wymogów przeglądu bezpieczeństwa.

Drugi obszar to konsultacje i szkolenia, czyli jakiego zdania pytano lotniska, pracowników bezpieczeństwa i linie lotnicze oraz jak przeszkolono personel. Trzeci to ocena i odpowiedzialność: jak będzie mierzona skuteczność w 90-dniowej ocenie początkowej, jakie standardy obowiązują przed ekspansją krajową i kto odpowiada, jeśli rekomendacja przyczyni się do incydentu.

Kontrola ruchu lotniczego nie zostawia żadnego marginesu na błąd - Rep. Alexandria Ocasio-Cortez

Co dalej

Żadne z przywołanych źródeł nie informuje o odpowiedzi FAA na list. Komunikat kongresmenki nie podaje terminu odpowiedzi, a jedyną ramą czasową jest 90-dniowa ocena początkowa, po której planowane jest rozszerzenie narzędzia.

Dla czytelnika w Polsce to przykład sporu, który będzie wracał przy każdym wdrożeniu AI w infrastrukturze krytycznej: pytanie nie dotyczy tego, czy narzędzie doradza, czy decyduje, lecz kto sprawdził je przed startem i kto odpowiada za błąd.