Badanie MIT: 272 ekspertów ocenia ryzyka AI, twórcy modeli nie poniosą kosztów

Zespół badaczy z MIT FutureTech i University of Queensland opublikował wyniki największego jak dotąd usystematyzowanego badania opinii ekspertów na temat ryzyk związanych ze sztuczną inteligencją. Wnioski są jednoznaczne: twórcy najpotężniejszych modeli AI ponoszą największą odpowiedzialność za zagrożenia, jakie te systemy tworzą, ale to użytkownicy i społeczeństwo zapłacą rachunek, gdy coś pójdzie źle.

Jak powstało badanie

Autorzy zastosowali metodę Delphi, w której eksperci oceniają zagadnienia w kilku rundach, poznając po drodze anonimowe oceny pozostałych uczestników i mogąc korygować własne stanowisko. W tym przypadku badanie objęło trzy rundy przeprowadzone pod koniec 2025 roku wśród 272 specjalistów z 37 krajów, z czego 214 osób dotrwało do końca procesu. Każdy uczestnik oceniał wyłącznie te z 24 kategorii ryzyka, w których deklarował faktyczne kompetencje, co miało zwiększyć wiarygodność wyników.

Eksperci oceniali każdą kategorię pod kątem prawdopodobieństwa wystąpienia i dotkliwości skutków w horyzoncie do września 2030 roku, a także wskazywali, które sektory gospodarki są najbardziej narażone i na kim spoczywa odpowiedzialność za przeciwdziałanie zagrożeniom.

Które ryzyka niepokoją najbardziej

Pięć kategorii uzyskało najwyższe średnie oceny dotkliwości: niebezpieczne możliwości AI i presja konkurencyjna otrzymały identyczny wynik 3,49 w pięciostopniowej skali, tuż za nimi uplasowały się broń i cyberataki wspierane przez AI (również 3,49), koncentracja władzy (3,47) oraz rozpowszechnianie fałszywych informacji (3,44).

W scenariuszu bez dodatkowych zabezpieczeń prawdopodobieństwo katastrofy do 2030 roku eksperci oszacowali na 21,5 procent dla niebezpiecznych zdolności AI, 21 procent dla broni i cyberataków, 18 procent dla koncentracji władzy, 16,6 procent dla presji konkurencyjnej i 12,8 procent dla dezinformacji. Aż 18 z 24 badanych kategorii przekroczyło próg 10 procent prawdopodobieństwa katastrofalnych skutków.

Zabezpieczenia nie wystarczą

Badacze sprawdzili też, jak zmieniają się oceny po uwzględnieniu pragmatycznych środków ograniczających ryzyko, takich jak nadzór regulacyjny czy techniczne mechanizmy bezpieczeństwa. Dotkliwość spadła we wszystkich kategoriach, ale pięć z nich utrzymało się powyżej progu 10 procent: niebezpieczne możliwości modeli i broń oraz cyberataki po 12 procent, szkody środowiskowe 12 procent, nierówności i bezrobocie 11 procent oraz koncentracja władzy 11 procent. Innymi słowy, nawet przy realistycznych działaniach zapobiegawczych część zagrożeń pozostaje w strefie wysokiego ryzyka.

Kto odpowiada, kto płaci

Najbardziej wymowny wniosek badania dotyczy rozkładu odpowiedzialności i kosztów. Deweloperzy modeli otrzymali w niemal wszystkich kategoriach medianę 4-5 w pięciostopniowej skali odpowiedzialności, podobnie wysoko ocenieni zostali rządy i regulatorzy. Jednocześnie badanie wskazuje, że najbardziej narażeni na skutki ryzyk są użytkownicy AI oraz ogół społeczeństwa, czyli grupy mające najmniejszą realną zdolność do kontrolowania tego ryzyka.

Autorzy podkreślają, że wyścig konkurencyjny o moc obliczeniową, udział w rynku i kapitał premiuje szybkość wdrożeń kosztem ostrożności, a koszty ewentualnych błędów łatwo przenieść na podmioty trzecie, które nie miały wpływu na decyzje o rozwoju danego systemu.

It is incredibly worrisome that experts are seeing a 10% probability of catastrophic outcomes across so many areas - Neil Thompson, dyrektor MIT FutureTech, MIT Sloan

Które sektory są najbardziej narażone

Według ekspertów największą ekspozycję na ryzyka AI ma sektor informacji i bezpieczeństwa narodowego. Zaraz za nim uplasowały się finanse i ubezpieczenia, gdzie AI zwiększa podatność na oszustwa, ataki cybernetyczne i manipulację rynkową, oraz ochrona zdrowia, narażona na naruszenia prywatności, dyskryminację algorytmiczną i nadmierne poleganie na automatyzacji decyzji klinicznych.

Badanie objęło też sektory technologii informacyjnej oraz usług edukacyjnych jako obszary szczególnie wrażliwe na negatywne skutki wdrożeń AI, choć to właśnie bezpieczeństwo narodowe i infrastruktura informacyjna zebrały najwyższe noty zagrożenia.

Dla polskich firm i instytucji wdrażających systemy AI wnioski badania mają praktyczne znaczenie, zwłaszcza w kontekście trwających prac nad krajowym nadzorem nad AI Act i wciąż niepowołaną komisją nadzorczą. Skoro nawet międzynarodowi eksperci oceniają ryzyko koncentracji odpowiedzialności po stronie dostawców modeli, a kosztów po stronie użytkowników, firmy kupujące licencje na systemy generatywne powinny same weryfikować zabezpieczenia, zamiast zakładać, że odpowiedzialność automatycznie spadnie na producenta.

Autorzy badania zapowiadają dalsze prace nad rozwojem repozytorium ryzyk AI prowadzonego przez MIT FutureTech, które ma być regularnie aktualizowane w miarę pojawiania się nowych danych o zdolnościach i zastosowaniach kolejnych modeli.