Watykan certyfikuje encyklikę Leona XIV o AI jako napisaną przez człowieka

Papież Leon XIV napisał obszerny dokument ostrzegający przed niekontrolowanym rozwojem sztucznej inteligencji. Kilka tygodni później sam musiał tłumaczyć się z tego, czy przy jego pisaniu nie skorzystał z narzędzi, przed którymi przestrzega. Watykan zlecił zewnętrznej firmie formalną certyfikację autorstwa encykliki - to pierwszy taki przypadek w historii Kościoła.

Oskarżenia w sieci

Encyklika "Magnifica Humanitas" to pierwszy dokument tej rangi w historii Kościoła poświęcony w całości sztucznej inteligencji. Leon XIV pisze w nim o konieczności ochrony godności człowieka w erze zaawansowanych algorytmów, apeluje o regulacje i przestrzega przed traktowaniem AI jako narzędzia do realizacji partykularnych interesów wąskiej grupy firm.

Wkrótce po publikacji w internecie pojawiły się głosy, że sam dokument mógł powstać przy udziale generatywnej sztucznej inteligencji. Impuls do dyskusji dał badacz Lynch Zhang, publikujący w serwisie The Verge, który wskazał na fragmenty tekstu noszące jego zdaniem statystyczne cechy charakterystyczne dla treści generowanych przez modele językowe. Zhang zastrzegł jednak wprost, że jego obserwacja nie stanowi dowodu, a jedynie hipotezę wartą sprawdzenia.

Jak Watykan to sprawdził

Zamiast zbyć zarzuty milczeniem, Watykan zdecydował się na krok bez precedensu: zlecił formalną certyfikację autorstwa dokumentu zewnętrznej firmie. Wybór padł na australijską Proudly Human, kierowaną przez doktora Alana Finkela, byłego głównego naukowca rządu Australii. Procedura objęła porównanie stylu encykliki z wcześniejszymi przemówieniami i tekstami papieża oraz wymóg podpisania formalnej deklaracji o nieużyciu sztucznej inteligencji w procesie pisania.

Sama metoda weryfikacji opiera się na zestawie kilku narzędzi analizujących różne cechy stylu pisania i gramatyki, których wyniki firma łączy we własnym algorytmie punktującym. Wśród wykorzystanych detektorów wymieniana jest między innymi platforma Pangram, jedno z popularniejszych narzędzi do wykrywania tekstów generowanych przez modele językowe. Paradoks sytuacji podkreślają komentatorzy: sama analiza mająca dowieść, że dokument o zagrożeniach AI nie powstał dzięki AI, korzysta z algorytmów sztucznej inteligencji.

Encyklika jest w 94 proc. napisana przez człowieka, w 4 proc. wygenerowana przez AI, a kolejne 2 proc. zakwalifikowano jako treści wspomagane przez sztuczną inteligencję.

Co napisał papież

Sam dokument, datowany na połowę maja, nawiązuje wprost do encykliki społecznej Leona XIII sprzed ponad stu lat i porusza kilka wątków naraz. Leon XIV apeluje, by nie demonizować narzędzi cyfrowych ani ich nie ubóstwiać, lecz nimi świadomie kierować. W dokumencie znalazł się fragment, który stał się jednym z najczęściej cytowanych: papież pisze, że technologia sama w sobie nie jest ani dobra, ani zła, a to człowiek nadaje jej kierunek.

Pierwszym zadaniem, jakie stoi przed nami, jest to, by nie demonizować narzędzi ani ich nie ubóstwiać, lecz nimi kierować, wychodząc od jednej fundamentalnej zasady: prawda jest dobrem wspólnym - Leon XIV, encyklika Magnifica Humanitas

Encyklika kładzie szczególny nacisk na ochronę dzieci przed przemocą i dezinformacją generowaną przez algorytmy, a także na problem narastającej samotności, którą zdaniem Watykanu pogłębiają relacje z chatbotami zastępującymi kontakt międzyludzki. Papież wzywa też do regulacji rynku i przełamania monopoli kilku firm kontrolujących rozwój najbardziej zaawansowanych modeli.

Dlaczego to ważne

Sprawa pokazuje, jak głęboko podejrzenie o wykorzystanie AI wniknęło już w ocenę wiarygodności tekstów publicznych, nawet tych o najwyższej randze instytucjonalnej. Jeśli detektory tekstu generowanego przez AI są na tyle wiarygodnym argumentem, że sięga po nie Watykan broniąc autentyczności dokumentu papieskiego, to podobne narzędzia będą coraz częściej stosowane w sporach o autorstwo prac naukowych, artykułów prasowych czy dokumentów urzędowych.

Z drugiej strony sama metoda pozostaje kontrowersyjna. Detektory tekstu generowanego przez AI, w tym wykorzystywany w tym przypadku Pangram, były wielokrotnie krytykowane za błędy, zwłaszcza fałszywe wskazania wobec tekstów pisanych przez osoby niebędące rodzimymi użytkownikami danego języka lub piszące w sformalizowanym, powtarzalnym stylu, jakim posługują się właśnie dokumenty kościelne.

Dla Watykanu, który encykliką wzywa do ostrożności wobec sztucznej inteligencji, wynik certyfikacji ma znaczenie wizerunkowe. Instytucja krytykująca niekontrolowany rozwój technologii nie mogła pozwolić sobie na zarzut, że sama korzysta z niej po kryjomu przy najważniejszym dokumencie doktrynalnym pontyfikatu.