Hiszpański sąd karze adwokata za 48 zmyślonych przez AI wyroków w apelacji

Sala Karna Trybunału Sprawiedliwości Wspólnoty Autonomicznej Wysp Kanaryjskich (TSJC) nałożyła 420 euro grzywny na adwokata, który w piśmie kasacyjnym powołał się na 48 wyroków, jakich w rzeczywistości nigdy nie wydano. Sentencje, numery spraw, daty i identyfikatory wymyślił ogólny chatbot AI, a prawnik złożył je w sądzie bez jakiejkolwiek weryfikacji.

Sprawa dotyczyła apelacji kasacyjnej złożonej do Sali Karnej TSJC przeciwko wyrokowi wydanemu wcześniej przez Sąd Apelacyjny w Santa Cruz de Tenerife. W piśmie procesowym adwokat przywołał kilkadziesiąt precedensów, które miały wspierać jego argumentację prawną. Sąd, weryfikując cytowane orzeczenia, ustalił, że zdecydowana większość z nich po prostu nie istnieje.

Narzędzie ogólne, nie prawnicze

Prawnik nie korzystał ze specjalistycznego oprogramowania prawniczego opartego na AI, lecz z ogólnego narzędzia konwersacyjnego, niedostosowanego do pracy z bazami orzecznictwa. Tego typu systemy są znane z tendencji do halucynacji, czyli generowania wiarygodnie brzmiących, lecz fikcyjnych treści, gdy nie mają dostępu do faktycznych danych źródłowych.

Sąd podkreślił w uzasadnieniu, że adwokat nie skonfrontował numerów wyroków, dat ani identyfikatorów spraw z żadną oficjalną bazą orzecznictwa przed złożeniem pisma. Zamiast tego treść wygenerowaną przez chatbota przeniósł wprost do dokumentu procesowego.

Obowiązek nadzoru człowieka

Brak weryfikacji stanowi naruszenie podstawowego obowiązku ludzkiego nadzoru, który jest nieunikniony przy korzystaniu z narzędzi sztucznej inteligencji w praktyce zawodowej - Tribunal Superior de Justicia de Canarias

Trybunał wskazał, że korzystanie z narzędzi AI samo w sobie nie jest naganne, ale przerzucenie na algorytm odpowiedzialności za rzetelność cytowanego orzecznictwa jest niedopuszczalne w praktyce zawodowej pełnomocnika procesowego. Sędziowie zaznaczyli, że to adwokat, a nie narzędzie, ponosi odpowiedzialność za treść składanych w sądzie pism.

Jak wyliczono karę

Ustalając wysokość grzywny, sąd odwołał się do kosztu rocznej subskrypcji specjalistycznego, prawniczego narzędzia AI, szacowanego na około 840 euro, i nałożył połowę tej kwoty. Sędziowie wzięli pod uwagę, że taki wyspecjalizowany system, w przeciwieństwie do ogólnego chatbota, prawdopodobnie uchroniłby adwokata przed pomyłką, ponieważ pracuje na zweryfikowanych bazach orzecznictwa. Przy wymiarze kary uwzględniono też, że prawnik przyznał się do błędu i wyraził skruchę przed trybunałem.

TSJC zdecydował ponadto o przekazaniu wyroku wraz z dokumentacją sprawy właściwej izbie adwokackiej, która ma ocenić, czy zachowanie prawnika wymaga wszczęcia odrębnego postępowania dyscyplinarnego. To sygnał, że hiszpańskie sądownictwo traktuje tego typu przypadki coraz poważniej, nie poprzestając na samej grzywnie finansowej.

Coraz częstszy problem globalnie

Przypadek z Wysp Kanaryjskich nie jest odosobniony. Badacze śledzący tego typu incydenty na całym świecie odnotowali już ponad tysiąc trzysta spraw sądowych, w których do akt trafiły fikcyjne wyroki, wymyślone cytaty lub nieistniejące orzeczenia wygenerowane przez AI, a setki pełnomocników zostało za to ukaranych na różnych kontynentach. Sądy w Stanach Zjednoczonych, Wielkiej Brytanii i innych krajach europejskich wielokrotnie already nakładały kary finansowe na prawników w analogicznych sytuacjach.

Dla polskich prawników i kancelarii sprawa jest istotnym ostrzeżeniem, zwłaszcza w kontekście rosnącej popularności narzędzi AI w pracy nad pismami procesowymi. Naczelna Rada Adwokacka wprowadziła niedawno własne zasady korzystania z AI w Kodeksie Etyki, a przypadki takie jak hiszpański pokazują, że brak weryfikacji generowanych treści może kosztować nie tylko grzywnę, ale i postępowanie dyscyplinarne.

Sąd w uzasadnieniu wyraźnie oddzielił samo korzystanie z technologii od zaniechania podstawowej staranności zawodowej. Wiadomo już, że wyrok trafi do analizy w ramach szerszej dyskusji o granicach odpowiedzialności zawodowej prawników korzystających z generatywnej sztucznej inteligencji w codziennej pracy.