Niemiecki sąd uznał Google za odpowiedzialne za błędy AI Overviews

Sąd Krajowy w Monachium I orzekł, że Google ponosi bezpośrednią odpowiedzialność za fałszywe treści generowane przez funkcję AI Overviews w wyszukiwarce. To pierwszy wyrok, w którym niemiecki sąd potraktował odpowiedź systemu sztucznej inteligencji jako własne oświadczenie firmy, a nie neutralną prezentację wyników wyszukiwania.

Sprawa dotyczyła dwóch monachijskich wydawców, którym funkcja AI Overviews przypisała powiązania z oszustwami, pułapkami subskrypcyjnymi i podejrzanymi praktykami biznesowymi, mimo że informacje te nie pojawiały się w źródłach, do których AI się odwoływało. System połączył dane dotyczące różnych, niepowiązanych podmiotów i przedstawił je jako fakty na temat konkretnych firm.

Sedno wyroku

Kluczowe dla sądu było rozróżnienie między klasyczną wyszukiwarką a generatywnym podsumowaniem. Tradycyjna wyszukiwarka kieruje użytkownika do materiałów opublikowanych przez inne podmioty i korzysta z ograniczonej odpowiedzialności pośrednika. AI Overviews działa inaczej: samodzielnie zestawia, syntetyzuje i ocenia informacje z wielu źródeł, tworząc nową, autorską wypowiedź.

AI overview to własna treść Google, klasyfikowana jako bezpośredni sprawca naruszenia, ponieważ system generuje niezależne, nowe i merytoryczne oświadczenia - z uzasadnienia wyroku Sądu Krajowego w Monachium I

Sąd podkreślił też, że AI formułowała twierdzenia, których nie było nawet w wynikach wyszukiwania leżących u podstaw podsumowania, co sąd określił wprost jako własne oświadczenia pozwanego, czyli Google. Firma nie może więc chować się za argumentem, że jedynie odzwierciedla treści dostępne w sieci.

Odpowiedź Google

Google zapowiedziało apelację i podkreśliło, że wyrok dotyczy pojedynczych niedociągnięć, a nie mechanizmu działania funkcji jako takiej. Firma twierdzi, że zdecydowana większość odpowiedzi AI Overviews jest trafna, a błędy pojawiają się sporadycznie, gdy system pomija kontekst lub błędnie interpretuje treść strony.

Inwestujemy głęboko w jakość AI Overviews, aby zapewnić, że zdecydowana większość odpowiedzi dostarcza dokładnych informacji, a są one zaprojektowane tak, by odzwierciedlać informacje dostępne w sieci - rzecznik Google

Dlaczego to ważny precedens

Do tej pory operatorzy dużych modeli językowych powoływali się na to, że halucynacje AI są nieodłączną cechą technologii, za którą trudno pociągnąć kogokolwiek do odpowiedzialności prawnej. Wyrok monachijski przełamuje tę linię obrony, uznając, że skoro tylko Google kontroluje algorytm i dane, na których działa AI Overviews, to firma ponosi też odpowiedzialność za efekt jego działania, niezależnie od tego, że treść generowana jest automatycznie.

Orzeczenie ma na razie charakter tymczasowego zakazu i nie jest prawomocne, ale prawnicy zajmujący się prawem mediów już wskazują je jako punkt odniesienia dla kolejnych sporów w Europie. Jeśli apelacja Google nie zmieni tej linii orzeczniczej, wydawcy i inne firmy poszkodowane przez błędne podsumowania AI zyskają wzór pozwu, który realnie może zakończyć się zakazem sądowym i kosztami po stronie dostawcy modelu.

Znaczenie dla Polski i Unii Europejskiej

Sprawa toczyła się na gruncie niemieckiego prawa, ale jej konsekwencje wykraczają poza Niemcy, bo AI Overviews działa w tej samej formie w innych krajach Unii Europejskiej, w tym w Polsce. Polscy wydawcy i firmy, które od miesięcy skarżą się na błędne podsumowania generowane przez wyszukiwarki AI, zyskują argument prawny, że tego typu treści można traktować jako oświadczenia samego Google, a nie neutralny wynik wyszukiwania.

Sprawa zbiega się w czasie z wejściem w życie kolejnych obowiązków wynikających z unijnego AI Act, które od sierpnia nakładają nowe wymogi na dostawców najpotężniejszych modeli AI. Wyrok monachijski pokazuje, że oprócz regulacji unijnych rosną też krajowe precedensy sądowe, które mogą wymusić na Google większą ostrożność przy publikowaniu podsumowań generowanych przez AI.

Google ma teraz czas na złożenie apelacji, a proces w wyższej instancji może potrwać wiele miesięcy. Do czasu jego rozstrzygnięcia tymczasowy zakaz dotyczący konkretnych fałszywych twierdzeń wobec dwóch monachijskich wydawców pozostaje w mocy, a firma ryzykuje karę do 250 tysięcy euro za każde jego naruszenie.