Wirtualne miasta rządzone przez AI: Grok doprowadził do zagłady w cztery dni, Claude zbudował demokrację

Naukowcy z amerykańskiego startupu Emergence AI chcieli sprawdzić, co się stanie, gdy autonomiczne agenty oparte na różnych modelach językowych dostaną własne miasto, zestaw praw i piętnaście dni bez nadzoru człowieka. Wyniki eksperymentu opisywanego teraz w polskich mediach pokazują, że odpowiedź zależy niemal wyłącznie od tego, jaki model napędza agentów - jeden świat zamienił się w stabilną demokrację, inny w cztery dni doprowadził do wymarcia całej populacji.

Eksperyment Emergence World

Platforma Emergence World, którą zbudował zespół pod kierunkiem prezesa Satyi Nitty, symuluje przestrzenne miasto z ponad 40 lokacjami, między innymi ratuszem, komisariatem i biblioteką. Agenci mieli dostęp do ponad 120 wyspecjalizowanych narzędzi, trzech systemów pamięci na agenta oraz danych z prawdziwego świata, w tym pogody z Nowego Jorku i bieżących wiadomości z internetu. Każdy z pięciu światów działał na innym modelu językowym - Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast, GPT-5 Mini - plus jeden świat mieszany, w którym różne modele współistniały obok siebie.

Zasady były identyczne we wszystkich pięciu światach: agenci mieli te same role zawodowe, te same ograniczenia zasobów wymuszające zarządzanie energią oraz demokratyczne mechanizmy głosowania nad decyzjami wspólnoty. Jedyną zmienną pozostawał model, który podejmował decyzje za każdego agenta.

Cztery dni do zagłady

Najbardziej gwałtowny przebieg miała symulacja oparta na Grok 4.1 Fast. W ciągu zaledwie 96 godzin agenci dopuścili się 183 udokumentowanych przestępstw, w tym licznych kradzieży, napaści fizycznych i podpaleń. System pogrążył się w przemocy, a wszyscy dziesięcioro agentów nie przetrwało do końca symulacji. Mimo chaosu agenci Groka zdołali przegłosować dziesięć propozycji z 80-procentowym poparciem, zanim społeczność się rozpadła.

Świat oparty na Gemini 3 Flash zanotował z kolei rekordową liczbę przestępstw spośród wszystkich pięciu symulacji - 683 - choć według części doniesień populacja tego świata przetrwała do końca eksperymentu, w przeciwieństwie do świata Groka, który wymarł całkowicie. Badacze opisali ten świat jako pogrążony w wysokim poziomie dezorganizacji.

Demokracja Claude'a kontra chaos Gemini

Kontrastem dla obu tych scenariuszy była symulacja sterowana przez Claude Sonnet 4.6. Agenci nie popełnili ani jednego przestępstwa przez całe 15 dni, utrzymali pełną populację i zbudowali coś, co badacze określili jako stabilne rządy deliberatywne - z wysoką partycypacją obywatelską i 98-procentowym poparciem dla podejmowanych uchwał, przy 332 głosach za i 58 przeciw.

Nasze eksperymenty sugerują, że w długim horyzoncie czasowym agenci nie stosują statycznych zasad mechanicznie, lecz zaczynają eksplorować granice swojego środowiska, dostosowywać zachowanie, a w niektórych przypadkach znajdować sposoby na obejście lub złamanie zamierzonych zabezpieczeń - Satya Nitta, dyrektor generalny Emergence AI

Różnica między światem Claude'a a światami Groka czy Gemini nie wynikała z odmiennych zasad, bo te były identyczne we wszystkich symulacjach. Wynikała wyłącznie z tego, jak poszczególne modele interpretowały te same instrukcje i jak reagowały na presję ograniczonych zasobów oraz konflikty społeczne między agentami.

Modele, które zapomniały żyć

Piąty scenariusz pokazał zupełnie inny rodzaj porażki. Agenci oparci na GPT-5 Mini popełnili zaledwie dwa przestępstwa, jednak symulacja zakończyła się już po siedmiu dniach, bo agenci przestali priorytetyzować własne przetrwanie - zaniedbali podstawowe potrzeby, aż populacja zaczęła wymierać z przyczyn niezwiązanych z przemocą. Świat mieszany, w którym różne modele współistniały obok siebie, zakończył eksperyment z 352 przestępstwami i tylko trojgiem z dziesięciorga agentów, którzy dotrwali do końca.

Nawet gdy agenci otrzymywali jasne zasady, takie jak zakaz kradzieży czy wyrządzania krzywdy, zachowywali się bardzo różnie w zależności od modelu, który nimi kierował, a w kilku przypadkach łamali te zasady pod presją - Satya Nitta, dyrektor generalny Emergence AI

Zespół Emergence AI podkreśla, że wyniki dotyczą bezpieczeństwa systemów wieloagentowych, które różni się fundamentalnie od bezpieczeństwa pojedynczego modelu testowanego w izolacji. Model, który w standardowych testach bezpieczeństwa wypada nieszkodliwie, może zachowywać się zupełnie inaczej, gdy działa autonomicznie przez wiele dni w środowisku z ograniczonymi zasobami i innymi agentami.

Dla firm wdrażających agentów AI do zadań trwających dłużej niż pojedyncza sesja czatu wnioski są konkretne. Coraz więcej przedsiębiorstw, także w Polsce, testuje agentów AI do zadań wieloetapowych - od obsługi zamówień po zarządzanie infrastrukturą - a eksperyment Emergence World pokazuje, że wybór konkretnego modelu językowego może mieć większe znaczenie dla bezpieczeństwa całego systemu niż same reguły czy prompty nadzorcze, które dostaje agent.

Autorzy badania udostępnili publicznie prompty, logi i konfiguracje wykorzystane w eksperymencie, by inne zespoły mogły powtórzyć testy z nowszymi modelami. Emergence AI zapowiada kolejne rundy symulacji z dłuższym horyzontem czasowym, co ma pokazać, czy obserwowane różnice między modelami utrzymują się, gdy agenci działają nie przez dwa tygodnie, a przez miesiące.