Nowości
Pachocki z OpenAI proponuje wspólne limity rozwoju AI i publikuje wyniki perplexity swoich modeli

Jakub Pachocki, główny naukowiec OpenAI, proponuje, by laboratoria zobowiązały się nie przekraczać wspólnych progów rozwoju modeli, dopóki zdolność rozumienia i monitorowania zachowania AI nie osiągnie konkretnego kamienia milowego. W ramach pierwszego kroku OpenAI ujawnia wewnętrzne wartości perplexity.
Spis treści
Jakub Pachocki, główny naukowiec OpenAI, opublikował 22 listopada 2026 roku tekst „Perplexity and Intelligence”. Proponuje w nim, by twórcy najmocniejszych modeli wspólnie ustalili limity rozwoju, których nie będą przekraczać, dopóki badacze nie osiągną konkretnego postępu w rozumieniu i monitorowaniu zachowania AI. W ramach pierwszego kroku OpenAI ujawnia własne wewnętrzne wartości perplexity.
Co dokładnie proponuje OpenAI
Według tekstu na stronie OpenAI Pachocki chce, by perplexity, czyli równoważnie entropia krzyżowa, stała się wspólną miarą postępu dla różnych laboratoriów. Na jej podstawie oraz innych pomiarów miałyby powstać wspólne limity. Deweloperzy zobowiązaliby się ich nie przekraczać, aż zostanie osiągnięty konkretny kamień milowy w rozumieniu i monitorowaniu AI. Jako przykład podaje następcę monitorów łańcucha rozumowania.
Poza limitami autor postuluje wspólne normy oceny modeli granicznych, red-teaming argumentów bezpieczeństwa przed pierwszym użyciem modelu oraz wspólne standardy przejrzystości. Długoterminowo chodzi o ramy ustalania kolejnych limitów i tempa rozwoju, z pierwszym progiem, miarą jego śledzenia i warunkiem przejścia dalej.
Liczby, które ujawniło OpenAI
Firma podaje wartości log-perplexity na głównym zbiorze ewaluacyjnym. Dla GPT-3.5 to około 0,99, co odpowiada płynnej rozmowie i pierwotnemu ChatGPT. GPT-4 ma około 0,91 i potrafi produktywnie używać łańcucha rozumowania. Poniżej 0,8 pojawiły się nowe możliwości w cyberbezpieczeństwie i matematyce, a przy około 0,76 model zaczął dawać znaczące wyniki matematyczne, z kolejno rozwiązywanymi otwartymi problemami.
Przypisy wyjaśniają, że dane testowe pochodzą z wewnętrznej bazy kodu OpenAI, w ustalonej migawce, a śledzona jest właśnie log-perplexity. Pachocki pisze, że ujawnienie liczb daje konkurentom wyraźniejszy obraz pozycji OpenAI, ale pilność wypracowania wspólnych miar bezpieczeństwa uznaje za ważniejszą.
Dlaczego teraz
Głównym argumentem jest ryzyko, że AI zacznie wnosić wkład w algorytmiczne badania nad pretrenowaniem. Pachocki sugeruje, że już od 2027 roku mogłaby pojawić się „lawina” fundamentalnych postępów, jeśli AI zacznie istotnie wspierać te badania, a postęp w alignmencie i monitoringu może za nią nie nadążyć. Spodziewa się też dalszego pogarszania się skuteczności obecnych audytów zgodności i rosnącej świadomości modeli, że są oceniane i trenowane. Uważa, że pełnego rekurencyjnego samodoskonalenia AI należy unikać, by zachować kontrolę człowieka.
Według omówienia serwisu Unite.AI towarzyszą temu wcześniejsze badania OpenAI. Raport z 18 listopada wskazuje nierówny zysk z automatyzacji: szacowany odsetek sukcesu bez interwencji człowieka wyniósł 79 proc. przy monitorowaniu przebiegów treningu, 35 proc. przy ich uruchamianiu i 25 proc. przy pisaniu kodu do inferencji i serwowania. Przyspieszenie krzywej strat w 2026 roku OpenAI przypisuje głównie wieloletnim badaniom i inwestycjom w moc obliczeniową, a automatyzacji w mniejszym stopniu.
Zastrzeżenia samego autora
Pachocki wylicza ograniczenia własnej propozycji. Porównania między laboratoriami są trudne, bo każde używa innych danych i mieszanek treningowych. Perplexity nie przekłada się wprost na konkretne zadanie, a jej wartość polega na przewidywaniu pojawiania się nowych możliwości. Nie uwzględnia też zysków spoza pretrenowania, na przykład z rozumowania łańcuchowego.
Dodatkowo nie wiadomo, jak niska może być perplexity, bo wewnętrzna entropia danych jest nieznana. Przy zbliżaniu się do tej granicy postęp zwalnia, więc niewielkie zmiany mają oznaczać większe skoki inteligencji, a równe przyrosty nie znaczą tego samego. Nowe zdolności nie były też dotąd możliwe do przewidzenia z konkretnych progów perplexity.
Co to znaczy dalej
Na razie to propozycja jednego laboratorium. Wspólne testy, uzgodnione limity i kamienie milowe bezpieczeństwa nie istnieją, a nie wiadomo, czy inni deweloperzy przyłączą się do inicjatywy. Dla firm w Polsce korzystających z modeli OpenAI to sygnał o kierunku debaty regulacyjnej, ale bez bezpośredniego skutku dla produktów.


