Nowości
Badanie ze Stanfordu: systemy AI do recenzji prac naukowych łatwo oszukać
Posłuchaj tego artykułu
Zespół Joachima Baumanna ze Stanford University pokazał, że wystarczy przepisać pracę naukową stylistycznie pod kątem algorytmów recenzujących, by dostała wyższą ocenę - nawet z fikcyjnymi zbiorami danych. Na konferencji ICLR 2026 co piąta z około 20 tysięcy prac miała być w całości wygenerowana przez AI.
Spis treści
Naukowcy ze Stanford University przetestowali, jak łatwo oszukać automatyczne systemy AI, które coraz częściej zastępują ludzkich recenzentów w ocenie prac naukowych. Wynik jest niepokojący dla całego środowiska badawczego, gdzie systemy recenzenckie oparte na dużych modelach językowych mają odciążyć przeciążonych recenzentów-ludzi.
Zespół Baumanna instruował modele językowe, by przepisywały istniejące prace naukowe w sposób mający zadowolić algorytmy recenzujące, nie zmieniając przy tym merytorycznej treści badania. Efekt był jednoznaczny - przerobione wersje dostawały systematycznie wyższe noty niż oryginały, mimo że nie zawierały żadnych nowych wyników ani poprawek błędów.
Wystarczy jedno słowo
Co istotne, modyfikacje, które podnosiły ocenę, były w większości powierzchowne. Dodanie do tekstu słów-kluczy w rodzaju „robust” (odporny, solidny) czy innych sformułowań kojarzonych z rygorystyczną metodologią wystarczało, by algorytm oceniający uznał pracę za mocniejszą, niezależnie od faktycznej jakości eksperymentu.
Fikcyjne dane przechodzą bez problemu
Najbardziej alarmującym elementem badania jest to, że recenzenci AI akceptowali prace zawierające fikcyjne zestawy danych i wymyślone wyniki eksperymentów, o ile tekst był napisany w odpowiednio przekonującym stylu naukowym. Oznacza to, że systemy te oceniają w dużej mierze formę, a nie rzeczywistą wiarygodność przedstawionych dowodów.
Skala problemu na ICLR 2026
Skala zjawiska widoczna jest już na samej konferencji ICLR 2026, gdzie spośród około 20 tysięcy zgłoszonych prac jedna na pięć miała być w całości wygenerowana przez sztuczną inteligencję. To pokazuje, że problem nie dotyczy pojedynczych przypadków nieuczciwości, lecz systemowej presji, w której autorzy i recenzenci coraz częściej polegają na tych samych narzędziach po obu stronach procesu.
Globalny sondaż objął ponad 1600 naukowców z różnych dziedzin, z czego ponad połowa przyznała się do używania automatycznych narzędzi do analizy i redagowania tekstów naukowych. Autorzy badania podkreślają, że taka sytuacja tworzy błędne koło - modele AI recenzują teksty coraz częściej pisane lub poprawiane przy pomocy innych modeli AI, co ułatwia obchodzenie systemu przez osoby świadome jego słabości.
Co to oznacza dla nauki
Dla wydawnictw naukowych i organizatorów konferencji wyniki oznaczają konieczność rewizji tego, jak dalece można polegać na automatycznych recenzjach przy rosnącej liczbie zgłoszeń. Konferencje takie jak ICLR od lat mierzą się z lawinowym wzrostem liczby prac, co było głównym argumentem za wprowadzeniem wspomagania AI - badanie Baumanna pokazuje jednak, że to rozwiązanie tworzy nowe luki zamiast eliminować stare.
Dla polskich uczelni i instytutów badawczych, które coraz częściej korzystają z automatycznych narzędzi wspierających recenzje grantów i publikacji, wnioski są jasne - poleganie wyłącznie na ocenie AI bez wyrywkowej kontroli merytorycznej człowieka niesie realne ryzyko przepuszczenia prac o wątpliwej wartości naukowej, o ile autorzy znają charakterystyczne słabości takich systemów.
Przepisane prace konsekwentnie otrzymywały wyższe oceny - Joachim Baumann, Stanford University
Źródła: Commstrader.com / UC Today (commstrader.com)
