Zespół Google DeepMind ostrzega kandydatów: nasz system AI może błędnie odrzucić twoje CV

Zespół AGI Safety and Alignment w Google DeepMind, który zajmuje się ograniczaniem ryzyk związanych z zaawansowaną sztuczną inteligencją, sam przyznał kandydatom do pracy, że nie ufa własnym narzędziom AI do rekrutacji. W wewnętrznym dokumencie, który miał nie wychodzić poza grono aplikujących, zespół ostrzegł, że system przesiewania CV może błędnie odrzucać wartościowych kandydatów, i podał sposób na ominięcie automatycznego filtra.

Co dokładnie napisał zespół

W dokumencie przeznaczonym dla kandydatów aplikujących na otwarte stanowiska w zespole AGI Safety and Alignment znalazło się zdanie, które w normalnych okolicznościach firmy starają się ukrywać przed opinią publiczną: system, który ma pomagać w selekcji zgłoszeń, sam w sobie stanowi ryzyko dla kandydatów. Autorzy napisali wprost, że istnieje „nietrywialne prawdopodobieństwo”, iż CV zostanie odrzucone przez pomyłkę algorytmu albo utknie w kolejce na zbyt długo, by dotrzeć do rekrutera.

Rozwiązaniem miał być dodatkowy formularz, który omija standardową ścieżkę rekrutacyjną i kieruje zgłoszenie bezpośrednio do członków zespołu. Dokument zawierał zastrzeżenie „PLEASE DO NOT SHARE THIS DOC WIDELY” - prośbę, by nie rozpowszechniać go szerzej, co sugeruje, że autorzy zdawali sobie sprawę, jak niewygodnie wygląda to przyznanie się do wad własnej technologii.

We have an applications system with a non-trivial probability your CV will be screened out incorrectly or take too long to reach us. Filling out this form makes sure that a real human on the team will get to see your application - z dokumentu zespołu AGI Safety and Alignment w Google DeepMind

Firma sprzedaje to samo klientom

Paradoks polega na tym, że Google jednocześnie oferuje korporacyjnym klientom narzędzia AI do automatycznego przesiewania kandydatów - systemy, które rankingują zgłoszenia albo filtrują CV pod kątem konkretnych słów kluczowych. Zespół zajmujący się bezpieczeństwem najbardziej zaawansowanych modeli firmy uznał jednak, że w przypadku własnej rekrutacji lepiej dać kandydatom furtkę do ominięcia takiego mechanizmu, niż ryzykować utratę dobrego kandydata przez błąd algorytmu.

Dokument zawierał też wskazówkę dla samych kandydatów: unikać odpowiedzi pisanych przez duże modele językowe, ponieważ rekruterzy czytający setki zgłoszeń szybko rozpoznają wygenerowany tekst i się nim męczą, bo wszystkie takie odpowiedzi „brzmią bardzo podobnie”. To kolejny sygnał, że nawet wewnątrz firmy budującej najbardziej zaawansowane modele językowe na świecie panuje przekonanie, że tekst pisany przez AI w procesie rekrutacyjnym działa na niekorzyść kandydata.

Odpowiedź Google DeepMind

Po ujawnieniu sprawy przez Bloomberga rzecznik Google DeepMind zaprzeczył, jakoby system filtrowania CV błędnie odrzucał kandydatów w sposób systemowy. Przedstawił formularz zespołu jako opcjonalną, dodatkową ścieżkę kontaktu, a nie dowód na wadliwość narzędzia.

This team set up a special form to go past the recruiter review, and get their resumes direct to the people on the team. But there are no shortcuts to getting hired - rzecznik Google DeepMind

Firma podkreśliła też ogólny cel procesu rekrutacyjnego - dotarcie do najbardziej wykwalifikowanych kandydatów. Stanowisko rzecznika stoi jednak w wyraźnym kontraście z treścią wewnętrznego dokumentu zespołu, który nie pozostawiał wątpliwości co do istnienia problemu.

Dlaczego to ma znaczenie

Sprawa trafia w szerszy nurt niepokoju wokół automatyzacji rekrutacji, o którym coraz częściej mówi się także w Polsce - z badań wynika, że proces zatrudniania coraz częściej przypomina pojedynek algorytmów, w którym kandydaci używają AI do pisania CV, a firmy AI do ich odrzucania. Przypadek Google DeepMind pokazuje, że problem dotyczy nie tylko mniejszych firm eksperymentujących z tanimi narzędziami, ale też lidera branży AI, który sam sprzedaje podobne rozwiązania innym.

Dla polskich firm wdrażających systemy ATS wspierane sztuczną inteligencją to sygnał ostrzegawczy: nawet twórcy najbardziej zaawansowanych modeli uznają, że automatyczne filtry CV wymagają zabezpieczenia w postaci alternatywnej ścieżki dla człowieka. Bez takiego mechanizmu firma ryzykuje odrzucenie wartościowych kandydatów wyłącznie z powodu błędu klasyfikatora, a nie realnych kwalifikacji.

Sprawa pokazuje też rosnącą rozbieżność między oficjalnym przekazem korporacyjnym a praktyką wewnętrzną w firmach technologicznych. Publiczne stanowisko rzecznika, że filtry działają poprawnie, zderza się z prywatnym dokumentem zespołu, który uznał ryzyko za na tyle realne, by zbudować obejście - i prosić, by nie mówić o tym zbyt głośno.