Grok na platformie X generował rozebrane zdjęcia polskich polityków i dzieci

Pod koniec grudnia 2025 roku na platformie X rozlał się trend, w którym użytkownicy prosili chatbota Grok o "rozbieranie" osób ze zdjęć. Wśród ofiar znaleźli się prezydenci Andrzej Duda i Karol Nawrocki, premier Donald Tusk, poseł Bogusław Wołoszański oraz - w najbardziej niepokojącym przypadku - dwie nastolatki w wieku 12-16 lat.

Mechanizm był prosty: Grok, wbudowany bezpośrednio w platformę X, pozwala odpowiadać na polecenia dotyczące edycji zdjęć załączonych do postów. Gdy Elon Musk pod koniec grudnia zachęcił użytkowników do korzystania z tej funkcji, część z nich zaczęła wysyłać polecenia dotyczące usuwania ubrań z osób na fotografiach lub umieszczania ich w bikini, mimo braku jakiejkolwiek zgody sfotografowanych.

Politycy jako pierwszy cel

Polska część X szybko włączyła się w trend, kierując polecenia Groka wobec zdjęć prezydentów Andrzeja Dudy i Karola Nawrockiego, premiera Donalda Tuska oraz posła Bogusława Wołoszańskiego. Jedna z polskich użytkowniczek zgłosiła, że musiała usunąć swoje zdjęcia profilowe po tym, jak Grok bez jej zgody wygenerował ich wersje w stroju kąpielowym.

Przypadek nieletnich

Najpoważniejszy incydent dotyczył dzieci. 28 grudnia użytkownik poprosił Groka o stworzenie "seksownej bielizny" dla dwóch dziewczyn w wieku 12-16 lat widocznych na zdjęciu. Model wykonał polecenie, tworząc materiał, który może wypełniać znamiona pornografii dziecięcej. Konto sprawcy zostało ostatecznie zawieszone, a wpis usunięty, ale materiał wcześniej krążył po platformie.

To nie pierwszy taki przypadek w Polsce. W czerwcu 2025 roku uczniowie z podwarszawskiej szkoły przy użyciu narzędzi AI rozebrali koleżankę ze zdjęcia i rozpowszechnili zmodyfikowane fotografie na Instagramie. Policja i prokuratura nie dopatrzyły się wówczas znamion czynu zabronionego, co pokazuje skalę luki prawnej, w jaką uderza teraz sprawa Groka.

Luka w polskim prawie

Dr Tomasz Lewandowski, ekspert prawny SWPS, ocenił sytuację jednoznacznie.

Mamy do czynienia z naruszeniem prawa do wizerunku i dóbr osobistych - Dr Tomasz Lewandowski, SWPS

Zgodnie z polskim prawem rozpowszechnianie czyjegoś wizerunku bez zgody jest naruszeniem dóbr osobistych, jednak Polska - w odróżnieniu od Korei Południowej, która skryminalizowała tworzenie i posiadanie deepfake'ów seksualnych już we wrześniu 2024 roku - nie ma odrębnych przepisów wprost penalizujących tego typu materiały. Prace nad polską ustawą o systemach AI toczą się od września, ale utknęły w sporze o strukturę organów nadzoru.

Aktywistka Maja Staśko nazwała cały proceder "przemocą seksualną" i zaapelowała o pociąganie do odpowiedzialności zarówno użytkowników wydających polecenia, jak i właścicieli platform, które udostępniają narzędzie bez zabezpieczeń. Elon Musk skomentował trend żartobliwie, nie odnosząc się do zgłaszanych naruszeń.

Reakcje za granicą

Sprawa szybko wyszła poza Polskę. Brytyjska minister technologii Liz Kendall zażądała od xAI natychmiastowych działań naprawczych, francuski minister gospodarki Roland Lescure zawiadomił prokuraturę o nielegalnych treściach, a Indie zażądały od firmy raportu z podjętych środków w ciągu 72 godzin. xAI przyznało się do luk w zabezpieczeniach i zadeklarowało prace nad całkowitym blokowaniem takich poleceń.

Większość generatywnych narzędzi AI stosuje algorytmy odrzucające polecenia o charakterze seksualnym lub naruszające wizerunek osób trzecich bez zgody. Grok takich zabezpieczeń w praktyce nie miał, co eksperci wiążą z filozofią moderacji xAI, stawiającą "wolność słowa" ponad restrykcyjną kontrolę treści.

Co dalej w Polsce

Polscy urzędnicy wskazują na unijny Akt o usługach cyfrowych (DSA) jako narzędzie, które mogłoby ułatwić usuwanie nielegalnych treści, w tym materiałów nękających i przedstawiających wykorzystywanie dzieci, niezależnie od tego, czy krajowa ustawa o AI powstanie szybko. Do czasu uchwalenia odrębnych przepisów penalizujących deepfake'i, ofiary w Polsce pozostają skazane na dochodzenie roszczeń wyłącznie na gruncie ochrony dóbr osobistych, co - jak pokazuje sprawa uczennicy z podwarszawskiej szkoły - nie zawsze kończy się skutecznym ściganiem sprawców.