Meta AI będzie ostrzegać rodziców, gdy nastolatek rozmawia o samobójstwie

Meta włączyła nową funkcję bezpieczeństwa dla nastolatków korzystających z jej chatbota. Gdy dedykowany system AI wykryje w rozmowie z Meta AI sygnały wskazujące na ryzyko samobójstwa lub samookaleczenia, treść trafia do ręcznej weryfikacji przez człowieka, a po jej potwierdzeniu rodzic korzystający z nadzoru rodzicielskiego na Instagramie dostaje powiadomienie.

System opiera się na osobnym modelu AI, który analizuje treść rozmów pod kątem jawnych i subtelnych odniesień do samookaleczenia. To zmiana w stosunku do wcześniejszego rozwiązania, w którym rodzice byli informowani jedynie o wielokrotnych wyszukiwaniach haseł związanych z samobójstwem w krótkim czasie. Teraz Meta analizuje rzeczywistą treść konwersacji z chatbotem, a nie tylko frazy wpisywane w wyszukiwarkę.

Jak działa weryfikacja

Kluczowym elementem procedury jest zasada ostrożności. Jeśli intencje nastolatka pozostają niejednoznaczne, system i tak wysyła alert do rodzica, nawet kosztem sytuacji, w których realne zagrożenie nie istnieje. Meta przyznaje wprost, że oznacza to większą liczbę fałszywych alarmów, ale traktuje to jako mniejsze ryzyko niż przeoczenie prawdziwego kryzysu.

Każde powiadomienie trafiające do rodzica jest poprzedzone ręcznym przeglądem przez zespół ludzi, dopiero po jego potwierdzeniu alert pojawia się na telefonie opiekuna. Razem z powiadomieniem rodzice otrzymują materiały przygotowane przez ekspertów, które mają pomóc rozpocząć rozmowę z nastolatkiem, zamiast reagować wyłącznie na sam alert.

Nowy panel dla rodziców

Obok alertów kryzysowych Meta wprowadziła też sekcję Insights w narzędziu nadzoru rodzicielskiego na Instagramie. Pokazuje ona listę tematów, o które nastolatek pytał Meta AI w ciągu ostatniego tygodnia, w tym szkołę, rozrywkę, styl życia, podróże oraz zdrowie i samopoczucie. To ma dać rodzicom ogólny wgląd w to, czym interesuje się dziecko, bez podglądania treści pojedynczych rozmów.

Firma zapowiedziała też kolejny krok, który dopiero powstaje: możliwość bezpośredniego kontaktu ze służbami ratunkowymi, gdy rozmowa z Meta AI wskaże na bezpośrednie zagrożenie życia. To rozszerzenie mechanizmu, który Meta stosuje już w innych swoich produktach, gdzie w ciągu ostatniego roku doprowadził do ponad 19 tysięcy zgłoszeń do służb.

Krytyka i wątpliwości

Nie brakuje głosów sceptycznych. Psycholodzy cyfrowi ostrzegają, że nastolatek świadomy monitorowania rozmów może zacząć unikać poruszania trudnych tematów z chatbotem, co w praktyce odetnie go od pomocy, po którą mógłby sięgnąć. Kanadyjscy eksperci zwracają uwagę, że system nie jest niezawodny, a fałszywe alarmy mogą mieć poważny wpływ emocjonalny na całe rodziny, zwłaszcza gdy okazują się bezpodstawne.

To dobra równowaga, chroni prywatność nastolatka, jednocześnie zapewniając rodzicom informacje, których potrzebują - Larry Magid, dyrektor generalny ConnectSafely

Kontrowersje dotyczą też samej architektury rozwiązania: system z założenia czyta prywatne rozmowy nastolatków z chatbotem i na tej podstawie generuje sygnały dla dorosłych. Dla części rodziców to pożądana funkcja bezpieczeństwa, dla części nastolatków może to oznaczać utratę poczucia prywatności w miejscu, gdzie liczyli na anonimową rozmowę.

Kontekst dla polskiego rynku

Funkcja na razie obejmuje tylko cztery kraje anglojęzyczne, a globalny rollout zapowiedziano dopiero na koniec 2026 roku, więc polscy rodzice i nastolatkowie poczekają na nią najpewniej kilka miesięcy. Temat jest jednak istotny również nad Wisłą: z wcześniejszych badań wynika, że co piąty nastolatek sięga po chatboty AI w sytuacjach kryzysowych, a naukowcy wielokrotnie ostrzegali, że rozmowy z takimi botami mogą nasilać kryzysy psychiczne zamiast je łagodzić.

Decyzja Meta wpisuje się też w szerszy trend odpowiedzialności prawnej firm AI za skutki rozmów z chatbotami, po głośnych sprawach sądowych dotyczących ChatGPT i nieletnich użytkowników w Stanach Zjednoczonych. Dla rodziców w Polsce, którzy coraz częściej korzystają z Instagrama i Meta AI razem z dziećmi, to sygnał, że nadzór rodzicielski w aplikacjach Meta będzie się rozbudowywał o kolejne warstwy monitoringu treści, nie tylko czasu spędzanego w aplikacji.