Ponad 100 organizacji żąda ochrony dzieci przed AI na szczycie ONZ

Dzień przed inauguracyjnym posiedzeniem ONZ poświęconym regulacji sztucznej inteligencji ponad sto organizacji pozarządowych z całego świata podpisało wspólne oświadczenie, żądając od rządów twardych zabezpieczeń chroniących dzieci przed skutkami działania systemów AI. Koalicję prowadzi brytyjska fundacja 5Rights, a wśród sygnatariuszy znalazły się Amnesty International i Save the Children.

Oświadczenie zawiera konkretną listę żądań wobec rządów. Najważniejsze z nich to obowiązek udowodnienia przez firmy, że ich systemy AI są bezpieczne dla dzieci, zanim trafią na rynek, oraz wprowadzenie kar finansowych za naruszenia praw dzieci. Koalicja domaga się też zakazu funkcji projektowych, które wykorzystują psychologiczne słabości najmłodszych użytkowników, oraz zakazu komercyjnego wykorzystywania wizerunku, głosu i danych biometrycznych dzieci.

Punkt wyjścia to skala problemu

Autorzy oświadczenia podkreślają, że nie chodzi o spowolnienie rozwoju technologii, lecz o odwrócenie kolejności działań. Zamiast wprowadzać produkty na rynek i naprawiać szkody dopiero po fakcie, firmy miałyby najpierw wykazać bezpieczeństwo swoich systemów. Liczba 20 milionów dzieci korzystających z narzędzi AI ma pokazać, że skala zjawiska dawno przekroczyła etap eksperymentu i wymaga twardych ram prawnych, a nie dobrowolnych deklaracji branży.

Children have given us a clear diagnosis of the problem. They aren't asking us to block AI innovation, but it shouldn't be a case of cleaning up the mess after harm has happened either. - Leanda Barrington-Leach, dyrektor wykonawcza 5Rights Foundation

Pozwy jako tło regulacyjne

Koalicja wprost odwołuje się do trwających procesów sądowych przeciw Character Technologies oraz OpenAI, dotyczących szkód wyrządzonych nieletnim przez chatboty-towarzysze. Sprawy te od miesięcy podsycają publiczną debatę o odpowiedzialności twórców modeli językowych za treści i relacje, jakie budują z użytkownikami poniżej 18 roku życia. Dla organizatorów oświadczenia to dowód, że obecne mechanizmy nadzoru nie nadążają za tempem wdrożeń.

As long as companies are rewarded for speed, engagement and data extraction rather than safety, we'll keep treating the symptoms while the disease becomes endemic. - Leanda Barrington-Leach, dyrektor wykonawcza 5Rights Foundation

Kontekst szczytu ONZ

Apel został opublikowany celowo tuż przed inauguracyjnym posiedzeniem ONZ w ramach Global Dialogue on AI Governance, pierwszego tego rodzaju formatu międzynarodowego dedykowanego wypracowaniu wspólnych zasad nadzoru nad sztuczną inteligencją. Organizatorzy oświadczenia liczą, że temat ochrony dzieci znajdzie się wysoko na agendzie obrad, a nie zostanie potraktowany jako poboczny wątek wobec kwestii bezpieczeństwa narodowego czy konkurencji gospodarczej między mocarstwami.

Co to oznacza dla firm i rodziców

Dla firm technologicznych oferujących produkty AI kierowane choćby częściowo do młodszych odbiorców, żądania koalicji oznaczałyby istotny wzrost kosztów wejścia na rynek i konieczność certyfikacji bezpieczeństwa jeszcze przed premierą. Dla rodziców i opiekunów to sygnał, że presja na regulatorów rośnie, choć na razie żadne z żądanych rozwiązań nie ma jeszcze formy wiążącego prawa w większości jurysdykcji, w tym w Unii Europejskiej.

Polska nie została wymieniona bezpośrednio w oświadczeniu, ale zbliżający się termin pełnego wejścia w życie unijnego AI Act sprawia, że temat ochrony małoletnich użytkowników systemów sztucznej inteligencji będzie musiał trafić także na krajowe biurka legislacyjne. Europejskie firmy działające w obszarze edukacji, rozrywki i mediów społecznościowych z komponentem AI powinny obserwować, czy postulaty koalicji znajdą odzwierciedlenie w kolejnych aktach wykonawczych do unijnego rozporządzenia.

Kolejnym testem dla realności tych żądań będzie przebieg samego szczytu ONZ oraz to, czy uczestniczące w nim rządy zdecydują się na konkretne zobowiązania, czy poprzestaną na deklaracjach intencji, jak bywało dotąd przy podobnych inicjatywach międzynarodowych.

Źródła: Euronews Next (euronews.com)