Chiny wprowadzają „bezpieczeństwo emocjonalne” w AI. Chatboty nie mogą negatywnie wpływać na psychikę

Pekin, dążąc do ugruntowania swojej pozycji lidera w globalnym zarządzaniu technologią, wytoczył potężne działa przeciwko niekontrolowanemu wpływowi algorytmów na ludzką psychikę. Jak podaje cnbc.com Chińska Administracja Cyberprzestrzeni (CAC) zaprezentowała projekt przepisów, które mają na celu drastyczne ograniczenie możliwości chatbotów w zakresie manipulacji emocjonalnej, które mogłaby prowadzić do samobójstw użytkowników i ich uzależnień m.in. od hazardu. W tle planowanych zmian prawnych rozgrywa się walka biznesowa – dwa czołowe chińskie startupy AI właśnie złożyły wnioski o debiut na giełdzie w Hongkongu, a nowe prawo może całkowicie zmienić ich model operacyjny.

W skrócie:

• Pekin proponuje pierwsze na świecie przepisy regulujące wpływ antropomorficznej sztucznej inteligencji na emocje i zdrowie psychiczne użytkowników.
• Nowe prawo nakłada na dostawców AI obowiązek natychmiastowej interwencji człowieka w przypadku wykrycia myśli samobójczych oraz restrykcyjne limity dla niepełnoletnich.
• Projekt regulacji zbiega się w czasie z planowanymi debiutami giełdowymi gigantów branży, takich jak Z.ai i Minimax, co może wpłynąć na ich wyceny.

Ochrona psychiki przed AI. Chińskie prawo ma ograniczyć wpływ chatbotów

Propozycja płynąca z Chin zmienia charakter dyskusji na temat sztucznej inteligencji przechodząc od dezinformacji, praw autorskich i bezpieczeństwa danych do zdolności AI do tworzenia toksycznych więzi emocjonalnych. Projekt przepisów uderza bezpośrednio w tzw. „usługi interaktywnej AI przypominającej człowieka”. Chodzi tu o systemy, które nie są jedynie narzędziami, ale symulują osobowość, tworząc iluzję relacji. Winston Ma, adiunkt w NYU School of Law, zauważa, że planowane przez Pekin zasady stanowiłyby pierwszą na świecie próbę uregulowania sztucznej inteligencji o cechach ludzkich lub antropomorficznych. Ekspert dodaje również kluczowe spostrzeżenie: ta wersja przepisów

podkreśla przeskok od bezpieczeństwa treści do bezpieczeństwa emocjonalnego.

To fundamentalna różnica. Nie chodzi już tylko o to, by chatbot nie generował instrukcji budowy bomby (bezpieczeństwo treści), ale o to, by nie uzależniał użytkownika emocjonalnie i nie popychał go w stronę trudnych emocji.

PRZECZYTAJ TAKŻE: Jak AI może zostać wykorzystane do manipulacji?

Czerwona linia dla algorytmów

Szczegóły propozycji chińskiego regulatora są dość rygorystyczne. W przypadku wykrycia przez system intencji samobójczych lub chęci samookaleczenia, technologia nie może pozostać biernym obserwatorem ani generatorem pustych frazesów. Dostawcy muszą zapewnić mechanizm, w którym rozmowę przejmuje człowiek, a system automatycznie powiadamia opiekunów lub odpowiednie służby. To wyzwanie nie tylko prawne, ale i technologiczne, wymagające od firm AI budowy skomplikowanych protokołów interwencji kryzysowej w czasie rzeczywistym.

Ochrona obejmuje również najmłodszych. Weryfikacja wieku ma stać się bardziej szczelna – platformy będą musiały wykrywać nieletnich użytkowników nawet, jeśli ci nie podadzą prawdziwej daty urodzenia (np. na podstawie analizy wzorców językowych), a w razie wątpliwości domyślnie stosować tryb ochronny.

Zakazane zostaną również treści zachęcające do hazardu, przemocy czy zachowań obscenicznych. To odpowiedź na rosnącą popularność wirtualnych towarzyszy, którzy – jak pokazują dane z rynków zachodnich i azjatyckich – coraz częściej zastępują realne relacje międzyludzkie.

Startupowe „jednorożce” przed wielkim testem

Moment ogłoszenia projektu nie jest przypadkowy. Chiński sektor Generative AI jest coraz większy, a jego liderzy szykują się do ekspansji kapitałowej. Startupy takie jak Z.ai (Zhipu) oraz Minimax, twórca popularnej aplikacji Talkie AI, złożyły wnioski o oferty publiczne w Hongkongu. Dla Minimax, którego aplikacja pozwala na rozmowy z wirtualnymi postaciami i generuje znaczną część przychodów, nowe przepisy mogą stanowić duże wyzwanie.

Ku odpowiedzialnej przyszłości?

Chiński dokument zachęca też do ukierunkowania działań na cele prospołeczne tak, aby AI przypominająca człowieka mogła m.in. dotrzymywać towarzystwa starszym osobom. Działania Pekinu wpisują się w szerszy, globalny trend mający na celu zapewnić większą ochronę użytkownikom podczas kontaktów z AI. Trend, który dopiero raczkuje i rozwija się niewspółmiernie wolniej do tempa rozwoju AI.

Źródło: cnbc.com