Chiny nałożyły nowe przepisy na usługi AI-towarzyszystwa, co spowodowało, że dwie najpopularniejsze chińskie aplikacje konsumenckie wyłączyły kluczowe funkcje przed 15 lipca. ByteDance Doubao zawiesiła funkcję agenta powołując się na dostosowanie produktu, podczas gdy Alibaba Qwen całkowicie wyłączyła humanoidalne i tworzone przez użytkowników agenty 10 lipca, a szersze usługi agentów pięć dni później.
Regulacja rządowa, znana jako Interim Measures for the Administration of AI Anthropomorphic Interactive Services, wyraźnie rozróżnia między agentami pracującymi na rzecz użytkownika a tymi, które pełnią rolę towarzyskim. Tylko druga kategoria podległa zakazom Beijing. Chodzi tutaj o agenty conversacyjne programowo zaprojektowane do utrzymania osobistej, długotrwałej relacji z użytkownikiem - boty, które pamiętają historię rozmów, mają stałą osobowość i budzą emocjonalne przywiązanie. To coraz bardziej popularna kategoria, szczególnie w Chinach, gdzie ludzie wykorzystują takie boty do bycia słuchaczem, emocjonalnego wsparcia lub po prostu czegoś, co ich pamięta.
Chińskie władze widać postrzegają to jako zagrożenie dla psychicznego zdrowia użytkowników, szczególnie potencjalnie dla młodych ludzi. Rozróżnienie między agentami pracującymi a towarzyszami jest kluczowe - przepisy nie dotyczą zwykłych asystentów AI ani chatbotów pomagających w pracach, tylko tych specjalnie zbudowanych do budowania emocjonalnego związku. To pokazuje, jak rządowe podejście do AI coraz bardziej skupia się na kwestiach behawioralnych i psychologicznych, a nie tylko na zagrożeniach technicznych czy bezpieczeństwie danych.