China detalha novas regras para IA que imita comportamentos humanos e estabelece vínculos emocionais

O órgão regulador de cibersegurança da China divulgou, no sábado 27, um projeto de regras para IA na China direcionado a sistemas capazes de reproduzir traços de personalidade humana e criar laços afetivos com usuários. A minuta entrou em consulta pública e estabelece requisitos de transparência, segurança de dados e intervenção obrigatória quando forem detectados sinais de dependência emocional, configurando mais um passo de Pequim para disciplinar o mercado de inteligência artificial voltado ao consumidor.

Panorama das novas regras para IA na China

O documento divulgado fortalece a estratégia governamental de combinar inovação tecnológica com critérios rígidos de segurança, ética e responsabilidade. O alvo principal são serviços que interagem em linguagem natural — por texto, imagem, áudio ou vídeo — e que demonstram padrões de raciocínio, comunicação e respostas comparáveis ao comportamento humano. Assistentes virtuais, chatbots avançados e outras aplicações de uso cotidiano entram no escopo, indicando que qualquer solução comercial que explore vínculos emocionais com o público deverá seguir as diretrizes propostas.

Sistemas que simulam personalidade humana passam a ter nova vigilância

De acordo com a proposta, o termo “simulação de comportamento humano” abrange softwares que adotam perfis, emoções e estilos discursivos semelhantes aos de pessoas reais. Essa definição é ampla o bastante para incluir plataformas que oferecem companhia virtual, suporte psicológico automatizado ou interações que favoreçam um sentimento de amizade ou intimidade. O regulador entende que essa simulação, quando combinada a algoritmos de aprendizado profundo, pode gerar um envolvimento tão intenso que leve o usuário a atribuir características humanas ao sistema, cenário que demanda maior supervisão.

Obrigações empresariais ao longo de todo o ciclo de vida

Um dos pilares das regras para IA na China é a responsabilidade contínua das empresas desde o desenvolvimento até a operação comercial dos produtos. A minuta impõe a criação de mecanismos formais de revisão de algoritmos, capazes de mapear, documentar e corrigir eventuais falhas que possam impactar o bem-estar do usuário. Também se exige a implementação de protocolos robustos de proteção de dados, contemplando coleta, armazenamento, processamento e descarte de informações pessoais sensíveis.

Além da fase de design, as companhias deverão manter registros atualizados sobre o funcionamento do modelo, detalhando ajustes realizados e eventuais mudanças de parâmetros que influenciem a interação. O objetivo declarado é permitir auditorias periódicas, facilitando a identificação de riscos emergentes e a adoção rápida de medidas corretivas.

Monitoramento emocional: identificação de dependência e intervenção obrigatória

O projeto traz uma inovação ao exigir que os provedores avaliem o estado emocional dos usuários durante as sessões de uso. Indicadores como níveis de estresse, sinais de apego excessivo ou reações extremas deverão ser mapeados por métricas internas. Caso o sistema detecte que a interação provoca dependência prejudicial, a plataforma precisará intervir, oferecendo alertas, limitando a duração do contato ou até mesmo suspendendo temporariamente a comunicação.

O texto também determina que empresas informem, logo no início do serviço, os riscos associados ao uso prolongado ou à criação de vínculos afetivos profundos com a IA. Essa transparência visa conscientizar o público sobre possíveis impactos psicológicos, reduzindo a probabilidade de expectativas irreais em relação ao software.

Regras para IA na China impõem filtros de conteúdo

Outra exigência estabelece fronteiras claras sobre o que pode ou não ser emitido pelos modelos de linguagem ou pelas interfaces multimodais. Respostas que comprometam a segurança nacional, difundam desinformação, estimulem a violência ou veiculem material considerado obsceno estão proibidas. As empresas deverão programar salvaguardas automáticas para bloquear ou reformular conteúdos que se enquadrem nesses tópicos sensíveis.

Para garantir a eficácia da filtragem, o regulador solicita relatórios periódicos demonstrando a taxa de detecção de respostas inadequadas, bem como as ações tomadas para impedir que essas mensagens alcancem o usuário final. Caso falhas recorrentes sejam observadas, penalidades administrativas poderão ser aplicadas.

Responsabilidade na comunicação de riscos ao usuário

Entre as linhas do projeto, ressalta-se a obrigação de fornecer instruções claras sobre uso consciente. Isso inclui avisos explícitos a respeito de possíveis efeitos emocionais, descrição do funcionamento básico do algoritmo e informações sobre a coleta de dados. A proposta exige que tais esclarecimentos sejam apresentados em linguagem acessível, antes que o usuário inicie qualquer interação prolongada com o sistema.

Seguindo a mesma lógica, as plataformas deverão disponibilizar canais de suporte para que consumidores relatem experiências negativas ou dúvidas sobre privacidade. Essas reclamações precisarão ser analisadas dentro de prazos previamente definidos, reforçando o controle contínuo sobre a qualidade do serviço.

Consulta pública e próximos passos

A publicação do texto em fase de consulta demonstra que o governo chinês pretende envolver empresas, instituições de pesquisa e consumidores no processo de refinamento das regras para IA na China. Durante esse período, que antecede a consolidação do marco regulatório, stakeholders podem enviar sugestões que eventualmente ajustem detalhes técnicos ou procedimentais.

A expectativa é que, finalizado o prazo de contribuições, a autoridade de cibersegurança apresente uma versão definitiva, fixando prazos para adequação das soluções já disponíveis no mercado. Esse calendário de transição será essencial para que as companhias reorganizem processos internos, atualizem algoritmos e implementem os sistemas de monitoramento emocional exigidos.

Cenário de rápida expansão da IA e dos robôs humanoides

A iniciativa surge em um momento de aceleração simultânea no desenvolvimento de inteligência artificial e na produção de robôs com aparência antropomórfica no país. O governo avalia que as mesmas tecnologias que permitem avanços em automação e atendimento ao consumidor também apresentam riscos psicológicos e sociais, sobretudo quando replicam traços humanos e fomentam vínculos afetivos.

Nesse contexto, o marco regulatório proposto busca equilibrar crescimento industrial, proteção do usuário e preservação de interesses estratégicos nacionais. Ao definir padrões mínimos para transparência, segurança de dados e intervenção preventiva, o regulador estabelece uma base para governar futuras inovações que explorem a interface entre máquinas e emoções humanas.

Perspectivas para a adoção obrigatória das novas exigências

Uma vez aprovadas, as regras para IA na China deverão se tornar referência para qualquer empresa que pretenda lançar produtos baseados em linguagem natural ou interação multimodal no mercado local. Startups e gigantes do setor terão de adaptar painéis de controle, revalidar modelos de linguagem e criar equipes dedicadas a monitorar o impacto psicológico das interações.

A adesão a essas exigências influenciará também parceiros estrangeiros que desejem operar no país, pois os requisitos de conteúdo, filtragem e intervenção deverão ser aplicados mesmo em versões traduzidas ou localizadas de serviços globais. Assim, o marco regulatório tende a repercutir além das fronteiras chinesas, pressionando provedores internacionais a incorporar salvaguardas similares para garantir compatibilidade com o ambiente regulatório local.

No encerramento da consulta pública, as autoridades devem divulgar o cronograma oficial para a entrada em vigor das medidas, definindo datas específicas para revisão de algoritmos, ajustes de política de uso e implementação dos sistemas de monitoramento emocional exigidos pelo texto.