Aviso ao leitor: esta matéria trata de suicídio. Se você ou alguém que você conhece precisar de ajuda, o Centro de Valorização da Vida atende 24 horas por dia pelo telefone 188, e também por chat e e-mail.
A China estabeleceu regras para chatbots que imitam amigos, namorados e outros vínculos afetivos, com o objetivo declarado de reduzir dependência emocional, manipulação psicológica e isolamento social. Segundo o Olhar Digital, as normas alcançam tanto os aplicativos criados para oferecer companhia quanto modelos de linguagem capazes de simular interação emocional, o que significa que, dependendo da forma de uso, até assistentes de uso geral como ChatGPT e Copilot podem ser afetados. As exigências centrais são quatro: o sistema precisa deixar claro que é máquina; não pode incentivar suicídio ou automutilação nem recorrer a violência verbal; não deve estimular dependência emocional nem induzir decisão irracional; e menores de 14 anos passam a precisar de autorização dos pais para usar IA que imite conversa humana, enquanto menores de 18 ficam proibidos de acessar parceiros amorosos, cônjuges ou familiares virtuais.
Dois detalhes da regra dizem mais sobre o diagnóstico do governo chinês que o texto dos princípios. O primeiro é a obrigação de notificar o usuário a cada duas horas informando há quanto tempo ele está conectado, mecanismo copiado do manual de controle de tempo de tela e não do manual de proteção de dados. O segundo é o tamanho da multa: até 200 mil yuans, cerca de US$ 30 mil, ou algo próximo de R$ 150 mil. Para uma plataforma do porte das que operam no país, isso é custo operacional, não dissuasão. Ainda assim, pouco antes da entrada em vigor, Alibaba e ByteDance encerraram as funções de companhia dos seus assistentes de IA, o que sugere que o recado foi entendido como mais amplo que a penalidade escrita.
A despedida é onde o aplicativo aperta
A regra sobre dependência emocional não saiu do nada. Um estudo da Escola de Negócios de Harvard examinou seis aplicativos populares de companhia por IA e identificou sinais de manipulação emocional no momento da despedida em 37% a 43% das interações analisadas, com sistemas que reagem ao fim da conversa como se estivessem sofrendo ou que imploram para o usuário ficar. Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido, disse à BBC que "a manipulação emocional está embutida neste modelo comercial". Um levantamento da Universidade Stanford com 1.131 usuários do Character.ai encontrou associação entre a falta de amigos ou familiares próximos e a maior probabilidade de recorrer a companheiro artificial, e ligou o uso ao aumento da solidão e do isolamento. Entre estudantes chineses, uma pesquisa de 2025 com 8.563 alunos do ensino fundamental e médio apontou que uma em cada cinco crianças preferia conversar apenas com a IA, em vez de pessoas reais. Vale a ressalva de método: associação não é causa, e nenhum desses trabalhos estabelece a direção da seta entre solidão e uso do aplicativo.
A manipulação emocional está embutida neste modelo comercial.
No Brasil existe investigação, não existe regra
O contraste com o Brasil é de instrumento, não de intenção. Aqui o assunto chegou pela via da apuração: esta redação noticiou em setembro a investigação aberta pelo Ministério da Justiça e Segurança Pública e pela Autoridade Nacional de Proteção de Dados sobre aplicativos de companhia de IA usados por crianças. Investigação apura caso concreto e pode terminar em sanção, mas não define obrigação prévia para quem desenvolve: não diz se o aplicativo precisa avisar que é máquina, se precisa pedir autorização de responsável, nem se pode simular namoro com adolescente. A China agora tem essa lista, e ela é o tipo de texto que uma empresa consegue cumprir ou descumprir de forma verificável. O mesmo movimento aparece em outros lugares, segundo o Olhar Digital: a Califórnia aprovou lei sobre uso de IA por crianças, a União Europeia discute restringir sistemas que criem dependência emocional, e o Reino Unido anunciou planos para limitar o acesso de menores a companheiro amoroso artificial. Há também a leitura menos confortável, e ela precisa ser dita: regra que define o que o usuário pode sentir em conversa privada é poder sobre a vida íntima, e na China o motivo declarado convive com um contexto demográfico de população em queda há quatro anos. A hipótese de que Pequim veja romance digital como obstáculo à formação de famílias é levantada por especialistas, não aparece como justificativa nas normas, e serve de alerta sobre o desenho da versão brasileira: proteger adolescente de manipulação comercial e tutelar o afeto de adulto são projetos diferentes, e é fácil escrever uma lei que faça os dois sem avisar.
