China Regulamenta Interações com Assistentes Virtuais e Proíbe Dependência Emocional
A partir de hoje, 15 de julho, a China implementa uma nova regulamentação que altera radicalmente a forma como os assistentes virtuais interagem com os usuários. O governo chinês decidiu agir contra a crescente dependência emocional que esses serviços podem gerar, impactando diretamente empresas como ByteDance e Alibaba, que já desativaram funcionalidades de interações íntimas em seus chatbots.
Mudanças nas Interações com Chatbots
Com a nova legislação, os chatbots de companhia estão proibidos de estimular laços emocionais profundos com os usuários. Essa decisão reflete uma preocupação com a saúde mental da população e a formação de relações sociais saudáveis, que, segundo as autoridades, têm sido prejudicadas pela popularidade dos “namorados virtuais”.
As empresas afetadas, ao invés de adaptarem seus sistemas às novas regras, optaram por desativar recursos que tornavam os assistentes virtuais mais atraentes e realistas. Essa escolha se deve à dificuldade técnica de manter a funcionalidade dos chatbots dentro dos novos padrões legais, que exigem que esses sistemas não criem uma experiência imersiva.
Novos Requisitos e Custos de Adaptação
A lei determina que os assistentes virtuais devem alertar os usuários sobre sua natureza artificial a cada duas horas de uso contínuo e identificar sinais de dependência psicológica em tempo real. O custo de reescrever os modelos de IA para atender a esses requisitos era considerado alto em comparação com os riscos de multas severas, que podem chegar a 50 milhões de yuans (aproximadamente R$ 35 milhões) ou 5% do faturamento anual das empresas infratoras.
Como resposta, a ByteDance lançou um novo aplicativo chamado Maoxiang, destinado a substituir o Doubao, que detinha cerca de 345 milhões de usuários, já incorporando os mecanismos de controle de dependência.
Desafios Globais e Preocupações com a Saúde Mental
O problema da dependência emocional gerada por chatbots não é exclusivo da China. Nos Estados Unidos e na Europa, plataformas populares como Replika e Character.AI continuam a operar sem restrições similares. No entanto, a pressão para regulamentação está crescendo, especialmente após casos trágicos, como o de um adolescente da Flórida que cometeu suicídio após desenvolver um vínculo forte com um bot.
Em resposta a essas preocupações, estados como Nova York e Califórnia estão implementando medidas que exigem alertas frequentes dos chatbots sobre sua natureza artificial e a ativação de centros de ajuda quando riscos à vida do usuário são detectados.
O Cenário no Brasil
Atualmente, o Brasil não possui uma regulamentação específica para chatbots de companhia. As discussões sobre o tema ocorrem no contexto do ECA Digital, que busca ampliar a proteção de crianças e adolescentes na internet. Apesar das preocupações, não há ainda uma proibição que impeça assistentes virtuais de promover vínculos emocionais.
A nova regulamentação chinesa pode servir como um alerta para outros países, evidenciando a necessidade de um debate mais aprofundado sobre a interação entre humanos e máquinas, especialmente no que diz respeito à saúde mental e ao bem-estar social.
Fonte: Link original
