As autoridades chinesas implementaram na quarta-feira novos regulamentos para fornecedores de sistemas de inteligência artificial (IA) que simulam traços de personalidade humana, padrões de pensamento ou estilos de comunicação em interacções emocionais contínuas com utilizadores. Os regulamentos derivam das “Medidas Provisórias para a Administração de Serviços de Interacção Antropomórfica de Inteligência Artificial”, publicadas em Abril pela Administração do Ciberespaço da China (CAC), juntamente com outros quatro departamentos governamentais, com o objectivo de “equilibrar a inovação tecnológica com a segurança e o interesse público”.
As novas regras não se aplicam a todos os ‘chatbots’, uma vez que excluem aqueles dedicados ao atendimento ao cliente, sistemas de perguntas e respostas baseados em conhecimento, assistentes de trabalho e ferramentas de investigação científica e educacional, desde que não envolvam interacção emocional sustentada.
A regulamentação proíbe a indulgência excessiva do utilizador, a indução de dependência emocional ou vício que prejudique as relações interpessoais reais e a manipulação emocional que leve os utilizadores a tomar decisões irracionais ou viole os seus direitos legítimos. Além disso, passam a ser proibidos os casos em que estes sistemas gerem conteúdos que promovam a automutilação ou o suicídio, ou que envolvam abuso verbal prejudicial à saúde mental dos utilizadores.
Paralelamente, os fornecedores destes serviços interactivos antropomórficos devem também alertar eficazmente os utilizadores de que estão a interagir com um sistema de IA e não com uma pessoa real. À semelhança dos controlos já implementados por algumas redes sociais ou telemóveis, também serão obrigados a notificar os utilizadores após duas horas de utilização contínua do serviço.
O regulamento confere especial ênfase à protecção dos menores e proíbe a oferta de serviços de relações íntimas virtuais, como “família” ou “companheiros” virtuais, exigindo o consentimento dos pais ou tutores para os recursos destinados a crianças menores de 14 anos.
No início deste mês, gigantes digitais como a ByteDance e a Alibaba já tinham anunciado o encerramento das suas funcionalidades de agentes personalizados de IA no Doubao e no Qwen, respectivamente. Ambas as aplicações ofereciam um catálogo de agentes, criados tanto por empresas como por utilizadores, com tarefas, competências e estilo de conversação personalizáveis.
Pan Helin, membro do comité de peritos do Ministério da Indústria e Tecnologia da Informação, declarou ao jornal “South China Morning Post” que a utilização de agentes “exige um certo nível de compreensão” por parte do utilizador e considerou que os actuais agentes “ainda não estão maduros”.
JTM com agências internacionais
