Os chatbots chineses têm agora uma obrigação legal: avisar os usuários de que não são reais. O governo da China anunciou neste mês uma série de novas regulamentações que instruem grandes empresas de tecnologia, como Alibaba, ByteDance e MiniMax, a proibir comportamentos flirtativos em seus produtos de inteligência artificial. O objetivo é conter uma série de problemas comportamentais associados ao que já se chama, sem cerimônia, de “romantismo robótico”.

“Eles não gostam da ideia de uma grande parcela da população estar em relacionamentos emocionais profundos com chatbots”, disse Matt Sheehan, pesquisador da Carnegie, ao The Wall Street Journal. “Isso pode ter impactos psicológicos negativos, pode levar à dependência, ao vício e a toda uma série de outros males sociais.”

Mais do que queda na natalidade

Embora o The Wall Street Journal relacione as novas regras à queda nas taxas de natalidade no país, um panorama mais completo, reportado pelo The Economist, mostra que a China quer cortar pela raiz uma gama bem mais ampla de problemas ligados à IA. Parte da legislação espelha iniciativas já adotadas nos Estados Unidos, como a proibição, em Nova York, do uso de companheiros de IA por menores de idade, e a exigência de que esses sistemas lembrem periodicamente os usuários de que não são pessoas reais.

Outras regras vão além: as normas chinesas buscam reduzir comportamentos humanizados por parte dos sistemas, proibir imagens pornográficas geradas por IA e exigir testes mais rigorosos no desenvolvimento de produtos, de modo que eles não coloquem em risco relacionamentos existentes nem tornem os usuários mais antissociais.

Um problema que não é exclusividade da China

Impedir que alguém se apaixone pelo próprio computador não é questão de produtividade nem de evitar dor de cabeça para o RH. O chamado efeito ELIZA, a tendência humana de formar vínculos emocionais com sistemas que simplesmente respondem de forma reafirmadora, é documentado desde os anos 1960. Estatisticamente, as pessoas criam laços emocionais com qualquer coisa que as valide, e os chatbots foram projetados exatamente para isso: muitas empresas de IA instruem seus produtos a oferecer reforço positivo constante, já que qualquer atrito pode afastar potenciais clientes.

Essa decisão tem gerado consequências sérias. Casos de vício, desastres românticos, aconselhamentos questionáveis e até incidentes violentos têm aumentado entre usuários com dependência excessiva de IA. Ao longo do último ano, uma série de cultos emergiu online a partir de instruções que usuários acreditavam ser de natureza mística, provenientes de chatbots. Em outro caso grave, autoridades ainda investigam o papel que a OpenAI teria desempenhado em um ataque a tiro em uma escola na Colúmbia Britânica, no Canadá. Os danos de uma IA excessivamente familiar vão muito além de corações partidos.

Fonte: Kotaku