X restringe criação de imagens do Grok a assinantes após escândalo de deepfakes

A rede social X/Twitter decidiu restringir o uso da ferramenta de geração de imagens do Grok apenas a usuários pagantes, após uma onda de críticas envolvendo a criação de deepfakes com conteúdo sexual e violento. A medida veio depois de forte pressão pública e até ameaças de banimento da plataforma no Reino Unido.

Nos últimos dias, diversos usuários passaram a explorar o Grok Imagine para gerar imagens sexualizadas, muitas vezes solicitando que a IA removesse roupas de pessoas retratadas em fotos comuns. O problema ganhou proporções ainda maiores devido ao envolvimento de imagens de mulheres e até crianças, o que acendeu alertas entre autoridades e grupos de proteção.

Com a mudança, usuários que tentam criar ou editar imagens agora se deparam com um aviso informando que o recurso está limitado a assinantes pagos, acompanhado de um link para adesão ao serviço. Ainda assim, não há confirmação oficial se essa limitação também impede que usuários pagantes continuem produzindo imagens sexualizadas ou não consensuais.

O caso colocou o Grok e o próprio Elon Musk, dono do X, no centro de uma nova controvérsia. No Reino Unido, o primeiro-ministro Keir Starmer foi um dos críticos mais vocais da ferramenta, citando preocupações sérias sobre o uso de deepfakes e a falta de controle. A possibilidade de bloquear o X no país chegou a ser mencionada em meio ao debate.

Mesmo sob críticas, a xAI, empresa responsável pelo Grok e pertencente ao ecossistema do X, anunciou recentemente uma rodada de investimentos de US$ 20 bilhões. O aporte contou com grandes nomes do mercado, como Nvidia, Cisco Investments, Fidelity, Qatar Investment Authority e outros fundos de peso.

Fonte: Deadline

Gosta do nosso conteúdo? então assine a newsletter e venha fazer parte da nossa comunidade!