Bot do Telegram, "tira a roupa" de fotos de mulheres criando falsos "nudes", aumentando consideravelmente o compartilhamento de "deep fakes"

Segundo o relatório, da empresa Sensity, um bot que se utiliza de inteligência artificial, está sendo utilizado para alterar e compartilhar imagens de milhares de mulheres, criando falsos "nudes", alguns dos alvos do bot teria "aparência de melhores de idade".

A tecnologia utilizada é do tipo "deepfake", que consiste em alterar digitalmente imagens e vídeos, baseados em modelos reais, um dos seus usos mais conhecidos é a criação de memes na internet, trocando-se rostos de atores por outros, ou mais ilegalmente, trocando rostos em vídeos pornográficos por outros envolvendo celebridades.

Ainda no relatório, o Giorgio Patrini, presidente-executivo da Sensity, afirma que a tendência de uso de fotos corriqueiras de pessoas comuns é relativamente nova, e ainda alerta:

O robô digital (bot)

O robô digital (bot), se utiliza de inteligência artificial operando dentro de um canal de mensagens privadas do Telegram. Onde os usuários podem enviar para o robô a foto de uma mulher, o robô as recebe e retira digitalmente em minutos, sem nenhum custo. Mas aparentemente ele não funciona tão corretamente, nos testes feitos pela BBC (usando imagens com consentimento dos participantes), nenhuma foto ficou completamente realista, algumas delas dão pra ver a modificação nitidamente, outras criando coisas no mínimo estranhas, como em uma foto onde o bot, inseriu o umbigo de uma mulher quase no meio do tórax.

Um dos administradores do serviço, conhecido apenas como "P", afirmou:

Segundo ele, a equipe também realiza uma análise de quais fotos serão publicadas, "Quando vemos menores (de idade), bloqueamos o usuário para sempre". Mas compartilhar ou não a foto com outras pessoas é uma decisão do usuário que usou o robô para criá-la.

O perigo desse tipo de tecnologia

Ficou claro que as fotos não são modificadas a um nível realista, mas ainda sim, segundo o relatório da Sensity, entre julho de 2019 e 2020, aproximadamente 104.852 mulheres tiveram suas imagens alteradas e compartilhadas publicamente. E ainda algumas delas pareciam retratar menores de idade, sugerindo que alguns usuários usavam o robô principalmente para gerar e compartilhar conteúdo pedófilo.

Nina Schick, autora do livro Deep Fakes and the Infocalypse, diz que os criadores de deepfakes estão em todo o mundo e que as legislações estão "tentando se atualizar" diante da tecnologia. Segundo ela:

Fora a disseminação de deepfakes para pedofilia, ainda há os casos de pornografia de vingança e extorsão que deixam o caso ainda mais confuso e inconsistente legalmente. Mas embora o relatório informem o quão disseminadas as imagens falsas podem ser, atualmente elas não configuram um crime específico. Mas vale ressaltar que no ano passado, o Estado americano da Virgínia se tornou um dos primeiros lugares a proibir os deepfakes, e outras legislações pelo mundo veem tentando se atualizar para coibir os problemas causados por esta prática.