Cantora Taylor Swift foi alvo de Deep fakes na internet?

Em janeiro de 2024, a artista Taylor Swift foi alvo de uma campanha de assédio digital. A cantora estadunidense teve um número de suas imagens sexualmente explícitas publicadas na Internet. Inicialmente, as fotos foram divulgadas em grupos do Telegram, uma plataforma conhecida por chats privados e comunidades fechadas. Com o tempo, esse conteúdo se espalhou amplamente, chegando ao X (antigo Twitter), no qual onde teve grande circulação antes de ser removido pela plataforma por violar suas políticas.

No X, fãs da cantora, conhecidos como “swifties”, subiram a hashtag “Protect Taylor Swift” (Proteja Taylor Swift). Assim, o debate sobre a urgência de regulamentações mais rígidas para proteger vítimas, especialmente mulheres, contra abusos digitais se fortaleceu. 

Segundo o G1, uma dessas imagens, publicada por um usuário na plataforma, chegou a ser visualizada 47 milhões de vezes antes da conta ser suspensa. Embora o X tenha banido diversos perfis que compartilhavam o conteúdo, as imagens continuaram circulando em outras redes, expondo a dificuldade das plataformas em conter a disseminação desse tipo de material.

Essa situação levantou a dúvida: essas imagens são verdadeiras ou não?

Tudo indica que são falsas. Os fãs da cantora rapidamente passaram a questionar se essas imagens se tratavam de conteúdo gerado por Inteligência Artificial. A Reality Defender, empresa de segurança cibernética especializada na detecção de conteúdos artificiais, afirmou com 90% de certeza que as imagens foram criadas por meio de um modelo de difusão, uma tecnologia baseada em IA amplamente acessível, com mais de 100 mil variações e aplicativos disponíveis ao público. Segundo Ben Colman, cofundador da empresa, o caso evidencia como ferramentas poderosas de geração de imagem, embora revolucionárias, podem ser facilmente utilizadas para fins abusivos, exigindo respostas urgentes de legisladores e empresas de tecnologia.

Além disso, foram publicados vídeos e fotos da cantora em sua turnê, The Eras Tour, com as palavras chaves “Taylor Swift AI” e outras parecidas para dificultar que as pessoas encontrassem as imagens. A rede social também bloqueou temporariamente qualquer busca do nome da cantora para proteger sua imagem.