As mulheres são as que mais sofrem com abusos de deepfake, e à medida que os casos aumentam, as vítimas precisam de melhores formas de retomar o controlo

A advogada Stefanie Yuen Thio sentiu um profundo sentimento de pavor quando um colega lhe informou que vídeos e fotos sugestivos dela estavam a ser partilhados no TikTok. Apesar de saber que as imagens eram fabricadas, a natureza hiper-realista destes deepfakes deixou-a chocada e confusa. Embora os vídeos não contivessem nudez, a violação que sentiu foi intensa e palpável. Deepfakes são vídeos, áudios ou imagens gerados por IA que fazem parecer que indivíduos dizem ou fazem coisas que nunca realmente fizeram. Enquanto alguns usam esta tecnologia para humor ou razões artísticas, a maioria dos deepfakes hoje envolve conteúdo pornográfico não consensual, direcionado desproporcionalmente a mulheres.\n\nO aumento dos deepfakes é impressionante, em grande parte devido à fácil disponibilidade de ferramentas de IA. Segundo a empresa britânica Sumsub, os casos de deepfake na Ásia-Pacífico aumentaram 1.530% entre 2022 e 2023, ficando em segundo lugar apenas atrás da América do Norte. Um relatório da Sensity AI de 2019 revelou que 96% dos deepfakes eram conteúdos sexuais não consensuais, com mais de 90% das vítimas a serem mulheres. Alarmantemente, materiais de abuso sexual infantil gerados por IA, principalmente representando meninas jovens, também dispararam, com casos reportados nos EUA a saltarem de 4.700 em 2023 para mais de 67.000 em 2024. Em Singapura, o SHECARES — um centro de apoio da SG Her Empowerment (SHE) e do Conselho das Organizações Femininas de Singapura — tratou mais de 440 casos de danos online desde 2023, incluindo pornografia deepfake.\n\nApesar do aumento dos números, muitos incidentes provavelmente permanecem por reportar. A CEO da SHE, How Kay Lii, destacou este problema de subnotificação. Uma pesquisa de 2023 da SHE mostrou que mulheres jovens entre os 15 e os 34 anos têm o dobro da probabilidade de enfrentar assédio sexual online, incluindo serem alvo de deepfakes ou receberem imagens íntimas sem consentimento. Mais de 70% das mulheres entre os 15 e os 24 anos conheciam alguém que experienciou tal assédio. Embora celebridades e políticas femininas sejam alvos principais, a ameaça é muito mais ampla. Por exemplo, a Coreia do Sul enfrentou indignação pública no ano passado quando pornografia gerada por IA de mulheres se espalhou amplamente. Mesmo em Singapura, estudantes do sexo masculino da Escola de Desporto de Singapura criaram e partilharam nudes deepfake de colegas femininas, envolvendo um grupo grande e não apenas alguns indivíduos.\n\nO impacto psicológico do abuso deepfake é severo. Yuen Thio descreveu como inicialmente lutou com sentimentos de autoacusação apesar de saber que não era culpa dela. Muitas vítimas relatam emoções semelhantes ao trauma de agressão física — vergonha, culpa, choque e impotência. A psicóloga clínica Mahima Didwania explicou que, embora os deepfakes não envolvam contacto físico, o sofrimento emocional pode ser tão real porque a mente luta para separar o falso do real. Os sobreviventes frequentemente experienciam pânico, ansiedade, insónias e até pensamentos de autoagressão. O sofrimento é intensificado porque o conteúdo deepfake é falso, mas as consequências sociais são muito reais, danificando reputações e relações.\n\nRetomar o controlo torna-se crucial para os sobreviventes. Após o choque inicial, Yuen Thio concentrou-se nas ações a tomar, como reportar os deepfakes ao TikTok. O apoio dos amigos ajudou-a a monitorizar quando o conteúdo era removido. Mas remover o conteúdo online é apenas o começo. O processamento emocional e conversas abertas são igualmente importantes para a cura. Retomar o controlo varia para cada pessoa — algumas procuram ação legal, outras falam publicamente, enquanto algumas podem escrever num diário ou confrontar os ofensores. Para a artista singapurense Charmaine Poh, retomar o controlo seguiu um caminho diferente e personalizado.\n\nEm suma, a crescente prevalência do abuso deepfake mostra como a tecnologia pode ser usada como arma para causar dano, com as mulheres a suportarem a maior parte. Enquanto os quadros legais e a consciência social evoluem, as feridas psicológicas são profundas, exigindo não só a remoção do conteúdo, mas sistemas de apoio abrangentes para ajudar as vítimas a recuperar a agência sobre as suas identidades digitais e bem-estar mental.