女性是深度伪造滥用的最大受害者，案件激增，受害者需要更好的方式重新掌控

律师施芬妮·袁·张（Stefanie Yuen Thio）在一位同事告知她有暗示性视频和照片在抖音上被传播时，感到深深的恐惧。尽管她知道这些图像是伪造的，但这些超逼真的深度伪造作品让她震惊且困惑。虽然视频中没有裸露，但她感受到的侵犯感强烈且明显。深度伪造是由人工智能生成的视频、音频或图像，使个人看似说或做了他们实际上从未做过的事情。虽然有些人出于幽默或艺术原因使用这项技术，但如今大多数深度伪造涉及非自愿的色情内容，女性成为主要目标。\n\n深度伪造的激增令人震惊，主要归因于人工智能工具的易得性。根据英国公司Sumsub的数据，亚太地区的深度伪造案件在2022年至2023年间激增了1530%，仅次于北美。2019年Sensity AI报告发现，96%的深度伪造内容是非自愿的性内容，超过90%的受害者是女性。令人震惊的是，人工智能生成的儿童性虐待材料，主要描绘年轻女孩，也急剧上升，美国报告的案件从2023年的4700起跃升至2024年的超过67000起。在新加坡，由SG Her Empowerment（SHE）和新加坡妇女组织理事会共同设立的支持中心SHECARES自2023年以来处理了超过440起网络伤害案件，包括深度伪造色情。\n\n尽管案件数量上升，许多事件可能未被报告。SHE的首席执行官何凯丽强调了这一未报告问题。SHE在2023年的一项调查显示，15至34岁的年轻女性遭受网络性骚扰的可能性是其他群体的两倍，包括被深度伪造或未经同意收到亲密图像。超过70%的15至24岁女性认识经历过此类骚扰的人。虽然女性名人和政治家是主要目标，但威胁范围更广。例如，去年韩国因女性的AI生成色情视频广泛传播而引发公众愤怒。即使在新加坡，新加坡体育学校的男学生也制作并分享了女性同学的深度伪造裸照，涉及人数众多，而非少数个体。\n\n深度伪造滥用的心理影响严重。袁·张描述了她最初尽管知道这不是她的错，却仍挣扎于自责的感受。许多受害者报告的情绪类似于身体攻击的创伤——羞耻、内疚、震惊和无助。临床心理学家马希玛·迪德瓦尼亚解释说，尽管深度伪造不涉及身体接触，但情绪上的痛苦同样真实，因为大脑难以区分真假。幸存者常经历恐慌、焦虑、失眠，甚至自残念头。痛苦加剧的原因在于内容是假的，但社会后果却非常真实，损害了名誉和人际关系。\n\n重新掌控变得对幸存者至关重要。初期震惊过后，袁·张专注于采取行动，比如向抖音举报深度伪造内容。朋友的支持帮助她监控内容何时被删除。但在线删除内容只是开始。情绪处理和开放对话同样对康复重要。重新掌控对每个人而言不同——有些人采取法律行动，有些人发声，有些人可能写日记或面对施害者。对新加坡艺术家Charmaine Poh来说，重新掌控走了一条不同且个性化的道路。\n\n总之，深度伪造滥用的日益普遍显示了技术如何被武器化来伤害，女性承受最大冲击。随着法律框架和社会意识的发展，心理创伤深重，要求不仅仅是删除内容，还需建立全面的支持系统，帮助受害者重新掌控其数字身份和心理健康。