2020年4月的一个下午，华人女子Breeze Liu（刘微风）从一个朋友那里得知，有人在网上发布了一段她的色情视频，但她知道这是一段假视频。“我说，‘不！这不可能发生，你搞错了。’”
但她很快在一个成人网站上看到了这段伪造的视频，顿时感到恶心欲呕。
“我崩溃了，我感到非常羞辱和孤独。”看到这段视频后，24岁的刘走上父母公寓楼的屋顶，告诉自己已经没有继续活下去的理由。“我能想到的唯一事情，就是我死了会更好。”但最终，刘没有跳下去。相反，她决定反击。她打电话给加州伯克利的警方，提供了她怀疑制造这段视频的人的名字——这是她2年前从加州大学伯克利分校毕业前认识的一名男同学。但她很快发现，警察能做的事情有限。
刘说，“没有正义，他们告诉我他们无能为力。”事件发生后，她在10天内瘦了了12磅。“我努力正常过生活，但内心深处，每一秒我都在尖叫。每一个从我身边经过的人，我都会想，他们有没有看过那段视频？”事后，刘直接质问那个制作假视频的男同学，对方从那个成人网站上删除了视频，但后来又在数百个其他网站上发布了类似的内容。
她曾问对方为什么这么做，对方说，因为刘拒绝了他的追求，因此想“羞辱我”。
当她向警方求助时，结果让她大吃一惊，“他们问我。是否曾参与卖淫或为钱交换过裸照。”警方在3个月后停止了调查。最终，刘发现有超过800个链接包含她的深伪材料，她曾尝试彻底删除这些视频，但都未能成功。她并没有放弃，她的警觉促使她着手应对所谓的深伪色情片——这种利用人工智能技术将他人的脸部嵌入到色情素材中，以模拟真实视频。通过这件事，她了解到这种情况在受害者中非常普遍。刘曾在加密货币行业工作多年，现在正开发一款免费使用的面部识别软件，帮助受害者识别伪造和虐待性内容并将其删除。
“除非我改变整个系统，否则对我来说，不可能实现正义。”2022年，她动用自己的积蓄创办了位于旧金山的Alecto AI公司，利用面部识别技术，帮助用户查找使用他们肖像的深伪视频和其他内容，并与主要平台合作将其删除。刘的公司正等待新一轮融资，在全面推出之前还有一些工作要做，但这可能成为应对这一问题的急需工具，预计影响成千上万人，甚至更多。
布法罗大学计算机科学家吕思伟说，“这种（对受害者的）心理和情感创伤是巨大的。”目前，没有针对深伪色情片制作和传播的法律。这种内容可以在几分钟内，借助日益先进且易于获取的AI工具创建。刘说，“我无法控制国会或执法部门的行动，但我们每个人都应该能够控制自己的网络形象的主权。我正在建立的是第一道防线，让受害者重获力量。我曾经花了很多时间想蜷缩起来躲藏，但现在不再是这样了。”
|
置顶卡
变色卡
千斤顶
