来源：英国那些事儿
我们昨天说了个能让老照片动起来的AI，这两天，又有一个东西席卷了国外的社交媒体：一个假的汤姆·克鲁斯。
在Tiktok上，有个匿名创作者开了一个叫Deeptomcruise的账号，只放了三条视频，一周时间吸引了38万的粉丝，视频播放量达到1100万次。
视频的主角都是汤姆·克鲁斯，他带着标志性的灿烂笑容，在镜头前打高尔夫。
“Tiktok网友们，大家好。你们想看我运动？这就来！”
讲冷笑话。
“我曾经在俄罗斯见过戈尔巴乔夫……”
变魔术。
“让我给你们展示魔法的，一切都是真的。没错，这一起都是真的。”
只看短片，根本看不出来他和真的汤姆·克鲁斯之间的区别，只有他的声音比真的克鲁斯要稍微尖点。
（真实的汤姆·克鲁斯）
（虚假的汤姆·克鲁斯）
这是啥情况，汤姆·克鲁斯失散多年的双胞胎兄弟吗？
不，这是用Deepfake技术做出的假视频。
从账号名上可以看出，创作者根本没隐藏人是假的，他的个人简介也是空白，没有明星们该有的自我介绍。
不过，三段视频完全可以以假乱真，这是过去几年人们能看到的，真实度最高的Deepfake视频。
评论区里，网友们已经迷惑人间了。
“所以你跟我说这不是真的汤姆·克鲁斯？”
“我以为他就是真的，直到我看了评论区。啥情况啊都”
“想想，也许他就是真的汤姆·克鲁斯，用Deep当前缀只是开玩笑。”
“是有人喝了汤姆·克鲁斯的复方汤剂吧？”
更多网友表示：“想要分清楚他和真汤姆之间的差别，是不可能的啊！”
确实，这些视频比以往的换脸视频都出彩，没有面部轮廓模糊，也没有表情僵硬。看上去就是58岁的克鲁斯打算尝试一下年轻人的平台。
（视频中的克鲁斯要比现在的他更年轻）
有熟悉克鲁斯的人猜测，视频中表演的人可能是他的专业模仿者。他们甚至给了名字，是一个叫迈尔斯·费舍（Miles Fisher）的演员。他长得挺像克鲁斯，以前也模仿过他。
（迈尔斯·费舍）
加州大学伯克利分校的数字图像分析教授哈尼·法里德（Hany Farid）告诉《财富》，他们确定这是“非常精良的假视频”，创作者把自己的部分脸替换成克鲁斯的，他的双手和嘴部是自己的。
“表演者本来就挺像克鲁斯，应该还化了妆，然后把眼睛换了，这样就能有足够的相似度。”法里德说。
他还提到其中几个小点暴露了它是假视频。
一是，在假克鲁斯表演硬笔魔术的时候，他眼睛的颜色和形状都略有变化，在虹膜上还有两个小白点。白点是光的反射，法里德说在现实的视频里，它们应该更大。
另一个就更明显了。在高尔夫的视频里，假克鲁斯笑着戴上墨镜，过程中镜片短暂地消失了一下。
不过，普通人很难注意到这些，这样的视频传播开来，很容易形成误导。
有网友担忧：
“这些假视频真是好到让人担忧。我们以后看电视时，该怎么相信眼前的一切呢？”
更有人说：
“我总觉得，这东西应该是违法的。”
关于Deepfake的争议已经很多年了，但人们的忧虑一直没得到解决。
Deepfake是由一种叫生成对抗网络（GAN）的机器学习技术制作的。这个技术同时训练两个深度神经网络，一个生成假图像，一个识别出它是否为假。两个网络彼此监督学习，最终生成足够逼真的图像和视频。
发明它的是谷歌工程师伊恩·古德费洛（Ian Goodfellow），他在2014年有了这个主意，当时是单纯地想让计算机自动出图。
（伊恩·古德费洛）
但2017年，这技术走上了歪路，原因是Reddit上有个叫Deepfake的网民用这个技术，把盖尔·加朵等女星的脸P到小黄片上，效果挺逼真。
这就是Deepfake这个名字的由来。在媒体报道后，换脸黑科技全球爆红，人们拿明星的脸贴到不相干的电影、电视剧里，当然更多的是黄片里。
有人提到这是在剥削女性，用她们的脸和身体做根本不存在的事。Reddit很快把相应的板块封了，但程序员们转到其他平台，交流如何把视频做得更真。
2018年，一段奥巴马咒骂川普的视频在网上流传，奥巴马说他是“彻头彻尾的搅屎棍”。这段视频不是真的，而是Buzzfeed网站为了提醒大家小心假新闻做的Deepfake视频。
虽然行为有点令人迷惑，但好歹他们在标题里说了视频是假的。
2019年的Deepnudes软件就没那么好了。它允许用户上传图片，可以实现一键脱衣，导致女性被威胁、被羞辱的概率激增。
这是女性在技术时代被物化和损害的一个具象体现。明明穿着衣服，代码却可以把它们扒光。
因为抗议声音太大，Deepnudes网站之后选择关闭。但紧接着，Deepfake技术把触角伸向了政治黑料里。
2019年，众议院议长佩洛西的一段讲话视频在脸书上疯传。
视频里，她说话速度慢吞吞的，声音也结结巴巴，好像是喝醉酒了。视频在脸书上的观看量达到数百万次，连川普的前律师朱利安尼都注意到了。
他在推特上转发了视频，问道，“南希·佩洛西到底怎么了？她的讲话方式很奇怪。”
评论区里，人们在猜测佩洛西是不是老糊涂了，有点老年痴呆的样子。
佩洛西的助手表示抗议。他们给出完整视频，说之前的视频是用Deepfake扭曲过的，她现场用的是正常的语速，声音也是正常的。
朱利安尼之后删掉了视频，说自己没有判断它是真是假的能力。
他当然没有，实际上，连现在全球最顶尖的科技公司都很难做到。
为了打击越来越多的假视频，脸书、微软和亚马逊在2019年合办了一项挑战活动，邀请全球顶尖的科学家们设计一个可以自动识别Deepfake的技术，赏金100万美元。
全球有2100多名顶尖大牛参与比赛，最终来自白俄罗斯的一名工程师获胜。但这最好的作品，也仅仅能达到65％的正确率，离好用还有很远的距离。
对普通人而言，Deepfake技术还没那么吓人，因为它需要喂入大量照片后才能学习成功（这也是为什么人们总用明星换脸）。
但很多美国人担心它对政治的破坏力，如果有人制作了政客们的假视频，在脸书、推特上一传播，这不是搞乱选举吗？
2019年6月，有多个州的议员提出“Deepfake责任法案”，试图把扰乱社会稳定的Deepfake视频制作者定为罪犯。
这些法案最终没有通过。等不及的美国人在纽约创立了“见证”（Witness）公益组织，无偿培训媒体公司和活动人士如何识别人工智能生成的假图片、假视频，避免错误报道。
组织的项目主管山姆·格雷戈里（Sam Gregory）和其他人呼吁科技公司，采取更多行动监管这些造假行为。
这样的呼吁是有用的，科技公司确实开始对Deepfake持负面态度。且不说视频是否会传播虚假信息，哪怕是为了娱乐目的，也没有拿到被换脸者本人的允许啊。
在文章写到一半的时候，假汤姆克鲁斯的Tiktok页面就被清空了。这可能就是平台谨慎的表现吧。
|
置顶卡
变色卡
千斤顶
