“换脸”真相 “深度伪造”的网络狂欢和安全威胁(2)

　　“针幕动画”联合创始人 李浩：我们都假设会有一个临界点，届时将无法区分真假。我的意思是，从视觉效果上说，我觉得你已经可以做到非常接近了，只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言，我认为已经非常接近这个临界点了。

　　2018年1月，一个名为FakeApp的软件上线，宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星身上。

　　虽然有的社交新闻站点比如Reddit网站，已明令禁止在自己的平台传播换脸视频和图片，但仍有超过9万名用户在Reddit上传播这类视频。

　　计算机科学专家 法里德：我担心这项技术被武器化，还担心它如何影响我们整个社会。

　　深度伪造不仅可以换脸，还可伪造声音。

　　据《华尔街日报》报道，今年3月，有犯罪分子利用“深度伪造”技术，电脑合成某公司CEO的声音，成功诈骗22万欧元。

　　电脑合成声音真的这么难以识破吗？

　　2018年，三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术，只要对目标人物的声音进行1分钟以上的录音，把录音丢给“琴鸟”处理，就能得到一个特别的密钥，利用这个密钥可以用目标人物的声音，生成任何想说的话。

　　“琴鸟”创始人：你需要录自己几分钟的声音。

　　彭博社记者 万斯：上千个字母在业余作家的屏幕上跳动，当你开始像这样吃东西时，就会有问题，你们最好退出政治圈，别干了。我不知道它怎么工作的，现在创建我的数字声音。创建你的数字声音至少需要一分钟，一分钟，我的天啊。

　　语音录制完后，“琴鸟”会自动运转合成出你的数字声音。

　　这时，只需要向电脑输入想说的话，就可以用新合成的你的声音说出来。

　　记者万斯的数字合成声音：人工智能技术似乎发展非常快，我们该感到害怕吗。

　　彭博社记者 万斯：我的确听到了，真的很有意思。我只是随便挑了，我从没说过的话。

　　而且，“琴鸟”还能在合成声音中加入“感情”元素，让声音听上去更逼真。

　　彭博社记者 万斯：现在为了实验一下我的电脑合成音，我要给我亲爱的妈妈打个电话，看看她是否能听出来。嗨，妈妈，你们今天什么安排。

　　万斯的母亲：今天一早家里没电了，我们正在房子里溜达。

　　万斯：我刚刚下班，等着接儿子回家。

　　万斯的母亲：好的。

　　万斯：我觉得我可能感染了病毒。

　　万斯的母亲：那你感觉不舒服，是吗？

　　万斯：哈哈，我刚才是和你捣乱，你刚才在和电脑说话。

　　万斯的母亲：我感觉在和你说话，真是奇妙。

　　万斯：你觉得吓人还是觉得不错。

　　万斯的母亲：如果涉及到非常重要的事情，真的挺吓人的。不过现在是你了，对吗？

　　万斯：我不知道。

　　万斯的母亲：听上去是你。

　　万斯：是吗？

　　万斯的母亲：是，是，听上去就是你。

　　彭博社记者 万斯：很明显，有些人被这项技术吓坏了。因为我们已经让现实真相变得模糊不清。