作为世界上最古老的几个职业之一，骗子可以说是与时俱进的代表了，甚至可以说是世界上拥抱新事物最积极的群体。

 

随着微信成为国民级社交软件之后，他们的战场也随之进行了转移，从原来的电信短信诈骗进行了产业升级 ，成功步入了移动互联网时代，哦，不，是AI时代!

 

对于AI诈骗，TDOG少儿编程CEO陈维维女士表示：AI的发展是时代的必然，不可阻挡，无法回避。只有深入了解它，才能更好运用它、与它同行！

 

                  

TDOG少儿编程CEO陈维维

 

你的声音，可以被AI伪造了

 

半年之前，广东警方便打掉了一个利用交友APP进行诈骗的“公司”，该团伙制作了多款交友软件，并设计出AI机器人假装与目标用户“谈恋爱”骗取信任，再引诱其坠入事先安排好的“消费陷阱”。

 

                    

 

与以往有所不同的是，软件另一头和你畅聊的并不是骗子本人，而是一些虚拟的“寂寞美女”，骗子们精心设计出一个个“AI男、女朋友”，想要一直跟它们聊天就得充值“恋爱币”，直到你不知不觉迈出“预约见面”的最后一步（收费1999元）……

 

听起来心里是不是有点拔凉拔凉的？过去无论如何骗你的还是真人，现在聊了十天半个月，你臆想中的“白月光”说到底不过是个AI罢了。

 

                              

 

一分钟的录音骗走22万欧元

 

2019年9月6日英国百年老报《每日邮报》（Daily Mail）报导了世界第一起AI语音模仿软件“成功”诈骗22万欧元（约1,730,806人民币），一时间各国舆论哗然。

 

故事是这样的：

今年3月，英国某能源公司CEO接到了自己大老板的电话，这位大老板在德国讲英文有明显的德国口音，电话内容：要求立刻给匈牙利某供应商转款22万欧元，并将转账信息以邮件形式发送；转款理由是避免缴纳滞纳金。

 

由于德国大老板的口音十分逼真，英国CEO信以为真，在1小时内转款完成，后发现被骗，遂至案发，后保险公司赔付时才将此案揭开。

 

相似的案件实在数不胜数，美国南俄勒冈大学就曾被诱骗进行了190万美元的转账，他们认为自己的转账对象是负责建设学生娱乐中心的安德森建筑公司，实际上却转到了骗子的银行账户。

 

                     

 

看来现在的年代，不会AI技术，连做骗子的资格也没有了。说到这里，有人想出的对策是：既然声音可以被伪造，那就打个视频电话过去确认下好了，等看到是对方真人再打钱也不晚，那么，问题来了：

 

声音靠不住， 那可以靠脸吗？

 

 答案是：脸可能也靠不住。

 

你可能会反驳：现在不都可以通过人脸识别解锁手机了嘛，甚至连刷脸购物也不是不可以，怎么就不能靠脸判断了呢？

 

真是不好意思，AI对人脸的识别只是最粗浅的一步，如今，它已经发展到可以给人换脸的程度了。别误会，不是要给你整容，但它的确掌握了某种“移花接木”的能力，比如把A的脸换到B的身体上。

 

有一位B站UP主“换脸哥”，也用AI技术将杨幂的脸贴在了94版《射雕英雄传》里朱茵饰演的黄蓉脸上!

 

                                                          

原版

 

                           

把朱茵的脸换成杨幂，竟毫无违和感

 

这样的效果，一下子就引来了一群吃瓜群众，流量一个亿！

 

   AI诈骗为什么可以“瞒天过海”？

 

诸如此类的案件还有很多，下面让我们回到技术层面，看看以上说到的诈骗手段都是如何实现的呢？

 

语音合成技术:

通过AI语音合成，可以让合成的语音和真人无异，即便是身边亲近的人，也难辨真假。最早通过神经网络来实现人类语音生成的工具，是DeepMind的WaveNet，通过WaveNet，只要提供一些已经训练好的模型和朗读的素材，WaveNet就会生成一个较为真实的声音。

 

去年，Lyrebird也发布了语音合成技术，可以在1分钟内模仿人类“讲话”，通过Lyrebird，你就能生成任何一个人的声音，哪怕是让奥巴马、特朗普和希拉里对话也可以。

 

开发这项技术的是谷歌2016年在加拿大蒙特利尔大学建立的人工智能实验室（MILA）。基于声音合成技术，MILA 在 2017 年 4 月份成立了 Lyrebird 公司。Lyrebird 是一种名为琴鸟的鸟类，这种鸟具有一种特殊的天赋，它不仅能模仿多种其他鸟类的声音，它还能模仿几乎一切它听到的声音。

                  

 

人脸图像合成:

 声音靠不住了，那就只能靠脸了。在接到骗子的语言诈骗微信消息的时候，反手就是一记视频通话，这样应该骗子就慌了。

 

                 

 

其实不止声音可以伪造，现在连脸都可以通过AI来进行伪造了，比如前段时间在 Reddit 上大火的明星换头「成人短片」，一个网名为 deepfakes 的程序员,他在业余时间用家里的电脑和开源的 AI 工具 fakeapp,通过机器学习算法，成功移花接木，将神奇女侠女主角盖尔·加朵的脸移植到了一名成人女演员身上。

 

《神奇女侠》的扮演者盖尔·加朵的这一面你见过么？

 

            

 

学习样本越多，就可以生成脸谱图的还原度就会越高。在2016年，德国纽伦堡大学的教授JustusThies带领团队，做了一个能实时进行面部转换的模型，叫Face2Face。

 

eepfakes 此举一石激起千层浪，由于 Fakeapp 使用门槛极低,无需安装 Python和 Tensorflow 等编程语言和开源软件库就能运行,甚至连高性能显卡都不用，完全可以租用谷歌的云 GPU 搞定。一时间欧美各大女星的小电影充斥了整个社区，导致 Reddit 做出了紧急封杀处理，一群老司机就此做鸟兽散。

 

                  

换脸原理

 

被代码撕开的人性遮羞布

 

技术的问题，可能最终还得通过技术来攻克。

据报道，为了规避AI技术存在的潜在风险，欧美的国家安全机构已经致力于研发一些“反AI”工具，力图以AI攻克AI，美国国防部高级研究计划局推进的Media Forensics计划便在AI生成的假脸中找到了一些突破口，研究人员发现，通过观察眼睛的状态（是否眨眼），可以检测出哪张是AI合成的脸，哪张是真实的脸。

小T认为：AI的发展，从技术层面讲，这是好事，因为它推动时代向前进，但反过来，这样先进的技术一旦被滥用，后果也是不堪设想，希望这些技术都能用到正道上。