伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。《蜜蜂计划》栏目将通过近期AI诈骗的案例为大家总结目前常出现的诈骗手段以及应对的防范措施。
你熟悉的声音不一定是你熟悉的人！
和你视频对话的友人可能不是真人！
你目前还没被骗，并不是因为你多聪明，也不是因为你没钱，而是适合你的“剧本”还在路上……
今年以来，ChatGPT和GPT-4等技术的应用成为信息科技领域的热点，引起公众对AI技术的广泛关注和热情。近日，中国互联网协会发文称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。面对犯罪诈骗团伙越来越科技化且层出不穷的诈骗手段，《蜜蜂计划》栏目将通过近期AI诈骗的案例为大家总结目前常出现的诈骗手段以及应对的防范措施。
案例一：
近日，“平安包头”公众号发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
4月20日，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。郭先生说：“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”。
幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，同时，根据剩余款项93.16万元资金流出信息，为深入突破该案剩余资金查找提供了突破方向。目前，福建警方与包头警方对此资金正在全力追缴当中。
案例二：
浙江温州市公安局也通报过一起利用AI换脸技术进行诈骗的案件。在这起案件中，陈先生收到了身处国外的好友“阿诚”发来的私信，在添加了对方的新微信后，对方表示自己最近准备回国，但购买机票的过程中遇到了难题，回国的机票已付了8000元定金，受到国际漫游限制，联系不上国内航空公司的经理，希望将剩余的钱转给陈先生，请他帮忙联系经理进行付款。对于此人的身份，陈先生有所怀疑，但对方随后打来视频电话，视频中“阿诚”和陈先生挥着手打招呼很是亲切，没过一会儿，对方就挂断了视频电话，称国外网络很卡。陈先生渐渐打消了心中的顾虑，并在“阿诚”一步步的“指导”下添加了“航空公司经理”的微信替“阿诚”支付了4.9万元。经过警方核实，骗子用AI换脸技术，利用阿诚社交平台上先前发布的视频，截取了面部视频画面并进行了“换脸”，从而对陈先生进行了诈骗。
案例三：
AI除了换脸换声扮好友还能合成不雅视频进行敲诈、非法传播等犯罪行为。
4月7日，浙江杭州萧山区检察院曝光的一个“女神群”引发关注。据了解，80后安徽小伙虞某在网上推广AI换脸技术及相关的软件从中获利。为吸引他人关注，虞某将原本“换脸软件资源群”的群名更改为“女神试看群”，通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入，观看者若要看完整版则需缴纳198元-498元不等的“会费”进入“内部群”。此外，虞某表示，顾客还能使用不同的女明星的形象，进行“私人定制”。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。
“蜜蜂小提示”：目前常用的诈骗手法
一、声音合成
骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。
二、AI换脸
人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认，真是防不胜防。
三、转发微信语音
骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。
四、通过AI技术筛选受骗人群
骗子不是漫无目的地全面撒网，而是别有用心地锁定特定对象。他们会根据所要实施的骗术对人群进行筛选，从而选出目标对象。举个例子：当进行金融诈骗时，经常搜集投资信息的小伙伴会成为他们潜在的目标。
“蜜蜂小提示”：应对方法
一、多重验证，确认身份
在涉及到转账交易等行为时，大家要格外留意，其中最安全、最保险的方式就是见面进行交谈；如不方便见面，只能通过线上的方式进行交谈的话，则可以询问对方一些彼此才知晓的事情，观察其是否能够流畅回答，如无法回答或感觉到有任何异样时，就需要警惕对方是否是自己的亲朋好友，随后通过进一步沟通交流去核实对方真实身份，一旦发现风险，及时报警求助。
另外，在无法确认对方身份时，可以将到账时间设定为“2小时到账”或者“24小时到账”，以预留处理时间。尽量通过更多方式核查具体信息，确认对方是否为本人。也建议大家最好向对方的银行账户转账，避免通过微信等社交软件转账。一方面有利于核实对方身份，另一方面也有助于跟进转账信息。
二、保护信息，避免诱惑
加强个人信息保护意识，大家要谨防各种信息泄露，不管是在互联网上还是社交软件上，尽量避免过多地暴露自己的信息。对于不明平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准围猎”。
三、相互提示，共同预防
这些高科技手段的诈骗方式，迷惑了很多人。希望大家着重做好家中老人的宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。
四、拒绝诱惑，提高警惕
学会拒绝诱惑，提高警惕。避免占便宜心理，警惕陌生人无端“献殷勤”。
《蜜蜂计划》提示您：针对花样翻新的智能AI诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。
