通讯Plus·深度 | 明星脸直播带货、AI换脸诈骗……狂飙的人工智能技术需要降速了

目前golang学习网上已经有很多关于科技周边的文章了，自己在初次阅读这些文章中，也见识到了很多学习思路；那么本文《通讯Plus·深度 | 明星脸直播带货、AI换脸诈骗……狂飙的人工智能技术需要降速了》，也希望能帮助到大家，如果阅读完后真的对你学习科技周边有帮助，欢迎动动手指，评论留言并分享~

“AI孙燕姿”火爆全网、迪丽热巴、杨幂这些明星开始直播带货了、朋友借钱视频确认身份依然被骗……

随着人工智能技术的迅速发展，AIGC行业近年来呈现出爆发式的增长趋势。AI实时换脸的应用场景已经从最初的娱乐“整活”，扩展到了直播等多种领域。通过智能后台的AI换脸技术，主播可以实现形象的实时替换。

当AI实时换脸出现，人工智能技术还能整出多少花活？

杨幂、迪丽热巴直播带货？

假的！AI实时换脸下场整活

最近一段时间，不少网友点开直播软件发现，不少“当红女明星”正在直播间里卖力吆喝带货，而等观众仔细一看，就不难发现这些正在带货的“明星”，其实只是使用了AI实时换脸技术的普通主播。

目前，杨幂、迪丽热巴、Angelababy等当红女星，已经成为了AI换脸的重点对象。

封面新闻注意到，目前相关的实时换脸项目已经在GitHub站内开源，相关技术可利用深度学习识别和交换图片和视频中人脸的工具，进而做出更加逼真的动态实时换脸效果，使用者可以在两天的时间内完成机器学习的训练。值得注意的是，开发者还在项目内包含了包括迪丽热巴、埃隆·马斯克、憨豆先生、成龙等已经完成训练的人脸模型。

此外，一家提供“换脸软件”的网站客服也曾对媒体表示，他们提供的全套模型购买价格仅为3.5万元，AI实时换脸可适用于各大直播平台。借助AI实时换脸技术，可以实现0延迟的动态换脸，而直播画面传输的延迟则取决于使用者的网络配置和进行直播的平台。

对此，不少直播间的消费者表示：“看了好几个直播间，我都惊呆了，全都把脸换成明星带货了，那还要我们这些普通的主播干什么？”“昨天我刷到殷桃，好吓人啊。”“我还看过一个一直用杨幂的脸的。”“上次还刷到了刘亦菲呢。”

网聊10分钟被骗430万

视频核实身份不可信

被冒用人脸的不仅仅是明星。"中国警方在线"公安部治安管理局官方微博刊发的消息提醒人们警惕AI换脸诈骗，并指出全国范围内正在开始爆发此类诈骗。

此前，包头市公安局的在线警务平台“平安包头”公布的消息披露，随着人工智能的快速发展，诈骗团伙的诈骗手段也日益科技化，甚至采用了AI换脸技术。包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

据了解，福州市某科技公司法人代表郭先生突然收到好友的微信视频，称想要借用其公司的账户“走一下账”，而在他先后分两笔把430万元打到对方账户后，却发现电话联系的好友并不知道此事。在报警后，当事人才意识到遭遇了AI实时换脸诈骗，最终诈骗账户内的336.84万元被骗资金被成功拦截，但仍有93.16万元资金尚未追回。

值得注意的是，这不只是个案，最近一段时间国内外都出现了 AI 诈骗案例，用户损失惨重。

AI也可形成反噬

人工智能时代的技术不作恶，会是什么样的？

作为新生事物，因人工智能而引发的风险还尚未引起大多数人的关注，但实际上随着AI技术的加速变革，如何营造创新生态、重视防范风险，正在成为整体AI技术行业亟待解决的关键性问题。

此前，清华大学人工智能研究院等部门发布的《深度合成十大趋势报告（2022）》显示，创作者在互联网平台中发布的深度合成内容的数量高速增长，以视频为例，2021年新发布的深度合成视频的数量，较2017年已增长10倍以上。目前的关键是找到AI合成视频的合法快速通道，以便符合法律规定。

封面新闻采访了泰和泰律师事务所曾维宇律师，曾律师表示，未经允许运用AI换脸等深度合成技术易产生侵犯肖像权、侵犯名誉权等民事侵权风险，同时亦有可能构成刑事犯罪。根据《民法典》第1019条的规定，任何组织或者个人不得以丑化、污损,，或者利用信息技术手段伪造等方式侵害他人的肖像权。其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”即主要是指利用人工智能合成技术深度伪造他人肖像，形成高度逼真且难以甄别的影像等。

此外，曾律师也提到，我国近年来涌现出一批以“AI换脸”技术为手段，通过装亲戚等套近乎的方法来实施财产诈骗犯罪，此时AI换脸技术成为了一种诈骗的手段，侵害了他人的财产权。该类别下，除了可能涉及诈骗罪，还可能涉及的罪名包括敲诈勒索罪，非法侵入计算机信息系统罪，非法获取计算机信息系统数据，非法控制计算机信息系统罪，提供侵入、非法控制计算机信息系统程序、工具罪等。

封面新闻记者 温彦博

终于介绍完啦！小伙伴们，这篇关于《通讯Plus·深度 | 明星脸直播带货、AI换脸诈骗……狂飙的人工智能技术需要降速了》的介绍应该让你收获多多了吧！欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识，快来关注吧！