2023-05-23 11:30

多地爆发?有人10分钟被骗430万!“迪丽热巴”“杨幂”直播卖货?也是假的……

AIGC 发布在 AIGC
1.5万

来源:21财经

5月22日,一起利用人工智能(AI)实施电信诈骗的典型案例冲上热搜,引发全网关注。

中国网报道截图


警方通报!AI换脸诈骗来了


近日,“平安包头”公众号发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

“平安包头”的警情通报显示,4月20日中午,郭先生的好友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。

事后,郭先生拨打好友电话才知道被骗,原来骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。

值得注意的是,骗子并没有使用一个仿真的好友微信添加郭先生为好友,而是直接用好友微信发起视频聊天,这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是,接到报警后,福州、包头两地警银迅速启动止付机制,成功止付拦截336.84万元,但仍有93.16万元被转移。

据华西都市报此前报道,2022年2月,有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称,自己被“好友”诈骗了近5万元。经警方核实,诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频,截取其面部视频画面后再利用“AI换脸”技术合成,制造陈先生与“好友”视频聊天的假象骗取其信任,从而实施诈骗。

浙江温州公安曾发布消息,2021年拱宸桥派出所接到报警,受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查,对方利用AI换脸技术,将小陈视频中的面部合成到不雅视频中,借此对其实施勒索。

2020年,上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔,并要该高管转账,致使该高管被诈骗150万元。

在AI应用如此广泛的现在,利用AI诈骗有哪些常用手法?

第一种是声音合成,骗子通过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过对方。

第二种为AI换脸,人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人,再通过视频方式进行信息确认。骗子首先分析公众发布在网上的各类信息,根据所要实施的骗术,通过AI技术筛选目标人群。在视频通话中利用AI换脸,骗取信任。

第三种是转发微信语音骗子在盗取微信号后,便向其好友“借钱”,为取得对方的信任,他们会转发之前的语音,进而骗取钱款。尽管微信没有语音转发功能,但他们通过提取语音文件或安装非官方版本(插件),实现语音转发。

第四种是通过AI技术筛选受骗人群,骗子不是漫无目的地全面撒网,而是别有用心地锁定特定对象。他们会根据所要实施的骗术对人群进行筛选,从而选出目标对象。

对于AI换脸诈骗,有网友认为太离谱,也有人认为借钱以后得当面谈了。

网友评论截图


“迪丽热巴”、“杨幂”等明星直播卖货?


AI换脸或涉嫌侵权

据中新财经报道,AI实时换脸,正在直播间悄然出现。

“点进直播间一看,‘迪丽热巴’居然在直播卖货。”近日,有网友点开直播间,却发现正在卖货的竟是当红女星。然而再定睛一看,这些带货“明星”很快露出了马脚——身穿中式服装,正在卖力带货的“明星”们,其实只是使用了AI实时换脸技术的普通主播。

红星新闻视频截图

杨幂、迪丽热巴、angelababy等当红女星,成为了AI换脸的重点对象。目前的AI实时换脸,在直播中已能达到以假乱真的地步,不少人点进直播间以后以为主播只是长得像明星,不过也有一些直播间出现了人身比例失调的违和现象。

有网友指出了其中一些破绽:“主播低头整理头发的时候,脑门上全是黑的。” “现在普通人的脸已经不配直播了。”有网友如此感慨。

网友评论截图

有视频换脸研究者表示,实时换脸不存在延迟,也不会有Bug,而直播画面传输的延迟则取决于使用者的网络配置和进行直播的平台。

据一家提供“换脸软件”的网站客服表示,他们提供的全套模型购买价格为3.5万元,AI实时换脸可适用于各大直播平台。

在一些提供换脸软件的教程或网站上,提供者均提醒要警惕使用AI换脸进行诈骗或者侵权的行为。

那么,在AI换脸直播中,平台是否负有责任?北京云嘉律师事务所律师赵占领表示,平台对于平台内商家的侵权行为不承担直接侵权的责任,而是否构成帮助侵权,主要是看平台对于商家的侵权行为是否属于明知或应知。

但对于如何判定平台对用户、权利人的投诉是否明知或应知,在一般情况下很难认定。


此前百万粉丝女网红被曝AI换脸


据都市快报报道,此前4月份,一名拥有百万粉丝的女网红被曝出了一起“AI换脸”事件。

这名女网红表示,她的视频评论区突然涌来了很多人说看过她的“视频”,但她从未发布过这样的视频。

都市快报报道截图

该女网红发现,在境外社交平台上有人冒充她注册了假账号。对方先是顶着她的名义搬运她的日常内容,等到粉丝人数差不多的时候,就以会员订阅的方式贩卖视频。

有法律界人士认为:近年来,“AI换脸”走红网络,一些“AI换脸”的App使用明星的图片制作换脸视频进行推广,其趣味性背后暗藏不少法律风险和侵权纠纷。

4月11日,国家网信办起草了《生成式人工智能服务管理办法(征求意见稿)》,向社会公开征求意见,意见反馈截止时间为2023年5月10日。

对于AI换脸新骗局你怎么看?欢迎评论区留言讨论。

本文链接:https://www.8btc.com/article/6819062
转载请注明文章出处

评论
登录 账号发表你的看法,还没有账号?立即免费 注册
下载
分享
收藏
阅读
评论
点赞
上一篇
下一篇