中国西藏网 > 即时新闻 > 国内

警惕AI换脸拟声技术诈骗

发布时间:2023-07-21 09:35:00来源: 新京报

  前不久,“AI孙燕姿”“AI王菲”们爆火出圈,成为短视频平台新一轮的流量密码。与此同时,能以假乱真、掩人耳目的AI技术也在频频触及法律红线。近日,北京市通州区人民法院调研发现,平台流量背后有人正在利用AI换脸拟声实施不法行为,如伪造不雅视频、换脸诈骗等。

  AI违法行为防不胜防,民事方面易引发肖像权等侵权行为,刑事方面易引发诈骗罪、侵犯公民个人信息罪等犯罪行为。据此,通州法院法官通过两起典型案例揭示AI技术乱象背后的法律问题,以能动司法击败“AI魔法”,提醒公众提高维权和反诈意识。 

  案例1

  利用AI技术使用他人形象视频

  涉事公司构成肖像侵权被判赔

  陈某在某网络平台注册账号,发表诸多唯美造型视频,有粉丝上万人。某公司利用AI技术运营某款APP,该APP向用户提供拍摄视频时的提词功能以及提供面部替换的视频模板。某公司未经陈某许可在该APP中使用陈某发布在其账号中的多个唯美视频作为视频模板,供软件用户进行面部替换。陈某发现后提起诉讼,某公司删除相关视频。

  法院经审理认为,某公司运营的该款APP具有明显的商业属性,其未经陈某许可使用陈某个人形象视频进行运营,并非法律规定的合理使用,对陈某构成肖像侵权,应承担相应的侵权责任。判令被告某公司在该APP首页置顶处刊登道歉声明向原告陈某赔礼道歉,并赔偿陈某1000元。

  法院调研发现,AI换脸拟声技术用于商业盈利时极易引发肖像权、姓名权等人格权纠纷,一些营销短视频、音频的商家经常在未经当事人许可和同意的情况下进行换脸、换声操作,以此获利。这种行为属于侵权行为。

  法官介绍,人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。自然人享有肖像权,有权依法制作、使用、公开或者许可他人使用自己的肖像。肖像是通过影像、雕塑、绘画等方式,在一定载体上所反映的特定自然人可以被识别的外部形象。任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

  法官提示

  如遭遇被换脸、换声的民事侵权行为,要有主动维权意识,要关注侵权方相关作品发布时间、数量、范围,主动搜集网站/APP截图、音频、视频等作为证据,向侵权方提出严正交涉,积极运用法律途径维护自身合法权益。如在本案中,法院经审理查明某公司的行为构成肖像侵权,不仅判令某公司公开赔礼道歉,并且要求某公司赔偿损失。击败“AI魔法”,交出公正答卷,人民法院随时严阵以待。

  案例2

  用AI智能软件诈骗近百万 四被告人获刑

  2022年2月,被告人郭某在A省某区成立未经审批登记的“公司”,并雇用被告人黄某、江某、田某等人通过某AI智能软件筛选有意向炒股的股民“资源”(被害人),用于出售给下游公司获利。郭某负责将其员工筛选、添加好的股民微信提供给其他同伙的“公司”进行电信网络诈骗活动;其他同伙负责用微信小号进行角色扮演,对所谓的炒股资深专家“王某”进行吹捧以取得被害人信任,诱导添加了微信的被害人在虚假投资平台上投资,以此骗取被害人的投资款。至2022年7月,郭某等人共骗取投资款人民币近百万元。法院经审理认为,被告人郭某构成诈骗罪、侵犯公民个人信息罪;黄某、江某、田某等人构成非法利用信息网络罪。

  法官指出,AI犯罪手段越发高明,犯罪分子通常会通过AI技术进行声音合成和换脸,并用AI程序筛选受害人,再用盗号或角色扮演等方式骗取信任,甚至生产出定制化的犯罪脚本,进一步实施不法行为,受害人往往难以在第一时间分辨出真伪,落入违法者圈套。这种违法犯罪形式往往构成多种罪名,最终被数罪并罚。

  法官表示,违反国家有关规定,向他人出售或者提供公民个人信息,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。诈骗公私财物,数额较大的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;数额巨大或者有其他严重情节的,处三年以上十年以下有期徒刑,并处罚金;数额特别巨大或者有其他特别严重情节的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。

  法官提示

  警惕此类AI犯罪行为,如遇“微信好友通过视频借款”情形,切记多渠道核实“好友”身份,勿轻易转账,如您已经转账,及时报警或拨打反诈中心电话96110;如遇“低风险高回报的投资理财”情形,莫存在侥幸和投机心理,为了所谓高回报的收益,轻易将钱款转账至不明来路的“投资平台”。理财要通过正当合法手段进行;如遇“×××邀请您进入群聊/视频会议/直播间”情形,不要轻易加入全是陌生人的微信群聊、视频会议,容易陷入犯罪分子提前制作好的角色扮演和犯罪剧本之中,成为待宰羔羊。

  新京报记者 薄其雨(来源:新京报)

(责编:陈濛濛)

版权声明:凡注明“来源:中国西藏网”或“中国西藏网文”的所有作品,版权归高原(北京)文化传播有限公司。任何媒体转载、摘编、引用,须注明来源中国西藏网和署著作者名,否则将追究相关法律责任。