大众新闻打开

半岛叨叨丨“雷军”七天骂翻全网?本尊愤怒回应!原来全是它惹的祸

来源:大众·半岛新闻

2024-10-09 21:33:21

国庆假期期间,

短视频平台上出现了

大量“雷军AI配音”的恶搞视频。

在视频中,“雷军”锐评了堵车、假期等热门话题,还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等。其中还有一些不雅谩骂。有网友调侃称:“国庆上网被‘雷军’骂了整整7天。”目前,相关短视频平台已逐步下架这些内容。

除了吐槽外,视频里的“雷军”还称要投资某某大学。

图片

“雷军AI配音”的恶搞视频截图。截图来源:凤凰网科技

在社交媒体上用雷军AI配音已经形成一种创作风潮,各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿,B站上相关创作超过上百条。

图片

在雷军的微博评论区中,

连日来,

不断有人留言询问此事。

图片

图片

图片

图片

10月7日晚,

针对网友“为何骂人”的询问,

雷军回复了三个愤怒表情

图片

图片

10月9日

有网友在小米集团

公关部总经理王化评论区留言称

“把雷军AI语音骂人的事情

先解决一下吧”

对此,王化回复称

“已经转给他们。(小米法务部)”

北京京本律师事务所主任连大有律师对中青网记者表示,无论是普通人还是知名人士,未经其本人同意,擅自使用其肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,明显侵犯了其相关民事权利,如肖像权、名誉权等。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定;国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

连大有律师称,雷军可以依据《民法典》规定,要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《治安管理处罚法》相关规定的,也会面临行政处罚如行政罚款或(和)行政拘留。再者,如果这些恶搞内容传播谣言并造成严重社会影响,则可能触犯刑法。

AI配音小程序可随意生成他人声音

蓝鲸记者查询发现,目前市面上有大量AI配音的小程序,用户只需在程序内选择相应的人物声音并输入文字,便可借用他人的声音发表言论。

事实上,行业内,AI伪造音视频事件早已发生多起。

据21世纪经济报道,此前,一段疑似集团创始人卢文庆醉酒后的音频流出,音频提到客服投诉、竞争对手和三位女主播关系,一时引发了大量讨论。

9月26日,安徽合肥市公安局高新分局确认,相关网传音频为AI伪造。9月27日凌晨,深圳言域科技有限公司发文称,三只羊事件使用的是“Reecho睿声”大模型,由卢文庆30秒的直播片段克隆生成,现在在加强安全管控措施。

图片

此前,

AI孙燕姿火得一塌糊涂,

被称为B站顶流歌手。

图片

图片

图片

  简单来说,有网友通过AI模型训练,配合上后期处理手段,模拟真人歌手的声音来翻唱其他歌曲,受到很多好评,满足了很多粉丝的愿望,这其中引起最大轰动的就是孙燕姿。

图片

  孙燕姿在官网上发布《我的AI》回应“AI孙燕姿”的热潮,态度淡然:凡事皆有可能,凡事皆无所谓。“你跟一个每几分钟就推出一张新专辑的人还有什么好争的。”

图片

锐评

AI雷军,谁之过?

“国庆上网被雷军骂了整整7天”?据报道,这个国庆假期,短视频平台上出现了大量“雷军”的发言视频,涉及堵车、调休、游戏等热门话题,不仅言辞犀利,还常爆粗口。但事实上,这些发言和雷军本人并无干系,而是AI配音所成。目前,相关短视频已被平台逐步下架。

虚假信息古已有之。如今,人人都有“麦克风”、人人皆是信息源,信息与新闻的界限日渐模糊,亦真亦假的消息、汹涌澎湃的情绪,让舆论场跌宕起伏,过山车般的反转更是天天可见。

如果说,之前的人工造假只是1.0版本,那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作,移花接木;文生文、文生图、文生视频,无中生有……当几千元即可定制整套虚拟形象,当寻常软件分分钟生成一批内容详细、真假难辨的文章,当几张图片、几个关键词就能轻松炮制“新闻”,我们该如何应对?

假信息激增是全球问题,国外政要官员、商企精英、歌手明星等,无不遭遇“碰瓷”。流水线式造假,不仅侵犯隐私权益、混淆公众认知,更带来巨大的风险隐患。《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,仅今年上半年,AI诈骗案案值已超过1.85亿元。

深度伪造猖獗,如何识别与治理?有学者主张从假信息生命周期和传播链条的三个环节着力,即制造、传播、接受。着眼生产端,我国相继出台了《互联网信息服务深度合成管理规定》等法律法规,逐步厘清了各方权责,期待更为有力的治理举措。再看平台端,尽管已采取措施加强识别,但仍需要加强技术升级,用技术对抗技术、用魔法打败魔法。

信息最终都要作用于人,传播媒介的代际更迭,总会对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”,这也要求人们具备基本媒介素养,对于所谓的“网络热点”及吸睛信息,不可“听风就是雨”,盲目相信、轻易转发。更进一步,也有必要有意识地优化媒介使用策略,平衡信源、打破“茧房”,改善“信息偏食”、拒绝“偏听偏信”。AI本身就是“人为”创造的,也应该“为人”所用、“为人”服务,我们理当对携手行动、以善治实现善“智”抱有足够信心。

半岛新闻综合整理,素材来源:蓝鲸新闻、21世纪经济报道、界面新闻、极目新闻、浙江在线、北京商报

责任编辑:黄金龙