“人里人气”AI评论员引争议,律师:或面临合法性考验
热点新闻 | 2024-01-07 11:48:37原创
大众新闻客户端 张瑞雪
2023年7月,新浪微博在平台正式投入使用智能回复机器人@评论罗伯特。近日,有网友质疑这一AI评论员正通过与用户互动获得训练数据,使其回复在短短数月内就从“智障”进步至高度智能,回复从毫无逻辑转变为与博文内容强相关,真人化程度显著提升。
有网友反映AI评论员智能水平显著提升
如今,“评论罗伯特”的语言体系已与真人用户较为接近,甚至还能和用户自然“玩梗”,语言“人里人气”且能快速反应、准确评论,以至让不少网友疑惑,其究竟是真人还是机器,抑或是真人与机器共同运作的模式。
有网友认为AI评论员已真假难辨
由于AI评论员高度活跃,也有不少用户感到私人领域被打扰并发文抱怨,“如何能关掉这个评论罗伯特?真的好烦啊”“这里就是我自娱自乐的地方,真的不需要机器人掺和”“这是私密账号,自己写日记自己看就好了”。
有网友认为AI评论员对自己形成打扰
此外,更多网友忧虑AI机器人广泛参与饭圈、时政等话题,并通过与用户互动更精准地收集用户画像并分析话题热点、敏感点,在未来大规模投入使用后,这类AI评论将制造更多话题以“引战”及加剧舆论冲突状况。网友担心,“未来评论区就是AI对骂”“这是高效低成本引导和控制舆论的新模式”“像在培育新型水军,养成了就可以引战互撕全自动一条路服务了”。
网友担心AI评论员若大规模应用将会引发矛盾,获大量转发
隐私权、知识产权、数据产权等权利保护问题也成为讨论的另一焦点。有网友认为,在未经授权的情况下,AI机器人进入用户发言的自然场景并获取互动数据用于模型训练,可能涉及侵犯用户隐私权、知识产权等问题。
网友忧虑侵权问题
截至发稿,记者致询微博相关方面,未得到回复。
针对上述争议,山东博睿律师事务所律师陈瑞福认为,首先不能断言训练评论机器人就必然形成水军。他类比道:“正如某些器械在战争中使用是禁止的、违规的,但并不能禁止其生产,因为这一器械的发明生产本身是技术进步,但需把这类技术用于正当领域。”
若AI评论机器人大规模投放,则可能违反《网络信息内容生态治理规定》中第二十四条,即:网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得通过人工方式或者技术手段实施流量造假、流量劫持以及虚假注册账号、非法交易账号、操纵用户账号等行为,破坏网络生态秩序。
上海君悦(合肥)律师事务所刑事合规部副主任张勇提出,主体公司的数据来源或面临合法性考验。具体而言,主体公司在通过AI机器人与用户互动获取信息的前提是履行明确的告知义务。而在未经用户确认同意的情况下抓取用户回复信息,有侵犯公民隐私的嫌疑,并可能给用户造成不可逆的损失。“目前看来AI评论员在互动获取用户信息的过程中,基本未履行上述告知与确认义务。”他表示,这一举动还可能涉及侵犯用户知识产权,因为抓取的用户信息,可能涉及用户的知识结晶。
此外,他介绍,我国2021年9月实施的《数据安全法》中对主体公司的互动数据抓取有明确规定。该法第三十二条规定:“任何组织、个人收集数据,应当采取合法、正当的方式,不得窃取或者以其他非法方式获取数据……”第五十一条:“窃取或者以其他非法方式获取数据,开展数据处理活动排除、限制竞争,或者损害个人、组织合法权益的,依照有关法律、行政法规的规定处罚。”
宏观来看,我国有关AI领域立法的议程仍在探索中。张勇介绍,我国2023年7月颁布的《生成式人工智能服务管理暂行办法》,是全球首部专门针对生成式AI的政策文件。其中明确对生成式AI服务实行包容审慎和分类分级监管,明确了提供和使用生成式AI服务总体要求。但是,该《办法》并非法律,其效力性与调整范围仍然受到局限。
对探索过程中可能出现的尚待讨论议题,“我们呼吁平台及公司应优先建立自己的合规管理体系,确保自己的科技创新行为符合法律规定。如果有公民因为AI机器人遭遇到了损害,我们也建议第一时间捍卫自己权益。”张勇倡议说。
(大众新闻客户端 张瑞雪)
责任编辑:韩雨婷