三只羊:AI伪造录音风波 安全引关注

2024-09-27 14:42:45 自选股写手 
新闻摘要
“三只羊”录音伪造事件引关注,凸显AI安全问题,涉事公司及相关责任待明确。

【“三只羊”事件因录音伪造引发AI安全顾虑】此前,三只羊网络科技有限公司因直播带货的“香港美诚月饼”涉嫌虚假宣传等问题引发舆情风波,同时网上流传的“三只羊卢某某”录音使其遭受更多批判。9 月 26 日晚,合肥市公安局高新分局通报,接三只羊公司报警,网上涉卢某某的音视频不实,严重侵害其合法权益。9 月 22 日晚,抓获犯罪嫌疑人王某某,发现伪造音视频证据,定网传音视频系伪造。9 月 27 日,Reecho 睿声公司声明,“卢某录音门”事件所涉音视频系嫌疑人使用该司自主研发的 AI 配音大模型平台克隆生成。上海大邦律师事务所高级合伙人游云庭称,嫌疑人王某某涉嫌诽谤罪,卢某可要求删除侵权内容并民事起诉。随着人工智能技术发展,AI 安全问题凸显,今年多地发生“AI 换脸”诈骗案件。就提供技术的公司是否担责,游云庭表示要看其是否履行平台合规责任,如算法备案、用户身份认证、提示用户不得违法等。ReechoAI 睿声官网显示其由深圳市言域科技有限公司提供技术,经查询该公司及关联主体暂无相关备案记录。游云庭认为,技术上需判别对用户生成的可能违法内容能否审核出违法属性,平台还应标注“AI 生成”,但辨识问题仍任重道远。

(责任编辑:张晓波 )

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读