更新时间: 浏览次数: 258
中新网北京10月24日电(记者 孙自法)国际著名学术期刊《自然》最新发表一篇人工智能(AI)研究论文称,研究人员开发出一种能为AI大语言模型(LLM)生成的文本添加水印的工具,或能提高对合成内容的鉴别和追溯能力。
该论文介绍,大语言模型是广泛使用的人工智能工具,能为聊天机器人、写作支持和其他目的生成文本。不过,人们很难识别并追溯AI生成文本的来源,使信息的可靠性成疑。水印被认为能解决这一问题,但生产系统对质量和计算效率的严格要求阻碍了其规模化应用。
在本项研究中,知名人工智能企业谷歌DeepMind团队开发出一个利用一种全新采样算法给AI生成文本添加水印的系统,称为SynthID-Text。该工具利用一个采样算法对LLM的词汇选择进行巧妙偏移,插入一个能被相关检测软件识别的签名。这既可以通过一种“扭曲”路径实现——该路径能提高水印质量但会轻微影响输出质量,或是通过一种能保留文本质量的“非扭曲”路径。
论文作者团队在多个公开模型上评估了这些水印的可检测性,发现SynthID-Text的可检测性优于当前其他方法。该团队还用Gemini LLM的近2000万次在线对话回答评估了这些文本的质量,结果显示,非扭曲水印形式不会降低文本质量。同时,SynthID-Text的使用对LLM运行所需算力的影响可忽略不计,这也减少了其应用上的障碍。
论文作者总结说,虽然编辑文本或改写输出就能避免出现文本水印,但他们的研究表明,一个为AI生成内容的生成式文本添加水印的工具是可行的,继而有望提升LLM使用的责任制和透明度。(完) 【编辑:张子怡】 新闻结尾
智慧人智能锁全国各市售后热线号码《今日发布》 如何鉴别AI大语言模型生成文本?国际最新研发出添加水印工具的相关文章
民众朝阳公园逛吃北京面包节的相关文章
“中柬同框”图片巡展在柬埔寨金边举办
浙江常山打造四省边际“快运之乡” 畅通经济大动脉
国防部:有关国家应停止对他国内政指手画脚
冷!双休日北京气温继续下滑 明天小雨来袭增添寒意
国家药监局发布关于19批次药品不符合规定的通告
马来西亚政府提交明年财政预算案 支出规模再创新高
家里空调制冷效果不好了,在网上看到了这家家电维修,服务态度非常好,修好了测试空调可以正常工作了。收费透明不贵
师傅上门很及时,热水器不出热水弄得很完美,价格嘛是提前说的,很满意,合格,满分,修好了
师傅到家时间非常快,服务也非常好,技术到位,修的很满意,价格也很好,值得推荐给大家哦!
空调开起来不是很冷,可能是没氟了,打了客服电话,询问具体地址后,半小时内就上门了,检测后是缺氟了,十来分钟就加好了,超赞
下单响应速度很快,服务态度好技术一流,非常正规,下次有需要再联系
质量:服务质量很好,维修服务师傅很快上门,找了别的师傅都没搞好,还是至胜家电师傅一上门就搞好了,收费合理还有保修期
热水器水烧不热,顺便也清洗了下,太脏了,师傅上门也很及时,很细心也很专业。
质量:一打电话就马上来了查看,并且价格比了几家还是这个老板最好说话,服务也很好,以后有需要可以直接找这家的老板了
维修师傅仔细排查,马上找到故障点维修,一看就是训练有素、技术娴熟精湛,爱岗敬业者。不怕苦累,放弃节日乐意浓浓与家人团聚的亲情氛围,坚守岗位、恪尽职守、尽职尽责甘愿辛苦自己换来亮起万家灯火,
热水器水烧不热,顺便也清洗了下,太脏了,师傅上门也很及时,很细心也很专业。