如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 光明网
2024-06-21 12:01:50

  中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确 定性,或能用于提升大语言模型输出的可靠性。

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。

  据刘女士介绍,现在他们的N95口罩出厂价由客户的订单量决定。如果购买量在30-599只,单价2.2元;如果是600-5999只,单价1.8元;如果大于或等于6000只,单价1.2元。

  枪械泛滥 警察执法时习惯于掏出枪械自保

  纽约抗议者:在美国,每28个小时就至少有一名少数族裔被警察或者种族主义者杀死。这意味着几乎每天晚上都会有一个“尼科尔斯”遇害。

  为此,民乐县持续推进农村实用人才专业技术职称评定工作,积极挖掘农村专业技术人才,使一大批“田专家”“土秀才”获评农村实用人才技术职称,通过给予更多的技术服务、项目合作、银行贷款、产品推介、财政扶持等奖励补助和政策倾斜,让农民职称真正具有吸引力,进一步激发他们扎根乡村的热情。

  <strong>主要江河水质状况</strong>

  <strong>出行方便自在</strong>

李于婷

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有