如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 东方财富网
2024-06-21 15:36:52

  中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可 靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。

  谈及未来,唐建还有一个宏伟的理想。“未来,我想通过不断地努力,能够修建一个集快递周转、办公、住宿于一体的大楼,能够让站点的每位快递员都有一间宿舍,把家人接到自己身边来。”唐建表示,自己也一直在朝着这个目标前进。(完)

  2022年4月21日,国家卫健委印发了《首批纳入“千县工程”县医院综合能力提升工作的县医院名单》,1233家县医院脱颖而出,成为首批“千县工程”示范单位。

2016年,在美丽的西子湖畔,我们举办了二十国集团领导人第十一次峰会,向世界贡献了中国智慧、中国方案,也向世界展示了美轮美奂的中国印象、中国风采。“一带一路”建设快速推进,亚洲基础设施投资银行正式开张。我们坚持和平发展,坚决捍卫领土主权和海洋权益。谁要在这个问题上做文章,中国人民决不答应!

<a href="//www.chinanews.com/gn/shipin/2021/12-31/news911950.shtml" target="_blank">视频:国家主席习近平发表二〇二二年新年贺词</a><em class="right">来源:央视新闻客户端</em>

  国务院联防联控机制综合组2022年12月26日印发《关于对新型冠状病毒感染实施“乙类乙管”的总体方案》。方案指出,综合评估病毒变异、疫情形势和我国防控基础等因素,我国已具备将新型冠状病毒感染由“乙类甲管”调整为“乙类乙管”的基本条件。

  <strong>中国社科院马克思主义研究院党委书记、研究员 辛向阳:</strong>没有奋斗,我们很难实现宏伟的建设社会主义现代化强国的目标,所以奋斗对我们未来意义非常重大。这个奋斗包括要攻坚克难,前进中还有很多难题,需要我们以奋斗的精神踏上未来之路,以奋斗的状态赢得未来的胜利。

连克欢

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有