如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 看看新闻网网
2024-06-21 08:59:54

  中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们 看起来很可信。

月光如水,月明如镜

  在1923年“二七工人运动”斗争中,林祥谦始终奋不顾身地坚持奋战在第一线,率领工友同帝国主义与封建军阀进行英勇抗争,被捕后,湖北督军参谋长张厚生把刀架在他脖子上,逼他下达复工令。他誓死不从,为了工人阶级的利益英勇地献出了自己的生命,年仅31岁。

  本届首钢园冰雪汇活动现场占地2万平方米左右,项目包含单板滑雪体验、雪上城堡等十多种,方便市民充分体验冰雪运动乐趣。

辽金时代文化园将绝美的北国风光与繁盛的辽金文化交织融合

  国家速滑馆结合场馆特色,聚焦游客服务和体验提升,打造体育旅游精品线路,让游客感受冬奥精神、重温冬奥场景、体验“最快的冰”。2月5日至3月13日,“辉煌冬奥”主题展览将在“冰丝带”举办,让更多的首都市民回味载入史册的冬奥盛会,持续弘扬北京冬奥精神,传播冬奥成果。

  李祖源告诉记者,这是他第一次“剪唐诗”,以前就学习过《黄鹤楼》和剪纸知识,但两者结合在一起还是头一回。在剪纸过程中遇到的困难,也被他轻松解决了,下次剪纸的话会更加有经验。

曾惠雯

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有