如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 凤凰网
2024-06-21 06:30:20

  中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的 程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。

  而国美的新一轮战略调整准备怎么打呢?

  <strong>家乐福:北京市场供货</strong>

  东兴市市长李健表示,随着新冠感染实施“乙类乙管”,东兴将大力推动恢复“两国两城”的“一赛一展三联欢三联合”和全方位交流合作。“一赛一展三联欢三联合”即中国东兴—越南芒街元宵节足球友谊赛、中越(东兴-芒街)国际商贸·旅游博览会、中越青年友好会见、边民大联欢、中越界河对歌、联合考察、联合推介、联合招商等。(完)

  <a target='_blank' href='/' >中新网</a>莆田2月5日电 (吴志)在福建省莆田市秀屿港区1号泊位,利比里亚籍“长青天后”轮2月4日正在紧张有序装载3.5万吨硫酸铵。

  2008年,谢里夫所在的巴执政联盟决定启动对穆沙拉夫的弹劾程序。当年8月,穆沙拉夫称“为了国家和人民利益”,辞去总统职务,并从2009年开始“自我流亡”。

  东亚各国曾在历史上共享过相似文化,而汉字恰是其中的精髓所在。以至于过去东亚各国商贾使节,可在语言互不通的情况下,凭一纸一笔传情达意。而与此同时,东亚世界看似“同文”,却又和而不同,各国有不同的精彩生发。日本中国学会理事长、著名汉学家金文京长期研究中国古典戏曲、小说,精通中日韩三国语言,近年来关注东亚汉字文化圈交流史。汉文如何成为东亚世界文化交流的舟楫?<a target='_blank' href='/'>中新社</a>“东西问”近日专访金文京教授,探讨东亚汉字文化圈交流史可为今天全球范围内的文明交流提供何种借鉴。

黄怡伯

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有