如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 雷科技
2024-06-21 06:04:32

  中新网北京6月20日电 (记者 孙自法)基于人工智能(AI)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输 出的可靠性

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。

  谈及购房者提前还房贷的原因,东方金诚首席宏观分析师王青对记者表示,当前存量房贷利率普遍高于新发放房贷利率水平,一定程度上刺激了提前偿还房贷需求。

  深港跨境中学生将于2月8日回港上课,跨境小学生和幼儿园学童则会在2月22日回港上课。陈国基说,8日口岸会有特别安排,包括设有特别柜台协助学生过关,特区政府亦会做好跨境校巴的准备工作,希望令小学生和幼儿园学童出入境更为便捷。

  不过,一周前还信誓旦旦公开宣称“愿与大陆对话”的蔡英文,仍默许民进党及绿营媒体对此大肆“抹红”,称夏立言此行是要帮朱立伦参选2024“投石问路”云云。

  居住在伊斯坦布尔的侨胞李先生虽因距离较远没有受到地震影响,但十分担忧位于震中地区的朋友:“电话、短信、通讯软件都联系不上他,已经好几个小时了,很着急!”

  “人工赶粉能提高杂交水稻的结实率。”王仕明介绍,多年前,来自江西萍乡市的“制种大军”在海南曾有10万人之多。近些年,国家振兴种业,萍乡也出台了制种大户补贴叠加种粮补贴等举措。受此鼓舞,不少在海南制种的江西农民已返乡发展。

  事实上,“房贷利率密集下降”也成为1月份尤其是春节以来的市场热点话题。房贷利率下降,是金融部门对购房消费降成本,有助于进一步激活市场交易行情,但其带来的连锁反应不仅是激活住房消费。

黄淑娟

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有