如何识破大语言模型“幻觉”回答?国际最新研发出“以毒攻毒”检测方法

来源: 千龙网
2024-06-21 12:25:16

  中新网北京6月20日电 (记者 孙自法)基于人工智能(A I)的大语言模型(LLM)回答问题并非总是准确可靠,有时甚至极其智能地以“幻觉”方式提供胡编乱造的答案让人真假难辨,对此如何予以有效检测广受关注。

  国际著名学术期刊《自然》最新发表一篇人工智能研究论文称,研究人员开发出一种能检测大语言模型“幻觉”的方法,这种方法通过“以毒攻毒”方式,能测量生成回答的含义的不确定性,或能用于提升大语言模型输出的可靠性。

  该论文介绍,大语言模型(如ChatGPT和Gemini)是能阅读和生成自然人类语言的人工智能系统。不过,这类系统很容易产生“幻觉”,生成不准确或没有意义的内容。检测大语言模型出现“幻觉”的程度很难,因为这些回答的呈现方式可能会让它们看起来很可信。

  招联首席研究员董希淼认为,2023年货币政策将稳健略偏宽松,市场流动性更加合理充裕,降准降息都有可能。总体而言,中国市场无风险利率下行将是长期趋势。从国外看,部分国家和地区还出现了存款“负利率”现象。对广大投资者而言,如果资产配置中存款、国债、现金管理类理财产品较多,那么收益率可能有所下降。

  “我买这辆车挺‘香’!政府提供的消费券及各类补贴让我额外省了7500元!”家住山东青岛的陈晓安说,3个月前,她购买了属于自己的第一辆汽车。作为上班族,汽车可以让自己更舒适地通勤,但由于刚工作不久,买车也要精打细算。“青岛市政府依据车价与购买车辆动力类型有不同额度的消费券,有些银行和区政府也提供了配套的同享消费券。买车那会儿,我准时上闹钟在手机上抢券,最终圆了买车梦。”她说。

  “地方政府可对不同规模的企业采取不同的上市策略。”川财证券首席经济学家、研究所所长陈雳建议,对于规模较小的企业可选择先在新三板挂牌交易;专精特新企业可选择以北交所上市为目标;国家战略性新兴产业可选择以科创板为目标。

  火热的储能市场,让嗅觉灵敏的A股公司嗅到了机会。2022年,超20家上市公司跨界涌入储能赛道,其中不乏行业龙头,如美的集团、中核钛白等。钠离子电池、钒电池等新型储能技术受到跨界选手青睐。

  法国交通部长博讷17日呼吁民众在19日大规模罢工当天选择远程办公,并推迟相应的出行安排。他预计当天通过公共交通出行将“非常困难”。博讷还呼吁公共交通部门管理层与工会组织继续展开对话,以推动支持退休制度改革。

  陈雳表示,2023年险资举牌有望回暖,一方面,随着地产行业风险逐步化解,保险业整体面临债务违约的风险下滑,同时随着险资加大对权益资产的配置规模,今年用于权益投资的资金预计增长;另一方面,从估值角度看,随着2022年市场出现较大回落,当前A股整体估值处于历史相对低位,具备较高的配置价值,在此背景下,险资有望加大权益投资。

曾以天

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有