智源研究院:国内头部模型已达国际一流水平,但能力发展不均衡

来源: 人民网
2024-05-18 14:49:08

  新浪科技讯 5月18日下午消息,在北京智源研究院(智源研究院)大模型评测发布会上,智源评测体系发布并公布了140余个国内外开/闭源语言及多模态大模型能力评测结果。评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡情况;在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出;在中文语境下的文生图能力上,国产多模态模型与国际一流水平差距较小。

  据评测结果,在中文语境下,字节跳动豆包Skylark2、OpenAI GPT-4位居第一、第二,国产大模型更懂中国用户。在语言模型客观评测中,OpenAI GPT-4、百川智能Baichuan3位列第一、第二。百度文心一言4.0、智谱华章GLM-4和月之暗面Kimi均进入语言模型主客观评测前五。

  多模态理解模型客观评测结果显示,图文问答方面,阿里巴巴通义Qwen-vl-max与上海人工智能实验室InternVL-Chat-V1.5先后领先于OpenAI GPT-4,LLaVA-Next-Yi-34B和上海人工智能实验室Intern-XComposer2-VL-7B紧随其后。

  在海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异。评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。

  据介绍, 2023年6月,智源研究院与多个高校团队共建FlagEval大模型评测平台上线,迄今为止已完成1000多次覆盖全球多个开源大模型的评测和报告发布。本次评测使用了20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集。(文猛)

责任编辑:张倩

  <a target='_blank' href='/' >中新网</a>郑州1月3日电 (记者 刘鹏)新年伊始,中部省份河南官方3日召开2023年首场新闻发布会,对外通报了该省将大力提振市场信心、促进经济稳定向好的发展举措,释放出全力保健康、拼经济、惠民生的重要信号。

  “国家提出了农业现代化的目标,农业集约化、信息化、精细化是必然趋势,我认为智慧农业潜力无限。”冷伟说。

<a><img src="//i2.chinanews.com/simg/hnhd/2023/01/03/97/11832168943947151453.jpg" alt="" /></a>

  北京冬奥会、冬残奥会已经精彩落幕,但中国冰雪运动快速发展的大幕才刚刚拉开。

  据悉,终评会的评委由来自高校、研究机构、书评媒体、出版业内等多领域的专家组成,最终评选出2022年度中华书局双十佳图书。(完)

  创业十年,冷伟依然保持着热情和专注,在他看来,核心技术永远是第一位的。“过去,凭借对市场的敏锐嗅觉和执行力就能获得成功,而现在,技术研发的创新力才是事业发展的动力之源。”冷伟说。

许淑贞

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有