突发!OpenAI又迎人事动荡!安全主管辞职,“超级智能对齐团队”已被解散

来源: 腾讯新闻
2024-05-18 12:54:11

美女后入APP在线下载「そういうときはどうするの」  除唐双宁、李晓鹏之外,今年已有中国银行原党委书记、董事长刘连舸,浙江省政协原党组成员、副主席朱从玖,国家开发银行原党委委员、副行长周清玉等多名长期在金融领域工作的中管干部被查。RXGUxlh-LJ4kXJz1g6mYhHbDIP-突发!OpenAI又迎人事动荡!安全主管辞职,“超级智能对齐团队”已被解散

  每经编辑 杜宇

  5月18日凌晨,OpenAI安全主管、“超级智能对齐团队 ”负责人Jan Leike在社交平台宣布,离开OpenAI。这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职之后,又有一名高

  Jan Leike在X上公开透露了他离职的部分原因。他的潜台词是,他与OpenAI高层在公司的核心优先事项上存在长期分歧,最终双方的分歧已经严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍,缺乏资源会严重影响研究的进度和质量。

  本周五(当地时间5月17日),OpenAI证实,由Ilya和他的亲信Jan Leike共同领导的“超级智能对齐团队”已经解散。此后,该团队的研究工作将被整合到OpenAI的其他研究小组中。至此,一度几乎导致OpenAI分崩离析的宫斗事件终于尘埃落定。

  马斯克针对OpenAI的长期人工智能风险团队已经解散这一消息评价称:“这显示安全并不是OpenAI的首要任务。”

  OpenAI首席执行官Sam Altman感谢并肯定了Jan Leike在OpenAI的贡献和领导能力。并表示,未来几天内会发表一篇更长的文章,来阐述OpenAI对于产品安全的规划和所做的事情。

  加入OpenAI之前,Jan Leike曾在谷歌DeepMind工作,主要负责从人类反馈中进行强化学习的原型设计。在OpenAI期间,参与了InstructGPT、ChatGPT的开发以及GPT-4的安全对齐工作。

  对于Ilya、Jan 的辞职,有人表示这两位安全领导高管都辞职了,以后谁来负责OpenAI的产品安全呢?

  也有一位网友爆料,想离开OpenAI没问题,但是你必须签署一份“离职协议”, 如果你不签署终身不诋毁承诺,将失去所有已获得的OpenAI股权。不知道Jan Leike的一番吐槽,是否会影响到他的股权。

  在去年7月份,OpenAI宣布成立一个新的研究团队“超级对齐”,要用AI监督AI的方式,解决超智能“AI对齐”问题。“AI对齐”的意思是,要求AI系统的目标要和人类的价值观与利益相一致。公司创始人之一伊利亚·苏茨克沃被任命为团队共同负责人。

  而现在AI风险团队解散是公司内部最近出现动荡的又一证据,也再次引发了人们对该公司在开发AI产品时如何平衡速度与安全的质疑。OpenAI章程规定,必须安全地开发通用人工智能(AGI),即可以与人类匹敌或超越人类的技术。

  每日经济新闻综合公开资料

  免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。

责任编辑:张倩

  7月17日,2023年中国经济半年报出炉。今年上半年国内生产总值593034亿元,按不变价格计算,同比增长5.5%。怎么看待这个核心数据?除此之外,这份经济“半年报”里,我们还能观察到怎样的变化和特点,趋势与信号?更为重要的是,稳经济、促发展,下半年我们又还需要从哪些方面继续发力?《新闻1+1》连线宏观经济学家、上海财经大学校长刘元春,共同关注:中国经济“半年报”,趋势与信号!

  在正风反腐高压态势下,杨平害怕东窗事发,心理压力越来越大。2021年10月,预感可能要出事的杨平选择了向纪检监察机关“主动投案”。但心存侥幸的他表面上声称“相信组织、依靠组织、配合组织”,实际上只象征性地供述了两笔小数额的受贿事实,对其他严重违纪违法问题只字不提。

  气候问题一直被外界认为是在中美关系陷入低谷时期也可以且必须推进合作的一个领域。然而,去年8月,时任美国联邦众议院议长佩洛西不顾中方强烈反对窜访中国台湾地区,令中美关系一度陷入建交以来的“冰点”,中美之间的气候合作也随之中断。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有