OpenAI 和谷歌 DeepMind 员工联名发声:高级人工智能风险巨大,亟需加强监管

来源: 极目新闻
2024-06-05 09:44:20

男生桶女生软件免费彼は小さく肯いた。  在病毒最凶猛的阶段,中国有效保护14亿多人民的生命安全和身体健康。Ga0i-5TEAcBxuVJunJkgzhGAom4-OpenAI 和谷歌 DeepMind 员工联名发声:高级人工智能风险巨大,亟需加强监管

IT之家 6 月 5 日消息,OpenAI 和谷歌 DeepMind 的数名前任和 现任员工近日联名发布公开信,对高级人工智能的潜在风险以及当前缺乏对人工智能科技公司的监管表示担忧。

IT之家注意到,这封公开信指出,人工智能的发展可能会带来一系列的风险,例如加剧现有社会的不平等、助长操控和虚假信息传播,以及失控的自主人工智能系统可能导致人类灭绝等。

信中写道,人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发,同时却对保护措施和风险水平的信息讳莫如深。公开信认为,不能指望这些公司会自愿分享这些信息,因此呼吁内部人士站出来发声。

由于缺乏有效的政府监管,这些现任和前任员工成为能够让这些公司对公众负责的少数群体之一。然而,由于严格的保密协议,员工被限制发声,只能向可能并未妥善处理这些问题的公司反映问题。传统的举报人保护措施并不适用,因为此类措施侧重于违法行为,而目前令人担忧的许多风险尚不受监管。

员工们呼吁人工智能公司为揭露人工智能风险的人士提供可靠的举报人保护措施,具体包括:

不得创建或执行阻止员工对风险相关问题提出批评的协议;

提供可验证的匿名程序,使员工能够向董事会、监管机构和相关领域的独立组织提出与风险相关的担忧;

支持开放批评的文化,允许员工在保护商业机密的前提下,向公众、董事会、监管机构等方面提出与技术相关的风险担忧;

在其他程序失效后,避免对公开分享风险相关机密信息的员工进行报复。

共有 13 名员工签署了这封公开信,其中包括 7 名前 OpenAI 员工、4 名现任 OpenAI 员工、1 名前谷歌 DeepMind 员工和 1 名现任谷歌 DeepMind 员工。据悉,OpenAI 曾因员工发声而威胁取消其既得权益,并要求员工签署严格的保密协议限制他们批评公司。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

看看晨曦里的布达拉宫

  19日,三亚大东海沙滩上人潮涌动。来自湖北的杜先生享受午后的冬日暖阳,不远处儿子媳妇带着孙女在海里嬉浪。“我们一家从武汉自驾来,亲家他们明天从浙江飞来,准备聚在三亚一起过年。”杜先生说,以前认为过年旅游是年轻人干的事,现在觉得“只要一家人团聚,在哪都是过大年”。

  “上午是我们的接诊高峰期。这段时间每天来就诊的新冠病人确实不少,但轻症居多。”接诊间隙的刘宏亮告诉半月谈记者,从2022年12月初到现在,陆续有2000多人因呼吸道疾病来卫生院就诊。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有