科技巨头承诺安全开发AI模型:极端风险下会“自拔网线”

来源: 闪电新闻
2024-05-22 04:12:11

  此次峰会由韩国与英国共同主办,是去年11月在英国召开的全球人工智能安全峰会的后续会议,以“安全、创新、包容”为主题。

  这项国际协议将让来自全球多国的企业做出自愿承诺,确保他们是以安全的方式开发AI前沿模型。

制作AI模型的公司需要发布安全框架,列出衡量潜在风险的方式,例如检查不良行为者滥用技术的风险。

框架将包括针对科技公司的一些被视为无法容忍的“红线”,包括但不限于自动网络攻击和生物武器的威胁。

一旦发现了这种极端情况,如果不能保证降低风险,企业们就需要打开“紧急停止开关”(kill switch),叫停AI模型的开发进程。

  英国首相苏纳克在一份声明中写道:“这还是首次,有如此多来自全球不同地区的领先AI公司都同意在人工智能安全方面做出同样的承诺。这些承诺将确保全球领先的AI公司,让他们的AI计划提供透明度和问责制。”

  去年11月,在英国AI安全峰会上,与会方签署了一份《布莱奇利宣言》(Bletchley Declaration),称各方需要共同努力,设定共同的监管方法。

  《布莱奇利宣言》写道,AI为全球带来了巨大的机遇,它有潜力改变或增强人类福祉、和平与繁荣。同时,AI还带来了重大风险,包括在日常生活领域,“所有问题都至关重要,我们确认解决它们的必要性和紧迫性。”

  法国将于2025年初举办下一届AI安全峰会,企业们同意在这次会议前征询意见,并公布于众。

  日内,欧盟理事会正式批准《人工智能法案》,这是全球首部AI领域的全面监管法规,违反法规的相关方将被追究责任。然而,英国方面还没有提出类似的AI法律。

  与美国的主张类似,英国选择了一种名为“轻触式”的监管方式,通过行业自律和个案监管来应对新兴风 险,旨在避免过度干预阻碍技术创新。

  在明天的部长级会议期间,各国高级官员将以今日的讨论内容为基础,就进一步保障AI安全性、推进可持续发展等具体合作方案展开讨论。

责任编辑:王许宁

  在这种氛围中,一则消息受到外界关注。英国路透社3日报道称,美国总统气候问题特使克里表示,中方已邀请他“近期访华”,就避免全球气候变化危机举行会谈。“这是必须合作的(方面),尽管确实存在其他分歧。”克里称,总统拜登已授权他与中方举行会谈,但时间尚未确定。4日在被问及此事时,中国外交部发言人毛宁没有证实或否认相关消息,她表示,在气候变化问题上,中方的立场是一贯的。

  长安街知事注意到,2022年4月8日至6月2日,中央第八巡视组对国家粮食和物资储备局党组开展了常规巡视。之后不到两周,张务锋于6月15日官宣被查。同年12月30日,中央纪委国家监委发布消息,开除其党籍和公职。

  [环球时报驻新加坡特约记者 辛斌]时隔4年,第13届亚洲国际海事防务展3日在新加坡樟宜拉开序幕。新加坡《联合早报》4日报道称,该国防长黄永宏在开幕致辞时表示,与俄乌冲突相比,亚洲若发生战争破坏力更大,并可能产生类似第一次世界大战的影响,甚至对许多国家构成生存问题,所以防止这种冲突是所有国家未来10年的首要任务。而中美关系,“大到不能倒”。

  除此之外,在伯恩斯大使过去几天的推文中,外界还能看到他记述“很高兴见到”自己的母校约翰斯•霍普金斯大学与南京大学合办双语教学项目;转发了塞内加尔大使锡拉向国家主席习近平递交国书的推文;以及前往赛珍珠女士(Pearl S。 Buck)故居,尊称其为“两国之间‘人民的桥梁’”,称自己“获得了诸多启发”。

  <strong>直新闻:国务委员兼外长秦刚周一(8日)会见美国驻华大使伯恩斯,强调当务之急是稳定中美关系,防止出现意外,您对此有何特别观察?</strong>

  “深圳相比苏州转型步调是比较早的,目前的阵痛已经不明显了。”华东师范大学城市发展研究院院长曾刚向《每日经济新闻》记者分析,近十年之前,深圳很多制造业就已经开始向东南亚以及像四川、湖南、广西等地区外迁,这些年看起来没有高歌猛进,但也通过产业结构调整为今天的稳定发展打下了基础。与之相比,苏州尽管也正在腾笼换鸟,推动产业转型,“但是从结构调整来讲至少比深圳晚了五年”。

傅馨仪

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有