科技巨头承诺安全开发AI模型:极端风险下会“自拔网线”

原标题:科技巨头承诺安全开发AI模型:极端风险下会“自拔网线”

操逼视频应用,黄色网站入口下载-GEac76YXHiMqNR-科技巨头承诺安全开发AI模型:极端风险下会“自拔网线”。

  此次峰会由韩国与英国共同主办,是去年11月在英国召开的全球人工智能安全峰会的后续会议,以“安全、创新、包容”为主题。

  这项国际协议将让来自全球多国的企业做出自愿承诺,确保他们是以安全的方式开发AI前沿模型。

制作AI模型的公司需要发布安全框架,列出衡量潜在风险的方式,例如检查不良行为者滥用技术的风险。

框架将包括针对科技公司的一些被视为无法容忍的“红线”,包括但不限于自动网络攻击和生物武器的威胁。

一旦发现了这种极端情况,如果不能保证降低风险,企业们就需要 打开“紧急停止开关”(kill switch),叫停AI模型的开发进程。

  英国首相苏纳克在一份声明中写道:“这还是首次,有如此多来自全球不同地区的领先AI公司都同意在人工智能安全方面做出同样的承诺。这些承诺将确保全球领先的AI公司,让他们的AI计划提供透明度和问责制。”

  去年11月,在英国AI安全峰会上,与会方签署了一份《布莱奇利宣言》(Bletchley Declaration),称各方需要共同努力,设定共同的监管方法。

  《布莱奇利宣言》写道,AI为全球带来了巨大的机遇,它有潜力改变或增强人类福祉、和平与繁荣。同时,AI还带来了重大风险,包括在日常生活领域,“所有问题都至关重要,我们确认解决它们的必要性和紧迫性。”

  法国将于2025年初举办下一届AI安全峰会,企业们同意在这次会议前征询意见,并公布于众。

  日内,欧盟理事会正式批准《人工智能法案》,这是全球首部AI领域的全面监管法规,违反法规的相关方将被追究责任。然而,英国方面还没有提出类似的AI法律。

  与美国的主张类似,英国选择了一种名为“轻触式”的监管方式,通过行业自律和个案监管来应对新兴风险,旨在避免过度干预阻碍技术创新。

  在明天的部长级会议期间,各国高级官员将以今日的讨论内容为基础,就进一步保障AI安全性、推进可持续发展等具体合作方案展开讨论。

责任编辑:王许宁

  “从改善社会心理预期、提振发展信心入手”,深入宣传中央经济工作会议、中央农村工作会议等重要会议精神,宣传思想战线站在全局高度深入解读党中央对经济形势的重大判断,阐释坚持“稳中求进”工作总基调、“推动经济运行整体好转”、“建设农业强国”的决策部署,展现特殊背景下中国经济的韧性、潜力和活力。《一图看懂2022中央经济工作会议要点》《中央定基调,明年经济工作这么干》等生动活泼的融媒体产品,回应了人民群众对经济发展趋势、就业增收、社会保障等方面的关切,增强了砥砺前行的信心,激发了干事创业的热情。/index.html返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
发布于:伊春南岔区
阅读 ()
推荐阅读
免费获取
今日搜狐热点
今日推荐