人工智能发展急需“善治之道”

来源: 封面新闻
2024-05-25 17:57:07

  一

  当地时间5月21日,“人工智能首尔峰会”在韩国首尔开幕。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议,由韩国与英国共同主办,以“安全、创新、包容”为主题。

  联合国秘书长古特雷斯在峰会开幕式上表示,自去年英国布莱切利峰会召开以来,“我们看到了改变生活的技术进步,也看到了威胁生命的新风险”。他认为,需要就人工智能问题制定普适的防护措施,并定期开展对话。

  有媒体指出,在去年的英国会议召开期间,人工智能技术还主要以单模态生成式人工智能(如文本、视频)为代表,风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间,多模态生成式人工智能已经成为行业发展的新重点,这令其生成内容的真伪更难以鉴别,人工智能技术的风险,也变得更加难以预测和难以控制。

  在21日的线上峰会之后,与会各方发布人工智能《首尔宣言》,呼吁加强国际人工智能治理合作以及治理框架之间的互操作性,支持启动首个国际人工智能安全研究所网络,促使国家间形成对人工智能安全的共同理解,并在研究、标准和测试方面进行协调。

  同日,包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司,在峰会期间作出“前沿人工智能安全承诺”,将努力确保其最先进的人工智能模型的安全性,并实施负责任的治理,实现公开透明。

  根据这项协议,一旦发生利用人工智能技术实施自动网络攻击等极端情况,且无法保证降低其风险,这些企业将打开“紧急停止开关”,叫停人工智能模型的开发与部署进程。

  二

  就在首尔峰会召开的同日,欧洲理事会批准了欧盟《人工智能法案》,这是世界上首部对人工智能进行全面监管的法案。

  该法案由欧盟委员会在2021年提出,经过多轮谈判和协商后,欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后,该法案还需经欧洲议会和欧洲理事会主席签署,于近日在欧盟官方公报上公布,并在公布20天后生效。

  欧盟发布信息的显示,《人工智能法案》采用基于风险的方法,对不同风险等级的人工智能系统实施分类监管。风险分为四类,风险等级越高,管控越严格。

  此外,欧盟的《人工智能法案》规定“适用于区域外”,这意味着在欧洲开展业务的各国企业都必须遵守该法案。

  欧盟的目标是,在2026年内全面施行《人工智 能法案》。不过,风险级别最高的“禁止”条款预计率先于2024年底启动适用。

  除了本次通过的法案之外,此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如,欧盟通过的《人工智能框架公约》,提出了一个涵盖人工智能系统全生命周期的监管法律框架;此外,欧盟还制定了《人工智能契约》,旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。

  有分析人士指出,从《通用数据保护条例》(GDPR)到《数字服务法案》《数字市场法案》,再到《人工智能法案》,欧盟在数字经济监管上的创新不仅仅体现在具体的监管措施,其规则输出的“布鲁塞尔效应”也愈发凸显,其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。

  三

  自2022年11月ChatGPT横空出世以来,各类人工智能技术进入应用爆发阶段。从文生文,到文生图(诸如 Midjourney),再到文生视频(Sora大模型),乃至文生音乐(Suno V3大模型),人工智能产业发展已显现出无限想象空间。

  咨询机构麦肯锡预计,人工智能技术将给全球经济带来超过7.9万亿美元价值,到2030年之前,如果生成式人工智能技术应用于各行业,每年总经济效益高达6.1万亿美元至7.9万亿美元。

  然而,就在首尔人工智能安全峰会召开之际,《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为,当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议,对于未来异常强大的人工智能系统,全球各国政府必须准备好在监管方面发挥带头作用。

  更早些时候,一份由30多个国家的专家支持的全球人工智能安全报告显示,如果人工智能技术的应用得不到有效监管,劳动力市场遭受大规模冲击,利用人工智能技术实施的黑客攻击或生物攻击,以及社会对人工智能失去控制等风险可能会出现。

  在人工智能技术提速发展,以及与之相伴的越来越多的安全预警面前,全球人工智能技术监管与治理体系的完善,也愈加成为迫在眉睫的严肃课题。

  原料药领域,因滥用垄断地位被罚的案例并不少见。2020年4月,三家垄断葡萄糖酸钙原料药的山东药企被反垄断机构合计罚没3亿元;2021年,先声药业滥用在中国巴曲酶浓缩液原料药销售市场的支配地位被罚1亿元;同年,扬子江药业因存在垄断行为被罚没7.6亿元。

  但2012年,教育部调整本科专业目录,应急管理专业被取消。河南理工大学应急技术与管理系主任、应急管理部宣教中心应急科普智库专家钱洪伟告诉《中国新闻周刊》,他所在学院只能在公共事业管理一级学科下以应急方向继续招生。据报道,有的学校则会在管理科学与工程学院、安全科学与工程学院等学院下,进行应急管理学科办学。

  张勇告诉《中国新闻周刊》,2021年时,华北科技学院希望有更多具备现场救援经验的专家与学校合作,参与应急管理大学的学科建设,并为学生讲授实践知识。据华北科技学院官网显示,校长张瑞新表示,希望与“蓝天救援”共同研发课程,开展实习实训基地建设,参与制定国家应急管理人才培养标准和相关行业标准。

  每经记者 李宣璋    每经编辑 陈星    

  《山海经·大荒北经》有这样的记载:“西北海之外,赤水之北,有章尾山。有神,人面蛇身而赤,直目正乘,其瞑乃晦,其视乃明,不食、不寝、不息,风雨是谒,是烛九阴,是谓烛龙。”因此,一些学者在看到几件纵目面具时便认为这可能就是“烛龙”,并且在坑内其他青铜器上的各种龙之形象,应该都与此传说有关。也有学者认为,从读音上看,烛龙又可视为祝融——据《山海经·海内经》,这位兽身人面的神就降居在岷江。最直接的猜想当然还是归于传说中的蚕丛,因为《华阳国志》中直接说过“蜀侯蚕丛,其目纵”,这些面具或许正是远古蜀人对祖先形象的生动追记。

  中关村信息消费联盟理事长项立刚13日接受《环球时报》记者采访时表示,美国延长豁免期的一个重要的原因就是来自盟友的压力。他说,三星电子和SK海力士一季度都出现史上罕见的业绩暴跌,如果再遵从美国打压中国的政策,未来业绩将雪上加霜。而美国在限制盟友的同时,却堂而皇之为自己“放水”,英特尔和高通等都继续向中国出口芯片。这种损人利己的做法势必会遭到更强烈的反对和抵制。

刘建纬

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有