一

　　当地时间5月21日，“人工智能首尔峰会”在韩国首尔开幕 。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议，由韩国与英国共同主办，以“安全、创新、包容”为主题。

　　联合国秘书长古特雷斯在峰会开幕式上表示，自去年英国布莱切利峰会召开以来，“我们看到了改变生活的技术进步，也看到了威胁生命的新风险”。他认为，需要就人工智能问题制定普适的防护措施，并定期开展对话。

　　有媒体指出，在去年的英国会议召开期间，人工智能技术还主要以单模态生成式人工智能(如文本、视频)为代表，风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间，多模态生成式人工智能已经成为行业发展的新重点，这令其生成内容的真伪更难以鉴别，人工智能技术的风险，也变得更加难以预测和难以控制。

　　在21日的线上峰会之后，与会各方发布人工智能《首尔宣言》，呼吁加强国际人工智能治理合作以及治理框架之间的互操作性，支持启动首个国际人工智能安全研究所网络，促使国家间形成对人工智能安全的共同理解，并在研究、标准和测试方面进行协调。

　　同日，包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司，在峰会期间作出“前沿人工智能安全承诺”，将努力确保其最先进的人工智能模型的安全性，并实施负责任的治理，实现公开透明。

　　根据这项协议，一旦发生利用人工智能技术实施自动网络攻击等极端情况，且无法保证降低其风险，这些企业将打开“紧急停止开关”，叫停人工智能模型的开发与部署进程。

　　二

　　就在首尔峰会召开的同日，欧洲理事会批准了欧盟《人工智能法案》，这是世界上首部对人工智能进行全面监管的法案。

　　该法案由欧盟委员会在2021年提出，经过多轮谈判和协商后，欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后，该法案还需经欧洲议会和欧洲理事会主席签署，于近日在欧盟官方公报上公布，并在公布20天后生效。

　　欧盟发布信息的显示，《人工智能法案》采用基于风险的方法，对不同风险等级的人工智能系统实施分类监管。风险分为四类，风险等级越高，管控越严格。

　　此外，欧盟的《人工智能法案》规定“适用于区域外”，这意味着在欧洲开展业务的各国企业都必须遵守该法案。

　　欧盟的目标是，在2026年内全面施行《人工智能法案》。不过，风险级别最高的“禁止”条款预计率先于2024年底启动适用。

　　除了本次通过的法案之外，此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如，欧盟通过的《人工智能框架公约》，提出了一个涵盖人工智能系统全生命周期的监管法律框架；此外，欧盟还制定了《人工智能契约》，旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。

　　有分析人士指出，从《通用数据保护条例》(GDPR)到《数字服务法案》《数字市场法案》，再到《人工智能法案》，欧盟在数字经济监管上的创新不仅仅体现在具体的监管措施，其规则输出的“布鲁塞尔效应”也愈发凸显，其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。

　　三

　　自2022年11月ChatGPT横空出世以来，各类人工智能技术进入应用爆发阶段。从文生文，到文生图(诸如 Midjourney)，再到文生视频(Sora大模型)，乃至文生音乐(Suno V3大模型)，人工智能产业发展已显现出无限想象空间。

　　咨询机构麦肯锡预计，人工智能技术将给全球经济带来超过7.9万亿美元价值，到2030年之前，如果生成式人工智能技术应用于各行业，每年总经济效益高达6.1万亿美元至7.9万亿美元。

　　然而，就在首尔人工智能安全峰会召开之际，《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为，当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议，对于未来异常强大的人工智能系统，全球各国政府必须准备好在监管方面发挥带头作用。

　　更早些时候，一份由30多个国家的专家支持的全球人工智能安全报告显示，如果人工智能技术的应用得不到有效监管，劳动力市场遭受大规模冲击，利用人工智能技术实施的黑客攻击或生物攻击，以及社会对人工智能失去控制等风险可能会出现。

　　在人工智能技术提速发展，以及与之相伴的越来越多的安全预警面前，全球人工智能技术监管与治理体系的完善，也愈加成为迫在眉睫的严肃课题。