(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”

来源: 奥一网
2024-06-07 04:27:17

金银瓶2008年そして僕は初秋の午後の束の間の魔力がもうどこかに消え去っていることを知った。  2023年开年以来,云南烟草系统迎来新一波反腐风暴:云南中烟工业有限责任公司(以下简称云南中烟)原总经理张水长、原副总经理顾波同日落马,潜逃26年的“红通人员”王汉民(曾任昆明卷烟厂销售经理)归案。9kY3lPLq-kHBg1LsDyn54rCEA4A6Qj-(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”

  在5日举行的2024北京网络安全大会上,中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是先进生产力,但远未成熟,存在技术瓶颈和社会忧虑。

  他认为,人工智能的风险主要来自两个方面:一方面,是人工智能技术存在弱点和不足,而不是过于强大,需靠发展创新去解决;另一方面,是使用者对人工智能的滥用和恶意使用,以及依赖而非驾驭人工智能。

  巴基斯坦NCERT主席阿巴斯·海德尔说,大型语言模型(LLM)正在彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和 事件响应、处置。

  根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。

  在中央网信办网络安全协调局副局长王营康看来,随着人工智能技术发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。

  当前中国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁。

  AI大模型能否解决问题?奇安信董事长齐向东说,AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。

  目前,AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍,国家电网依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。

  在技术之外,与会者呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”,中国友谊促进会理事长、国家网信办原副主任陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。

  据新华社报道,2003年3月20日,美国及其西方盟友以所谓伊拉克拥有大规模杀伤性武器为由,悍然入侵伊拉克。美国及其西方盟友不顾国际社会强烈反对,绕过联合国安理会,以莫须有的罪名发动伊拉克战争。出兵前,时任美国国务卿鲍威尔在联合国会议上拿出一管白色粉末,声称是伊拉克研制“大规模杀伤性武器”的证据。此后他公开承认,这次发言是他的“污点”。

  比如,中国人民银行和证监会的消费者保护和投资者保护职能划归国家金融监督管理总局,能让事权更加统一,<strong>为进一步强化消费者保护和行为监管创造更好的制度性基础</strong>。

  与此同时,国内传统汽车品牌也纷纷宣布了新能源汽车市场的布局计划。长城汽车总裁穆峰向《中国新闻周刊》透露,长城汽车2023年会推出10余款新能源产品,加速向新能源汽车市场的转型。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有