《积极防范人工智能带来的安全新挑战.docx》由会员分享，可在线阅读，更多相关《积极防范人工智能带来的安全新挑战.docx（4页珍藏版）》请在三一办公上搜索。
1、积极防范人工智能带来的安全新挑战人工智能正日益成为新质生产力的重要要素和核心驱动力,推进生产方式和生产关系发生深刻变革。当前，一系列人工智能交叉领域的重大突破正在重新定义人类社会的数据交互、多模态生成、智能制造、信息连接和智算资源范式。以VisionPro为代表的空间计算、以Sora为代表的生成式人工智能、以FigureOl为代表的具身机器人、以Starlink为代表的天地一体化网络和以GB200为代表的算力基础设施，都昭示着以人工智能为代表的战略性新兴科技产业集群对传统生产力和生产关系格局的重塑已成为不可逆转的趋势。人工智能新质生产力急速崛起，数字技术与实体经济加速融合，智能化发展成为社会共
2、识。人工智能技术的广泛应用，在促进数字社会发展的同时，也为网络攻击带来了新的途径和手段，并引发一系列亟待应对的安全挑战，比如，“奶奶漏洞”可以绕过人工智能伦理提示词攻击、GPU算力芯片可被侧信道攻击、大模型深度伪造诈骗、生成式人工智能生成虚假新闻等，这些网络安全事件都暴露出人工智能安全问题的新变化。导致网络攻击加剧主要有以下三方面原因：第一个是人工智能赋能网络攻击手段升级。网络攻防技术呈现自动化、智能化、体系化快速演进等趋势，网络攻击更加隐蔽高效；第二个是人工智能系统自身安全挑战凸显。人工智能系统自身也面临数据中毒、模型窃取、算法歧视等诸多安全风险，网络攻击更加多变难溯；三是人工智能引发的伦理
3、与社会风险加剧。人工智能误判、滥用、失控、操纵等引发的连锁反应极可能导致灾难性后果，网络攻击更加未知。人工智能发展带来的网络安全新挑战不容忽视，既有技术层面的攻防对抗，也有系统自身的脆弱性，更有深层次的伦理困境。如何筑牢人工智能安全防线，维护人工智能健康发展，事关国家安全、经济运转和社会稳定大局。人工智能快速发展将使未来数字世界具备时空超越性和快速演进性两大新特征，目前已有的伴生性网络安全防护已无法有效解决网络攻击加剧的新挑战，亟须加快推进人工智能安全屏障的建设。第一个是坚持系统思维方式，从国家发展战略全局审视新兴安全挑战，注重人工智能安全韧性风险评估，提升战略威胁预知能力。第二个是提出新生网
4、络安全理念，由伴生防护向内生防御至新生防范转变，强化主动纵深防御体系。三是凝聚创新联合生态，汇聚交叉科学战略专家、技术团队和产业力量，集中攻研人工智能、数字李生、网络安全等关键技术,形成国家战略科技新力量。四是建设关键数字基础设施，优先面向人工智能+产业数字化新场景，加快开展人工智能+先行先试试验平台能力建设，提高人工智能安全水平。坚持高水平科技自立自强，积极开展人工智能安全领域技术攻关。网络攻击当前难以彻底根除，应优先构建网安事件一直不间断跟踪分析能力，可从人、机、物、态四大方面做安全风险评估，建立一套人工智能产业安全韧性指标体系，针对不同行业周期性指数评估排名，发挥长处、补齐不足，在考虑技
5、术演进和业务迭代的前提下，充分结合不同行业的业务属性和技术特征，安排构建功能完备的数字挛生实验场景，开展网络安全能力评估工作。主动谋划、超前布局，积极达成我国战略威胁预知能力的实质性跃变目标。未来网络空间将从静态的“场”走向动态的“境”，人工智能安全需要从单点式、场景化防御方式向全链条、情境化的主动防御能力转变。可以世情、国情、民情为基点，从存量、增量、变量三大方面系统性安排网络安全攻防场景，遵循“李生一拟生一派生一演生一新生”的逻辑路径，运用生成式人工智能布置规划网络安全对抗系统，通过情境模拟动态评估未知安全态势变化，一直不间断提升人工智能安全的风险感知、应急响应、快速处置能力，强化主动纵深
6、防御体系，为构建高质量人工智能安全生态提供坚实保障。人工智能领域具备强前沿交叉科学属性，人工智能安全队伍建设更需要跨领域、跨学科、跨行业乃至跨国界的人才聚合和交流，应充分发挥体制优势，积极构建人工智能安全产学研创新联合体，逐步打通人才链的微循环、内循环、外循环和大循环，加速形成人工智能安全技术创新链和未来产业链，为数字经济做强做优做大提供高质量人才队伍。当前人工智能安全领域的探索大多还处于实验室研究阶段,到应用场景的“最后一公里”有待进一步打通。应加快推进实验成果向真实场景的延伸，搭建人工智能安全攻防对抗试验平台，开展全流程、高频次的攻防演练，在实战环境中检验攻防技术，不间断完善人工智能安全防护体系。通过从实验到试验的转变，夯实人工智能安全标准规范、法律法规的现实基础，为全面推进以人工智能为代表的未来产业健康发展保驾护航。未来应掌握“场景到情境、存量到变量、李生到新生、实验到试验”的技术路径演进规律，加快建设基于数智李生的人工智能安全应用技术试验场，夯实人工智能安全基座，实现对人工智能风险的提早预防、实时监测、快速响应和一直不间断应对，推进人工智能安全整治管理体系和整治管理能力的不间断提高，为数字经济高质量发展筑牢安全之基。翟立东来源：学习时报
