EY Tech Horizon | 全球发布：安永人工智能风险应对新布局-“走出去”导航网

在当前复杂的网络环境中，企业面临着前所未有的网络安全挑战。安永全球近期发布题为《如何重新构想网络护栏，以加速AI价值实现》1的报告，提出首席信息安全官（CISO）需要通过构建有效的安全“护栏”机制，以确保企业人工智能（AI）能够安全、规模化地部署，并借此提升网络安全职能的战略价值。

以非线性、加速性、波动性与互联性（NAVI）为核心特征的新型网络安全威胁格局

面对日益严峻的网络安全挑战，企业正将安全投入转向更具战略价值的方向：部署AI驱动的威胁检测系统，并将安全能力深度植入业务创新。追求“绝对安全”已不现实，CISO需把握现代网络安全环境的NAVI特征：

非线性（Nonlinear）：

攻击门槛降低与威胁主体泛化

AI技术的突破正使网络犯罪走向大众化。它显著降低了攻击者的技术门槛，同时大幅提升了受害规模。生成式AI尤其加剧了批量个性化攻击的风险，如钓鱼、语音钓鱼及深度伪造等社会工程学手段能高效针对大量目标。

加速性（Accelerated）：

攻击速度提升与防御窗口收窄

网络犯罪的“平均突破扩散时间”持续缩短，CrowdStrike数据显示，2024年该值已降至48分钟2。这意味着一旦防御被突破，攻击者能更快横向移动，危害更深。同时，软件即服务（SaaS）的广泛使用和企业内部AI的快速部署也在扩大风险面，供应链攻击的威胁凸显。

波动性（Volatile）：

地缘政治与监管环境的多变性

地缘政治紧张局势与监管环境的波动正深刻影响网络安全格局。关键信息基础设施（如能源、交通、通信网络）尤其易受国家支持型网络攻击的冲击，此类攻击已成为地缘博弈的常用手段，并常通过供应链扩散影响公共设施。

互联性（Interconnected）：

供应链与生态系统的风险传导

企业通过第三方合作实现业务增长的同时，也显著扩大了网络攻击面。在构建AI能力时，由于自建大语言模型成本高昂，多数企业依赖第三方模型资源，这种混合开发模式在提升效率的同时加剧了网络安全风险。

助力企业级AI应用的网络安全“护栏”

在NAVI特性主导的新格局下，AI应用的广泛部署带来复杂网络安全挑战。传统“左移”策略在快速迭代环境中已显不足，建立嵌入式网络安全五大“护栏”成为更可持续的路径。

人为风险因素管控

CISO可以通过技术防控与人文培育两个维度系统化管控人为风险，通过部署强身份验证、访问控制、内部威胁防护计划以及基于风险定制的安全意识培训，减少员工成为安全薄弱环节的可能。

对应管控的风险：

• 人为操作失误：员工自主使用AI工具增加操作失误风险，可能被攻击者利用。

• AI驱动的社会工程学攻击：此类攻击在2025年激增67%，AI生成的钓鱼邮件成为常用入侵手段3。

• 配置失误引发数据泄露：不当配置继续为数据泄露的主要诱因。

AI数据资产安全保障

数据是AI系统的核心基础。保障工作聚焦于维护数据的机密性、完整性与可用性，具体措施包括部署防御手段应对数据投毒与注入攻击，加强第三方及敏感数据管控，并应用强加密技术。

对应管控的风险：

• 数据投毒：可导致图像识别模型准确率下降高达27%，需优先应对4。

• 机密/敏感数据训练风险：需严格防范保密信息、敏感数据等用于AI训练。

• AI输出泄露：AI可能无意或有意泄露敏感信息。

威胁检测响应体系重构

CISO可通过整合AI攻击面全域可视化与自动化防御能力，重构威胁检测与响应机制。安永调研数据显示，目前75%的企业正在推进网络安全检测流程的自动化。这些企业构建体系的核心手段是融合AI驱动的监控、自动化响应流程以及强化威胁情报，旨在实现拦截提示注入、净化AI输出、数据脱敏、抵御拒绝服务攻击及管控高危AI智能体五大目标。这种策略能够有效应对针对AI系统及其供应链的恶意行为。

对应管控的风险：

• 针对AI系统及AI供应链的网络攻击：企业对AI系统高危风险的认知不断提升。

• AI智能体权限过高或输出不当内容：可能导致数据泄露、决策失误等严重后果，需通过体系化管控规避。

AI供应链威胁治理

AI开发的深度互联性要求企业必须强化第三方风险管理与攻击面可见性。CISO可通过三大举措规避供应链威胁：落实供应商全流程透明度与安全标准、强化资产系统性管理、实施严格风险管控并减少外部组件的隐藏依赖。

对应管控的风险：

• 体系复杂性、隐藏依赖及新增漏洞：过去一年中，61%的企业曾遭遇由第三方引发的安全漏洞5。

AI系统安全强化

企业可与CISO协作，在AI全生命周期嵌入安全理念。企业已普遍认识到这一步骤的重要性：安永调研显示，83%的企业管理者表示，若具备更强大的数据基础设施，AI应用进程将显著加快。因此，企业可通过三大核心举措：将安全编码与模型治理融入机器学习运营（MLOps）体系、开展对抗性测试与红队演练、落实严格配置管理与漏洞管控标准，以达到减少快速开发导致的配置错误、防范基础设施薄弱点、确保AI模型部署于韧性基础架构之上等效果。

对应管控的风险：

• 快速开发及专业能力不足导致的错误、配置问题与漏洞代码：普遍存在关键云端配置错误。

• 基础设施底层漏洞：基础设施的薄弱环节直接阻碍AI项目的部署与推进。

结语

企业推进内部AI项目、与AI供应商展开合作的同时，网络空间正日益呈现出“非线性、加速性、波动性、互通性”的NAVI特征。在此背景下，CISO亟需建立系统化的网络安全护栏机制，为全域AI应用提供可靠的安全基础。安永始终站在AI安全实践的前沿，通过提供AI治理与合规、AI安全与可靠性测试、AI安全策略与架构、AI可信运营等多种服务，护航企业完善AI风险管理战略布局。欢迎垂询洽谈，安永期待与您携手，共同探索AI赋能下的可信世界。

注：

1.Reimagine your cyber guardrails to accelerate AI value | EY - Global, https://www.ey.com/en_gl/insights/consulting/how-can-reimagining-your-cyber-guardrails-accelerate-ai-value

2.CrowdStrike 2025 Global Threat Report, https://www.crowdstrike.com/en-us/global-threat-report/

3.AI Cyber Attacks Statistics 2025: Attacks, Deepfakes, Ransomware; SQ Magazine; 7 October 2025; https://sqmagazine.co.uk/ai-cyber-attacks-statistics/

4.IBM, https://www.ibm.com/think/topics/data-poisoning

5.2024 Third-Party Risk Management Study, Prevalent, https://info.mitratech.com/hubfs/Other/M-and-A/Prevalent/documents/2024-Third-Party-Risk-Management-Study.pdf

欢迎联系我们。