网络安全很可能成为人工智能（AI）下一个主要应用场景。

当地时间9月10日，英伟达CEO黄仁勋在高盛科技会议上抛出上述观点。他认为，AI提高了代码的生成效率、降低了编程的门槛，但也加快了漏洞被发现、利用和修复的速度，且正在从根本上冲击整个网络安全领域。随着AI技术的不断进步，或将颠覆一个致力于保护计算机系统的行业。

近期，黄仁勋不只一次谈论AI安全的问题。不久前（9月1日），他在美国网络安全公司CrowdStrike的一场大会上直言， 网络安全正迎来转折点，攻击已实现自动化，防御也必须如此。 当天，英伟达与CrowdStrike宣布共同推出CrowdStrike SafeMind，其核心思路是让攻击和防御模型持续对抗。

作为芯片巨头CEO，黄仁勋为何看好网络安全？有分析认为，随着攻防进入机器速度，攻防双方对AI的使用越深入，模型调用和推理计算就越频繁。网络安全可能成为持续消耗AI推理算力的重要市场。

不管是基于技术演进作出的判断，还是为了壮大“卖算力”的生意版图，黄仁勋近期的言论直指AI落地的关键问题：安全仍面临严峻挑战。

南都记者从安恒信息方面了解到，当前，AI正在压缩网络攻击的多个环节。具备工具调用能力的智能体，可以持续搜集目标信息、分析软件弱点、生成攻击代码并尝试不同路径。攻击速度提高的同时，部分攻击活动的技术门槛也可能下降。

更令人担忧的是，智能体也会自主发起攻击，进一步加剧AI失控风险。今年7月16日，全球知名AI开源平台Hugging Face公开宣称，遭到AI智能体入侵。随后，OpenAI发文承认近期在内部测试旗下多款模型时，意外攻破了Hugging Face的网络系统。

这一事件被认为是首次公开披露的、一起完全由AI智能体主导并实现的网络安全事件，在全球科技圈引发震动。事发一个多月后，OpenAI和两家外部安全机构出具的调查报告显示，约1200个本应彼此隔离的AI智能体通过未经授权的“留言板”相互通信，发送了超过7万条消息和文件，其中约700个智能体直接参与了对Hugging Face系统的入侵。

值得一提的是，Hugging Face与英伟达的关系密切。当地时间9月3日，黄仁勋宣布英伟达拟以约129.3亿美元收购Hugging Face。二者牵手后，将共同扩大Hugging Face平台规模、强化基础设施。

当AI技术的能力越强，安全问题越发显现。据安恒信息介绍，现在AI智能体可以批量理解代码、自主定位风险、验证漏洞并生成分析报告，大幅缩短发现和修复周期。但这种能力也可能被攻击者用于更快寻找薄弱点，加快整体攻防节奏。

对于黄仁勋所说的“AI技术有可能给行业带来颠覆性影响”，安恒信息方面认为，当漏洞发现、风险研判和安全处置逐渐由智能体完成，网络安全行业的变化将会从技术工具层延伸到产业结构层。产品形态、人才需求、交付模式和评价标准，都将随之重构。AI带来的不是效率的线性增长，而是安全服务供给方式的结构性转变。

具体而言，安全服务不再主要依赖驻场人员、人工巡检和工单流转，而是由模型持续研判、智能体自主处置、专业人员控制关键决策。客户评价安全服务的标准，也会从投入多少人转向发现是否及时、处置是否有效、过程能否追溯。

面对AI带来的复杂安全挑战，网络安全行业正在积极构建智能防线。南都记者关注到，不少主流安全厂商持续升级大模型能力与服务平台，推出数字员工加强自主防御能力，并尝试用AI赋能漏洞平台与安全运营等。在一些行业论坛上，也将AI安全设置为核心议题。

以即将于9月23日在杭州举办的2026全球数贸会·西湖论剑大会为例，今年大会的主题为“从辅助到自主——AI时代的数智创新与安全跃迁”，届时将围绕AI驱动的智能化安全服务体系、AI原生安全防护底座，实现“以AI对抗AI、以AI管理AI”的自主防御等核心命题展开研讨。

西湖论剑9月23日杭州启幕。

西湖论剑是国内知名的数字安全行业峰会，2012年创办于杭州。据主办方介绍，今年大会选择“从辅助到自主”作为主题，是希望讨论不只停留在AI能够做什么，还要回答AI可以自主做到什么程度。而已有的真实案例将成为检验自主防御能力的重要依据。

当前，行业尤为关注的是，随着AI智能体的爆发，一些企业如何划清自动执行和人工决策的边界：哪些风险可以由智能体自主处置，哪些操作必须经过人工确认，出现误判后如何接管，事故责任又该如何追溯。这些问题，或许在今年的大会上能找到实践的答案与判断。

采写：南都N视频记者李玲 发自北京