7月31日下午，第四十三期“网安大讲堂”在协会理事单位——佛山市海天调味食品股份有限公司开讲，特邀会员单位——新华三广东代表处副总经理兼技术部长胡程程授课，以《用AI对抗AI——应对AI应用（智能体）带来的安全挑战》为题，为全市党政机关、企事业单位技术骨干及网络安全从业者带来一场前沿、深度的AI安全分享。
本期网安大讲堂是佛山贯彻落实新修订的《中华人民共和国网络安全法》第二十条关于“运用人工智能等新技术”提升网络安全保护水平规定的重要举措。活动由中共佛山市委网信办主办、佛山市网络安全和信息化协会承办、协会会员单位——新华三技术有限公司支持，同步开启全网直播。
AI时代的新安全风险
当前，AI技术正以前所未有的速度渗透千行百业。从大语言模型的普及到AI智能体的规模化落地，人工智能在赋能业务创新的同时，也带来了全新的安全挑战。
胡程程认为，2026年是AI价值兑现的执行之年。AI智能体在B端的普及，已不仅是让每个员工用上大模型那么简单。这要求企业找到真正能够提升对外竞争力的场景，还需要垂直领域Know-How经验的深度融入，更需要处理好行为审计、数据安全、权限控制以及人机责任边界等关键问题。“2026年AI安全已进入技术演进、监管落地与安全需求三股力量交汇驱动的落地见效关键期。”他指出。
现场，他系统梳理了AI时代新型安全风险的深层根源，将其归纳为三大维度，即技术内生安全风险、技术应用安全风险和衍生安全风险。
首先是技术内生安全风险，源于模型算法的固有属性，包括训练数据投毒、模型窃取与逆向攻击等，攻击者可通过篡改训练数据植入错误信息，或通过API调用还原模型参数，窃取核心知识产权。
其次是技术应用安全风险，集中在API接口暴露、数据流转失控与权限管理缺陷等方面。对象级授权失效漏洞可使攻击者通过修改API请求参数绕过权限控制，越权访问其他用户的敏感数据。精心构造的恶意提示词还可能诱导模型泄露训练数据中的API密钥、个人隐私乃至专有代码。此外，攻击者通过在用户输入中植入隐蔽指令，可诱导AI智能体忽略预设安全规则，执行删库、转账等未授权操作，甚至以AI的合法身份在企业内网横向渗透。
第三类是衍生安全风险，以深度伪造技术为代表，利用生成式AI合成高度逼真的虚假图像、音频和视频，被广泛用于精准金融诈骗、个人名誉损毁、虚假舆论操纵等非法活动。
从攻击态势来看，AI技术本身正被攻击者作为“超级武器”加以利用。AI可生成高逼真度的钓鱼邮件，利用自然语言能力绕过传统识别机制，精准诱骗用户中招。AI驱动的勒索软件已能自动完成漏洞扫描、横向移动等攻击链条，实现全流程无人化操作。同时，云服务配置错误导致用户聊天记录、API密钥等敏感信息批量泄露的事件也屡有发生，暴露出AI基础设施安全管理的短板。
全生命周期防护体系成为共识
面对AI安全风险的多点爆发，全球主要国家和地区正加快构建合规监管体系。国际上，欧盟《AI法案》及ISO/IEC 42001标准也提出了类似的管理要求，全球AI合规治理呈现趋严态势。我国也已出台《生成式人工智能服务管理暂行办法》，构建起全方位的人工智能安全治理框架，为行业健康发展划定清晰的法律红线与合规边界。
在防护体系建设方面，胡程程提出应构建贯穿数据、训练、部署、运维到退出五大阶段的纵深防御体系。
在数据层面，需从源头把控，对敏感信息进行脱敏清洗与分类分级，同时通过数据增强技术扩充样本多样性，既保障数据质量又降低隐私泄露风险。训练阶段则需实施环境隔离，引入对抗性训练提升模型鲁棒性，并部署后门检测算法及时发现并阻断恶意数据注入。此外，通过模型加密存储与隐形数字水印技术，可在产权保护层面为模型资产加上一道锁。
模型上线部署后，安全防线需向运行时延伸。一方面要加强对API接口的身份认证与权限管控，建立严格的输入输出审核机制，防范提示词注入与违规内容生成；另一方面要构建运行时行为基线，实时监控异常调用模式与数据流向，及时阻断窃取行为，并定期迭代防护策略。
当模型最终退出服务时，还需执行安全销毁流程，彻底清除模型参数、训练数据及运行日志，确保资产退出全程无信息泄露。
胡程程强调，这种全链路管控的核心不在于每个环节平均用力，而在于将安全能力内嵌到研发、运营的日常流程中，形成从数据采集到模型退出的闭环管理，高效应对AI时代“漏洞利用周期从一年缩短至一天”的严峻挑战。
AI安全落地实践
面对AI驱动的攻击升级，胡程程提出“以AI对抗AI”是安全发展的新思路，并分享了“AI for SEC”与“SEC for AI”双轮驱动的防护体系。
基于模型微调、提示词工程与RAG，该体系已应用于情报狩猎、漏洞挖掘、安全运营及钓鱼邮件检测，实现恶意样本自动化逆向、漏洞报告实时生成、事件降噪与跨系统协同，并通过语义推理识别链式攻击。同时，以身份权限为基石，建立从镜像扫描、容器逃逸、内容合规到算法测评、数据防泄漏的闭环防护，并针对Agentic AI风险，采用知识图谱数字身份重构方案，对智能体行为进行动态授权与全链路审计，从而落实资产、身份、权限、插件及管控的治理要求。
胡程程最后指出，以OpenClaw为代表的智能体应用必然是趋势，其正从被动响应的“副驾驶”进化为主动感知、规划、决策、执行的“主动行动者”。企业需建立覆盖身份管理、权限管控、行为审计的管控体系，通过AI网关实现IP管控、访问控制、数据脱敏、Token限速等防护，并构建统一安全管理平台实现全链路可视化溯源。
（扫码可观看直播回放）
