当前，人工智能正从“问答工具”走向“自主执行”，安全边界从数字资产延伸至物理系统。作为制造业大市，佛山正以“再造一个新佛山”为目标，推进数字化转型，企业在研发、生产、调度、客服、供应链等环节加快部署AI应用，AI安全已从实验室问题变为企业生产和城市治理的现实课题。
作为2026年佛山市网络安全宣传周系列活动之一，9月14日，由中共佛山市委网信办主办、佛山市网络安全和信息化协会承办的第四十四期网安大讲堂在线上线下同步开讲，邀请广东技术师范大学网络空间安全学院院长罗建桢现场授课，以《AI安全洞察：风险与防护》为题，围绕“AI安全快速发展、AI加剧安全威胁、AI增强安全防护”三大板块进行讲解。
罗建桢院长首先梳理了当前国内AI安全产业发展格局。伴随大模型、AI智能体技术高速演进，国内AI安全市场保持高速增长，AI能力从简单问答向自主执行持续跃迁，安全边界被不断重塑。一系列海外AI模型测试越界、自主发起网络攻击的真实事件表明：AI安全风险不再只是理论层面的推演，已经转化为可落地发生的现实威胁，对现有网络安全体系形成冲击。
他重点分析，AI加剧安全威胁主要体现在扩增现有威胁和引入新威胁。生成式AI让口令爆破、验证码破解、钓鱼邮件、恶意软件、漏洞利用、深度伪造、社会工程学、黑产大模型等攻击更自动化、工业化、低成本、高逼真，攻击面急剧扩大，传统基于规则和签名的防御体系面临失效风险。
因为AI已经学会把过去依赖人工经验、分步实施的攻击链条，压缩为可批量复制、持续迭代的自动化流程，攻击从“单点工具”演变为“基础设施”，防御方比拼的不再只是漏洞库和规则库，而是算力、模型与响应速度。
更值得警惕的是，智能体具备自主执行能力后，权限管控、环境隔离、供应链的微小疏漏都可能被放大为真实危害。AI可以自主侦察、评估目标、调整策略，失败后迅速转向下一个目标，攻击决策速度远超人类分析师。也就是说，过去需要黑客团队熬夜分析、手动尝试的攻击，现在可能由AI自己完成，它像一个不知疲倦、能同时尝试多种路径的“数字黑客”，一旦发现此路不通就立刻换目标，普通人和企业往往来不及反应。一旦被盯上，后果可想而知。
面对AI加剧的安全威胁，罗建桢院长提出，AI带来的安全问题，需要以AI增强安全防护能力。网络安全正从人人对抗、人机对抗，向基于人工智能的攻防对抗演化。AI驱动安全从“单点检测”演进为“生态自治”，覆盖预测、防御、监测、响应全链条。
其背后有三类集中爆发的安全需求：AI漏洞与AI攻击带来的实战防护需求，智能体发展带来的数据安全需求，以及AI应用带来的全栈安全需求。政企机构需加大安全投入，从被动防御转向主动防御、纵深防御、动态防御，提高实战能力。
这些需求落到安全运营中，意味着AI要在告警研判、事件分析、策略调整和协同处置等环节承担更多具体工作。比如，它可以从海量日志和流量中快速识别异常，把分散的线索关联成完整攻击链条；可以根据威胁变化自动调整防护策略，减少人工重复操作；还可以在多个安全设备与平台之间协同联动，把响应时间从分钟级压缩到秒级。安全人员则更多转向规则制定、策略审核和关键决策，让AI处理它擅长的速度与规模问题，人处理需要判断与责任的问题。
而在具体技术实践中，这些环节又对应着几类关键技术方向。动态防御通过算网安全服务切片、软件定义边界和安全—性能博弈，实现工业互联网差异化安全服务按需配置和APT传播抑制；精准监测利用隐半马尔可夫模型、未知协议逆向解析、多模态时空序列异常检测，提升工控协议和流程工业异常识别能力；智能响应基于深度强化学习进行服务功能链重构，基于知识图谱开展故障根因诊断；算法支撑则通过联邦切分学习、端边云协同和模型轻量化，兼顾隐私保护、计算负载与推理时延。
整体看，AI增强安全防护不是简单叠加工具，而是把安全能力嵌入业务全链条，让防御体系具备自感知、自决策、自响应能力。
作为2026年佛山市网络安全宣传周系列活动之一，本次“网安大讲堂”既揭示AI时代的风险外溢路径，也展示AI增强安全防护的具体实践。接下来，佛山将以网络安全宣传周为契机，推动党政机关、企事业单位和市民提升AI安全素养，强化风险意识、确保安全可控，为城市数字化转型和产业高质量发展筑牢网络安全屏障。
