当前位置: 首页 >> 新闻动态 >>
正文
筑牢AI时代安全防线 守护数字校园——网络安全周校园日专题讲座顺利举办
2026-09-16 15:50  



9月15日国家网络安全宣传周校园日,网信办联合校团委、研究生院、安全科学与工程学院,邀请杭州安恒信息技术股份有限公司副总裁符春辉,在北教24-101面向博士新生及安全学院研究生开展《让智能更安全-AI风险识别及防范》专题讲座,引导师生辩证看待AI的机遇与风险,共建清朗校园数字环境。

讲座梳理人工智能从弱智能到强智能、再到高能动性 AI Agent的演进过程,讨论议题涵盖技术变革引发的劳动关系调整、权责体系变化、新型安全边界以及各类新安全挑战。符春辉结合真实事件,剖析AI两大核心风险:一是“说错话”的内容安全风险,提示词注入、模型越狱、AI幻觉等攻击,可借助角色扮演、多语言混淆等手段诱导模型输出违规、危险内容,仅靠关键词过滤难以抵御新型攻击;二是“做错事”的行为安全风险,AI智能体获得工具调用能力后,工具投毒、权限滥用、供应链投毒等问题,会造成越权访问、数据泄露等不可逆后果,传统被动防御模式已难以适配。讲座同时解析人脸识别误判、AI伪造诈骗等决策式AI风险。

围绕“调用有主、调用有界、调用有痕”理念,讲座介绍AI全生命周期防护方法,厘清“谁在行动、能做什么、听了谁的话、出事怎么查”四大问题,通过身份校验、审计留痕等手段实现AI应用可管可控,并提醒师生切勿将论文、源代码等敏感资料上传公有大模型。

 

 

互动环节,研究生们围绕图片上传带来的隐私泄露、人脸识别、自动驾驶安全踊跃提问。针对“是否要放弃AI规避数据泄露”的疑问,符春辉提出数据分级分类处置思路,公开资料可使用公有大模型,敏感科研、个人数据优先采用私有化部署,搭配AI安全网关监控异常调用,兼顾使用便利与安全。同时提醒大家使用刷脸功能时认准正规应用与官方认证渠道,防范生物信息滥用。

 

 

本次讲座帮助师生认清AI时代网络安全新形势。下一步,网信办将持续开展网络安全科普,强化师生安全意识,守护校园网络空间安全。 

                                                                            

 

【关闭窗口】