11月23日,由湖南大学国家网络安全学院牵头召集的第九届“强网杯”信息内容安全分论坛在河南郑州成功举办,论坛邀请了来自高校、科研院所及行业领军企业的7位专家,旨在汇聚密码学、数据安全、隐私保护、人工智能模型安全及模型落地应用的安全防护、生成内容溯源等前沿领域的智慧,共同探索构建融合一体的数字安全新范式。本次论坛由湖南大学国家网络安全学院院长唐卓教授与副院长廖鑫教授共同召集,并由廖鑫教授与刘玉玲教授主持,吸引了众多行业从业者、科研工作者及高校师生参会,搭建起高水平的学术交流与产学研协同平台。
电子科技大学计算机科学与工程学院(网络空间安全学院)副院长李洪伟教授作为首位演讲嘉宾,以“人工智能时代的密码技术”为题展开分享。报告中,他分别介绍了AI对密码学的影响、AI对密码工程的影响以及密码技术对AI的增强等内容,为行业发展提供了重要参考。
中国科学技术大学教授、火灾安全全国重点实验室智能多媒体内容计算实验室负责人谢洪涛带来“生成式人工智能模型安全技术研究”专题报告。报告从生成内容安全与模型版权保护两个维度出发,探索解决生成式人工智能面临的有害信息防控、生成行为约束与知识产权保护三方面的问题,通过研究基于负偏好优化的精准概念擦除、多模态大模型输出内容安全对齐和跨模型架构的鲁棒语义水印嵌入,提升生成式人工智能模型的可控性、防御性和通用性。
中国科学院信息工程研究所研究员邓燚聚焦“密态上的计算与证明”主题展开深度解析。报告中,他介绍了同态密文上的计算与证明在机密计算、隐私计算等场景的应用进展,重点分享了团队最近发现的安全性问题,以及新设计的针对全同态加密友好的零知识证明方案Phalank。
中国科学院信息工程研究所研究员、信息内容分析研究室副主任曹亚男以“大模型水印:人工智能生成内容溯源的挑战与机遇”为题进行报告。报告从主动标识和被动检测两个方面,介绍大模型水印和AIGC检测技术的当前进展,全面剖析生成内容溯源面临的挑战与机遇。
武汉大学国家网络安全学院副教授何琨分享了“密态推理:进展与展望”的专题报告。报告系统梳理了密态推理技术的发展历程,针对密态推理过程中普遍存在的计算复杂、计算量大以及难以兼顾推理准确率和效率等难题,详细介绍了当前主流解决方案的设计思路与存在的局限性,分享了课题组如何通过设计高效率和准确率的算法和协议打破这些局限,并分析未来密态推理的发展趋势,探讨通过对推理协议和模型进行协同优化以进一步提升密态推理的性能。
西北工业大学网络空间安全学院副教授朱丹带来“TEE辅助的无泄漏多模态数据安全查询”专题报告。报告介绍了可信执行环境辅助的无泄露多模态数据安全查询技术,提出面向多模态数据查询的轻量级ORAM框架,设计TEE使能的协同效能优化方法,实现客户端-服务端单轮交互的千万级无泄漏高效检索,为多模态数据安全存储与查询提供可行的技术路径。
深信服科技股份有限公司教育事业部运营总监李京伦从产业实践视角出发,带来“从大模型落地应用,谈AI安全防护需求”的精彩分享。报告从大模型落地应用案例深度剖析其安全风险,从宏观视角提出大模型安全边界,通过实际研究展示大模型安全防护与自身安全建设的新思考。
本次论坛中各位专家的前沿分享与深入交流,全面涵盖了密码学、人工智能模型安全、数据隐私保护、生成内容溯源等核心领域,不仅体现出学术研究的深度与广度,也紧密契合产业应用的实际需求,切实打通了理论研究与实践落地之间的壁垒。参会代表认为,论坛议题前沿且务实,内容信息密度高、实用性强。本次信息内容安全分论坛的成功举办,进一步凝聚了行业发展共识,为筑牢国家网络空间安全屏障、促进数字安全产业高质量发展贡献了重要力量。