2025年8月23日至24日,由中国信息协会主办的第一届全国大学生人工智能安全竞赛作品赛在北京举行。由浙江大学区块链与数据安全全国重点实验室秦湛老师指导,胡凯淳、潘彤彤、夏春舒、黄恩浩组成的队伍开发了《PromptDefender:基于内容级语义验证的Prompt知识产权保护平台》,经过激烈的角逐,该项目从全国88所高校的296件参赛作品中脱颖而出,荣获一等奖。
赛事介绍
全国大学生人工智能安全竞赛是国内首个专注于人工智能安全领域的大学生竞赛,由中国信息协会主办,旨在选拔、推荐优秀人工智能安全专业人才,培养大学生的创新意识与团队合作精神,提高他们的人工智能安全技术水平、创新实践与综合设计能力,推动我国高校网络空间安全和人工智能相关专业建设与改革。2025年大赛设置“人工智能安全作品赛”和“人工智能安全对抗赛”两个赛道,其中,“人工智能安全作品赛”赛道收到来自全国88所高校的296件参赛作品。经过专家评审,最终评选出一等奖作品32件,二等奖作品41件,三等奖作品45件。
作品介绍
PromptDefender是一款面向大语言模型应用环境设计的提示词版权保护全生命周期管理系统,专门针对仅输出可见场景构建了一套轻量化、高鲁棒性的版权保护方案。该系统采用端到端的设计理念,覆盖从提示词初始设计、系统部署到侵权行为监测的完整保护流程,其技术架构基于水印嵌入-版权验证的双阶段处理模型,将先进的语义层面内容分析技术与优化算法进行了深度融合。
PromptDefender的核心技术贡献在于有效解决了传统水印方法对大语言模型内部计算状态信息的强依赖性问题,这一突破使得提示词版权保护机制能够在当前主流的黑盒服务架构下正常运行。
提示词窃取示意图
PromptDefender系统方案
向获奖同学和指导教师表示热烈祝贺!祝愿他们在今后的科研与竞赛中勇攀高峰、再创佳绩!