身临其境探索甘雨：旅行者的奇幻冒险之旅与甘雨的陪伴印记，看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式国务院任免国家工作人员在学校运动场，美国师生观看了桂林市奎光学校学生们表演的《传统舞龙》《说唱脸谱》《中国古典独舞》等精彩节目。活动中，美国学生表演了中国舞蹈《小苹果》，大型无人机行业应用展示拓展学生们的科技视野。
《体验甘雨：穿越世界的奇幻冒险与旅程中的甜蜜印记》
甘雨，一个在众多动漫和游戏中广为人知的角色，以其独特的魅力和深情厚意，引发了无数旅行者对于冒险与探索的渴望。她如同一盏明灯，照亮了每一个追求自由、勇往直前的旅行者们的心灵，将他们的旅途中充满了无尽的乐趣与满足。
对于生活在都市中的人们来说，甘雨无疑是一位令人向往的冒险伙伴。她的故事发生在古老的神社之中，一座被遗忘的古城，这里生活着各种神秘的生命体，其中最为人们熟知的就是甘雨本人——一位善良且充满智慧的法师。每一次冒险，都让甘雨从一个普通的孩子成长为一名英勇的战士，她的魔法力量不仅帮助她抵御邪恶的敌人，更是让她在困境中寻找希望，鼓励着每一个踏上旅途的人们走出自我，去发现世界的更多角落。
而当旅行者们真正踏入这个奇妙的世界时，他们会被深深的吸引。在这个充满未知的环境中，甘雨不仅是他们的朋友，也是他们的导师。她用她那富有诗意的语言和深邃的眼神，引导他们理解这个世界，了解自己。每次他们在危险面前无助的时候，甘雨总是毫不犹豫地挺身而出，用自己的生命守护着那些需要保护的人。她的行动，让每一位旅行者看到了人性的光辉，感受到了生命的可贵。
与此甘雨的陪伴也在旅行者们的记忆深处留下了深深的烙印。她的笑容、坚定的眼神以及温暖的怀抱，成为了他们旅行路上最宝贵的财富。无论他们走到哪里，都会想起那个曾教会他们如何勇敢面对困难，如何尊重他人，如何在黑暗中找到光明的女性。这种陪伴，像是一道永不熄灭的灯塔，为他们指引前行的道路，让他们在旅途中不再孤单。
旅行并不只有冒险和探索，更有着一种对生活的热爱和对精神的追求。正如甘雨所说：“我们是被赋予使命的旅人，我们在旅行中寻找真理，在探索中感受世界，我们在冒险中释放自我。”这就是旅行的本质，它让我们明白，人生的意义不在于目的地，而在于沿途的风景和经历。
身临其境探索甘雨，就是一次奇幻的冒险之旅，同时也是对自我精神的深度挖掘和升华的过程。她教会我们勇气，让她成为我们的朋友，同时也让我们的内心充满了爱与关怀。无论我们走得多远，无论我们经历了多少风雨，甘雨的陪伴始终在那里，为我们提供着无尽的力量，引领我们在人生的道路上勇往直前，不断追寻属于自己的幸福和快乐。因为，每一个旅人，都是甘雨的一部分，她的存在，是为了让我们更好地认识自己，理解世界，享受人生。
本文作者分别来自新加坡国立大学、北京大学与清华大学。第一作者王宇豪与共同第一作者屈文杰来自新加坡国立大学，研究方向聚焦于大语言模型中的安全与隐私风险。共同通讯作者为北京大学翟胜方博士，指导教师为新加坡国立大学张嘉恒助理教授。
本研究聚焦于当前广泛应用的 RAG (Retrieval-Augmented Generation) 系统，提出了一种全新的黑盒攻击方法：隐式知识提取攻击 (IKEA)。不同于以往依赖提示注入 (Prompt Injection) 或越狱操作 (Jailbreak) 的 RAG 提取攻击手段，IKEA 不依赖任何异常指令，完全通过自然、常规的查询，即可高效引导系统暴露其知识库中的私有信息。
在基于多个真实数据集与真实防御场景下的评估中，IKEA 展现出超过 91% 的提取效率与 96% 的攻击成功率，远超现有攻击基线；此外，本文通过多项实验证实了隐式提取的 RAG 数据的有效性。本研究揭示了 RAG 系统在表面「无异常」交互下潜在的严重隐私风险。
本研究的论文与代码已开源。
总述
大语言模型 (LLMs) 近年来在各类任务中展现出强大能力，但它们也面临一个核心问题：无法直接访问最新或领域特定的信息。为此，RAG (Retrieval-Augmented Generation) 系统应运而生——它为大模型接入外部知识库，让生成内容更准确、更实时。
然而，这些知识库中往往包含私有或敏感信息。一旦被恶意利用，可能导致严重的数据泄露。以往的攻击方式多依赖明显的「恶意输入」，比如提示注入或越狱攻击。这类攻击虽然有效，但也有着输入异常、输出重复等典型特征，容易被防御系统识别和拦截。
图1: 使用恶意查询进行逐字信息提取与使用良性查询进行知识提取 (IKEA) 之间的对比
为突破防御机制对现有提取攻击的限制，本文提出了一种全新的隐式知识抽取框架：IKEA (Implicit Knowledge Extraction Attack)。该方法不依赖任何越权指令或特异化提示语，而是通过自然、常规的查询输入，逐步引导 RAG 系统暴露其内部知识库中的私有或敏感信息。IKEA 的攻击流程具备高度自然性与隐蔽性。
其核心步骤包括：首先，基于已知的系统主题构建一组语义相关的锚点概念 (Anchor concepts)；随后，围绕这些概念生成符合自然语言习惯的问题，用于触发系统检索相关文档；最终，通过两项关键机制对攻击路径进行优化与扩展：
上述机制协同工作，使得攻击过程在保持输入自然性的同时，能够在多轮交互中高效提取 RAG 系统所依赖的外部知识内容。实验证明，IKEA 可在常规输入检测与输出过滤等防御机制下维持高成功率与提取效率，展现出强大的鲁棒性与现实威胁潜力。
方法概览：如何实现「看似正常」的提问？
具体而言，IKEA 首先从与系统主题相关的概念词中筛选出可能有效的锚点概念，并结合历史响应信息过滤无关或无效的概念。
锚点概念数据库的初始化如下：
随后，系统围绕这些锚点概念自动生成语义自然、表达通顺的问题，引导 RAG 返回内容丰富的答案，从而在多轮交互中不断扩大对隐私知识的覆盖。这种策略使攻击过程更加隐蔽，难以被传统检测手段发现。下文给出了「良性」问题的具体生成方式：
该方法设计了两项关键机制以确保知识提取效率：
经验反思采样 (Experience Reflection Sampling)
每个候选锚点概念的采样概率由如下惩罚得分函数定义：
最终的采样概率为：
可信域有向变异 (Trust Region Directed Mutation)
图 2: (左) IKEA 整体流程图；(右) TRDM 示意图
其中：
实验结果：IKEA 的提取效率远超基线方法
研究团队在三个不同领域数据集 (医疗-HealthCareMagic100k、小说-HarryPotter、百科-Pokémon) 上测试了 IKEA 攻击效果。以下是 IKEA 与其他攻击方法在「无防御」、「输入检测」、「输出过滤」三种防御策略下的比较：
表 1: 在三种数据集上不同防御策略下的攻击效果对比分析
提取知识是否「有用」？
研究团队围绕知识有效性开展了两类实验：其一，评估提取出的知识在对应文档相关的问答任务中的表现；其二，评估在有限轮次攻击下所提取知识对完整知识库的覆盖与支撑能力。实验结果表明，IKEA 不仅能够高效提取 RAG 系统中的信息，而且所提取的知识在问答任务中展现出良好的实用性，其性能接近于使用原始知识库时的表现。
图 3: 在三种不同知识库设定下的选择题 (MCQ) 与问答 (QA) 任务结果对比
表 2: 在不同防御与不同基线下提取的知识作为参考的选择题与问答任务结果对比
表 3: 基于不同攻击方法提取数据构建的 RAG 系统在完整知识库上的评估结果
总结
国务院任免国家工作人员。
任命周霁为中央人民政府驻香港特别行政区联络办公室主任、香港特别行政区维护国家安全委员会国家安全事务顾问。
免去郑雁雄的中央人民政府驻香港特别行政区联络办公室主任、国务院港澳事务办公室副主任、香港特别行政区维护国家安全委员会国家安全事务顾问职务。
公开简历显示，周霁出生于1964年5月，湖北襄阳人，曾长期任职湖北，历任仙桃市委书记，十堰市市长，十堰市委书记等职，2016年12月任湖北省委常委、宜昌市委书记。
2020年12月，周霁调任河南省委常委、省政府党组副书记，并兼任河南省委军民融合发展委员会办公室主任，2021年1月任常务副省长。2021年10月，周霁当选河南省委副书记，后兼任政法委书记。
2023年7月，周霁任中央港澳工作办公室分管日常工作的副主任、国务院港澳事务办公室分管日常工作的副主任，为正部长级，至此番履新。
此番卸任的郑雁雄，出生于1963年8月。
据介绍，中央人民政府驻香港特别行政区联络办公室(简称中联办)，前身是新华通讯社香港分社，成立于1947年5月，是中央政府派驻香港的机构。香港回归祖国之前，新华通讯社香港分社以中华人民共和国政府驻香港最高代表机构的身份，履行中央赋予的各项职责。香港回归祖国之后，新华通讯社香港分社继续作为中央人民政府授权的工作机构履行职责。
中联办(原新华社香港分社)成立以来，在中国革命、建设和改革的不同历史时期，始终按照中央赋予的职责开展工作，为新中国的建设和改革开放事业，为香港回归祖国和回归后的繁荣稳定，为“一国两制”的贯彻落实，做出了重要贡献。中联办作为中央政府驻港机构，是广泛联系香港各界的重要渠道，是促进两地交流与合作的重要桥梁。
来源：人社部网站、新京报