2024：探索前沿科技与艺术的融合盛会：2024AV——开启未来影像新篇章，看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式原创 乌克兰打了一场“以小搏大”的漂亮仗尔冬升的父亲是上世纪50年代的著名导演，母亲则是当时的香港女演员。家族中还有两位赫赫有名的哥哥，秦沛与蒋大卫，也是香港影坛的巨星。正是得益于这种家庭背景，尔冬升从小便接触到了演艺圈，4岁时就开始登台演出，10岁时便已经能够出演男主角。可以说，从小的家庭环境为他铺平了道路，他在同龄人还在为学业烦恼时，已然在为未来的事业积累经验。
关于“2024 AV——开启未来影像新篇章”，我们正处于一场变革性的技术革命和艺术创新浪潮之中。随着人工智能、大数据、5G等前沿科技的快速发展，电影、电视、动画以及各种视觉呈现形式都在寻求跨界融合，以实现更深层次的艺术表达和更广阔的受众覆盖。2024 AV——这一创新性盛会，无疑将引领未来的影像发展方向，标志着一场前所未有的艺术和技术融合盛宴，开启一场深度思考和无限可能的视觉新纪元。
2024 AV，不仅是对当前摄影、视频制作、特效技术的一次全面革新，更是对未来光影艺术、数字内容创作、网络互动、沉浸式体验等方面的一次深度探究。在这一盛会上，我们将汇聚全球顶尖的艺术家、摄影师、导演、制片人、编辑等多元领域的人才，共同探讨如何以前沿科技为媒介，激活观众感官，重塑影像观照，重构视听体验。
2024 AV将以数字化技术为核心驱动力，推动传统媒体和新兴数字媒体之间的无缝连接。通过构建一个集实时捕捉、虚拟现实（VR）、增强现实（AR）、全息投影（3D）等多种技术于一体的虚拟现实平台，2024 AV将在现场提供身临其境的观影体验，让观众能够感受到跨越时空的精神交流和视觉冲击。例如，电影《阿凡达》中运用的Avatar头盔就利用了VR和AR技术，打造出了一个拥有真实身体能力的虚拟世界，使得观众仿佛置身于外星球，与潘多拉星球上的生物产生化学反应，丰富了影片的内容和情感深度。
2024 AV还将引入人工智能和机器学习算法，赋能艺术家进行更自由、更具创造性的表达。例如，在摄影棚中配备智能相机系统，通过深度学习算法，自动识别拍摄对象、环境特征，并在后期处理阶段进行精准校正和优化，大大提高了摄影作品的质量和效果。在视觉编排和剧本创作方面，人工智能也可以辅助编剧和导演进行创意碰撞，预测观众的观看行为和情绪反应，为影片设计出更为富有吸引力的情节和角色设置。
2024 AV也将积极推动跨领域的跨界合作，探讨如何将前沿科技应用于各个艺术门类，如音乐、文学、戏剧、舞蹈、建筑等。通过这种多维度的跨学科对话，我们不仅可以看到不同艺术形式之间的相互影响，还能看到科技进步如何改变我们的审美观念和创作方式，创造出既新颖又独特的艺术作品。
2024 AV以其前瞻性和包容性，将成为一场引领未来影像发展的重要里程碑。它将鼓励艺术家们勇于尝试新的技术和艺术形态，打破传统的艺术边界，使我们的视觉体验更加丰富多彩，同时也将推动前沿科技与艺术深度融合，开启一场具有深远社会影响和文化价值的视觉盛宴。让我们期待这个盛会，一同见证2024 AV，开启未来影像的新篇章！
本文作者分别来自新加坡国立大学、北京大学与清华大学。第一作者王宇豪与共同第一作者屈文杰来自新加坡国立大学，研究方向聚焦于大语言模型中的安全与隐私风险。共同通讯作者为北京大学翟胜方博士，指导教师为新加坡国立大学张嘉恒助理教授。
本研究聚焦于当前广泛应用的 RAG (Retrieval-Augmented Generation) 系统，提出了一种全新的黑盒攻击方法：隐式知识提取攻击 (IKEA)。不同于以往依赖提示注入 (Prompt Injection) 或越狱操作 (Jailbreak) 的 RAG 提取攻击手段，IKEA 不依赖任何异常指令，完全通过自然、常规的查询，即可高效引导系统暴露其知识库中的私有信息。
在基于多个真实数据集与真实防御场景下的评估中，IKEA 展现出超过 91% 的提取效率与 96% 的攻击成功率，远超现有攻击基线；此外，本文通过多项实验证实了隐式提取的 RAG 数据的有效性。本研究揭示了 RAG 系统在表面「无异常」交互下潜在的严重隐私风险。
本研究的论文与代码已开源。
总述
大语言模型 (LLMs) 近年来在各类任务中展现出强大能力，但它们也面临一个核心问题：无法直接访问最新或领域特定的信息。为此，RAG (Retrieval-Augmented Generation) 系统应运而生——它为大模型接入外部知识库，让生成内容更准确、更实时。
然而，这些知识库中往往包含私有或敏感信息。一旦被恶意利用，可能导致严重的数据泄露。以往的攻击方式多依赖明显的「恶意输入」，比如提示注入或越狱攻击。这类攻击虽然有效，但也有着输入异常、输出重复等典型特征，容易被防御系统识别和拦截。
图1: 使用恶意查询进行逐字信息提取与使用良性查询进行知识提取 (IKEA) 之间的对比
为突破防御机制对现有提取攻击的限制，本文提出了一种全新的隐式知识抽取框架：IKEA (Implicit Knowledge Extraction Attack)。该方法不依赖任何越权指令或特异化提示语，而是通过自然、常规的查询输入，逐步引导 RAG 系统暴露其内部知识库中的私有或敏感信息。IKEA 的攻击流程具备高度自然性与隐蔽性。
其核心步骤包括：首先，基于已知的系统主题构建一组语义相关的锚点概念 (Anchor concepts)；随后，围绕这些概念生成符合自然语言习惯的问题，用于触发系统检索相关文档；最终，通过两项关键机制对攻击路径进行优化与扩展：
上述机制协同工作，使得攻击过程在保持输入自然性的同时，能够在多轮交互中高效提取 RAG 系统所依赖的外部知识内容。实验证明，IKEA 可在常规输入检测与输出过滤等防御机制下维持高成功率与提取效率，展现出强大的鲁棒性与现实威胁潜力。
方法概览：如何实现「看似正常」的提问？
具体而言，IKEA 首先从与系统主题相关的概念词中筛选出可能有效的锚点概念，并结合历史响应信息过滤无关或无效的概念。
锚点概念数据库的初始化如下：
随后，系统围绕这些锚点概念自动生成语义自然、表达通顺的问题，引导 RAG 返回内容丰富的答案，从而在多轮交互中不断扩大对隐私知识的覆盖。这种策略使攻击过程更加隐蔽，难以被传统检测手段发现。下文给出了「良性」问题的具体生成方式：
该方法设计了两项关键机制以确保知识提取效率：
经验反思采样 (Experience Reflection Sampling)
每个候选锚点概念的采样概率由如下惩罚得分函数定义：
最终的采样概率为：
可信域有向变异 (Trust Region Directed Mutation)
图 2: (左) IKEA 整体流程图；(右) TRDM 示意图
其中：
实验结果：IKEA 的提取效率远超基线方法
研究团队在三个不同领域数据集 (医疗-HealthCareMagic100k、小说-HarryPotter、百科-Pokémon) 上测试了 IKEA 攻击效果。以下是 IKEA 与其他攻击方法在「无防御」、「输入检测」、「输出过滤」三种防御策略下的比较：
表 1: 在三种数据集上不同防御策略下的攻击效果对比分析
提取知识是否「有用」？
研究团队围绕知识有效性开展了两类实验：其一，评估提取出的知识在对应文档相关的问答任务中的表现；其二，评估在有限轮次攻击下所提取知识对完整知识库的覆盖与支撑能力。实验结果表明，IKEA 不仅能够高效提取 RAG 系统中的信息，而且所提取的知识在问答任务中展现出良好的实用性，其性能接近于使用原始知识库时的表现。
图 3: 在三种不同知识库设定下的选择题 (MCQ) 与问答 (QA) 任务结果对比
表 2: 在不同防御与不同基线下提取的知识作为参考的选择题与问答任务结果对比
表 3: 基于不同攻击方法提取数据构建的 RAG 系统在完整知识库上的评估结果
总结
乌克兰打了一场“以小搏大”的漂亮仗，名为“蛛网”。
乌克兰安全局局长马柳克观看五个俄空军基地的沙盘模型
6月1日，117架偷运进俄罗斯、藏在卡车集装箱的乌克兰无人机被唤醒，同时对俄罗斯的五大战略性军用机场发起突袭。
乌克兰安全局局长称，无人机击中41架俄战略飞机，估计造成俄方损失超过70亿美元。俄罗斯国防部仅承认两处空军基地受损，第三方卫星图像显示，共有13架俄战略飞机被损坏，其中包括8架图-95轰炸机。
乌克兰袭击的五处空军基地分布图
不排除乌克兰夸大战果的成分，但即便按照最低损失数据推演，俄罗斯也亏大了。
从经济角度来看，乌克兰仅失去廉价的改装无人机，俄罗斯却痛失早已停产、价值数亿美元的战略轰炸机。这种不对称的打击效果完全颠覆传统军事思维，表明资源有限的小国也能对家底殷实的大国造成冲击。凭借这一行动，乌克兰也实现从被动防御俄方导弹到主动摧毁发射源头的转变。
乌克兰无人机藏于集装箱内