现实题材!小伙儿职场受欺与家庭纠葛的深度剖析,看似无害的提问,也能偷走RAG系统的记忆——IKEA:隐蔽高效的数据提取攻击新范式直击股东大会|巨星科技董秘:公司产能转移完成后,输美产品关税将变成消费者全部承担关键金属中框的加入显著提升机身质感,告别塑料廉价感,相比于此前采用的塑料中框,竞争价值也大幅度提升。
《现实题材!职场欺凌与家庭矛盾交织的深度剖析》以一位年轻人在职场中遭遇不公平待遇为主线,通过对他的生活困境和家庭矛盾的深入探讨,揭示了现实社会中的职场欺凌现象及其深层根源。在这个日益重视职业公平的现代社会,职场竞争日趋激烈,各种形式的职场欺凌问题开始频繁发生:从不公正的职业晋升机会到恶意贬低和排挤,再到肆意散播谣言和攻击他人人格,这些都使得职场空间变得极度狭窄。
主人公在步入职场之初,凭借自身的努力与才华崭露头角,但由于行业规则与文化环境的影响,他很快面临着诸多挑战——职场欺凌使他在工作中遭受不公平待遇,如被同事私下议论、工作压力大、工资待遇不合理等,让他的职业生涯受到了极大的阻碍。他并未沉溺于职场的阴影之中,而是选择积极面对困难,勇于向公司管理层反映并提出解决方案。通过与同事的沟通交流,他逐渐了解到职场欺凌背后的问题所在,并决心将此视为自我成长的契机。在此过程中,他不仅学会如何保持冷静应对外界的压力,更深刻理解到了企业制度规范的重要性和尊重员工权益的重要性。
家庭关系也成为了这部小说所关注的重点之一。主人公的父亲因一场意外离世,这给他带来了沉重的家庭负担和精神打击,让他在面对家庭矛盾时更加困惑与无助。他并没有因此消沉,而是选择了与家人共同面对生活中的困苦,并积极参与社区服务活动,用实际行动为自己的家庭和社会贡献一份力量。这样的经历促使他在职场生活中始终坚持对工作的热爱与责任感,同时也锻炼了他的情感调节能力和人生观。
《现实题材!职场欺凌与家庭矛盾交织的深度剖析》通过描绘真实的职场人困境以及家庭矛盾所带来的心理压力,强调了职场公平与家庭幸福之间的紧密联系,展现了当代青年面对职场、家庭挑战时的坚韧意志和人性光辉。该作品以其深入的人文关怀与生动的人物塑造,引发读者对于当今社会环境下职场人员的心理状态和价值观重新审视,旨在引导人们认识到,只有当我们在追求事业成功的切实保障个人尊严和家人的幸福,才能在职场和家庭生活中找到真正的平衡和满足。
本文作者分别来自新加坡国立大学、北京大学与清华大学。第一作者王宇豪与共同第一作者屈文杰来自新加坡国立大学,研究方向聚焦于大语言模型中的安全与隐私风险。共同通讯作者为北京大学翟胜方博士,指导教师为新加坡国立大学张嘉恒助理教授。
本研究聚焦于当前广泛应用的 RAG (Retrieval-Augmented Generation) 系统,提出了一种全新的黑盒攻击方法:隐式知识提取攻击 (IKEA)。不同于以往依赖提示注入 (Prompt Injection) 或越狱操作 (Jailbreak) 的 RAG 提取攻击手段,IKEA 不依赖任何异常指令,完全通过自然、常规的查询,即可高效引导系统暴露其知识库中的私有信息。
在基于多个真实数据集与真实防御场景下的评估中,IKEA 展现出超过 91% 的提取效率与 96% 的攻击成功率,远超现有攻击基线;此外,本文通过多项实验证实了隐式提取的 RAG 数据的有效性。本研究揭示了 RAG 系统在表面「无异常」交互下潜在的严重隐私风险。
本研究的论文与代码已开源。
总述
大语言模型 (LLMs) 近年来在各类任务中展现出强大能力,但它们也面临一个核心问题:无法直接访问最新或领域特定的信息。为此,RAG (Retrieval-Augmented Generation) 系统应运而生——它为大模型接入外部知识库,让生成内容更准确、更实时。
然而,这些知识库中往往包含私有或敏感信息。一旦被恶意利用,可能导致严重的数据泄露。以往的攻击方式多依赖明显的「恶意输入」,比如提示注入或越狱攻击。这类攻击虽然有效,但也有着输入异常、输出重复等典型特征,容易被防御系统识别和拦截。
图1: 使用恶意查询进行逐字信息提取与使用良性查询进行知识提取 (IKEA) 之间的对比
为突破防御机制对现有提取攻击的限制,本文提出了一种全新的隐式知识抽取框架:IKEA (Implicit Knowledge Extraction Attack)。该方法不依赖任何越权指令或特异化提示语,而是通过自然、常规的查询输入,逐步引导 RAG 系统暴露其内部知识库中的私有或敏感信息。IKEA 的攻击流程具备高度自然性与隐蔽性。
其核心步骤包括:首先,基于已知的系统主题构建一组语义相关的锚点概念 (Anchor concepts);随后,围绕这些概念生成符合自然语言习惯的问题,用于触发系统检索相关文档;最终,通过两项关键机制对攻击路径进行优化与扩展:
上述机制协同工作,使得攻击过程在保持输入自然性的同时,能够在多轮交互中高效提取 RAG 系统所依赖的外部知识内容。实验证明,IKEA 可在常规输入检测与输出过滤等防御机制下维持高成功率与提取效率,展现出强大的鲁棒性与现实威胁潜力。
方法概览:如何实现「看似正常」的提问?
具体而言,IKEA 首先从与系统主题相关的概念词中筛选出可能有效的锚点概念,并结合历史响应信息过滤无关或无效的概念。
锚点概念数据库的初始化如下:
随后,系统围绕这些锚点概念自动生成语义自然、表达通顺的问题,引导 RAG 返回内容丰富的答案,从而在多轮交互中不断扩大对隐私知识的覆盖。这种策略使攻击过程更加隐蔽,难以被传统检测手段发现。下文给出了「良性」问题的具体生成方式:
该方法设计了两项关键机制以确保知识提取效率:
经验反思采样 (Experience Reflection Sampling)
每个候选锚点概念的采样概率由如下惩罚得分函数定义:
最终的采样概率为:
可信域有向变异 (Trust Region Directed Mutation)
图 2: (左) IKEA 整体流程图;(右) TRDM 示意图
其中:
实验结果:IKEA 的提取效率远超基线方法
研究团队在三个不同领域数据集 (医疗-HealthCareMagic100k、小说-HarryPotter、百科-Pokémon) 上测试了 IKEA 攻击效果。以下是 IKEA 与其他攻击方法在「无防御」、「输入检测」、「输出过滤」三种防御策略下的比较:
表 1: 在三种数据集上不同防御策略下的攻击效果对比分析
提取知识是否「有用」?
研究团队围绕知识有效性开展了两类实验:其一,评估提取出的知识在对应文档相关的问答任务中的表现;其二,评估在有限轮次攻击下所提取知识对完整知识库的覆盖与支撑能力。实验结果表明,IKEA 不仅能够高效提取 RAG 系统中的信息,而且所提取的知识在问答任务中展现出良好的实用性,其性能接近于使用原始知识库时的表现。
图 3: 在三种不同知识库设定下的选择题 (MCQ) 与问答 (QA) 任务结果对比
表 2: 在不同防御与不同基线下提取的知识作为参考的选择题与问答任务结果对比
表 3: 基于不同攻击方法提取数据构建的 RAG 系统在完整知识库上的评估结果
总结
每经记者|黄鑫磊 每经编辑|文多
6月3日,巨星科技(SZ002444,股价24.24元,市值289.54亿元)召开了2024年年度股东大会。
众多投资者参加巨星科技2024年年度股东大会 图片来源:每经记者 黄鑫磊 摄
《每日经济新闻》记者看到,此次巨星科技年度股东大会吸引了数十名投资者现场参与。不少股东在会后与董秘周思远等高管展开交流。
谈及美国当前关税政策的影响时,董事长仇建平在会上表示,预计今年公司订单量会略微减少,销售额也会受到影响,但从明年开始会逐步恢复并持续上升。因为美国市场的需求会持续增长,而美国客户的订单基本是交给中国企业。
最终,美国加征的关税将由终端消费者承担
巨星科技主要产品包括手工具、电动工具、工业工具类,这些产品主要用于家庭住宅维护、建筑工程、车辆维修养护、地图测量测绘等领域。其中,家庭建筑及其相关维修维护产业是最重要也是占比最高的应用渠道。
巨星科技2024年年报披露,公司去年实现营收147.95亿元,同比增长35.37%,实现归母净利润23.04亿元,同比增长36.18%。分地区来看,来自美洲的营业收入高达93.87亿元,占总营收的63.44%。
巨星科技在年报中表示,美国政府不计后果的关税壁垒行为给行业发展带来了更多的不确定性,行业格局特别是全球供应链体系势必发生巨大的变化,美国可能发生再次通胀和市场预期美联储降息救市的矛盾状况将使得问题更加复杂。
另外,公司2025年一季报显示,受限于产能特别是东南亚产能严重不足,一季度仅实现销售收入同比增长10.59%。
巨星科技还在一季报中进一步分析说,4月2日,美国总统特朗普签署了所谓“对等关税”的行政令,并在其后不断变更具体规定,短期内对公司的产品交付产生较大影响。对此,公司积极应对并充分考虑相关风险。一季度公司对部分资产进行了减值和计提,对净利润产生了一定的影响。