AI 记忆时代的隐私困境在 AI 记忆时代Agent 越来越像真正的私人助理它能记住用户习惯、日程理解健康状态还能形成「个人画像」。然而问题也随之而来如果这些记忆都要上云隐私还安全吗OpenAI 与 MemPrivacy 的登场4 月 22 日OpenAI 开源了名为 privacy - filter 的轻量级隐私过滤模型试图解决大模型系统中的 PII 检测与脱敏问题。仅仅两周后记忆张量 MemTensor 团队与荣耀 HONOR 团队联合研发同济大学也参与其中正式开源了面向端云协同 Agent 的隐私保护框架与系列模型 MemPrivacy。令人意外的是在同样的真实对话隐私提取任务上MemPrivacy 的 F1 分数最高比 OpenAI privacy - filter 高出 50.47%。OpenAI privacy - filter 的局限OpenAI 的 privacy - filter 思路是扫描文本识别隐私片段然后替换成语义标签。这套模型拥有 1.5B 参数其中激活参数约 50M采用双向 Token 分类架构支持 128k 上下文主打高吞吐量 PII 检测与掩码。但它只提供 8 类基础隐私标签对于需要长期记忆用户、理解上下文的 Agent 来说粒度太粗。比如银行卡号、社保编号等可能被塞进同一个标签登录密码等也可能统统变成一个标签这就像把所有危险物品都贴上「危险」两个字安全了但语义被抹平。粗粒度标签还会导致漏判或误判使隐私过滤进入两难局面。MemPrivacy 的核心思路与流程记忆张量 MemTensor 团队提出的 MemPrivacy核心思路是本地可逆伪匿名化。整个流程分为三步第一步端侧上行脱敏本地运行轻量级 MemPrivacy 模型识别对话中的隐私片段并根据保护等级处理将隐私信息替换为细粒度类型化占位符真实值与占位符的映射关系保存在本地数据库第二步云端安全处理云端大模型看到占位符可继续推理、生成建议等第三步端侧下行恢复本地系统把占位符恢复成真实数值呈现给用户。在用户体验上这个过程几乎是透明的关键敏感数据从未真正离开本地。三种路线对比在端云 Agent 场景里传统隐私保护有两种极端方案。一是无保护用户原始数据直接上云个性化效果好但敏感信息会暴露二是完全过滤所有隐私内容被替换或删除Agent 失去关键语义丧失「长期个性化」基础。而 MemPrivacy 选择细粒度类型化占位符保住了隐私边界和语义结构在隐私保护和 Agent 效用之间取得平衡。硬核实力验证为验证 MemPrivacy 的能力研究团队构建了评测基准 MemPrivacy - Bench还在外部数据集 PersonaMem - v2 上进行 OOD 交叉测试。在提取准确率较量中MemPrivacy 展现出碾压级优势远超 OpenAI 专项模型在跨分布数据集上也领先近 9%。原因是 OpenAI privacy - filter 标签覆盖窄、颗粒度粗对复杂上下文和中文场景适配不足而 MemPrivacy 针对 Agent 长记忆场景重新定义了隐私类型等。此外MemPrivacy 还越级挑战通用大模型在两个数据集上均实现碾压说明隐私提取不是简单堆大参数就能解决的问题。系统效用测试隐私保护还需考虑 Agent 的效用。团队在业界主流记忆系统平台上进行端到端测试结果显示采用传统不可逆掩码时三大记忆系统准确率暴跌模型几乎失忆而在 MemPrivacy 保护下系统效用损失被控制在 0.71% - 1.60% 之间仅选择保护最高风险凭证级隐私时准确率下降不到 0.89%。这意味着 MemPrivacy 在不伤害智能体智商的前提下把隐私泄漏风险降到了最低。四级隐私树分类法MemPrivacy 引入以可识别性、潜在危害性与可利用性为准绳的四级隐私分类法 (PL1 - PL4) 支持用户根据需求自由调控脱敏阈值。PL4 是致命核心级包括明文密码等检测到将严禁进入云端PL3 是高危敏感级如身份证件号等PL2 是身份锚定级如真实姓名等PL1 是基础画像级如作息习惯等。这套分层设计让隐私保护更精细因为不同类型的信息风险不同模型必须理解语义、上下文等。两阶段训练MemPrivacy 采用 Qwen3 系列作为基座训练过程分为两个阶段。第一阶段是 SFT使用 26K 高质量多轮对话数据进行监督微调让模型掌握基础能力第二阶段是 GRPO 强化学习引入基于结构化 Reward 的策略优化用提取结果的 F1 分数反馈模型表现优化模糊边界上的召回率与精确率平衡。结语端云 Agent 的下一块基础设施在万物皆可 Agent 的未来大模型比用户更懂自己是趋势但不能让云端看光用户隐私。OpenAI privacy - filter 敲响了数据清洗和隐私合规的发令枪而 MemPrivacy 为下一代云边协同架构提供了标杆级工程解法对于开发个人 AI 助理和企业级出海应用都有不可估量的价值。荣耀与记忆张量的合作并非偶然MemPrivacy 在荣耀终端设备上的落地是合作的进一步延伸。目前MemPrivacy 的模型权重与评测基准已全部开源隐私与长期记忆之间的墙第一次有了被打通的可能。那么MemPrivacy 能否成为端云 Agent 隐私保护的主流方案呢
MemPrivacy：为端云 Agent 隐私保护带来高精度、低损耗的解决方案！
AI 记忆时代的隐私困境在 AI 记忆时代Agent 越来越像真正的私人助理它能记住用户习惯、日程理解健康状态还能形成「个人画像」。然而问题也随之而来如果这些记忆都要上云隐私还安全吗OpenAI 与 MemPrivacy 的登场4 月 22 日OpenAI 开源了名为 privacy - filter 的轻量级隐私过滤模型试图解决大模型系统中的 PII 检测与脱敏问题。仅仅两周后记忆张量 MemTensor 团队与荣耀 HONOR 团队联合研发同济大学也参与其中正式开源了面向端云协同 Agent 的隐私保护框架与系列模型 MemPrivacy。令人意外的是在同样的真实对话隐私提取任务上MemPrivacy 的 F1 分数最高比 OpenAI privacy - filter 高出 50.47%。OpenAI privacy - filter 的局限OpenAI 的 privacy - filter 思路是扫描文本识别隐私片段然后替换成语义标签。这套模型拥有 1.5B 参数其中激活参数约 50M采用双向 Token 分类架构支持 128k 上下文主打高吞吐量 PII 检测与掩码。但它只提供 8 类基础隐私标签对于需要长期记忆用户、理解上下文的 Agent 来说粒度太粗。比如银行卡号、社保编号等可能被塞进同一个标签登录密码等也可能统统变成一个标签这就像把所有危险物品都贴上「危险」两个字安全了但语义被抹平。粗粒度标签还会导致漏判或误判使隐私过滤进入两难局面。MemPrivacy 的核心思路与流程记忆张量 MemTensor 团队提出的 MemPrivacy核心思路是本地可逆伪匿名化。整个流程分为三步第一步端侧上行脱敏本地运行轻量级 MemPrivacy 模型识别对话中的隐私片段并根据保护等级处理将隐私信息替换为细粒度类型化占位符真实值与占位符的映射关系保存在本地数据库第二步云端安全处理云端大模型看到占位符可继续推理、生成建议等第三步端侧下行恢复本地系统把占位符恢复成真实数值呈现给用户。在用户体验上这个过程几乎是透明的关键敏感数据从未真正离开本地。三种路线对比在端云 Agent 场景里传统隐私保护有两种极端方案。一是无保护用户原始数据直接上云个性化效果好但敏感信息会暴露二是完全过滤所有隐私内容被替换或删除Agent 失去关键语义丧失「长期个性化」基础。而 MemPrivacy 选择细粒度类型化占位符保住了隐私边界和语义结构在隐私保护和 Agent 效用之间取得平衡。硬核实力验证为验证 MemPrivacy 的能力研究团队构建了评测基准 MemPrivacy - Bench还在外部数据集 PersonaMem - v2 上进行 OOD 交叉测试。在提取准确率较量中MemPrivacy 展现出碾压级优势远超 OpenAI 专项模型在跨分布数据集上也领先近 9%。原因是 OpenAI privacy - filter 标签覆盖窄、颗粒度粗对复杂上下文和中文场景适配不足而 MemPrivacy 针对 Agent 长记忆场景重新定义了隐私类型等。此外MemPrivacy 还越级挑战通用大模型在两个数据集上均实现碾压说明隐私提取不是简单堆大参数就能解决的问题。系统效用测试隐私保护还需考虑 Agent 的效用。团队在业界主流记忆系统平台上进行端到端测试结果显示采用传统不可逆掩码时三大记忆系统准确率暴跌模型几乎失忆而在 MemPrivacy 保护下系统效用损失被控制在 0.71% - 1.60% 之间仅选择保护最高风险凭证级隐私时准确率下降不到 0.89%。这意味着 MemPrivacy 在不伤害智能体智商的前提下把隐私泄漏风险降到了最低。四级隐私树分类法MemPrivacy 引入以可识别性、潜在危害性与可利用性为准绳的四级隐私分类法 (PL1 - PL4) 支持用户根据需求自由调控脱敏阈值。PL4 是致命核心级包括明文密码等检测到将严禁进入云端PL3 是高危敏感级如身份证件号等PL2 是身份锚定级如真实姓名等PL1 是基础画像级如作息习惯等。这套分层设计让隐私保护更精细因为不同类型的信息风险不同模型必须理解语义、上下文等。两阶段训练MemPrivacy 采用 Qwen3 系列作为基座训练过程分为两个阶段。第一阶段是 SFT使用 26K 高质量多轮对话数据进行监督微调让模型掌握基础能力第二阶段是 GRPO 强化学习引入基于结构化 Reward 的策略优化用提取结果的 F1 分数反馈模型表现优化模糊边界上的召回率与精确率平衡。结语端云 Agent 的下一块基础设施在万物皆可 Agent 的未来大模型比用户更懂自己是趋势但不能让云端看光用户隐私。OpenAI privacy - filter 敲响了数据清洗和隐私合规的发令枪而 MemPrivacy 为下一代云边协同架构提供了标杆级工程解法对于开发个人 AI 助理和企业级出海应用都有不可估量的价值。荣耀与记忆张量的合作并非偶然MemPrivacy 在荣耀终端设备上的落地是合作的进一步延伸。目前MemPrivacy 的模型权重与评测基准已全部开源隐私与长期记忆之间的墙第一次有了被打通的可能。那么MemPrivacy 能否成为端云 Agent 隐私保护的主流方案呢
