06 · 企业级 AI Agent 开发教程--安全与对齐：Prompt 注入防御 / Guardrails / 数据安全 / 审计日志

本文是《企业级 AI Agent 开发教程》的系列文章：“06 · 安全与对齐：Prompt 注入防御 / Guardrails / 数据安全 / 审计日志”学习目标：掌握企业级 Agent 的全面安全防护，保护公司数据安全，防御各类攻击，满足合规要求。一、Agent 的安全威胁全景企业 Agent 面临的主要安全威胁： ┌─────────────────────────────────────────────────────┐ │ 攻击面 │ ├──────────────┬──────────────────────────────────────┤ │ 输入攻击 │ Prompt 注入、越狱、角色扮演绕过 │ │ 数据攻击 │ 训练数据投毒、知识库污染 │ │ 工具滥用 │ 越权调用、SQL注入、命令注入 │ │ 信息泄露 │ 系统提示词泄露、用户数据跨污染 │ │ 业务逻辑 │ 欺骗 Agent 做出不当决策 │ │ 供应链 │ 第三方工具被注入恶意指令