为了从根源上解决 AI Agent 的安全困境，字节跳动安全研究团队提出了全新的智能体安全框架——Jeddak AgentArmor。关于框架的详细介绍，可以查看上篇文章：为 AI Agent 行为立“规矩”——字节跳动提出 Jeddak AgentArmor 智能体安全框架。本篇文章将继续深入分享该框架下的可信AI Agent。在人工智能技术快速演进的背景下，AI Agent 已经成为复杂任务的

Model Context Protocol（MCP）作为 AI 应用生态系统中的关键协议，为大语言模型与外部工具、数据源的集成提供了标准化接口。随着 MCP 在企业级应用中的快速普及，其安全风险也日益凸显。构建一套智能化的 MCP 安全扫描系统，不仅是技术发展的必然需求，更是保障 AI 生态安全的重要基础设施。作为火山MCP安全的系列文章第3篇，没看过前2期的朋友可以戳这里查看：MCP全生命周期

继LLM（大语言模型）之后，AI Agent（智能体）正掀起新一轮的技术革命。它们不再仅仅是语言的“复读机”，而是能够自主理解、规划并执行现实世界任务的“行动派”。从自动预订旅行、管理复杂的云资源，到处理成千上万封邮件，AI Agent展现出的巨大潜力，预示着一个由AI驱动的自动化新纪元。然而，在这片充满希望的蓝海之下，一股汹涌的暗流正在涌动。2025年5月，AI安全公司Invariant披露了一

凌晨2点，你还在分析一个复杂的告警。PowerShell编码的命令看不懂，进程链路理不清，到底是误报还是真实攻击？老板明早要报告，但你连这个告警是啥都还没搞明白...别慌，这些痛点，火山引擎安全智能体 MCP 都能帮你解决。（文末扫码加入MCP开发者社群）你收到一条告警：传统做法：手动解码base64（5分钟）分析PowerShell脚本（10分钟）查找父进程是否正常（10分钟）关联其他告警（30

摘要：本文旨在深入剖析火山引擎 Model Context Protocol (MCP) 开放生态下的 OAuth 授权安全挑战，并系统阐述火山引擎为此构建的多层次、纵深防御安全方案。面对由 OAuth 2.0 动态客户端注册带来的灵活性与潜在风险，我们设计了从“事前预防”到“事中限制”，再到“事后兜底”的完整安全闭环。该体系通过授权前二次确认、令牌身份与权限隔离、以及 API 级别精细化管控等关

智能体的系统提示词加固是指通过优化，补充，约束系统提示词的内容和结构，增强其对模型“约束力”和“指导性”，让智能体在收到用户的请求时通过安全研判后来决定返回的内容，确保模型在复杂场景下行为可控、安全合规、效果稳定。不同约束的效果可能因“模型类型”、“应用场景”而异，本方案旨在为系统提示词加固提供指导，确保约束在多种情境下的适用性。系统提示词的加固效果受到多种因素的影响，例如“模型类型”、“系统提示

在当今数字化时代，数据已成为驱动各行各业创新发展的核心资源。但随着数据应用的日益广泛，隐私保护问题愈发突出，尤其在跨机构数据合作场景中，如何在不泄露原始数据的前提下实现高效的联合查询与分析，成为亟待破解的难题。对此，字节跳动安全研究团队和南京大学的研究人员共同推出了创新性的隐私保护联合查询系统Jeddak FedQuery，为这一难题提供了突破性解决方案。相关研究成果《Towards Effici

“回音室攻击”（Echo Chamber）的新型越狱方法，可诱骗几乎所有主流大语言模型生成不良内容，Neural Trust 研究员Ahmad Alobaid在一份报告中指出：“与依赖对抗性提示或字符混淆的传统越狱方法不同，回音室攻击利用间接引用、语义引导和多步推理进行攻击”。虽然当今主流大模型已经逐步采用各种防护措施来对抗快速注入和越狱攻击，但是“回音室攻击”都能有效的让大模型产生有害的内容，比

随着AI大模型在各行各业的应用，智能体将作为AI终端参与到数字生活中，身份认证作为核心安全问题，对于智能体来说也不例外，需要一套完善的身份系统来确保智能体之间安全、高效的交互。在本文中，火山引擎云安全团队将分享当前对智能体的身份分析及我们所做的一些访问控制的实践。在企业环境中引入了智能体业务，智能体在运行过程中是作为一个服务身份来运行，还是需求额外的身份？智能体在响应用户请求时是“扮演”用户，还是

随着大模型（Large Language Models, 以下简称LLM）迅猛发展的浪潮中，幻觉（Hallucination）问题逐渐成为业界和学术界关注的焦点。所谓模型幻觉，指的是模型在生成内容时产生与事实不符、虚构或误导性的信息。比如，当你询问“世界上最长的河流是哪条？”模型可能一本正经地回答：“是亚马逊河，位于非洲”，而实际上亚马逊河在南美洲，同时也并不是最长的河流。又或者，当你让LLM介绍

在由 SSL/TLS 编织的现代网络“静默区”中，黑客的指令如同加密电台中的摩尔斯电码般悄然传输。传统安全设备如同戴着眼罩的卫兵，只能听见电流的白噪音。直到我们用模型为攻击行为刻下无法伪造的“行为指纹”，赋予了机器“听见加密心跳”的能力，Cobalt Strike 这个深度潜伏的“隐身刺客”才彻底暴露在安全防护的视野之下，再无藏身之所。在某大型企业的SOC中心，安全工程师注意到一台员工终端设备会访

在人工智能技术爆发式发展的当下，大模型（Large Language Models, 以下简称LLM）凭借其强大的自然语言处理能力，广泛渗透于智能助手、内容创作、代码生成等诸多关键领域，深度重塑着人们的生活与工作范式。然而，随着 LLM 应用场景的持续拓展与深化，一系列严峻的安全挑战接踵而至，其中提示词攻击已逐渐演变为威胁人工智能系统安全的核心隐患，亟待深入剖析与应对。提示词攻击是指攻击者精心构思

本文旨在阐述火山引擎在模型上下文协议（Model Context Protocol, MCP）全生命周期中的安全保障实践。首先介绍MCP的核心概念、技术原理及生态发展现状，随后通过一个交互案例详细剖析其工作流程。核心部分深入分析了MCP面临的七种主要安全风险，包括传统Web服务风险及工具描述投毒、间接提示词注入等新型威胁，并结合具体案例进行说明。最后，本文提出了火山引擎针对性的MCP安全架构与保障