The above button links to Coinbase. Yahoo Finance is not a broker-dealer or investment adviser and does not offer securities or cryptocurrencies for sale or facilitate trading. Coinbase pays us for ...

一个攻击者要求 Agent 交出公司的模型 API Key，Agent 很可能会拒绝，因为密钥属于敏感信息；但如果攻击者换一种说法，让 Agent 直接使用已经配置好的接口批量生成几十万条数据，它却可能立即开始执行。

我们称之为“加密上下文注入”的新型攻击技术可以绕过安全护栏，通过在加密安全的密文中隐藏攻击者指令，并诱导模型在其自身的代码执行运行时中对其进行解密，从而使这些指令在受信任的上下文中得以处理。这使得攻击者可以利用AI系统的访问权限窃取数据，或修改Agent（智能体）的行为，我们在针对Grok和Gemini的演示中证明了这一点。