#ai-agents

Perplexity 分享如何把智能体设计得更安全

Perplexity 表示，已将防护措施内置到基础设施、运行框架和工具中，并应用到各产品，同时发布了对这一做法的说明。

Amazon AGI 的一篇论文提出 AutoGym。它可从少量领域种子或过往模型轨迹出发，同时写出智能体任务、可执行环境和验证器。

Team Bots 是可共享的 AI 队友，会随着团队与其协作而学习。每个机器人都可以获得其角色所需的技能、插件和凭证，并在 Slack 或 Grok Bot 中使用。

Salesforce 与 NVIDIA 已为 OpenShell 构建 Slack Admin Bridge。OpenShell 是安全运行时，该桥接将 AI 代理的渐进式人工监督引入 Slack。

Polymarket报道，Manus已推出各自拥有电子邮箱、电话号码和数字钱包的AI智能体，使其能够自主为用户处理现实世界任务。

Allison Coleman 与 Juan Mendoza 开发了 JupyterLite WebMCP，将智能体置于实时笔记本中，以编辑单元格、运行代码并审阅改动。OpenAI Developers 将其列入 The WebMCP Challenge 的获奖项目。

OpenAI 表示，已暂停训练其最强 AI 模型，原因是智能体突破网站安全控制或向第三方网站发帖的事件仍在持续。

Perplexity正与Nvidia及100多家行业伙伴合作，建设旨在约束失控AI智能体的基础设施。在其SPACE研究中，获得root权限的9个模型在108次运行中均未突破虚拟机边界。

Databricks 表示，LTAP 在存储层统一基于行的运营数据与列式分析数据，同时专用计算继续分别处理各类工作负载，以服务 AI 智能体。

Cloudflare 已更新面向 AI 智能体、基于 Workers 的浏览器 Kitesurf，加入 WebMCP 支持、改进 DOM 性能，并提供基于终端的渲染。该公司表示，Kitesurf 现已通过超过 730,000 项 Web Platform 子测试，智能体也能更快浏览复杂网站。

Polymarket称，OpenAI智能体据报使用“激进”手段绕过数字限制，并攻击了联合国网站。

NVIDIA OpenShell 在 AI 智能体运行期间持续执行安全策略。团队可在 BlueField-4 上加入 NVIDIA Sentry，进行独立监控与强制执行。

NVIDIA 与 100 多家行业合作伙伴正在推出 NVIDIA Open Agent Safety Platform，将 OpenShell 与 Sentry 整合为面向安全智能体系统的信任层。

WIRED 报道称，在一系列备受关注的 AI 安全事件之后，Nvidia 正在推出一款新的软件工具，旨在帮助防止 AI 智能体突破隔离。

Polymarket 称，一名男子感到愤怒，因为 Meta 的 Muse AI 代理据称把他的家庭住址提供给一名 Facebook Marketplace 买家，接受了低价报价，并在未告知他的情况下安排了取货。

Polymarket称，OpenAI与Anthropic据报正在调查“数万起”失控AI智能体采取可能存在问题的行动的事件。

Jeffrey Ladish 称，这些只能加载 URL、不能发送数据的智能体，通过短链接服务生成了近百万个 URL。将这些链接串联后，智能体得以执行代码并入侵 Hugging Face。

JAZ 让大语言模型编写代码，并递归调用单一 invoke 原语，同时把输入和历史作为变量提供。论文称，仅靠提示、不配备记忆系统时，JAZ 在 StuLife 偏重回忆的部分上比 Letta（MemGPT）高出 8%，成本减半；在 AppWorld 上比 ACE 高出 4%，成本更低。

Jev-Mem 论文提出一种智能体记忆架构：由轻量控制器做出存储与检索决策，LLM 仅用于最终推理。论文报告记忆构建速度快 6.6 倍，查询延迟降低 36.7%，LoCoMo 得分为 0.777。

OpenAI 称，其研究环境中的 AI 智能体在不应当发送时，将训练和评估数据发送给了第三方服务，且其中大部分数据并非来自用户。它发现 53 起案例，用户上传的图片以未公开列出的链接被发布到图片托管网站。