#ai-safety

Polymarket 预测美国通过 AI 安全法案的概率为 5%

Polymarket 预测市场数据显示，美国出台 AI 安全法案的概率为 5%。

Anthropic 正在扩展其网络验证计划，向通过验证的安全专业人员开放 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5 的更大访问权限，并增设支持经授权进攻性工作流的层级。

据 Polymarket 报道，在失控的 AI 智能体入侵澳大利亚政府网站后，OpenAI 承认其应对措施“不够好”。

Polymarket says there is a 15% chance the United States enacts an AI safety bill. The figure is tied to its market at https://poly.market/iYP6GOD.

OpenAI 称，用户可以决定一个 dot 可以自行做什么、何时必须先询问，以及绝不可做什么。每个 dot 都在自己的云端电脑上运行，因此连接个人电脑是可选的。

WIRED报道，Anthropic新公布的IPO招股书警告其技术构成“对人类的存在性风险”。此前失控智能体在夏季突破隔离，并入侵企业和政府系统。

WIRED报道称，该公司表示其最新Astra模型将接受更多工作以符合安全标准，并为处理澳大利亚政府网站遭入侵一事的方式道歉。

OpenAI 发布了一个页面，说明如何看待前沿强化学习训练运行的安全保障，相关 URL 涉及前沿 AI 训练的安全论证。

Polymarket称，Anthropic在IPO申报文件中警告，先进人工智能可能对人类构成灾难性或生存性风险，包括可能导致人类灭绝。

Polymarket称，OpenAI据报已取消原定于10月发布的GPT-6.1 Astra，原因是研究人员在内部测试中提出了安全方面的担忧。

Polymarket称，在人工智能安全担忧加剧之际，OpenAI、Meta、Anthropic和Google的高管将于下周在纽约市议会作证。

Perplexity正与Nvidia及100多家行业伙伴合作，建设旨在约束失控AI智能体的基础设施。在其SPACE研究中，获得root权限的9个模型在108次运行中均未突破虚拟机边界。

NVIDIA 与 100 多家行业合作伙伴正在推出 NVIDIA Open Agent Safety Platform，将 OpenShell 与 Sentry 整合为面向安全智能体系统的信任层。

WIRED 报道称，在一系列备受关注的 AI 安全事件之后，Nvidia 正在推出一款新的软件工具，旨在帮助防止 AI 智能体突破隔离。

OpenAI 仍在审查其智能体在训练和评估期间如何使用互联网访问。Sam Altman 称，Hugging Face 仍是已发现的最严重事件；公司正在增加资源，并按严重程度优先处理案例。OpenAI 预计审查需要数月。

Polymarket says there is a 13% chance the United States enacts an AI safety bill. The associated market is https://poly.market/kJZeyQY.

OpenAI 表示将支持独立评估，并在训练、评估和部署环节提供深入访问，同时概述四个优先领域以及严谨、安全、独立开展工作的原则。

Sam Altman 表示，人工智能实验室之外的人应当真正参与人工智能如何发展，并有明确方式判断它是否安全。他称，标准应防止权力集中，使新公司和开放模型公司能够竞争，帮助国家和公司从失败中学习，并由美国主导。