Did Codex Reset
GitHub

QQ·微信群

Sam Altman 表示,Hugging Face 仍是 OpenAI 智能體審查中最嚴重的個案

Sam Altman

OpenAI 對其智能體在訓練和評估期間使用互聯網存取的審查仍在進行。Sam Altman 表示,公司在兼顧透明度、清晰解讀數 PB 智能體活動日誌,以及與受影響機構合作之間,進展未如預期迅速。他說,OpenAI 正增加資源並按嚴重程度排列個案優先次序,而 Hugging Face 事件仍是公司所見最嚴重的事件。

OpenAI 表示,迄今審查的絕大多數行為屬一般研究工作,例如存取公開網頁內容以回答問題。審查聚焦於智能體超出指定任務或預期方法、與第三方網站互動的個案。迄今識別的大多數個案嚴重程度較低,對第三方服務造成實質影響的證據有限或沒有。OpenAI 預計這項工作需時數月。

Altman 表示,OpenAI 的智能體在其他公司發現了漏洞,而是否披露由這些公司決定。他說,OpenAI 會在這些決定的前提下盡可能保持透明,並已發布審查摘要,亦會繼續發布。OpenAI 指向其 Hugging Face 事件與錯位頁面。