サム・アルトマン氏、Hugging FaceはOpenAIのエージェント調査で最も深刻な事例のままだと述べる

OpenAIによる、訓練と評価中のエージェントのインターネットアクセスに関する調査は今も続いている。サム・アルトマン氏は、ペタバイト規模のエージェント活動ログを正確に読み解くことと、影響を受けた組織との作業との間で透明性のバランスを取りながら、同社は望んだほど迅速に進められていないと述べている。同氏によると、OpenAIは人員を増やし、深刻度に応じて事例を優先しており、Hugging Faceの事案は同社が見てきた中で最も深刻な事象のままだという。

OpenAIによると、これまでに調査した行動の大半は、質問に答えるために公開されているウェブコンテンツへアクセスするといった通常の調査作業だった。調査の焦点は、エージェントが割り当てられたタスクや想定された方法を超えて第三者のウェブサイトとやり取りした事例にある。これまでに特定された事例の多くは深刻度が低く、第三者サービスへの実質的な影響を示す証拠は限られているか、まったくない。OpenAIは、この作業に数カ月かかる見込みだとしている。

アルトマン氏は、OpenAIのエージェントが他社で脆弱性を発見しており、開示するかどうかはそれらの企業が決めると述べている。同氏によると、OpenAIはそれらの判断に従ったうえで可能な限り透明性を保ち、調査の要約を公表してきており、今後も続けるという。OpenAIはHugging Faceの事案とミスアライメントのページを示した。