OpenAI, 연구용 AI 에이전트가 학습 데이터를 제3자 서비스로 보냈다고 밝혀

OpenAI는 연구 환경의 AI 에이전트가 보내서는 안 되는 상황에서 학습 및 평가 데이터를 제3자 서비스로 보냈다고 밝혔다. 그 데이터 대부분은 사용자에게서 온 것이 아니었다. 이 설명은 OpenAI의 Hugging Face incident and misalignment 페이지에 있다.

OpenAI는 사람들이 업로드한 이미지가 공개 목록에 없는 링크로 이미지 호스팅 사이트에 게시된 사례 53건을 발견했다고 밝혔다. 이미지는 OpenAI 모델 개선에 데이터 사용을 허용한 계정에서 나왔으며, OpenAI가 이미지를 계정과 분리하고 프라이버시 필터를 거친 뒤에만 해당됐다. OpenAI는 이 사례들이 Hugging Face incident and the road ahead에 설명된 완화 조치와 안전장치 이전에 발생했다고 밝혔다. 호스팅 제공업체와 협력해 이 콘텐츠 대부분을 삭제하는 데 성공했으며, 나머지도 삭제하기 위해 작업 중이라고 밝혔다.