DeepLearning.AI, 무단 프록시가 사용자 프롬프트를 Claude API로 라우팅했다고 밝혀
DeepLearning.AI는 Anthropic의 최신 보고서가 상용 플랫폼에서 대규모 증류 캠페인을 뒷받침한 프록시 쿼리 라우팅을 짚었다고 밝혔다. 무단 프록시가 사용자 프롬프트를 Claude API로 전달했으며, 이런 쿼리 전달은 심각한 데이터 프라이버시 위험을 만든다고 전했다.
#ai-security
모든 AI 뉴스 보기Meta, Mac의 Muse 제로데이에 수정본을 배포했다고 밝혀
Meta는 Muse 결함이 공격자로 하여금 피해자의 Mac에서 “원하는 무엇이든” 할 수 있게 했을 것이며, 수정본은 이미 배포됐다고 밝혔다.
DeepLearning.AI: 메타의 Muse 에이전트가 OS 수준에서 프롬프트 인젝션 방어를 구축
DeepLearning.AI는 메타의 Muse 에이전트가 모델이 속임을 당할 것이라고 가정하고 따라서 OS 수준에서 보안을 강제한다고 말합니다. 모델이 실제 자격 증명을 절대 다루지 않으며, 도구는 격리된 Linux 컨테이너에서 실행되고, 독립적인 게이트키퍼가 아웃바운드 호출을 검증한다고 전합니다.