SambaNova, SambaCloud에서 MiniMax M3용 프롬프트 캐싱 지원
SambaNova가 SambaCloud의 MiniMax M3용 프롬프트 캐싱을 출시해 코드 변경 없이 입력 비용을 90% 절감한 캐시 토큰 100만 개당 0.06달러로 낮추고 첫 토큰 생성 시간(TTFT)을 35%~88% 개선했다.
SambaNova가 SambaCloud의 MiniMax M3용 프롬프트 캐싱을 출시해 코드 변경 없이 입력 비용을 90% 절감한 캐시 토큰 100만 개당 0.06달러로 낮추고 첫 토큰 생성 시간(TTFT)을 35%~88% 개선했다.