Together AI, 오픈소스 추론 전용 B300 클러스터 위해 IBM 및 NVIDIA와 협력
Together AI는 IBM Cloud에 배포된 전용 B300 클러스터를 사용해 IBM 및 NVIDIA와 협력하여 오픈소스 모델 추론을 확장한다고 발표했다.
IBM Cloud 총괄 관리자 Alan Peacock은 기업이 실질적인 이익을 얻는 한 토큰에 비용을 지출하는 것은 여전히 가치가 있다고 언급했다.
관련 AI 뉴스
Together AI, 주요 오픈 코딩 모델의 OpenRouter 토큰 점유율 1위라고 밝혀
Together AI는 GLM 5.3 Flash, DeepSeek V4.1 Flash, Kimi K3의 현재 OpenRouter 토큰 점유율이 각각 29.2%, 25.6%, 18.9%로 가장 크다고 밝혔다.
Together AI, Hugging Face에 Tev1-4B-experimental 가중치 공개
Tev1-4B-experimental 가중치는 Hugging Face의 togethercomputer 저장소에 있다. Together AI는 이 모델을 특화된 의사결정 모델을 비교적 쉽게 훈련할 수 있음을 보여주기 위한 실험이라고 설명한다.
Together AI, Together 서버리스에 tev1-4B-experimental 공개
Jev와 유사한 분류 모델로, Qwen3.5 4B를 파인튜닝했으며 가격은 입력 100만 토큰당 0.042달러, 출력 100만 토큰당 0달러다. Together AI는 데이터 레시피와 파인튜닝 튜토리얼도 함께 공개하며, Tev1 학습 비용은 17달러라고 밝혔다.
Together AI, 9월 30일까지 서버리스에서 Qwen3.7-Max와 Qwen3.8-Flash 40% 할인
할인은 Together AI 서버리스의 Alibaba_Qwen 모델 두 종에 적용되며 9월 30일까지 이어진다. Together AI는 장기 과제 에이전트 작업에는 Qwen3.7-Max를, 처리량이 많고 비용에 민감한 워크로드에는 Qwen3.8-Flash를 권한다.
Together AI, Dedicated Model Inference에 카나리 롤아웃 추가
Dedicated Model Inference는 이제 가동 중인 엔드포인트의 모델을 다운타임 없이 업그레이드할 수 있다. 트래픽은 단계별로 전환되며, p95 지연 시간이나 오류율이 악화되면 메트릭 게이트가 롤아웃을 일시 중지할 수 있다.