OpenAI, Jalapeño AI ASIC 배포 호스트로 AMD EPYC Turin CPU 선정
AMD는 OpenAI가 Jalapeño AI ASIC 배포를 호스팅할 CPU로 AMD EPYC ‘Turin’을 선정했다고 밝혔다. OpenAI는 플랫폼의 강점, 파트너 경험, 불필요한 위험을 줄이는 것의 중요성을 이번 결정의 주요 요인으로 꼽았다.
이번 배포에 관한 자세한 내용은 Tom's Hardware에서 보도했다.
관련 AI 뉴스
AMD, World Labs 인수에 합의
AMD 는 World Labs 를 인수하는 최종 계약을 체결했다고 밝혔으며, 이 회사의 연구자와 모델 전문가를 AMD 로 데려와 향후 AI 인프라와 개방형 AI 생태계 관련 업무를 맡길 것이라고 했다.
mimik 테스트 결과 AMD Ryzen AI Embedded X100에서 에이전틱 워크플로 작업의 약 80%가 CPU 바운드로 나타나
mimik이 AMD Ryzen AI Embedded X100 프로세서에서 실시한 테스트에서 에이전틱 워크플로 작업의 약 80%가 CPU 바운드인 것으로 나타났다. 이러한 CPU 작업은 에이전틱 워크로드의 조정, 오케스트레이션, 스케줄링 및 보고를 지원한다.
Zyphra, 풀스택 AMD 플랫폼 기반으로 ZAYA1-8B 추론 모델 처음부터 훈련
Zyphra가 풀스택 AMD 플랫폼에서 ZAYA1-8B 추론 모델을 처음부터 훈련했다. 오픈 소프트웨어 라이브러리를 활용하고 AMD와 직접 협력해 효율적인 연산 확장을 유지했다.
Ramine Roane, AMD가 90일간 vLLM 코어에 502건 커밋했다고 밝혀
Ramine Roane은 AMD가 현재 vLLM 코드 기여에서 선두 기업이며, 90일간 코어 커밋이 502건으로 전체 조직 기여의 13%이고 Nvidia의 4배에 가깝다고 밝혔다. 그는 Red Hat, IBM, Embedded LLM, Inferact의 공로도 인정했다.
AMD, Signal_65 RAG 테스트에서 Instinct MI355X가 p99 지연을 낮췄다고 밝혀
AMD는 TensorWave를 통해 호스팅된 Signal_65 RAG 테스트에서 Instinct MI355X가 p99 지연을 약 42% 낮추고, 평가된 SLA를 넘기 전까지 동시 사용자 여유를 대략 두 배로 제공했다고 밝혔다. 비교 대상 시스템은 명시되지 않았다.