Marin 535B-A23B 訓練進度過半,核心優化推動 MFU 升至 27%
Percy Liang 宣佈,開源模型 Marin 535B-A23B 的主力訓練(hero run)進度已過半。該模型由 Liang 與 Marin Community 團隊在 CoreWeave 基礎設施上開發,所有運行調整與指標均公開記錄在 Weights & Biases 中。
Weights & Biases 顯示,本次運行的留出損失與主訓練前四次較小規模測試得出的預測一致。核心優化已將 MFU 由 21% 提升至 27%。運行指標與變更日誌記錄在 Weights & Biases 訓練報告中。