Did Codex Reset
GitHub

QQ·微信群

Ai2 表示 Marin 最新 hero run 包含約 1.8 萬億個 Dolma 3.5 token

Ai2

Ai2 表示,Marin 最新 hero run 包含來自 Ai2 Dolma 3.5 語料庫的約 1.8 萬億個 token。Ai2 亦表示,Marin 的數據混合工作借鑑其 Olmix 配方及 Organize the Web 數據整理方法。

Will Held 表示,Marin 的 5350 億參數訓練以 152 個許可用於訓練的數據集、共 25 萬億個 token 為基礎。