Did Codex Reset
GitHub

#dolma

すべてのAIニュースを見る

Ai2は、Marinの最新hero runにDolma 3.5のトークン約1.8兆個が含まれるとしている

Ai2は、Marinの最新hero runに自社のDolma 3.5コーパスから約1.8兆トークンが含まれるとし、Marinのデータ混合の取り組みはAi2のOlmixレシピとOrganize the Webのデータキュレーション手法を踏まえているとしている。Will Heldは、Marinの535Bランが、学習を許可するライセンスの152データセットから得た25兆トークンで構築されたとしている。