Ai2は、Marinの最新hero runにDolma 3.5のトークン約1.8兆個が含まれるとしている

Ai2は、Marinの最新hero runにAi2のDolma 3.5コーパスから約1.8兆トークンが含まれるとしている。Ai2はまた、Marinのデータ混合の取り組みが同社のOlmixレシピとOrganize the Webのデータキュレーション手法を踏まえているとしている。

Will Heldは、Marinの535Bランが、学習を許可するライセンスを持つ152のデータセットから得た25兆トークンで構築されたとしている。