Morgan McGuire 表示,SENPAI 自动研究将训练时间缩短了 22%
Morgan McGuire 表示,SENPAI 自动研究通过编写 SliceAttention 内核和 BatchedMuon,将他们的训练时间缩短了 22%。他说,他们目前使用 Transolver,完整训练从 26 小时降至 22 小时,误差和质量没有显著变化。项目仓库为 GitHub 上的 SENPAI。
Morgan McGuire 表示,SENPAI 自动研究通过编写 SliceAttention 内核和 BatchedMuon,将他们的训练时间缩短了 22%。他说,他们目前使用 Transolver,完整训练从 26 小时降至 22 小时,误差和质量没有显著变化。项目仓库为 GitHub 上的 SENPAI。