HassanがTev1 0.8Bを訓練、Jevに似た小型分類器
Hassanは、Jevに似ていると説明する小型分類器Tev1 0.8Bを訓練したと述べている。自身のMac上ではOllamaを通じて完全にローカルで動作し、タスクを分類する。
そのローカル実行のエンドツーエンド遅延は約50ミリ秒だとしている。重みとベンチマークはまだ入手できず、Hassanは近いうちに公開すると述べている。
Hassanは、Jevに似ていると説明する小型分類器Tev1 0.8Bを訓練したと述べている。自身のMac上ではOllamaを通じて完全にローカルで動作し、タスクを分類する。
そのローカル実行のエンドツーエンド遅延は約50ミリ秒だとしている。重みとベンチマークはまだ入手できず、Hassanは近いうちに公開すると述べている。