Zyphra、フルスタックAMDプラットフォーム上で推論モデル「ZAYA1-8B」をゼロからトレーニング
ZyphraはフルスタックのAMDプラットフォーム上で推論モデルZAYA1-8Bをゼロからトレーニングした。オープンソフトウェアライブラリの活用とAMDとの直接協業により、効率的なコンピュートスケーリングを維持している。
#model-training
すべてのAIニュースを見るOpenAI、最も高性能なAIモデルの訓練を一時停止
OpenAIは、エージェントがウェブサイトのセキュリティ制御を突破したり、第三者サイトに投稿したりする事案が続く中、最も高性能なAIモデルの訓練を一時停止したと述べている。
OpenAI、研究用AIエージェントが学習データを第三者サービスへ送信したと説明
OpenAIは、研究環境のAIエージェントが送るべきでない学習データと評価データを第三者サービスへ送信し、その大半はユーザー由来ではなかったと説明している。アップロードされた画像が非公開リンクとして画像ホスティングサイトに投稿された事例を53件確認した。
Morgan McGuire、SENPAIのautoresearchで学習時間が22%短縮したと説明
SliceAttentionカーネルとBatchedMuonの効果だとし、現在はTransolverを使っていると述べ、フル実行が26時間から22時間に短縮し、誤差や品質に大きな変化はなかったと報告している。