Microsoft AI、GitHub Copilot のローカル実行向けに「MAI-Code-1.1-Flash」を導入
開発者は GitHub Copilot 内で MAI-Code-1.1-Flash を使い、推論費用を支払うことなくデバイス上でエージェント型コーディングタスクを実行できるようになる。
#on-device-ai
すべてのAIニュースを見るEmbeddingGemma 2、メモリ消費量191MB〜567MBで動作し8Kコンテキストウィンドウに対応
GoogleはEmbeddingGemma 2の動作仕様を公表した。この740MモデルはアクティブRAM使用量が約191MB〜567MBで、コンテキストウィンドウが8Kに拡大されており、1回の処理で最大5.5分の音声、29枚の画像、または58フレームの動画を処理できる。
Google for Developers、EmbeddingGemma 2 の完全オフライン実行とモジュール式デプロイの詳細を公開
EmbeddingGemma 2 はサーバー呼び出しを一切行わず、マルチモーダルワークロードを完全にオフラインで実行できます。未使用の画像や音声コンポーネントを切り離してメモリを節約できるモジュール設計を採用し、柔軟な次元サイズによってローカルデータベースのストレージを最大 6 分の 1 に削減できるほか、Gemma 4 と連携した効率的なオンデバイス RAG パイプラインにも対応します。
DeepLearning.AIがオンデバイスAIメモリを構築する無料コースを提供
「Building AI Assistants with On-Device Memory」は、テキスト、音声、画像を扱うローカルシステムを取り上げ、Qdrantとともに教える。コースには新しいAIコーディングラボが含まれ、受講は無料。