2025年9月号
「超スパースMoEの小型化」と「サブ1Bの実用特化モデル」が同時噴出。Qwenが活性3B級のMoEを連投する一方、Google EmbeddingGemma(308M)、Meta MobileLLM-R1(950M)、IBM Granite-Docling(258M)など端末で動く小型モデルが続々。
項目ごとの確認記録がない過去データは、推測で補わず「記録なし」「未分類」と表示しています。
今月のエッジAI概況
2025年9月号のエッジAI業界を、まずは文章でざっくり把握
2025年9月は、「超スパースMoEの小型化」と「サブ1Bの実用特化」が同時に進んだ月でした。Qwenは総80B・活性3BのQwen3-Next-80B-A3Bで効率推論と256K長文脈を両立し、音声・映像・テキストのQwen3-Omni-30B-A3Bも公開。実効パラメータを絞るMoEの流れが主役になりました。
端末で動く小型特化も豊作でした。GoogleのEmbeddingGemma-300m(308M、9/4)は端末内RAG向け埋め込みでEdgeTPU 256トークンを15ms未満で処理、MetaのMobileLLM-R1-950M(9/12)はサブ1Bで数学推論、IBM Granite-Docling-258M(9/17)は文書を構造化出力。差分プライバシーのVaultGemma-1bや産業知覚向けVLMのIsaac-0.1も登場しました。
ハードはQualcomm Snapdragon 8 Elite Gen 5(9/24)でHexagon NPUが前世代比37%高速化し、スマホ上のローカルLLM/エージェントを後押し。視覚推論のMoondream 3 preview(有効2B)も含め、「小さくても高機能」という幅が一段と広がった月でした。
ピックアップ
2025年9月号で特に注目のエッジAI動向
EmbeddingGemma-300m
308Mで端末内RAG/意味検索を実現、MTEBで500M未満クラス最高峰の多言語埋め込み。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Qwen3-Next-80B-A3B
総80Bでも活性は3Bのみの超スパースMoE新アーキ、効率推論と256K長文脈を両立。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Moondream 3 (preview)
9B-A2B(有効2B)でフロンティア級の視覚推論、エッジでも動く設計の小型VLM。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Snapdragon 8 Elite Gen 5
Hexagon NPUが前世代比37%高速化し、スマホ上のローカルLLM/エージェントを後押し(9/24)。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
🤗注目のエッジAIモデル
2025年9月号時点のモデルカタログ
EmbeddingGemma-300m
9/4公開。Gemma 3ベースで100言語超に対応、Matryoshka表現で768→128次元に可変、EdgeTPUで256トークン15ms未満。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
MobileLLM-R1-950M
Meta
9/12公開。エッジ推論特化SFTモデルで、MATH/GSM8K等でQwen3 0.6Bに匹敵〜上回り、学習量は約1/10以下。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Granite-Docling-258M
IBM
9/17公開。SigLIP2+Granite 165M LLMで表・数式・コード・レイアウトをDocTags形式で構造化出力する文書変換特化VLM。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
VaultGemma-1b
差分プライバシー(ε≤2.0)で一から事前学習した現時点最大級のオープンDP-LLM。学習データの記憶が検出されず規制業界向け。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Apertus-8B-Instruct-2509
Swiss AI (ETH/EPFL/CSCS)
重み・データ・学習手法まで完全公開、1800超の言語をカバーし65,536トークン文脈。データ所有者の同意順守を掲げる主権AI。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Isaac-0.1
Perceptron
製造・物流・ロボティクス等の実世界知覚向けVLMで、桁違いに小さい重みで大型モデル並みの知覚ベンチを達成。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
NVIDIA Nemotron Nano 9B v2
NVIDIA
Mamba2-Transformerハイブリッドで推論ON/OFFと「思考予算」制御が可能、Qwen3-8B比で最大6倍の推論スループット(8/18公開)。
何に使える?
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
⭐注目のGitHubプロジェクト
2025年9月号時点の注目プロジェクト
apple/ml-fastvlm
AppleのオンデバイスVLM「FastVLM」公式実装。ブラウザ/iPhoneでリアルタイム動画キャプションのデモが話題化。
こんな用途に使える
- ›iPhone/ブラウザでのリアルタイム画像説明
- ›スマホ完結の視覚補助アプリ
- ›カメラ映像のオンデバイスQ&A
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
docling-project/docling
IBM Research発の文書処理ライブラリ。Granite-Docling-258M公開で再注目、エアギャップ環境のローカル文書変換に対応。
こんな用途に使える
- ›PDF/帳票をローカルで構造化データ化
- ›社内文書のRAG前処理パイプライン
- ›オフライン環境での論文Markdown化
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Ollama
ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。
こんな用途に使える
- ›Raspberry Pi・ミニPCでオフラインチャットボットを常駐
- ›社内文書Q&Aをローカルサーバーで提供
- ›複数モデルを切替えて性能比較する開発環境
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
llama.cpp
LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。
こんな用途に使える
- ›Raspberry Pi上でオフラインチャットボット構築
- ›社内文書Q&Aシステムをローカルサーバーで運用
- ›IoTゲートウェイでの音声コマンド処理
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Transformers.js
HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。
こんな用途に使える
- ›ブラウザ完結の音声文字起こしツール
- ›クライアントサイドで動くテキスト感情分析
- ›画像自動タグ付けのWebアプリ
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
WebLLM
WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。
こんな用途に使える
- ›社内チャットAIをサーバーレスで提供
- ›プライバシー重視の相談チャットボット
- ›オフライン環境での技術文書検索アシスタント
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
ONNX Runtime
クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。
こんな用途に使える
- ›Windowsアプリに DirectML推論を組み込み
- ›React NativeアプリでオンデバイスAI
- ›ブラウザとサーバーで同じモデルを共有運用
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
whisper.cpp
OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。
こんな用途に使える
- ›Raspberry Piで常時稼働の議事録ボット
- ›オフラインで動く多言語字幕生成システム
- ›スマートスピーカー自作キットのASRエンジン
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Ultralytics (YOLO)
最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。
こんな用途に使える
- ›工場ラインの製品検査を低コストで自動化
- ›農業用ドローンの害虫・病害検出
- ›駐車場の空き状況リアルタイムモニタリング
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
MediaPipe
Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。
こんな用途に使える
- ›店舗カメラで来客数・動線をリアルタイム分析
- ›リハビリ用のポーズ判定アプリ開発
- ›ジェスチャーで操作するキオスク端末
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし