エッジAIラボ
エッジAIラボ
MONTHLY ARCHIVE

2025年9月号

「超スパースMoEの小型化」と「サブ1Bの実用特化モデル」が同時噴出。Qwenが活性3B級のMoEを連投する一方、Google EmbeddingGemma(308M)、Meta MobileLLM-R1(950M)、IBM Granite-Docling(258M)など端末で動く小型モデルが続々。

初回公開: ページ最終更新: 記録なし

項目ごとの確認記録がない過去データは、推測で補わず「記録なし」「未分類」と表示しています。

今月のエッジAI概況

2025年9月号のエッジAI業界を、まずは文章でざっくり把握

2025年9月は、「超スパースMoEの小型化」と「サブ1Bの実用特化」が同時に進んだ月でした。Qwenは総80B・活性3BのQwen3-Next-80B-A3Bで効率推論と256K長文脈を両立し、音声・映像・テキストのQwen3-Omni-30B-A3Bも公開。実効パラメータを絞るMoEの流れが主役になりました。

端末で動く小型特化も豊作でした。GoogleのEmbeddingGemma-300m(308M、9/4)は端末内RAG向け埋め込みでEdgeTPU 256トークンを15ms未満で処理、MetaのMobileLLM-R1-950M(9/12)はサブ1Bで数学推論、IBM Granite-Docling-258M(9/17)は文書を構造化出力。差分プライバシーのVaultGemma-1bや産業知覚向けVLMのIsaac-0.1も登場しました。

ハードはQualcomm Snapdragon 8 Elite Gen 5(9/24)でHexagon NPUが前世代比37%高速化し、スマホ上のローカルLLM/エージェントを後押し。視覚推論のMoondream 3 preview(有効2B)も含め、「小さくても高機能」という幅が一段と広がった月でした。

🤗注目のエッジAIモデル

2025年9月号時点のモデルカタログ

新着308M (量子化約200MB)埋め込み多言語Gemma License

EmbeddingGemma-300m

Google

9/4公開。Gemma 3ベースで100言語超に対応、Matryoshka表現で768→128次元に可変、EdgeTPUで256トークン15ms未満。

何に使える?

端末内RAG意味検索分類・クラスタリング重複検出

動作する機材

Raspberry Pi 5スマートフォンブラウザ(WebGPU)Jetson Orin Nano
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着949M推論サブ1BFAIR非商用ライセンス

MobileLLM-R1-950M

Meta

9/12公開。エッジ推論特化SFTモデルで、MATH/GSM8K等でQwen3 0.6Bに匹敵〜上回り、学習量は約1/10以下。

何に使える?

数学推論コード生成科学QA研究用途

動作する機材

Raspberry Pi 5スマートフォンJetson Orin Nanoブラウザ(WebGPU)
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着258M文書VLMApache 2.0SigLIP2

Granite-Docling-258M

IBM

9/17公開。SigLIP2+Granite 165M LLMで表・数式・コード・レイアウトをDocTags形式で構造化出力する文書変換特化VLM。

何に使える?

PDF→構造化表・数式抽出OCR代替RAG前処理

動作する機材

Raspberry Pi 5Jetson Orin Nanoブラウザ(WebGPU)RTX搭載PC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着1B差分プライバシーLLMGemma License

VaultGemma-1b

Google

差分プライバシー(ε≤2.0)で一から事前学習した現時点最大級のオープンDP-LLM。学習データの記憶が検出されず規制業界向け。

何に使える?

機微データ処理医療・金融プライバシー研究オンデバイス

動作する機材

Raspberry Pi 5スマートフォンJetson Orin NanoRTX搭載PC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着8B (Q4≈5GB)完全オープン多言語Apache 2.0

Apertus-8B-Instruct-2509

Swiss AI (ETH/EPFL/CSCS)

重み・データ・学習手法まで完全公開、1800超の言語をカバーし65,536トークン文脈。データ所有者の同意順守を掲げる主権AI。

何に使える?

多言語チャット低リソース言語主権AIオフライン対話

動作する機材

Jetson Orin NanoRTX搭載PCスマートフォン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着2B (Qwen3-1.7Bベース)VLMエッジ知覚CC-BY-NC-4.0

Isaac-0.1

Perceptron

製造・物流・ロボティクス等の実世界知覚向けVLMで、桁違いに小さい重みで大型モデル並みの知覚ベンチを達成。

何に使える?

物体検出・計数産業検査ロボット知覚エッジ視覚QA

動作する機材

RTX搭載PCJetson Orin Nanoスマートフォン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
最近9B推論ハイブリッドMambaNVIDIA Open Model License

NVIDIA Nemotron Nano 9B v2

NVIDIA

Mamba2-Transformerハイブリッドで推論ON/OFFと「思考予算」制御が可能、Qwen3-8B比で最大6倍の推論スループット(8/18公開)。

何に使える?

ローカル推論思考予算制御長文処理エージェント

動作する機材

RTX搭載PCJetson Orin NanoJetson Thor
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)

注目のGitHubプロジェクト

2025年9月号時点の注目プロジェクト

👑 人気🔍 注目🚀 急上昇
🚀 急上昇Python / Swift
7k+

apple/ml-fastvlm

AppleのオンデバイスVLM「FastVLM」公式実装。ブラウザ/iPhoneでリアルタイム動画キャプションのデモが話題化。

こんな用途に使える

  • iPhone/ブラウザでのリアルタイム画像説明
  • スマホ完結の視覚補助アプリ
  • カメラ映像のオンデバイスQ&A
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目Python
60k+

docling-project/docling

IBM Research発の文書処理ライブラリ。Granite-Docling-258M公開で再注目、エアギャップ環境のローカル文書変換に対応。

こんな用途に使える

  • PDF/帳票をローカルで構造化データ化
  • 社内文書のRAG前処理パイプライン
  • オフライン環境での論文Markdown化
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Go
175k+

Ollama

ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。

こんな用途に使える

  • Raspberry Pi・ミニPCでオフラインチャットボットを常駐
  • 社内文書Q&Aをローカルサーバーで提供
  • 複数モデルを切替えて性能比較する開発環境
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
119k+

llama.cpp

LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。

こんな用途に使える

  • Raspberry Pi上でオフラインチャットボット構築
  • 社内文書Q&Aシステムをローカルサーバーで運用
  • IoTゲートウェイでの音声コマンド処理
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
16k+

Transformers.js

HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。

こんな用途に使える

  • ブラウザ完結の音声文字起こしツール
  • クライアントサイドで動くテキスト感情分析
  • 画像自動タグ付けのWebアプリ
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
18k+

WebLLM

WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。

こんな用途に使える

  • 社内チャットAIをサーバーレスで提供
  • プライバシー重視の相談チャットボット
  • オフライン環境での技術文書検索アシスタント
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
21k+

ONNX Runtime

クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。

こんな用途に使える

  • Windowsアプリに DirectML推論を組み込み
  • React NativeアプリでオンデバイスAI
  • ブラウザとサーバーで同じモデルを共有運用
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
51k+

whisper.cpp

OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。

こんな用途に使える

  • Raspberry Piで常時稼働の議事録ボット
  • オフラインで動く多言語字幕生成システム
  • スマートスピーカー自作キットのASRエンジン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Python
58k+

Ultralytics (YOLO)

最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。

こんな用途に使える

  • 工場ラインの製品検査を低コストで自動化
  • 農業用ドローンの害虫・病害検出
  • 駐車場の空き状況リアルタイムモニタリング
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
35k+

MediaPipe

Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。

こんな用途に使える

  • 店舗カメラで来客数・動線をリアルタイム分析
  • リハビリ用のポーズ判定アプリ開発
  • ジェスチャーで操作するキオスク端末
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)