エッジAIラボ
エッジAIラボ
MONTHLY ARCHIVE

2025年8月号

OpenAI gpt-ossとGoogle Gemma 3 270Mで「オープン超小型LLM」が出揃い、Apple FastVLM・Meta DINOv3でオンデバイス視覚も刷新、NVIDIA Jetson Thor発売でエッジ計算の上限も跳ね上がった月。

初回公開: ページ最終更新: 記録なし

項目ごとの確認記録がない過去データは、推測で補わず「記録なし」「未分類」と表示しています。

今月のエッジAI概況

2025年8月号のエッジAI業界を、まずは文章でざっくり把握

2025年8月は、「オープン超小型LLM」が出そろった月でした。OpenAIが初のオープンウェイトgpt-oss-20b/120b(8/5、Apache 2.0)を公開し、MXFP4量子化で約16GB級でもローカル推論が可能に。GoogleのGemma 3 270M(8/14)はわずか0.27Bでスマホ常駐を狙う超小型として登場しました。

オンデバイス視覚も刷新されました。Metaの自己教師ありバックボーンDINOv3(8/13)は凍結特徴のまま検出/分割/追跡で専用手法を上回り、Apple FastVLM-0.5B/MobileCLIP2がiPhone想定の高速VLM・画像エンコーダをオープンソース化。NVIDIA Nemotron Nano 9B v2(8/18)は推論ON/OFFと思考予算の制御に対応しました。

計算の上限と下限が同時に動きました。ハードではNVIDIA Jetson Thor(8/25)が2070 FP4 TFLOPS/128GBでエッジ計算の天井を引き上げ、超軽量側でも約25MBのKitten TTS nano(15M)やローカルWeb検索のJan-v1-4B(SimpleQA 91%)が登場。上下のレンジが一気に広がった月でした。

🤗注目のエッジAIモデル

2025年8月号時点のモデルカタログ

新着21B総/3.6B活性 (MXFP4≈16GB)MoEMXFP4Apache 2.0

gpt-oss-20b

OpenAI

8/5公開のオープンウェイトMoE、MXFP4ネイティブ量子化で約16GBメモリ級から動作しo3-mini相当の推論。

何に使える?

ローカル推論エージェントコード生成ツール呼び出しオフラインChatGPT代替

動作する機材

RTX搭載PCJetson Thor16GB+メモリPC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着0.27B (INT4≈0.24GB)超小型INT4-QATGemma License

Gemma 3 270M

Google

8/14公開の超小型版、Pixel 9 ProでINT4・25会話がバッテリ0.75%という高効率。

何に使える?

テキスト分類固有表現抽出クエリ振り分け定型文生成

動作する機材

Raspberry Pi 5スマートフォンブラウザ(WebGPU)ブラウザ(WASM)
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着9BハイブリッドMamba推論トグルNVIDIA Open Model License

NVIDIA Nemotron Nano 9B v2

NVIDIA

8/18公開のハイブリッドMamba-Transformer、/think・/no_thinkで推論ON/OFFと思考予算を制御。

何に使える?

数学/コード推論RAG思考予算で速度調整社内アシスタント

動作する機材

Jetson Orin NanoRTX搭載PCJetson Thor
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着4BエージェントQwen3ベースApache 2.0

Jan-v1-4B

Menlo Research

8月公開のエージェント特化、Qwen3-4B-Thinking基盤でSimpleQA 91%とローカルWeb検索でPerplexity Pro並み。

何に使える?

ローカルWeb検索ディープリサーチPerplexity代替ツール連携

動作する機材

Jetson Orin NanoRTX搭載PCRaspberry Pi 5
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着21M (最大7B)自己教師あり視覚バックボーンDINOv3 License

DINOv3 (ViT-S/16)

Meta AI

8/13公開の自己教師あり視覚バックボーン、17億枚学習・凍結特徴のまま検出/分割/追跡で専用手法を上回る。

何に使える?

物体検出セマンティック分割画像検索・特徴抽出動画トラッキング

動作する機材

Raspberry Pi 5Jetson Orin Nanoブラウザ(WebGPU)スマートフォン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着0.5B (総約0.8B)オンデバイスVLM高速TTFTApple研究ライセンス

FastVLM-0.5B

Apple

8月にHF公開のオンデバイスVLM、FastViTHD採用でLLaVA-OneVision-0.5B比TTFT約85倍速。

何に使える?

画像キャプション画面・書類読み取りリアルタイムVQAスマホ視覚補助

動作する機材

スマートフォンJetson Orin NanoRTX搭載PCブラウザ(WebGPU)
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着2.3BマルチモーダルGUI/embodiedApache 2.0

InternVL3.5-2B

OpenGVLab

8/25公開のマルチモーダル小型版、GUI操作やembodied対応で前世代比+16%の推論向上。

何に使える?

文書OCRGUI操作エージェント動画理解多言語VQA

動作する機材

Jetson Orin NanoRTX搭載PCスマートフォン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着15M (約25MB)超軽量TTSONNX/CPUApache 2.0

Kitten TTS nano

KittenML

8月公開のONNX製超軽量TTS、GPU不要でRaspberry Piや低スペック端末でも動く8音声プレビュー。

何に使える?

音声読み上げ組込み音声UIオフライン読書ロボット発話

動作する機材

Raspberry Pi 5スマートフォンブラウザ(WASM)
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)

注目のGitHubプロジェクト

2025年8月号時点の注目プロジェクト

👑 人気🔍 注目🚀 急上昇
🚀 急上昇Python
20k+

openai/gpt-oss

gpt-oss-20b/120bの公式推論実装。PyTorch/Triton/Metal参照実装とツールを同梱。

こんな用途に使える

  • ローカルでChatGPT級の推論エージェント
  • オフラインのコード生成環境
  • 社内向けプライベートLLM基盤
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🚀 急上昇Python
14k+

KittenML/KittenTTS

25MB未満・15MパラのCPU専用TTSライブラリ。GPU不要でRaspberry Piや低スペック端末に対応。

こんな用途に使える

  • Raspberry Piのオフライン読み上げ
  • 組込み機器の音声UI
  • 低コストな音声アシスタント自作
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Go
175k+

Ollama

ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。

こんな用途に使える

  • Raspberry Pi・ミニPCでオフラインチャットボットを常駐
  • 社内文書Q&Aをローカルサーバーで提供
  • 複数モデルを切替えて性能比較する開発環境
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
119k+

llama.cpp

LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。

こんな用途に使える

  • Raspberry Pi上でオフラインチャットボット構築
  • 社内文書Q&Aシステムをローカルサーバーで運用
  • IoTゲートウェイでの音声コマンド処理
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
16k+

Transformers.js

HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。

こんな用途に使える

  • ブラウザ完結の音声文字起こしツール
  • クライアントサイドで動くテキスト感情分析
  • 画像自動タグ付けのWebアプリ
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
18k+

WebLLM

WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。

こんな用途に使える

  • 社内チャットAIをサーバーレスで提供
  • プライバシー重視の相談チャットボット
  • オフライン環境での技術文書検索アシスタント
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
21k+

ONNX Runtime

クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。

こんな用途に使える

  • Windowsアプリに DirectML推論を組み込み
  • React NativeアプリでオンデバイスAI
  • ブラウザとサーバーで同じモデルを共有運用
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
51k+

whisper.cpp

OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。

こんな用途に使える

  • Raspberry Piで常時稼働の議事録ボット
  • オフラインで動く多言語字幕生成システム
  • スマートスピーカー自作キットのASRエンジン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Python
58k+

Ultralytics (YOLO)

最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。

こんな用途に使える

  • 工場ラインの製品検査を低コストで自動化
  • 農業用ドローンの害虫・病害検出
  • 駐車場の空き状況リアルタイムモニタリング
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
35k+

MediaPipe

Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。

こんな用途に使える

  • 店舗カメラで来客数・動線をリアルタイム分析
  • リハビリ用のポーズ判定アプリ開発
  • ジェスチャーで操作するキオスク端末
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)