エッジAIラボ
エッジAIラボ
MONTHLY ARCHIVE

2025年6月号

端末内マルチモーダルのGemma 3nが正式公開。Qwen3 Embedding/Rerankerでエッジ向けRAG部品が出そろい、ERNIE 4.5の0.3BやKyutai STTなど小型OSSも相次いだ「オンデバイスAI充実」の月。

初回公開: ページ最終更新: 記録なし

項目ごとの確認記録がない過去データは、推測で補わず「記録なし」「未分類」と表示しています。

今月のエッジAI概況

2025年6月号のエッジAI業界を、まずは文章でざっくり把握

2025年6月は、オンデバイスAIの「部品」が出そろった月でした。目玉はGoogle Gemma 3nのE2B/E4B正式公開(6/26)で、テキスト・画像・音声・動画を約2〜3GBで端末内処理し、スマホでも動くマルチモーダルの本命として登場。端末完結の体験が一気に現実的になりました。

エッジRAGの基盤も整いました。Alibaba Qwen3 Embedding/Reranker(0.6B、6/5)が100以上の言語・Apache 2.0でRaspberry Piでも動き、検索の埋め込みから再ランクまでを端末で完結できるように。BaiduはERNIE 4.5を6/30にオープンソース化(0.3B〜424Bの10モデル、Apache 2.0)し、0.36B密モデルがエッジ向けの選択肢に加わりました。

周辺の小型OSSも充実しました。Web検索に特化したJan-nano(4B、MCP連携)、英仏のストリーミングASR Kyutai STT(1B、6/19)、文書を構造化Markdownに変換するNanonets-OCR-s、RTX搭載PCのローカルで動く12B画像編集FLUX.1 Kontext [dev]など、用途別の道具が一斉に揃い、「オンデバイスAI充実」の月となりました。

🤗注目のエッジAIモデル

2025年6月号時点のモデルカタログ

新着実効2B/4B (約2〜3GB)マルチモーダルオンデバイスGemma License

Gemma 3n E2B/E4B

Google

6/26フル公開。テキスト/画像/音声/動画を端末内処理し、E2Bは約2GBメモリで動作。

何に使える?

端末内チャット画像の説明音声文字起こしオフライン多言語アシスタント

動作する機材

スマートフォンJetson Orin NanoRaspberry Pi 5RTX搭載PC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着0.6B埋め込み多言語Apache 2.0

Qwen3-Embedding-0.6B

Alibaba (Qwen)

6/5公開。100+言語・32k文脈、出力次元を32〜1024で可変。同シリーズ8BはMTEB多言語で当時1位。

何に使える?

文書検索(RAG)類似文書クラスタリング多言語セマンティック検索コード検索

動作する機材

Raspberry Pi 5ブラウザ(WebGPU)Jetson Orin NanoRTX搭載PC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着0.6BリランカーRAGApache 2.0

Qwen3-Reranker-0.6B

Alibaba (Qwen)

6/5公開。検索結果を再ランクしRAG精度を底上げ。100+言語・32k対応でRAGの最終段に最適。

何に使える?

検索結果の再ランクRAG精度向上FAQマッチング多言語リランキング

動作する機材

Raspberry Pi 5Jetson Orin NanoRTX搭載PC
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着0.36B (密)小型LLM密モデルApache 2.0

ERNIE-4.5-0.3B

Baidu

6/30公開のERNIE 4.5(10種, 0.3B〜424B)の最小密モデル。131k文脈、Apache 2.0で商用可。

何に使える?

軽量チャット分類/抽出エッジでの下書き生成オンデバイス補完

動作する機材

Raspberry Pi 5スマートフォンブラウザ(WebGPU)Jetson Orin Nano
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着4B (Q4≈2.5GB)エージェントMCPApache 2.0

Jan-nano

Menlo Research

Qwen3-4Bを微調整しMCP/Web検索に特化。SimpleQA 83.2%でローカル深掘り調査向け。

何に使える?

ローカル深掘り調査Web検索エージェントMCPツール連携オフライン質問応答

動作する機材

Jetson Orin NanoRTX搭載PCRaspberry Pi 5
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着約1BASRストリーミングCC-BY 4.0

Kyutai STT (1B)

Kyutai

6/19 OSS公開。英仏のストリーミング音声認識で遅延約0.5秒・句読点付き、Whisper代替を狙う。

何に使える?

リアルタイム字幕音声アシスタント入力会議の文字起こし音声コマンド

動作する機材

Jetson Orin NanoRTX搭載PCRaspberry Pi 5
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
新着3.75B (Qwen2.5-VL系)OCRVLMライセンス要確認

Nanonets-OCR-s

Nanonets

6/12公開。文書を構造化Markdownに変換し、数式LaTeX・表・チェックボックス・画像説明に対応。

何に使える?

請求書/領収書の構造化論文のMarkdown化数式抽出帳票デジタル化

動作する機材

Jetson Orin NanoRTX搭載PCRaspberry Pi 5
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)

注目のGitHubプロジェクト

2025年6月号時点の注目プロジェクト

👑 人気🔍 注目🚀 急上昇
🔍 注目Python
2k+

QwenLM/Qwen3-Embedding

Qwen3 Embedding/Rerankerの公式実装・使用例。エッジRAG構築のリファレンス。

こんな用途に使える

  • 社内文書をベクトル化したローカルRAG検索
  • 多言語FAQの意味検索エンジン
  • コード検索・類似コード推薦
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目Python / Rust
3k+

kyutai-labs/delayed-streams-modeling

KyutaiのストリーミングSTT/TTS実装(Delayed Streams Modeling)。リアルタイム音声向け。

こんな用途に使える

  • 低遅延の音声入力アシスタント
  • ライブ配信のリアルタイム字幕
  • 車載・現場端末の音声コマンド
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Go
175k+

Ollama

ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。

こんな用途に使える

  • Raspberry Pi・ミニPCでオフラインチャットボットを常駐
  • 社内文書Q&Aをローカルサーバーで提供
  • 複数モデルを切替えて性能比較する開発環境
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
119k+

llama.cpp

LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。

こんな用途に使える

  • Raspberry Pi上でオフラインチャットボット構築
  • 社内文書Q&Aシステムをローカルサーバーで運用
  • IoTゲートウェイでの音声コマンド処理
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
16k+

Transformers.js

HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。

こんな用途に使える

  • ブラウザ完結の音声文字起こしツール
  • クライアントサイドで動くテキスト感情分析
  • 画像自動タグ付けのWebアプリ
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
🔍 注目TypeScript
18k+

WebLLM

WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。

こんな用途に使える

  • 社内チャットAIをサーバーレスで提供
  • プライバシー重視の相談チャットボット
  • オフライン環境での技術文書検索アシスタント
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
21k+

ONNX Runtime

クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。

こんな用途に使える

  • Windowsアプリに DirectML推論を組み込み
  • React NativeアプリでオンデバイスAI
  • ブラウザとサーバーで同じモデルを共有運用
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C / C++
51k+

whisper.cpp

OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。

こんな用途に使える

  • Raspberry Piで常時稼働の議事録ボット
  • オフラインで動く多言語字幕生成システム
  • スマートスピーカー自作キットのASRエンジン
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気Python
58k+

Ultralytics (YOLO)

最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。

こんな用途に使える

  • 工場ラインの製品検査を低コストで自動化
  • 農業用ドローンの害虫・病害検出
  • 駐車場の空き状況リアルタイムモニタリング
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)
👑 人気C++ / JS
35k+

MediaPipe

Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。

こんな用途に使える

  • 店舗カメラで来客数・動線をリアルタイム分析
  • リハビリ用のポーズ判定アプリ開発
  • ジェスチャーで操作するキオスク端末
公開日:
記録なし
情報確認日:
記録なし
実機: 記録なし根拠: 未分類出典: カードのリンク先(詳細未登録)