2025年7月号
SmolLM3-3B・LFM2・Phi-4-mini-flashなど3B級以下の高性能LLM/推論モデルに、Voxtral(ASR)やKyutai TTSの開放重み音声モデル、Hailo-10Hの一般販売が重なり、エッジでの生成AI実行が現実解になった月。
項目ごとの確認記録がない過去データは、推測で補わず「記録なし」「未分類」と表示しています。
今月のエッジAI概況
2025年7月号のエッジAI業界を、まずは文章でざっくり把握
2025年7月は、3B級以下の高性能モデルとエッジ向け音声、そして加速器の一般販売が重なり、「エッジでの生成AI実行が現実解」になった月でした。象徴はHuggingFaceのSmolLM3-3B(7/8)で、128K長文・6言語・思考/非思考デュアル推論を学習レシピごと完全公開しました。
モデルと音声が同時に底上げされました。Liquid AI LFM2(350M〜1.2B、CPUでQwen3比約2倍速)やMicrosoft Phi-4-mini-flash-reasoning(新アーキSambaYで約10倍スループット、Math500 92.45%)が登場。音声ではMistral Voxtral Mini 3B(Whisper large-v3超えの開放重みASR)とKyutai TTS 1.6B(約350ms遅延のストリーミング)が出そろいました。
ハード面ではHailo-10Hが7/22に一般販売を開始。Raspberry Piで2B級のLLM/VLMを約10 tok/s・2.5Wで動かせるようになり、ソフト(小型モデル)とハード(省電力加速器)の両輪でエッジ生成AIが一段と実用へ近づいた月でした。
ピックアップ
2025年7月号で特に注目のエッジAI動向
SmolLM3-3B
学習レシピまで完全公開の3Bで128K長文・6言語・思考/非思考デュアル推論を両立。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Voxtral Mini 3B
Whisper large-v3を上回る開放重みASR(3B)で文字起こしと音声理解をエッジへ。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
LFM2 (Liquid AI)
スマホ/車載狙いの最速級オンデバイスLLM。CPUでQwen3比約2倍速(350M/700M/1.2B)。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Hailo-10H 一般販売
Raspberry Piで2B級LLM/VLMを約10tok/s・2.5Wで動かす生成AIエッジ加速器が販売開始(7/22)。
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
🤗注目のエッジAIモデル
2025年7月号時点のモデルカタログ
SmolLM3-3B
Hugging Face
11.2Tトークン学習・128K対応・思考/非思考デュアルモードを備えた、学習データまで完全公開の3B。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
LFM2-1.2B
Liquid AI
短畳み込み+GQAのハイブリッド構造で、CPU上Qwen3比約2倍速の最速級オンデバイスLLM。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
LFM2-350M
Liquid AI
約3.5億パラメータで、RAMの厳しい端末でも動く最小クラスの実用LLM(同系に700M/1.2B)。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Phi-4-mini-flash-reasoning
Microsoft
7/9公開。新アーキ「SambaY」で前世代比約10倍スループット、Math500で92.45%の数学推論特化。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Voxtral Mini 3B
Mistral AI
7/15公開。Whisper large-v3超え精度の開放重みASR、最長30〜40分音声と音声からの関数呼び出しに対応。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Kyutai TTS 1.6B
Kyutai
7/3公開。最初の数語で生成を始めるストリーミングTTS、L40S 1台で32同時利用・約350ms遅延。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Gemma 3n E4B
画像・音声・動画・テキストを扱い、約3GBメモリでスマホ動作を狙うマルチモーダル(6/26公開, 7月に普及)。
何に使える？
動作する機材
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
⭐注目のGitHubプロジェクト
2025年7月号時点の注目プロジェクト
kyutai-labs/unmute
テキストLLMにKyutaiのSTT/TTSを被せ「聞いて話す」低遅延音声対話を実現するOSSスタック。
こんな用途に使える
- ›低遅延の音声対話アシスタント
- ›電話自動応答ボット
- ›ハンズフリーの現場端末UI
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Ollama
ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。
こんな用途に使える
- ›Raspberry Pi・ミニPCでオフラインチャットボットを常駐
- ›社内文書Q&Aをローカルサーバーで提供
- ›複数モデルを切替えて性能比較する開発環境
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
llama.cpp
LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。
こんな用途に使える
- ›Raspberry Pi上でオフラインチャットボット構築
- ›社内文書Q&Aシステムをローカルサーバーで運用
- ›IoTゲートウェイでの音声コマンド処理
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Transformers.js
HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。
こんな用途に使える
- ›ブラウザ完結の音声文字起こしツール
- ›クライアントサイドで動くテキスト感情分析
- ›画像自動タグ付けのWebアプリ
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
WebLLM
WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。
こんな用途に使える
- ›社内チャットAIをサーバーレスで提供
- ›プライバシー重視の相談チャットボット
- ›オフライン環境での技術文書検索アシスタント
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
ONNX Runtime
クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。
こんな用途に使える
- ›Windowsアプリに DirectML推論を組み込み
- ›React NativeアプリでオンデバイスAI
- ›ブラウザとサーバーで同じモデルを共有運用
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
whisper.cpp
OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。
こんな用途に使える
- ›Raspberry Piで常時稼働の議事録ボット
- ›オフラインで動く多言語字幕生成システム
- ›スマートスピーカー自作キットのASRエンジン
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
Ultralytics (YOLO)
最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。
こんな用途に使える
- ›工場ラインの製品検査を低コストで自動化
- ›農業用ドローンの害虫・病害検出
- ›駐車場の空き状況リアルタイムモニタリング
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし
MediaPipe
Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。
こんな用途に使える
- ›店舗カメラで来客数・動線をリアルタイム分析
- ›リハビリ用のポーズ判定アプリ開発
- ›ジェスチャーで操作するキオスク端末
- 公開日:
- 記録なし
- 情報確認日:
- 記録なし