モデル・フレームワークから新技術・月間GitHubトレンドまで
各カードの公開日・情報確認日・当サイトの実機確認状況・根拠種別・出典を分けて表示しています。「公式情報・公称値」は掲載元の発表値で、当サイトの実機計測値ではありません。
今月特に注目すべきエッジAIの最新動向
7/13公開。Pixel 10シリーズのTPUでネイティブ実行し、テキスト・画像・音声のオフライン処理や端末操作へ展開。
7/9公開。.tfliteをブラウザ内で実行し、Wasm/XNNPACK、WebGPU、実験的WebNNでCPU・GPU・NPUを横断。
7/6公開。world model policy、reward model API、6つのシミュレーション環境で、ロボットの学習・評価ループを拡張。
7/14公開のプレプリント。CPU・内蔵GPU・NPUをマイクロバッチ単位で同時利用し、単一アクセラレータ前提を崩す。
用途に応じた最適なフレームワークの選び方
主要チップメーカーのAI処理性能と対応状況
40 TOPS (INT4) / 約2.5W
40 TOPS（INT4）・標準2.5Wという公称仕様で、LLM・VLMなど生成AIのエッジ実行を想定したアクセラレータ。
最大約2070 FP4 TFLOPS / 128GB
Blackwell世代のロボティクス向けエッジAI（2025-08提供）。大型VLM/VLAをエッジで実行可能に。
M4: 38 TOPS
M4のNeural Engineは公称毎秒38兆回の演算に対応し、端末内のAIワークロードを加速。
Snapdragon X: 45 TOPS
Snapdragon Xシリーズは公称45 TOPSのNPUを備え、Copilot+ PCの端末内AI処理を支援。
4 TOPS / 2W
公称4 TOPS・2WのEdge TPU。低消費電力の組み込み推論向け。
40〜275 TOPS
ロボティクス・自動運転向け。フルNVIDIA GPUエコシステムをエッジで実現。
用途・対応ハードウェア・鮮度がひと目でわかるモデルカタログ
7/13公開。Pixel 10シリーズのTensor TPUへ最適化したGemma 4 E2B。テキスト・画像・音声を端末内で処理し、Tensor SDK betaから利用する構成。
何に使える？
動作する機材
Poolside
7/2公開。256K文脈とツール間のinterleaved thinkingを備え、ローカルでの長時間コーディングを狙うMoE。公式カードは36GB RAMのMacで動作可能としている。
何に使える？
動作する機材
Cohere Labs
7/7公開。アラビア語と英語に特化したFastConformer系ASR。Transformersでオフライン推論でき、長尺音声は自動分割に対応。自動言語判定・話者分離・タイムスタンプは非対応。
何に使える？
動作する機材
Mistral AI
7/8発表。単一RGBカメラと自然言語の指示から、LiDAR・深度カメラなしで移動ロボットを誘導するembodied navigationモデル。提供・実行条件は問い合わせが必要。
何に使える？
動作する機材
WeiboAI
6/15公開。数学・競技プログラミング・STEMなど検証可能な推論に特化した小型モデル。公式カードはツール呼び出しや自律コーディング用途を非推奨としている。
何に使える？
動作する機材
Liquid AI
6/25公開。32K文脈の超小型モデルで、データ抽出とツール呼び出しを端末内で実行。Liquid AI公称でPi 5は42 tok/s、Galaxy S25 Ultraは213 tok/s。
何に使える？
動作する機材
Useful Sensors
ストリーミングに向く省リソースASR。ONNXでRaspberry PiなどのCPUにも載せやすく、端末内のリアルタイム音声UIで引き続き有力。
何に使える？
動作する機材
モデルやフレームワークの外側で進む、エッジAIの次の選択肢
.tfliteモデルをJavaScriptから読み込み、Wasm/XNNPACK、WebGPU、実験的WebNNでローカル推論するGoogleのWebランタイム。
world model policy、reward model API、6つのシミュレーション環境、human-in-the-loop rolloutを一つのOSS基盤に統合。
依存関係を保ったマイクロバッチをCPU、内蔵GPU、NPUへ割り当て、DVFSと共有メモリ競合も考慮するスケジューラ。
スマートフォン、タブレット、IoT端末をローカル無線クラスタにし、prefill/decode別の計画と混合精度でLLMを分散実行。
エージェントが存在しないリポジトリ、パッケージ、スキル名を生成する前に、その名前を攻撃者が取得して誘導するサプライチェーン攻撃。
ヒューマノイド・ロボティクス向けに、カメラ、センサー、I3C、チップ間接続、セキュリティ等の共通課題を検討する新グループ。
累計スター数と「今月なぜ伸びたか」を分けて確認
コードを永続的な知識グラフへ索引化し、AIコーディングエージェントへ構造検索を提供するC製MCPサーバー。単一バイナリでローカル処理。
録音、リアルタイム文字起こし、要約をローカル環境で行うRust製のプライバシーファースト会議アシスタント。Ollama等を選択可能。
Webページへスクリプトを組み込み、自然言語でそのページのGUIを操作できるTypeScript製in-page agent。
IPアドレスではなく公開鍵で相手を指定し、QUICとNAT traversalをアプリへ追加するRust製P2Pライブラリ。
長期的に活用されている定番OSSを、具体的な用途アイデア付きで継続ウォッチ。
ローカルLLMをワンコマンドで取得・実行する定番ランナー。OpenAI互換API・モデル管理で人気。
こんな用途に使える
LLMの超高効率C/C++推論エンジン。GGUF量子化でCPUでも軽量に動き、多くのローカル実装の土台。
こんな用途に使える
HuggingFaceモデルをブラウザで直接実行。100以上のアーキテクチャ、WebGPU加速でサーバー不要。
こんな用途に使える
WebGPUでLLMをブラウザ実行。Llama, Qwen, Phi, Gemma等に対応。OpenAI互換API。
こんな用途に使える
クロスプラットフォーム推論エンジン。WebGPU/WASM/WebNN対応でCPU/GPU/NPUを抽象化。
こんな用途に使える
OpenAI WhisperのC/C++移植。CPUだけで高速に音声認識でき、オフライン/組み込みASRの定番。
こんな用途に使える
最新YOLO。検出・セグメンテーション・ポーズ推定・分類をワンパッケージで。TFLite/ONNX export可。
こんな用途に使える
Googleのオンデバイス推論FW。顔・手・ポーズ・セグメンテーション等をリアルタイム処理。
こんな用途に使える
過去のリソースまとめをアーカイブとして公開しています
7/16時点の7月号。Pixel TPUネイティブのGemma 4 E2Bとブラウザ向けLiteRT.jsで、端末内AIの配布先がスマートフォンからWebまで広がった。今号からモデル／フレームワークに加え、新技術・研究と、月間で勢いが出たGitHubプロジェクトを独立して追う。
モデル 7件 / 新技術 6件 / 月間トレンド 4件 / 定番プロジェクト 8件
Liquid AIが最小の「LFM2.5-230M」(6/25、Pi5で42 tok/s)を投入し、超小型でエージェント実用という路線が一段進んだ月。Cohereの30B-A3Bローカル・コーディングや、Microsoft Edgeの端末内AI拡張など「ブラウザ/端末で完結」の動きも加速した。
モデル 7件 / プロジェクト 9件
フロンティア大型モデルが小休止し、アーキテクチャ(特にMoEと非Transformer)でエッジを攻める月に。ZyphraのZAYA1-8B(AMD学習・高密度MoE)とLiquid AIのLFM2.5-8B-A1B(オンデバイスMoE)が「実効1〜1.5Bで大型並み」という小型・高効率の潮流を象徴した。
モデル 7件 / プロジェクト 10件
Google Gemma 4(E2B/E4B、この規模で初の音声入力対応・Apache 2.0)が4/2に登場し、月末にはIBM Granite 4.1(3B/8B＋音声)とNVIDIA Nemotron 3 Nano Omni(4モーダル)が続いた。エッジが「オムニ多モーダル化」と「Apache 2.0での実務投入」へ同時シフトした月。
モデル 7件 / プロジェクト 10件
Alibabaが「Qwen3.5 小型シリーズ(0.8B〜9B)」をApache 2.0で一挙投入し、端末で動く高品質SLMが一気に底上げ。Cohere初のオープンASR、Mistralの軽量TTS、Z.aiの0.9B OCRと、音声・視覚の軽量モデルが出そろった月。
モデル 7件 / プロジェクト 8件
3B級の高性能化が鮮明（Nanbeige4.1-3B 2/13・Apache, Cohere Tiny Aya 2/17・70+言語）。超軽量オンデバイス音声（Moonshine v2 34M ブラウザASR, Kitten TTS mini-0.8 80M WASM, Voxtral-Mini-Realtime 日本語対応）が充実し、「$10ボード・256MBで1B LLM」のpicolmがトレンド入りした月。
モデル 8件 / プロジェクト 10件
Liquid AI LFM2.5シリーズ（1.2B/日本語JP/VL-1.6B/Audio-1.5B, 1/5）とThinking（1/20）が集中投入。Raspberry Pi AI HAT+ 2（Hailo-10H・40 TOPS・8GB・$130, 1/15）でPi 5の生成AIが現実に。CES 2026で新シリコンも続出した月。
モデル 8件 / プロジェクト 9件
Mistral 3（Ministral 3 3B/8B/14B・Apache 2.0・画像対応, 12/2）とZ.aiのGLM-ASR-Nano-2512（1.5B・Whisper-v3超え, 12/8）を筆頭に小型ASR/TTSが続々。ハード面では1GB版Raspberry Pi 5が$45で登場した月。
モデル 8件 / プロジェクト 10件
「オンデバイス・エージェント」と「1B級OCR-VLM」が同時噴出。画面を見て操作するMicrosoft Fara-7B／H Company Holo2、1Bで完結するTencent HunyuanOCR、完全オープンなAi2 Olmo 3、表現力TTSのMaya1が出揃った。
モデル 7件 / プロジェクト 10件
「超小型でもブラウザ／スマホで動く」オープンSLM・VLMが一気に出揃った月。IBM Granite 4.0(&Nano)、Qwen3-VL小型版(2B/4B/8B)、DeepSeek-OCR、Jamba Reasoning 3Bが相次ぎ、GoogleはRISC-VベースのエッジAI NPU「Coral NPU」をOSS化。
モデル 8件 / プロジェクト 10件
「超スパースMoEの小型化」と「サブ1Bの実用特化モデル」が同時噴出。Qwenが活性3B級のMoEを連投する一方、Google EmbeddingGemma(308M)、Meta MobileLLM-R1(950M)、IBM Granite-Docling(258M)など端末で動く小型モデルが続々。
モデル 7件 / プロジェクト 10件
OpenAI gpt-ossとGoogle Gemma 3 270Mで「オープン超小型LLM」が出揃い、Apple FastVLM・Meta DINOv3でオンデバイス視覚も刷新、NVIDIA Jetson Thor発売でエッジ計算の上限も跳ね上がった月。
モデル 8件 / プロジェクト 10件
SmolLM3-3B・LFM2・Phi-4-mini-flashなど3B級以下の高性能LLM/推論モデルに、Voxtral(ASR)やKyutai TTSの開放重み音声モデル、Hailo-10Hの一般販売が重なり、エッジでの生成AI実行が現実解になった月。
モデル 7件 / プロジェクト 9件
端末内マルチモーダルのGemma 3nが正式公開。Qwen3 Embedding/Rerankerでエッジ向けRAG部品が出そろい、ERNIE 4.5の0.3BやKyutai STTなど小型OSSも相次いだ「オンデバイスAI充実」の月。
モデル 7件 / プロジェクト 10件
Qwen3-0.6B、MedPsy-1.7B など超軽量LLMが続々登場。Gemma 4 Browser ExtensionでブラウザAIエージェントも現実に。
モデル 9件 / プロジェクト 10件
