エッジAIに使えるサイト・ツール集

AIモデル・データセット・デモを誰でも公開／ダウンロードできる世界最大の共有プラットフォーム。いわば『AIモデル版のGitHub』で、数十万のモデルが集まります。エッジ向けに軽量化されたGGUF・ONNX形式の配布も多く、何をするにもまず最初に訪れる場所です。

Hugging Face内のデータセット専用ページ。画像・音声・テキストなど、自分のモデルを学習・評価するためのデータを検索してその場でダウンロードできます。

Google傘下のデータサイエンス総合サイト。学習済みモデルやデータセットの配布に加え、賞金付きのAIコンペや学習用ノートブックが豊富で、実務に近い題材で腕試しもできます。

『ONNX』というAIモデルの共通フォーマットで配布された学習済みモデルの公式コレクション。フレームワークを問わず動かせるため、エッジ機への移植がしやすいのが利点です。

物体検出・画像分類に特化したデータセットとモデルの巨大な公開ライブラリ。『ヘルメット検出』『製品のキズ』など現場系のデータが見つけやすく、自前の検出AIを作る出発点になります。

大規模言語モデル(LLM)をC/C++で動かすオープンソース。NVIDIA GPUがなくてもCPUや各種GPU(Vulkan/Metal)で動くのが最大の特徴で、ローカルAIの事実上の標準。『GGUF』という量子化（軽量化）形式を使います。

『ollama run モデル名』と打つだけでローカルLLMが起動する、最も手軽なツール。裏でllama.cpp系を使い、モデルのダウンロード・管理も自動。プログラミング不要で試せます。

ローカルLLMをマウス操作だけで使えるデスクトップアプリ。チャット画面でモデルを切り替えて試せ、Vulkan対応で非NVIDIA GPUでも動きます。コマンドが苦手な人向け。

Microsoft主導の高速推論エンジン。ONNX形式のモデルを、CPU・GPU・NPUなど様々なハードで効率よく動かせます。LLMに限らず画像・音声モデルまで幅広く対応。

llama.cppやwhisper.cppの土台になっている軽量な数値計算ライブラリ。依存が少なく組み込みやすいため、エッジ機でのAI実行を支える『縁の下の力持ち』です。

Hugging Faceのモデルを、サーバー不要でブラウザのJavaScriptから直接動かせるライブラリ。文字起こし・翻訳・画像分類などがWebページの中だけで完結します。

ブラウザの中だけでLLM(チャットAI)を動かす技術。WebGPUを使い、入力をサーバーに送らずに会話できます。当サイトのチャット系デモもこの系統です。

GoogleのTensorFlowをブラウザ/Node.jsで動かす版。学習済みモデルの実行だけでなく、ブラウザ内での学習もできる老舗ライブラリです。

顔・手・全身の姿勢などを、カメラ映像からリアルタイムに検出するGoogle製のライブラリ群。軽量でスマホでも動き、当サイトの姿勢推定・転倒検知デモでも使っています。

ONNX Runtimeのブラウザ版。ONNX形式のモデルをWebGPU/WASMでブラウザ内実行できます。既存のONNXモデル資産をそのままWebに持ち込めるのが強み。

NVIDIA製GPU/Jetson上で推論を最大限速くするための最適化ツール。モデルをハード専用の形に変換し、数倍の高速化・省電力化を実現します。当サイトの観測所ベンチでも使用。

Intel製のCPU・内蔵GPU・NPU向けの推論最適化キット。NVIDIA以外のハードでAIを速く動かしたいときの定番です。

エッジ専用のAI推論チップ(NPU)とその開発キットを提供するメーカー。Raspberry PiにM.2で装着でき、数ワットの低電力で物体検出を高速処理できます。

GoogleのEdge TPUを搭載した小型AIアクセラレータ。USBで挿すだけで既存のPCやPiの推論を高速化でき、導入が最も手軽な選択肢です。

Tencent製の、スマホ・組み込み向けに最適化された軽量推論フレームワーク。依存が少なくモバイルアプリへの組み込みに向きます。

Alibaba製のモバイル/エッジ向け推論エンジン。多様な端末で軽快に動くよう設計されています。

PyTorch公式の、スマホやマイコンなど端末上でモデルを動かすためのランタイム。学習したPyTorchモデルをエッジへ持ち出す正式な道筋です。

画像・音声・テキストに『正解ラベル』を付ける作業(アノテーション)のためのオープンソースツール。自社データでAIを学習させる前の必須工程を効率化します。

画像のアノテーションからデータ拡張・学習・デプロイまでを一気通貫で行えるコンピュータビジョン向けサービス。検出AIを素早く作りたいときに便利です。

『とにかく小さく・分かりやすく』を目指した深層学習フレームワーク。仕組みを学んだり、軽量に動かしたい上級者向けです。

AI論文と、その実装コード・性能ランキング(SOTA)をひも付けて検索できるサイト。『今その分野で何が最強か』を実装つきで把握できます。

Hugging Face上で、AIモデルのデモを無料で公開・体験できる場所。他人の作品を触って学び、自分のデモも数クリックで世界に公開できます。

ローカルでLLMを動かす話題が世界中から集まるRedditの掲示板。新モデル・量子化・ハードウェアの情報の最前線が日々流れています。

日本国内のローカルLLM/エッジAIコミュニティ。当サイト運営者も参加・展示しており、国内の事例や勉強会の情報が得られます。

手のひらサイズの小型コンピュータ『ラズパイ』の公式サイト。安価でエッジAIの入門に最適、AI HATを足せばNPU搭載も可能です。

NVIDIAのエッジAI向け小型ボード群。CUDAが動く最も手に入れやすいAI機で、複数カメラの処理や高精度モデルにも対応します。

エッジAIボード・センサー・キットを幅広く扱う電子機器メーカー兼通販。Hailo搭載機など最新の周辺機器が見つかります。

日本の電子工作・開発ボード通販の大手。Raspberry Pi等を日本語サポート・国内発送で購入でき、国内ユーザーの入手先として安心です。