大きなAIモデルを手元のPCで動かせれば、社内コードや文書を扱う選択肢が増えます。Edge0が公開したの145B版は、1450億パラメータを持つモデルを家庭・開発者向けの機材で動かす試みです。ただし、「29GBで動く」「ノートPCで使える」という数字だけで機材を選ぶのは早計です。本記事では、公式の紹介記事と、実際に配布されているモデル・実行手順の違いを確認します。
2026年11月13日確認時、公式モデルカードはCUDA 13を使うLinux/Windows向けの手順を案内しています。Apple M2 Ultraの計測値もありますが、Mac版の提供を示すものではないと明記されています。また、29GBは全PCに共通する必要メモリではありません。編集部はモデル推論を実行しておらず、本記事の実測は公開ファイル情報の取得・集計です。
今回の新しさ:145B/120Bモデルと専用の実行経路
Edge0の公式発表は11月12日付で145B版と120B版を紹介し、GitHubの更新履歴は11月13日付で公開を記録しています。発表ブログのページメタデータは公開日時を11月12日18:00 UTC(日本時間11月13日03:00)と記録しています。GitHub更新履歴の日付とは別に扱い、重みの一般公開開始がこの時刻だったとは断定しません。Hugging Faceの配布ファイルは実際に取得可能な公開メタデータで確認しました。リポジトリ作成日時は一般公開の開始時刻とは別です。
新モデルはQwen3.8-Flash-Nextを基にしたです。MoEは複数の専門部分を持ち、入力ごとに使う部分を選ぶ構造です。公式カードでは145Bの総パラメータに対し、1トークンの計算で有効になる量を約10.12Bとしています。ただし、使わない重みも後で必要になるので、計算量が小さいことから保存容量まで小さいとは結論できません。
今回の145B/120Bは、操作窓口となるedge0-inferから、Strataを基にしたedge0-strataを起動します。以前の35B版が使うネイティブエンジンとは実行経路が異なります。シリーズ全体の説明にMac・スマートフォンが載っていても、145B版の対応環境にそのまま転用できません。モデル別の対応表を先に見るのが確実です。
| 確認点 | 145B/120Bの現時点の資料 | 導入時の判断 |
|---|---|---|
| 対応OS・GPU | Linux/Windows、NVIDIA GPU、CUDA 13 | OSだけでなくGPUとドライバ・ビルド条件を確認 |
| Mac | M2 Ultraの計測値はあるが、公開対応を示さない旨の注記 | メモリに余裕があってもMacでの導入成功は保証できない |
| 小さい旧モデル | 35B版にはMacのMetalなど別の対応表がある | 旧モデルの実績と145Bの提供状況を混同しない |
| 形式 | Q3_K版・NVFP4版、専用のモデルフォルダ | 一般的なGGUF対応アプリで動くとは推定しない |
大きいモデルを載せる工夫:専門部分の共有と、保存場所の使い分け
公式説明の工夫は二つあります。モデル側では、専門部分の計算に使う大きな行列の一部を共有し、各部分が持つ情報を減らします。実行側では、GPUに置くもの、システムメモリに置くもの、SSDから読むものを分けます。よく使う部分をGPUに残し、ほかの部分は必要に応じて転送・処理します。構造と実行条件は一緒に確認してください。
ここでVRAMはGPUが使うメモリ、RAMはCPU側のシステムメモリ、SSDはファイルの保存装置です。SSDに収まっても、RAMやVRAMが足りず動かない場合があります。逆に一部だけをメモリに置く方式では、保存ファイルの合計がRAMより大きくても実行できる構成があります。転送速度、キャッシュ、同時利用数も関わるため、「何GB」という単一の数字では判定できません。
「29GB」は何の数字?最新モデルカードの計測条件を読む
公式発表の29GBは開発元が示すピーク値で、当サイトの測定ではありません。さらに配布モデルカードは、Q3_Kの重み量を40.81GiBとし、常駐を有効にしたRTX 5090 Dの例でVRAM 23.14GiB+RAM 31.28GiBを挙げています。公開記事の数字とカードの値は測定対象・条件が一致すると確認できず、足し引きして一つの必要容量にまとめるべきではありません。
| 数字 | 公式資料での意味 | 読み替えてはいけない内容 |
|---|---|---|
| 29GB | 発表ブログの内部測定ピーク値 | 全機種共通の必要RAM |
| 40.81GiB | Q3_Kの重み量としてモデルカードに掲載 | 配布フォルダ全体のダウンロード量 |
| VRAM 23.14GiB+RAM 31.28GiB | RTX 5090 D・Q3_Kで常駐を有効にした例 | 任意のGPUで同じ速度が出る保証 |
| VRAM 16GiB+RAM 20GiB | 同じ24GBカードを制限して測った予算 | 別の16GBカードでの動作保証 |
この最後の条件には資料内の表現差もあります。起動ガイドは16GiBのGPUメモリと20GiBのシステムメモリを要件に掲げますが、モデルカードはそれを「試験上の制限であり、最低システム要件ではない」と補足しています。現時点では境界値ぴったりの機材購入を勧める根拠にはできません。実機で必要量と余裕を確かめるべき箇所です。
速度も条件付きです。モデルカードのRTX 5090 D・Q3_Kの例は、チャット生成99.7tok/s、エージェント生成121.2tok/s。メモリ制限の行ではそれぞれ36.8、44.9tok/sです。tok/sは1秒当たりのトークン数で、日本語の文字数とは一致しません。これらは開発元の計測であり、編集部による再現結果でも、日本語業務の完了時間でもありません。
モデルを落とす前に、配布ファイルの容量だけ確かめる
編集部は重みをダウンロードせず、Hugging Faceのファイル一覧にあるバイト数を集計しました。確認したQ3_Kリポジトリの全掲載ファイルは合計105,368,205,538バイト、約105.37GB/98.13GiBでした。GBは10億バイト、GiBは2の30乗バイトです。この合計には文書・画像や選択式のファイルも含まれ、最小インストール量ではありません。取得方法によってキャッシュ等の追加領域も必要になります。
大きなファイルにはexperts.binの約40.08GBとple-fp8.ggufの約51.20GBが含まれていました。このように、カードの「40.81GiB」という指標と、配布一式を保存する容量は別物です。用途に応じたファイルの要否は公式の構成表で確認し、数字だけを見て必要ファイルを削除しないでください。
容量確認用Pythonスクリプトを用意しました。Python 3の標準機能だけを使い、公開APIからファイル名とサイズを取得します。重み・モデル・推論エンジンは取得しません。確認版を固定しているため、後日の配布変更で結果が変わる比較を避けられます。ネット接続は必要で、Hugging Faceへの通常の接続情報は送られます。
python3 toolbox-129-edge0-145b-local-requirements-files.py出力はbytes、GB、GiB、ファイル数、大きい順の5ファイルです。全ファイルにサイズがある場合だけ集計し、サイズが欠ける場合や通信・JSONの問題がある場合はERRORを表示して終了コード1にします。「不明なサイズを0とみなして少なく見せる」ことは避けています。保存済みの同形式JSONなら、--metadata ファイル名.jsonを付けてオフラインで集計できます。
対応PCで試す場合:専用エンジンと小さな日本語課題から
実際の導入は公式のビルド手順と起動ガイドに従います。①GPU・CUDA等の前提を確認、②edge0-strataとedge0-inferをビルド、③モデルフォルダを取得、④inspectで不足ファイルを確認、⑤serveかchatの片方で起動、という順序です。同じGPUでserveとchatを同時に起動しない注意書きもあります。編集部のMacでは145Bの公開手順に沿った実行を行っていません。
Linuxでビルドとモデル取得を終えた場合のコマンド例は次です。/path/to/は自分の実在するフォルダに置き換えます。inspectのJSONでokがtrueになることを確認してからserveを実行します。モデル本体の検証を代行する教材ではなく、公式手順の読み方を示す未実行例です。
build/cpu/bin/edge0-infer inspect --model /path/to/Edge0-145B-q3k --json# okがtrueであることを確認してから実行build/cpu/bin/edge0-infer serve --model /path/to/Edge0-145B-q3k業務では、いきなり社内システムを操作させず、公開情報や架空データの読み取りから評価します。候補は日本語仕様書からの条件抽出、既存コードの説明、テスト案の作成です。日本語品質やコードの正しさを今回の公開ベンチマークだけで保証することはできません。以下を実際の候補モデルへ渡し、答えの内容と待ち時間を記録する方法があります。
架空の仕様書から「条件」「担当」「期限」「未確定事項」を抽出してください。 記載のない情報は「未定」と書き、外部操作やコード実行はしないでください。 【仕様】 社内向けの注文一覧は閲覧だけを許可する。削除機能は作らない。 試作は田中が担当する。レビューは11月20日に実施する。 本番公開日と承認者はまだ決まっていない。
期待結果は「閲覧のみ・削除なし」「試作担当は田中」「レビューは11月20日」「本番公開日と承認者は未定」です。レビュー日を公開日へ読み替えたり、承認者を創作したりすれば不合格です。同じ条件で複数回試し、正答率・最初の出力までの時間・全体時間・ピークRAM/VRAMを別々に記録します。温度0でも完全に同じ出力にならない可能性が起動ガイドに記載されています。
利用条件:コードのライセンスとモデルのライセンスは別
実行基盤のコードはApache-2.0、Strata由来の部分はMIT等の条件を持ちます。一方、モデルのEdge0固有の貢献部分にはEdge0 Community Model License 1.0が付いています。重みが読めることを理由に、すべてをApache-2.0と扱うことはできません。
このモデルライセンスは、上流の条件等を満たすことを前提に、個人利用・研究・社内利用や生成物の商用利用などを許可しています。ただしモデルの有償販売・配布、商用のモデルサービス、独立した商用コーディング/オフィス支援製品などには別途書面による許諾を求めています。例外や定義もあるため、実際の提供形態を原文と照合してください。Qwen由来の条件も別途残り、Edge0の許可だけで上流の許可まで得られるとは記載されていません。
ローカル推論にはその推論に対応するクラウドのトークン料金がありませんが、機材・電力・保守の負担はあります。接続するエージェントが検索、外部API、コード送信を行えば通信も発生します。モデルをローカルに置く判断と、社内文書の閲覧権限・外部送信・操作承認の設計は分けて考えましょう。
何を確認できたか、次に何を確かめるか
今回は公開ファイルの容量集計と、教材の正常・異常入力を検証しました。Edge0の推論、速度、日本語性能、メモリ量、ベンチマークは未実測です。開発元のデモや点数は可能性を知る材料になりますが、導入の判断には自分の文書・コードに近い小さな課題での再現が必要です。Macを基盤にした運用の別案はClaris Harborの解説最終更新日: でも扱っています。Harbor上でEdge0-145Bが動くことを確認したものではありません。
確認日:2026年11月13日。コード資料はコミットb7900cbb3229、モデルのファイル情報はd7de835cfce7を参照しました。公開後も対応環境やライセンスの表記が変わる可能性があるため、実際の導入時にはリンク先の最新版との差分を確認してください。