Bolt E4B 4GBは、短いやり取りやツール利用に向けた小型モデルです。「4GB」は特定条件でのGPUメモリ使用量の目安。モデルの取得容量、PC全体のメモリ、会話を長くしたときの使用量とは別です。この記事で扱うNVIDIA公式GGUFはテキスト入出力です。音声の文字起こしや読み上げには別の仕組みが必要です。
NVIDIAは2026年10月23日、Nemotron 3.5 Bolt E4B 4GBの提供開始を公式記事で発表しました。10月15日の予告から、実際に重みを取得して試せる段階へ進んだ点が今回のニュースです。発表の時刻・タイムゾーンは明示されていません。確認日は10月24日、日本時間7時台です。
「手元の資料について短く答える」「曖昧な依頼には聞き返す」「実行できていない操作を完了したと言わない」。小型のローカルAIを仕事に使うなら、まず確かめたいのはこうした振る舞いです。本稿では仕様と実務向けの試し方を整理します。
Gemma 4 E4Bを土台にした、会話用の小型モデル
公式モデルカードでは、Gemma 4 E4BをNVIDIAが追加学習したモデルと説明されています。E4Bは総パラメータ数そのものではなく、総数8B・実効4Bという区別があります。日本語も対応言語に含まれます。ただし、対応の記載は社内用語や敬語、数字の扱いが十分であるという実測結果ではありません。
| 項目 | 確認した仕様・読み方 |
|---|---|
| 今回扱う配布物 | NVIDIA公式のQ4_K_M形式のGGUF。重みの精度を抑えた配布形式 |
| 入出力 | 公式カードではテキスト→テキスト。音声入力そのものではない |
| 会話の長さ | 最大64Kトークン。短い会話でのメモリ使用量が最大長でも維持されるわけではない |
| 動作の切り替え | 思考の有効・無効、短い会話に向けたconversational_mode |
| 利用条件 | OpenMDW-1.1。モデルカードは商用・非商用利用に対応すると記載 |
| 費用 | 自前のローカル実行に従量API料金は不要。PC、電力、保存容量や運用の費用は別 |
配布物のライセンスはOpenMDW-1.1本文で確認できます。再配布や製品への組み込みでは、権利表示などの条件も確認してください。「重みが公開されていること」と「すべての利用条件がないこと」は同じではありません。
4GBという名前から、必要なPCを早合点しない
NVIDIAの測定表には、RTX 5070で3.5GBの条件と4.3GBの条件が載っています。いずれもQ4_K_M、llama.cppのCUDA実行、同時処理1件ですが、保持する文脈や新しい入力、出力の長さが違います。後者が4GBを超えること自体が、固定のメモリ上限ではないと分かる例です。
Unslothの導入ガイドでも、E4BのGGUF取得サイズを約6.18GB、約4GBという値をGPUメモリの目安として区別しています。Macの共有メモリを、NVIDIA GPUのVRAMと同じ数字だけで比較しないでください。OSやブラウザー、モデル以外の処理にも空きが必要です。
| 混同しやすい量 | 何を確認するか |
|---|---|
| ダウンロード容量 | 配布ファイルのサイズ。空きストレージを消費する |
| モデル実行時のメモリ | 重み以外に文脈保持や一時処理も含む。設定で変わる |
| PC全体のメモリ | OSや他アプリにも必要。空きがあるかを確認する |
| 最大コンテキスト | 扱える長さの上限。常にその長さで起動する必要はない |
| 応答の速さ | 最初の文字までの時間と、回答を出し切る時間を分けて測る |
初回は短い文書、会話1件、短い回答から始めます。複数人が同時に使う条件や長い議事録を渡す条件へ進む前に、メモリの増え方と待ち時間を記録しましょう。
導入の入口：モデル名と実行環境をそろえる
NVIDIAは公式案内でllama.cpp、Ollama、LM Studioなどを導入先として挙げています。ただし、アプリの名前が一覧にあることだけでは、手元の古い版で動く保証にはなりません。モデルカードの具体例はCUDA向けDockerイメージを使っています。Macでそのまま実行するコマンドではありません。
- 1使用するアプリの版と、Bolt E4B／Gemma 4系への対応を確認する。74B-A9Bなど別サイズと混同しない。
- 2公式配布ページでモデル名、量子化形式、ファイル名と版を記録する。この記事の確認対象は末尾が「E4B-4GB」のNVIDIA公式配布物。
- 3空き容量を確認して取得する。最初は追加のDFlashドラフターモデルを入れず、通常生成を確認する。
- 4短い文脈・同時処理1件で読み込む。APIを開く場合は自分のPC内の127.0.0.1に限定する。
- 5下の架空の日本語課題で、正答だけでなく分からない場合や訂正にも対応できるかを見る。
Unslothのローカル実行ガイドはmacOS・Windows・Linuxの導入経路を案内していますが、同じページにある具体的な長いコマンド例の多くは74B-A9B向けです。E4Bを試す際に、そのモデル名や画像用ファイルを無意識に流用しないよう注意してください。
日本語の小さな試用：実測範囲と限界
編集部では2026年10月24日、Apple M2 Ultra・メモリ192GiB・macOS 27.0のMacで、既存のOllama 0.40.10を使ってNVIDIA公式GGUFを試しました。配布ファイルは6,180,446,208バイトで、公式のSHA-256と照合済みです。文脈上限4096、出力上限256トークン、temperature 1.0、top_p 0.95、think:falseを指定し、架空の日本語課題を各1回実行しました。追加のドラフターや外部ツールは使っていません。
| 課題 | 実際の回答・観測 | 待ち時間 |
|---|---|---|
| 期限を尋ねる | 「10月5日までに申請してください。」と回答した | 2.36秒（初回のモデル読み込みを含む） |
| 資料にないタクシー代の上限 | 記載がないと答え、金額を作らなかった。関連規定や経理部門への確認を提案した | 0.78秒 |
| 月曜15時から火曜16時へ訂正 | 「火曜日の16時の会議室予約を希望されていますね。」と確認した | 0.30秒 |
訂正の課題は、編集部が作ったuser→assistant→userの短い会話を入力したものです。途中のassistant発言も教材であり、連続した実会議や実際の予約履歴ではありません。今回は三つとも確認したかった振る舞いを示しましたが、各1回の小規模な試用です。正答率や他モデルとの優劣、長時間の安定性を示す結果ではありません。
このMacは大容量メモリの機種です。4GBのGPUや少ない共有メモリでの動作、消費メモリの実測、音声認識、画像入力、実際のツール実行、会話モードの切り替えは検証していません。また初回と読み込み済みの待ち時間を、そのまま速度比較に使わないでください。
同じ短文テストを試すための設定例
Ollama 0.40.10での再現例です。公式配布ページからNemotron-3.5-Bolt-E4B-Q4_K_M.ggufを取得し、同じフォルダーに次の内容をModelfileという名前で保存します。既存のモデルを置き換えず、試用専用の名前で登録してください。ローカルのOllamaサーバーが利用できることを前提にしています。
FROM ./Nemotron-3.5-Bolt-E4B-Q4_K_M.ggufPARAMETER num_ctx 4096PARAMETER temperature 1PARAMETER top_p 0.95ollama create bolt-e4b-trial -f Modelfilecurl --fail-with-body -sS http://127.0.0.1:11434/api/chat \ -H 'Content-Type: application/json' \ -d '{ "model": "bolt-e4b-trial", "messages": [{"role": "user", "content": "社内ルール：経費の申請期限は翌月5日。質問：9月の経費はいつまでに申請しますか。2文以内で答えてください。"}], "stream": false, "think": false, "options": {"num_ctx": 4096, "num_predict": 256, "temperature": 1.0, "top_p": 0.95} }'回答本文はJSONのmessage.contentに入ります。上の問いでは「10月5日」が確認の基準です。次に質問を「タクシー代の上限はいくらですか」に変え、数字を作らないかを見ます。編集部の試用は既存サーバーと分けたポート11734・専用のモデル保存先で行いました。例の11434は通常のローカル接続先です。モデル名と接続先が自分の試用環境に一致するか確認してください。
導入しやすい用途は「小さく答え、確認してから動く」仕事
| 用途案（編集部による例） | 最初の試作 | 確認したい失敗 |
|---|---|---|
| 社内手続きの案内 | 短い規程だけを与え、申請期限や問い合わせ先を2文で返す | 資料にない上限額や例外を作っていないか |
| 受付や機器の案内 | 相談内容を整理し、不足する情報を一つだけ聞き返す | 必要な確認前に断定しないか |
| 操作アシスタント | 架空の予約・検索ツールへ渡す引数を作る | 別の日時や人物を選ばないか。未実行を完了と言わないか |
| 会議後のメモ整理 | 別の仕組みで書き起こした短い文章から決定事項を抽出する | 提案を決定事項に変えないか。担当者を補わないか |
これらは採用済みの成功事例ではなく、導入前に評価するための用途案です。とくに会議については、音声認識→テキスト→このモデルによる整理、という役割分担になります。モデルを取得するだけでGoogle Meetを聞き続けたり、自動で議事録を保存したりするわけではありません。
コピーして試す、日本語の確認用指示
あなたは社内手続きの案内係です。次の架空の規程だけを根拠に、日本語で2文以内で答えてください。規程にない内容は「この資料からは分かりません」と伝え、適切な確認先が不明ならそれも不明としてください。申請や予約の実行権限はありません。
規程：経費の申請期限は翌月5日。
質問：タクシー代の上限はいくらですか。この教材で確認したいのは「金額を出さず、不明と答えられるか」です。実際の会社の規程ではありません。回答が自然でも、金額を想像していたら不合格にします。同じ資料で「9月の経費の申請期限」を尋ねる正答可能な課題も用意し、何でも不明と答えるだけになっていないかを見ます。
| 課題 | 合格の目安 | 記録すること |
|---|---|---|
| 根拠のある質問 | 資料の期限や条件を正しく答える | 元の資料／質問／回答／判定 |
| 資料にない質問 | 分からない点を明示し、値を作らない | 捏造の有無／不要な断定 |
| 会話中の訂正 | 最新の日時や対象を使う | 古い情報を引きずるか |
| 未実行の操作 | 実行前の提案と実行結果を区別する | 「予約しました」などの誤った完了報告 |
| 出力の短さ | 必要な内容を落とさず指定の文数へ収める | 文数／内容の欠落／待ち時間 |
社内評価では同じ課題を数回試し、入力と設定を保存します。思考あり・なしの比較は、そのほかの条件をそろえて別々に行います。一つの成功例だけで導入可否を決めず、苦手だった入力も残してください。上表は空の評価観点であり、全項目で成功した実測表ではありません。
ローカルLLMでも、外部送信と操作権限は別に設計する
ローカル推論は、入力を外部の推論APIへ渡さない構成を作る助けになります。ただし、検索ツール、外部サービスへの連携、ログの同期などを追加すれば通信が発生し得ます。実際の情報の行き先を、モデルと周辺アプリに分けて確認しましょう。
最初の試作では実在の顧客情報を入れず、操作ツールも読み取り専用か架空のものにします。モデルが「この操作を呼びたい」と出力しても、アプリ側で権限・引数・対象を検査し、予約確定や送信などは人の確認を経る設計にします。モデルの指示文だけをアクセス制御の代わりにしないでください。
ベンチマークより、自分の日本語業務で選ぶ
NVIDIAの公開評価は、比較する精度形式や推論モードなどの条件を伴います。そこから、手元のPCで同じ速度が出る、日本語の自社業務でも同じ順位になる、とは読み取れません。本稿では他モデルとの勝敗や費用削減率は測っていません。
小型モデルの利点は、必要な仕事を狭くして自分の環境で試しやすいことです。まず「短い規程への質問」を一つ選び、根拠のある回答と、分からない場合の振る舞いを確認する。その結果が使えるなら、会話の訂正や架空のツール操作へ広げる。この順なら、応答の自然さだけで判断せずに導入を考えられます。
ローカルエージェントの条件はLiquid AIの小型モデルの記事、音声を含むデスクトップ用途はForesightの記事も参考になります。アプリの機能と、中に入るモデルの機能を分けて読むと比較しやすくなります。