ローカルLLMを自分のPCで動かせても、チームで共有するには、接続先、利用者ごとの鍵、モデルの管理、記録の置き場所を決める必要があります。Goetheは、LinuxとNVIDIA GPUを使うマシンで、モデルを読み込み、アプリから呼び出せるAPIとして提供するオープンソースの基盤です。公式リポジトリ
2026年11月7日03:46 JSTに公開されたGoethe 0.1.8では、リクエストと応答をセッション単位で保存するtrace機能が加わりました。変更履歴の日付は11月6日、配布リリースの公開時刻は11月6日18:46 UTCです。新しいモデルの発表ではなく、手元のモデルを運用するソフトの更新です。0.1.8リリース・変更履歴
サーバー側はLinuxと対応するNVIDIA GPUが前提です。Apple Siliconで直接推論する構成は公式の対応表にありません。本記事は公開資料を照合した導入解説で、GPU推論・速度・日本語品質は未実測です。traceは初期状態ではオフ。有効にすると入力と応答の内容が保存されますが、そのままモデルを学習したり、良い回答だけを選別したりする機能ではありません。
Goetheが受け持つ場所：モデルと、仕事で使うアプリの間
構成は「利用者のアプリ → GoetheのAPI入口 → 読み込んだモデル」です。モデル名を指定して呼び出すため、同じ接続先で複数モデルを使う構成も案内されています。チャット画面や社内文書を検索する仕組みまで、ひとつのインストールで完成するという意味ではありません。利用ガイド
| 層 | 準備するもの | 混同しやすい点 |
|---|---|---|
| 利用画面・業務アプリ | チャット画面、社内ツール、接続先設定 | Goetheを入れるだけで社内FAQの中身が作られるわけではない |
| APIと運用 | モデルのロード、接続範囲、利用者やアプリごとの鍵 | API形式が似ていても、元の商用モデルと同じ品質にはならない |
| モデルとGPU | モデルの重み、利用条件、必要なメモリ | 同じGPUでも文脈長や同時利用数で余裕が変わる |
| 記録と評価 | 保存対象、保持期間、評価用の問題と採点基準 | 応答を保存したことと、正しい回答と認定したことは別 |
OpenAI・Anthropic・LiteLLMのクライアントに対応するAPI入口が案内されています。これらの会社のモデルが付属するという意味ではなく、接続先を自分のサーバーへ向ける構成です。各クライアントが使う機能とモデルの対応は、小さな検証で確かめてください。日本語も、APIの接続成功だけでは品質を判断できず、選んだモデルと業務の文章で評価する必要があります。
0.1.8の新機能：会話をモデルの版と一緒に残す
今回の変更履歴では、会話や生成要求と応答を保存し、会話の続きと再生成を整理する機能が追加されています。原則としてモデルの版を識別する情報も残すため、後で「どの版がこの回答を出したか」を確認する材料になります。ゲートウェイの証明書の名前に関する修正と、コンテナイメージを作るDockerfileも追加されています。0.1.8の変更点
たとえば、社内文書の要約を別のモデルへ切り替えたあと、日付の抜けが増えたとします。運用担当者が確認したいのは、単に回答が遅いかどうかだけでなく、「同じ入力で何が変わったか」です。記録とモデルの版を結び付けておけば、その比較を始める材料を残せます。これは想定する用途であり、本誌が改善効果を測定した事例ではありません。
| 想定する仕事 | 残したい比較材料 | 人が判断すること |
|---|---|---|
| 問い合わせ回答の下書き | 公開FAQを入力したときの回答とモデルの版 | 存在しない規約や約束を追加していないか |
| 議事メモの整理 | 架空メモに含めた日時・未定事項と出力 | 決まっていない担当者を補っていないか |
| 開発支援 | 入力条件、ツール呼び出し、次のターンで返された結果 | 呼び出せたことと、作業が成功したことを分ける |
必要な環境と費用：まず手元の機材を照合する
公式READMEの対応環境はLinuxのx86_64またはARM64で、glibc 2.30以降です。GPUはNVIDIAのAmpere、Ada、Hopper、Blackwellを挙げ、Volta・Turingは非対応としています。GeForce・TITANではドライバー580以降が必要です。データセンター向けGPUには535〜579のドライバーをCUDAの前方互換性で扱う条件があります。対応環境とドライバー表
同じREADMEによると、GoetheはCUDA 13のランタイムとコンパイラーを同梱します。ただし、ドライバーやGPUメモリの要件が消えるわけではありません。Macは利用側のクライアント候補として考え、推論を行うサーバーは対応するLinux機として別に判断します。日本から使うための招待制サービスという構成ではありませんが、ネットワーク、モデルの取得先、ライセンスは確認が必要です。
Goethe本体はApache-2.0です。モデルのライセンスは別に適用されます。ソフトがオープンソースでも、GPUの購入、電気、ストレージ、保守、クラウドGPUを借りる場合の料金は残ります。「月額API料金がなくなるから必ず安い」とは決められません。最初は対応する既存機材で、利用人数と待ち時間を測る計画を立てましょう。ライセンス
導入の順番：ひとりの接続から、共有と記録へ進む
- 1公式の利用ガイドでOS・GPU・ドライバーを照合する。インストーラーはサービスや実行環境を導入するため、内容と変更対象を管理者が確認し、まず検証用のLinux環境に導入する。
- 2導入後は goethe --build-info で版とビルド情報を、goethe doctor で環境を確認する。goethe recommend は候補選びの材料として使い、必要なモデルのライセンスと容量を確認する。
- 3goethe start の案内に沿ってモデルとAPIを設定する。最初はこのマシンだけの接続範囲で、個人情報のない短い日本語の依頼を試す。
- 4共有が必要になったら goethe configure api で接続範囲を決める。公式はVPNを推奨している。IP制限、アプリごとの鍵、利用モデル、失効担当を決めてから接続する。
- 5記録は別の判断にする。goethe trace で現在の状態を見て、保存対象と保持期間を決める。既存設定がある場合は、過去に選ばれた鍵も確認してから変更する。
上のコマンド名と役割はCLIリファレンスに基づきます。本記事ではインストール、鍵の発行、APIの公開、記録の有効化を実行していません。goethe api の表示には接続や認証に関する情報が含まれるため、出力をそのまま外部のチャットや公開記事へ貼らず、秘密値を除いて共有してください。
traceを使う前に知っておきたい四つの性質
公式の記録仕様では、プロンプトと応答の全文が保存対象です。リクエストヘッダーやクライアントの鍵そのものは保存しない一方、本文へ書いた秘密情報まで自動的に除去するとはされていません。初回に単にtraceをオンにすると全APIキーが対象になるため、限定した検証用入力から始めるのが本誌の提案です。 記録対象はchat/completions、Anthropic Messages、completions、Responsesです。埋め込み、rerank、トークン数の計算は記録しません。応答は32MBを超える部分が保存されず、ストリームが途中で切れた場合も不完全な記録になり得ます。
| 性質 | 運用で確認すること |
|---|---|
| 初期状態はオフ | 誰が、何の目的で記録を始めるかを決める |
| 既定の容量上限は20GB | 上限では記録がオフになる。ディスク残量不足による一時停止とは区別する |
| 処理が詰まると記録を落とす場合がある | 返信を優先する設計。全件が必ずそろう監査証跡と決め付けない |
| アンインストールしても既定の保存先の記録が残る | ソフトの停止・削除と、保存済みデータの管理を別の作業として扱う |
保存先は既定で ~/.goethe/traces です。ログを学習に使う際の良否判定や選別は後段の別作業とされています。「再生成されたから最初の回答は誤り」「HTTPが成功したから回答は正しい」と自動判定しないことが大切です。品質評価には、業務上の正解条件を別に用意します。
日本語の小さな確認例：正しい日付だけでなく「未定」を残せるか
次の架空メモを「決定事項」「未確定」「禁止事項」に分けてください。書かれていない担当者や締切を補わないでください。
検証会は11月12日15時。担当者は未定。費用の上限は3万円。外部へのメール送信は承認されるまで行わない。期待するのは、決定事項に11月12日15時と上限3万円が入り、担当者は未確定、承認前の外部送信は禁止と残ることです。これは編集部が作った確認用の文で、Goethe上での成功例ではありません。モデル名・版・設定・同時利用数・待ち時間・内容の誤りを記録し、モデル変更の前後で同じ文を使います。
この例が通っても、長文要約や実務全体に合格したことにはなりません。次は実務に近い匿名化済みの文で、抜け、追加、数字の取り違え、返答時間を分けて評価します。記録を学習用に転用できるかは、元データの利用目的と権限を担当者が確認します。
最初の導入判断をLLMへ整理してもらう
Goethe 0.1.8の導入候補を、添付する公式資料と匿名化した機材一覧だけで整理してください。
1. OS、CPUアーキテクチャ、GPU、ドライバー、メモリについて、適合／未確認を根拠付きで表にする。
2. 利用者、利用アプリ、モデル、接続範囲、鍵の管理担当を分ける。
3. traceは推論利用とは別に、保存対象、保持期間、閲覧者、記録欠損の確認、削除担当を整理する。
4. 日本語の内容評価と待ち時間の評価を別に設計する。
コマンドの実行、インストール、鍵の発行、設定変更、外部送信はしない。秘密値や顧客の実データは要求しない。性能、費用削減、安全性を未測定のまま断定しない。Goetheが向くのは、対応するGPU機を管理でき、複数のアプリからモデルを使う入口と記録を整えたい場面です。Macでまず一人のローカルAIを試したい場合は、Foresightの記事のように、端末向けアプリから考える方が目的を絞れます。今回はGoetheのAPI配信と0.1.8の記録仕様を扱い、モデル間の性能比較はしていません。
確認日：2026年11月7日JST。対象はGoethe 0.1.8と公開リポジトリのコミット4974de4e。公開時刻はGitHub Releases、機能は変更履歴・利用ガイド・CLI・trace仕様で照合しました。macOSから資料を確認しており、対応Linux・NVIDIA環境でのインストール、推論、記録の再構成は未実測です。