Flide 0.1.9とは？Jev型の判断AIを動かす推論エンジンと日本語業務への試し方

2026年11月9日時点の最新版は0.1.9。対応モデルの追加と、複数のリクエストを一度に送る機能が入りました。この記事では、Jevとの関係、何を共有して高速化するのか、日本語の問い合わせで試す前に必要な条件を整理します。モデルの速度・日本語精度は本誌では未実測です。

日付は公式READMEの更新案内とPyPIの配布履歴を照合しました。0.1.9の配布ファイルはUTCでは11月8日18:31です。READMEの「11月9日」と矛盾するわけではなく、日付を読む際は時差を分ける必要があります。GitHub Releasesの一覧は確認時点で空でした。

FlideはJev型の /v1/systemone APIを提供しますが、API形式が近いことと、TypeSafeのJevと同じ重み・回答・料金になることは別です。Jev自体の入口は既存のJev解説を参照してください。今回は、対応する公開モデルを自分の環境で配信する側の話です。

公式が説明する中心技術はExact State Forkingです。stateは、判定対象の文章やデータを指します。同じstateについて複数の質問をする場合、共通部分の計算を共有し、そこから質問ごとの処理へ分ける考え方です。

質問をただ一つの長いプロンプトに詰め込むと、前の質問や追加した区切りが、別の質問の答えへ影響する可能性があります。Flideは、各質問を単独で尋ねた場合の計算関係を保つことを狙っています。ただし公式FAQも丸め誤差を留保しています。通常の計算で全ビットが常に同一だという意味ではありません。--batch-invariantは、同時に処理される他のリクエストによる数値の揺れを抑える別の設定です。

これは計算の再利用と再現性の話です。モデルが誤って分類する問題、日本語の曖昧な表現、入力にない情報を推測する問題が自動的に解決するわけではありません。

作者のREADMEは、H200を1基、Qwen3.5-0.8Bを使った条件で、vLLM・SGLangとの比較を報告しています。Show HNの見出しは最大9.5倍、確認したREADMEの概要は最大9.4倍と表記が異なります。本誌ではこの差を丸めて独自の性能値にせず、作者報告であり、モデル・問題・同時実行数によって変わると扱います。

導入判断で知りたいのは、自分たちの長さの日本語データ、質問数、GPUで、何件を何秒で処理できるかです。広告的な最大値を、手元のMacや別モデルの速度へ当てはめることはできません。GPU代、起動時間、保守にかかる時間まで含めて比較します。

公式インストール案内は、Linux、NVIDIA GPU、Python 3.10以上、PyTorch 2.12以上を前提にしています。対象コミットのpyproject.tomlではtorchの上限を2.15未満に指定しています。CUDAとドライバーの組み合わせも必要で、画像を使う場合はtorchvisionを対応するtorchとそろえます。

FlideのコードはApache-2.0ですが、モデルの重みにはそれぞれの利用条件があります。ソフトウェアを取得できても、GPU、電力、サーバー運用が無料になるわけではありません。必要なVRAMはモデルのサイズ、量子化、入力の長さ、並列数で変わり、「Flideなら何GBで全部動く」と一律には言えません。モデルによっては取得時の利用条件への同意も確認します。

今回の作業環境はDarwin arm64のMacです。公式のLinux・NVIDIA GPU条件を満たさないため、推論サーバーを起動したという実測は載せていません。公開コードのリクエスト検証部分を分離して、日本語のサンプルJSONの形式だけ確認しています。

以下は条件を満たす検証用Linux環境で試すための手順案です。本誌でGPU実行済みの手順ではありません。まず既存環境と分けたPython環境を作り、0.1.9を指定して導入します。公式のQuick startにあるQwen3.5-4Bを例にしますが、モデルの利用条件と容量は別途確認してください。

公式READMEでは、既定のサーバーは全ネットワークインターフェースで待ち受けます。この例は127.0.0.1を明示して同じマシンからだけ接続します。外部公開や認証を整える作業は別の段階です。初回はモデル取得やGPU用カーネルの準備に時間がかかる場合があります。

次の内容をrequest.jsonとして保存します。すべて架空の入力です。「supportを必ず選ぶ」とは指示せず、担当を決められない選択肢を用意しています。

返る数値や選択結果はここでは作っていません。人の観点では不具合・交換相談を含み、注文番号が書かれていない例です。モデルがそう読めるかを、実際の返答と比べます。API仕様のchoiceは候補選択、noulは命題が成り立つ確率を返す形式です。確率やconfidenceは、その判定が業務上正しいという保証ではありません。

ここまでの例は「一件のstateに二つの質問」です。今回加わった機能は、それとは別に、複数の独立したリクエストをrequests配列に入れて一度に送るものです。0.1.9のサーバー実装で確認しました。

この実装は、各項目の検査を終えてから実行し、結果をresultsへまとめます。不正な項目や実行失敗を一部成功として黙って返す設計ではないため、アプリ側は一括処理全体の失敗にも対応します。大量データをいきなり送るより、一件の評価、少量の一括処理、再試行の設計の順に進めます。API説明ページには単一リクエスト中心の記載が残っていたため、新機能は版を固定したコードを根拠にしています。

最初は個人情報を含まない架空例や、利用許可のある匿名化データで、人が付けた正解と比較します。日本語では省略、否定、「交換ではなく返品」といった訂正も含めます。正解付きの評価用データを残して、モデルやプロンプトを変えた後も同じ条件で測れるようにします。これは本誌が提案する検証方法であり、Flideで達成した成果ではありません。

flide verifyは、まとめた質問と単独の質問、バッチの組み合わせ、セッションキャッシュの有無による結果の違いを調べる道具です。verifyに通ることと、日本語業務の正解率が高いことは別です。計算の一貫性を確認したうえで、人の正解との比較を行います。

対象は2026年11月9日のFlide 0.1.9、ソースコミットa1af291です。PyPIでの配布、更新内容、公式の動作条件、単一リクエストと一括リクエストのコードを確認しました。掲載JSONは、公式のPydanticスキーマで受理されることと、質問が空・choiceの基準が欠ける入力を拒否することを確認しています。これは入力形式の検証であり、モデルの推論成功やAPI通信の成功ではありません。

GPU推論、速度比較、日本語の判定精度、業務コストの削減は未実測です。Jev型の判断を自社GPUへ載せたい開発者には検討価値がありますが、まずは既存の方法と同じデータで比べ、速さだけでなく人へ戻す率と誤りの影響を判断するのが実用的です。