実行時 LLM で動く NPC ── プロンプト設計・コスト管理・レスポンス遅延の現実

あなたは「銀の鴉亭」 の老マスター、ヘリアス。58 歳、元冒険者、左目に古傷。口数は少ないが情報通。冒険者ギルドの噂・依頼を一通り知っている。
性格・話し方:- 口調: 「〜だな」「〜じゃろう」 と老人らしく、命令調はしない- 感情: 普段は寡黙、酒の話 と 古い武勇伝 になると饒舌- 嫌い: 騒がしい客、無礼な質問- 好き: 真面目な冒険者、珍しい食材
絶対ルール:1. 自分以外のキャラの台詞を作らない2. プレイヤーの所持アイテム / HP / お金 を勝手に変動させない   (システム側が管理しているので、変動が必要なら【依頼:お金を 50 ゴールド渡す】 のように記述)3. 物語の世界観 (中世ファンタジー、魔法あり、神は複数) を逸脱しない4. 暴力・性的表現は避ける5. 自分が AI であることを匂わせない、キャラを崩さない
世界観の知識:- 王国名: ヴェラント- 通貨: ゴールド- 主要ギルド: 冒険者ギルド (青旗)、商人ギルド (緑旗)、暗殺ギルド (公式には存在しない)- 現在の話題: 北の塔に魔物が増えた、領主の息子が失踪

from anthropic import Anthropicimport os
client = Anthropic(api_key=os.environ["ANTHROPIC_API_KEY"])
SYSTEM_PROMPT = """あなたは「銀の鴉亭」 の老マスター、ヘリアス。58 歳、元冒険者、左目に古傷。 ...(略)..."""
conversation_history = []
def npc_reply(player_message: str) -> str:    """NPC ヘリアスの返答 (ストリーミング)"""    conversation_history.append({        "role": "user",        "content": player_message    })
    full_reply = ""    with client.messages.stream(        model="claude-opus-4-7",        max_tokens=300,        system=SYSTEM_PROMPT,        messages=conversation_history,    ) as stream:        for text in stream.text_stream:            print(text, end="", flush=True)  # ゲーム UI に逐次表示            full_reply += text        print()
    conversation_history.append({        "role": "assistant",        "content": full_reply    })    return full_reply
# 使い方npc_reply("こんにちは、ヘリアス。何か面白い依頼はあるかい？")npc_reply("北の塔の魔物について詳しく聞かせてくれ")

import reimport json
# system prompt に追加:# 最後に必ず JSON で行動を示してください:# <action>{"give_quest": "クエスト ID", "set_mood": "感情"}</action>
def parse_npc_action(reply: str) -> dict:    """NPC 返答から <action>...</action> を抽出"""    match = re.search(r"<action>(.+?)</action>", reply, re.DOTALL)    if not match:        return {}    try:        return json.loads(match.group(1))    except json.JSONDecodeError:        return {}
def apply_action(action: dict, game_state):    """アクションをゲーム状態に反映 (システム側で安全に処理)"""    if quest_id := action.get("give_quest"):        game_state.player.add_quest(quest_id)    if mood := action.get("set_mood"):        game_state.current_npc.mood = mood    # LLM が「金 1000 渡す」 と言っても、システム側のルールでフィルタ    if gold := action.get("give_gold"):        if gold <= 100:  # 上限チェック            game_state.player.gold += gold
# 表示用テキストからアクションタグを除去def clean_for_display(reply: str) -> str:    return re.sub(r"<action>.+?</action>", "", reply, flags=re.DOTALL).strip()

# pip install llama-cpp-pythonfrom llama_cpp import Llama
# 8GB VRAM GPU で動く 4-bit 量子化版llm = Llama(    model_path="./models/llama-3-8b-instruct.Q4_K_M.gguf",    n_gpu_layers=-1,  # 全レイヤーを GPU に    n_ctx=4096,    verbose=False,)
def npc_reply_local(player_message: str, system_prompt: str) -> str:    response = llm.create_chat_completion(        messages=[            {"role": "system", "content": system_prompt},            {"role": "user", "content": player_message},        ],        max_tokens=300,        temperature=0.7,        stream=False,    )    return response["choices"][0]["message"]["content"]
# 利点: コスト 0、ネットワーク不要、レイテンシ 1-2 秒# 欠点: プレイヤー PC の GPU 要件、配布サイズ +5GB

# 入力 sanitizationdef sanitize_input(text: str) -> str:    # 改行を半角スペースに、極端な長さを切詰め    text = text.replace("\n", " ").replace("\r", " ")[:500]    # システムプロンプト破壊用のキーワード検出    suspicious = ["ignore previous", "system:", "</system>", "あなたの設定を",                  "ロールプレイをやめ", "あなたは AI", "instructions"]    for s in suspicious:        if s.lower() in text.lower():            return "(NPCに話しかけたが、内容が不適切で無視された)"    return text
# 出力 検査def validate_npc_output(reply: str, npc_name: str) -> str:    # キャラ崩壊検知 (例: NPC が AI を名乗ったら警告 + 再生成)    bad_patterns = ["私は AI", "I am an AI", "as a language model",                    "言語モデル", "私の役割は"]    for p in bad_patterns:        if p.lower() in reply.lower():            return f"{npc_name}は無言で頷いた。"  # フォールバック    return reply

import timeimport random
class NpcLLM:    def __init__(self, npc_name: str, fallback_lines: list[str]):        self.name = npc_name        self.fallback = fallback_lines        self.failures = 0        self.cooldown_until = 0
    def reply(self, message: str) -> str:        # Circuit Breaker: 失敗続きならしばらく LLM 呼び出しを停止        if time.time() < self.cooldown_until:            return random.choice(self.fallback)        try:            return self._call_llm(message)  # 実装は前述        except Exception as e:            self.failures += 1            if self.failures >= 3:                self.cooldown_until = time.time() + 60  # 60 秒停止                self.failures = 0            return random.choice(self.fallback)
    def _call_llm(self, message: str) -> str:        # 実 API 呼び出し        ...
# 各 NPC に最低 10-20 個の fallback を用意helias = NpcLLM("ヘリアス", [    "ふむ、それは難しい質問じゃな……。",    "今は手が離せん。後でまた話そう。",    "(老マスターは何やら考え込んでいる)",    # ... 15 個くらい])