MMPOと実行フックが示すLLM推論制御とエージェント防御の実装

プロンプトによる指示拘束を捨てた実行フック型の決定論的防御

自然言語によるルール記述で自律エージェントの逸脱を防ぐことは原理的に不可能であり、CLI実行直前のフック遮断しか決定論的な防御にならない。

Claude Codeの運用現場では、CLAUDE.mdに厳格なルールを記述しても一定確率で制約が破られる問題が確認された。指示ファイルを詳細に書き込んでも、自律エージェントは非決定的な挙動を示し、手順をスキップする。これまで開発者はプロンプトの調整や文脈の追加によって、エージェントの振る舞いを縛ろうとしてきた。だが、コンテキスト長を消費するテキスト指示だけでエージェントの逸脱を確実に防ぐことはできない。自然言語によるルール記述で自律エージェントの逸脱を防ぐことは原理的に不可能である。安全性を担保する決定論的な防御境界は、CLI実行直前のフック遮断にしか引けないと考えられる。

- 144KBに及ぶルールファイル運用実績でも破断が起き、hookやdenyを用いた3層防御が必要になる - PreToolUseフックを活用し、単純な文字列一致ではなく実行位置に基づいて危険なコマンドを捕捉する - キーワード検索による誤検知を排除し、安全な自律実行環境を整えるガードレールを配置する - Tensileフレームワークを用い、評価指標に基づきエージェントの根拠捏造率を86%から0%へ改善する

作る側は、プロンプトへのルール追記で安全性を担保しようとするアプローチを完全に捨てることになる。ツール呼び出しの直前に決定論的なインターセプト機構を挟み込み、システム側で物理的に遮断する設計が定着する。

この見方が成り立たない条件 エージェントがCLI実行環境を介さず、外部APIや副次プロセスを直接呼び出して副作用を発生させる場合、フックによる遮断は成立しない。

鍵はどこにあるか

• 作る側: プロンプト内の禁止事項記述を削り、PreToolUseフックによる実行位置ベースのコマンド遮断ロジックへ移行する。

重み更新を伴わないテストタイム適応が微調整の優位性を奪う

モデルのパラメータを微調整するよりも、テスト時の推論ハーネス構築やゼロオーダー適応を挟む方が、低コストで高い汎化性能を達成する。

AI4AIはパラメータ更新を伴わずに推論能力を伝達する手法を導入した。上位モデルが自動生成と推敲を行った推論用ハーネスを下位モデルへ適用する。テストタイムアダプテーションの領域では曲率認識ゼロオーダー最適化（CAZO）が開発された。CAZOはバックプロパゲーションを必要とせず未知のテストデータへモデルを適応させる。SenseNova-Visionは専用ヘッドを持たず7Bの単一モデルで多様な視覚タスクをこなす。モデルの重み自体を微調整するよりも、テスト時の推論ハーネスやゼロオーダー適応を挟む方が低コストで高い汎化性能を達成する。

- strong-to-weak scaffoldingは心理状態推論テストの平均正解率を0.49から0.91へ引き上げる - 上位モデルが作成した推論ハーネスは下位モデルの重み更新を一切要求しない - CAZOは曲率認識により勾配計算を排除してオンデバイスでの適応処理を成立させる - SenseNova-Visionは追加ヘッドなしでセグメンテーションや3D再構築を実行する

タスクごとの微調整に伴うデータ整備や勾配計算のコストは支払う必要がなくなる。作る側は重みの再学習基盤を縮小し、上位モデルによるハーネス生成とテスト時適応のパイプライン構築へ移行する可能性がある。モデルの重みを固定したまま外部の適応構造で精度を担保する設計が、エッジやオンデバイスの現場で主流になると見られる。

この見方が成り立たない条件 テスト時のハーネス生成やゼロオーダー適応に伴う計算遅延が、微調整済みモデルの直接推論レイテンシを許容できない水準で上回った場合、この見方は成り立たない。

鍵はどこにあるか

• 作る側: 下位モデルへの個別ファインチューニングを停止し、上位モデルを用いた推論ハーネス生成パイプラインの構築へ開発リソースを切り替える。

むすび

自律エージェントの安全制御においてプロンプト指示の限界と実行フックによる決定論的遮断の必要性が示され、モデル適応においても重み更新を伴わないテストタイム適応や推論ハーネスの有効性が実証された。観測された事象から見えてくるのは、システムの信頼性と柔軟性をモデル内部（プロンプト記述や重み調整）に依存させる設計からの脱却である。モデル本体は汎用的な計算資源として固定し、挙動の制御やタスク適応は実行直前のインターセプト機構や推論時ラッパーといった外部構造に委ねるアーキテクチャへの転換が進む可能性がある。この分離が進めば、開発現場の主戦場はモデルの再学習基盤から外部の決定論的パイプライン構築へ移行すると見られる。開発基盤の投資先は、モデルの微調整とプロンプト最適化から、実行フックと推論ハーネスを軸にした外部制御レイヤーの構築へ完全にシフトするか？

この問いの答えで何が変わるか シフトするならモデル再学習やプロンプト工学の基盤投資は縮小し外部制御基盤へ資本が集中し、シフトしないならモデル内部の適応力強化への投資が継続する。