LLMエージェントの安全制御機構を軌跡から自動進化させるSHE
arXiv cs.AI ・ 2026-08-10
原題: SHE: Trajectory-driven Safety Harness Evolution for LLM Agents
AI による要約
LLMエージェントの安全制御機構であるハーネスをロールアウト軌跡から動的に進化させるフレームワーク「SHE」が提案された。ハーネスをシステムプロンプト・ルールバンク・セーフティメモリ・ツールポリシーの4要素に分解し、安全責任を明確化している。この構造化により、実行ログに基づいた安全境界のローカルな最適化と動的進化が可能となる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.AI）をご確認ください。