Beyond Aggregate Risk: Role-Stratified Conformal Risk Control for LLM Tool Calls

arXiv cs.CL ・ 2026-07-27

AI による要約

LLMエージェントのツール呼び出しにおける安全性を高めるため、引数の役割（宛先、コマンド等）に応じて個別にリスク閾値を適用するコンフォーマルリスク制御手法が提案された。高リスクな引数に対する制御精度が向上することで、インジェクション攻撃や誤動作による致命的な被害を防ぐことができる。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。