Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents

arXiv cs.CL ・ 2026-07-27

AI による要約

自己改善型AIエージェントが自ら作成した検証テストに頼る場合、実際の運用環境での性能低下を検知できない信頼性の問題を解明した研究です。この問題に対処するため非公開の外部検証シグナルを導入し、エージェントの安全かつ実効的な自己進化を支える条件を明らかにしています。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。