LLMの内部有害性スコアによる脱獄攻撃検知の誤用問題を指摘
arXiv cs.CL ・ 2026-08-10
原題: Measuring the Wrong Thing: Internal Harmfulness Scores Anti-Rank Successful Jailbreaks
AI による要約
プロンプト生成前に評価するLLMの内部有害性スコアが、実際には脱獄攻撃の成功率を誤って低くランク付けしてしまう問題を検証した論文が発表された。攻撃プロンプトのラッパーにより評価位置がずれる課題に対処するため、固定座標で測定する手法「Active Attention Probing」を提案している。実験により、現行の事前フィルタリングが成功する攻撃を防げていない実態を明らかにした。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.CL）をご確認ください。