主要トークンを遮断しLLMの堅牢性を測定するテスト手法が登場
arXiv cs.CL ・ 2026-08-10
原題: Decoding-Level Taboo: A Diagnostic Stress Test for LLM Robustness
AI による要約
システムプロンプトや安全ガードレール適用時のLLMの堅牢性を測定するため、推論時にロジット空間で主要トークンをマスクするテスト手法「Decoding-Level Taboo」を提案した。オープンウェイトモデル群で検証した結果、想定外の生成経路における堅牢性がパラメータ数や事後学習の整列手法に強く依存することが明らかになった。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.CL）をご確認ください。