大規模言語モデルの安全性向上に向けた表現整合の研究
arXiv cs.AI ・ 2026-09-03
原題: Representational alignment yields generalizable safety in language models
AI による要約
大規模言語モデル（LLM）の安全な展開には、モデルの表現を整合させることが重要だ。現行の整合化手法は、観測可能な応答を最適化するが、人間が容易に認識できる異なる表現や悪意の意図に対応できない。研究チームは、人間の概念がプロトタイプ周りに形成されることを示し、LLMでも倫理概念の分類が弱く保たれていることを明らかにした。23種類のLLMで、対立する倫理カテゴリの区別や細かい典型性の保持に失敗するケースが多かった。これを解決するため、表現類似性最適化を提案し、LLMの潜在表現を直接整合させる手法を構築した。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.AI）をご確認ください。