トレンド一覧

メモリ制約下のレコメンダーシステムの学習:バッチサイズと負例の選択

arXiv cs.LG ・ 2026-08-11

原題: Batch Size or Negatives? A Selection Rule for Memory-Constrained Recommender Training

AI による要約

大規模なニューラルレコメンダーシステムでは、ソフトマックスクロスエントロピー損失関数を使用して全アイテムのボキャブラリーで学習を行うことが多い。ただし、アイテムの数が多い場合、最終的な分類層でメモリ使用量が増加する。サンプルドソフトマックスでは、負例を制限することでメモリ使用量を削減できるが、バッチサイズと負例の数をどのように選択するかが重要である。研究者は、メモリ制約下でのサンプルドソフトマックスの学習を分析し、バッチサイズを最大化し、負例の数を最小化することを提案している。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv cs.LG)をご確認ください。

LLM・基盤モデル

この話題に関わるコラム