ScrubJay-MEM: 時間経過に伴う情報価値低下を考慮したエージェント記憶アーキテクチャ
西部カケスの記憶特性を模倣した「ScrubJay-MEM」により、LLMエージェントの記憶に時間経過に応じた減衰係数を導入し、古い情報の汚染を防ぐ新たなメモリアーキテクチャを開発した。
arXiv cs.CL ・ 2026-08-05
情報環境の汚染の AI ニュース
AI生成コンテンツの氾濫により、情報の信頼性・品質が低下しており、検索体験の劣化・誤情報拡散・AI Slop問題が顕在化している。
収集 7,734 件のうち該当 8 件。新しい順に 8 件を並べています。
誰が、どこから着手しているか
- 研究・論文 西部カケスの記憶特性を模倣した「ScrubJay-MEM」により、LLMエージェントの記憶に時間経過に応じた減衰係数を導入し、古い情報の汚染を防ぐ新たなメモリアーキテクチャを開発した。（ScrubJay-MEM: 時間経過に伴う情報価値低下を考慮したエージェント記憶アーキテクチャ）
- ベンダー・海外報道 GoogleがGoogle Earth上にAI生成画像を重ね合わせる機能を、誤情報拡散への懸念と強い批判を受けて公開翌日に取り下げた。（Googleが誤情報懸念を受けEarthの生成AI機能を公開翌日に撤回）
- 研究・論文 信頼性の高いAIディープフェイク検出手法の構築に向けた重要な課題を提示している。（AI生成画像検出ヒートマップの真の検出要因に関する実証研究）
- 日本の実務者 RAG（検索拡張生成）の知識ベースに意図的に嘘の情報を仕込む「RAGポイズニング」の仕組みについて解説している。（RAGポイズニング入門 — AIの知識ベースを汚染する攻撃）
この課題を扱った記事
AI出力を無断で転送する「ミートプロキシ」問題への警鐘
AIの出力を吟味せずそのまま他者に共有する行為を「ミートプロキシ」と名付け、内容の検証や自身の言葉で書き直す重要性が指摘されています。生成AIの安易な利用に対する倫理やリテラシーに関する議論です。
Simon Willison ・ 2026-08-03
SQLiteの深刻な脆弱性報告かLLM生成の誤情報かを検証
SQLiteで報告された重要な脆弱性（CVE）について、実際のセキュリティ上の不具合なのかAIが自動生成した低品質な報告（LLM Slop）なのかが検証されている。AIによる自動セキュリティ報告の増加が開発者に及ぼす影響について議論を呼んでいる。
Hacker News ・ 2026-08-03
AI Slop 問題の深刻化と対策
生成AIの普及に伴い、検証不足で認知負荷を強いる低品質なコンテンツやコードが氾濫する「AI Slop」問題が深刻化している。特にソフトウェア開発現場においては、生成速度の向上に対してレビューや保守の速度が追いつかず、「理解の負債」として蓄積する懸念が指摘されている。
Zenn AI ・ 2026-08-03
Googleが誤情報懸念を受けEarthの生成AI機能を公開翌日に撤回
GoogleがGoogle Earth上にAI生成画像を重ね合わせる機能を、誤情報拡散への懸念と強い批判を受けて公開翌日に取り下げた。地図や現実空間の視覚化における生成AI活用の信頼性と倫理的リスク管理の難しさを示している。
TechCrunch AI ・ 2026-07-31
AI生成画像検出ヒートマップの真の検出要因に関する実証研究
AI生成画像検出器の判定根拠を示すアトリビューションマップの有効性を測定した研究。高精度とされる検出モデルが実際には生成特徴ではなく圧縮履歴を判定根拠にしており、フォーマットを統一すると性能が大幅に低下することが判明した。信頼性の高いAIディープフェイク検出手法の構築に向けた重要な課題を提示している。
arXiv cs.CV ・ 2026-07-31
RAGポイズニング入門 — AIの知識ベースを汚染する攻撃
RAG（検索拡張生成）の知識ベースに意図的に嘘の情報を仕込む「RAGポイズニング」の仕組みについて解説している。AIの信頼できる情報源が汚染されるリスクと、信頼できない入力を扱う問題に焦点を当てている。
Zenn LLM ・ 2026-07-29
生成AIや過去画像による偽・誤情報に注意を 熊本県の地震受け、ファクトチェック団体が呼び掛け
熊本県での地震発生に伴い、ファクトチェック・イニシアティブが生成AIや過去画像を用いた偽・誤情報への注意喚起を行った。災害時における生成AI悪用や誤情報の拡散リスクに対して早期に警鐘を鳴らすものである。
ITmedia AI+ ・ 2026-07-28