安全性・ガバナンス体制の未成熟の AI ニュース

AIの安全性・ガバナンス体制が未成熟であり、サンドボックス・透かし・規制遵守・責任追及の枠組みが不十分なまま実用化が進んでいる。

収集 7,734 件のうち該当 20 件。新しい順に 20 件を並べています。

誰が、どこから着手しているか

• ベンダー・海外報道 AnthropicがClaudeの出力に電子透かしを導入し、AI生成コンテンツの検出を可能にした。（AnthropicがClaude出力に電子透かし導入 AI利用検出も課題残る）
• 中国・地政学ソース 中国がAI規制を強化し、560万件以上の著作権侵害コンテンツとアカウントを処理したと発表した。（中国がAI規制強化を発表 560万件超の著作権侵害コンテンツを処理）
• 中国・地政学ソース G20加盟国がAIに特化した新たな規制回避策で共同声明を発表し、中国も署名した。（G20がAI専門の新規制回避で共同声明 中国も署名）
• ベンダー・海外報道 AnthropicがClaude AIのテキスト検出APIを規制当局やメディア、研究者向けに公開した。（Anthropicが Claude AI のテキスト検出APIを規制当局などに公開）
• コミュニティ AIが生成したテキストに埋め込まれる透かしは、常に簡単な手法で除去できることを研究者が指摘した。（AIテキストの透かしは常に簡単に除去可能）
• 日本の実務者 検出に必要な権限の管理と、ウォーターマーク鍵そのものを外部へ開示することは技術的に別の問題であり、鍵を配布せずとも検証を行える仕組みが説明されている。（Claudeの秘密の透かし技術における検出と秘密鍵共有の分離構造を整理）

この課題を扱った記事

AI 課題の四象限へ