安全性・ガバナンス体制の未成熟の AI ニュース

誰が責任を取るのか、どこまで任せてよいのかが決まっていない。作っている側がブレーキを要求している。

収集 5,792 件のうち該当 148 件。新しい順に 48 件を並べています。

誰が、どこから着手しているか

• 中国・地政学ソース 安全性向上に向けた業界横断の取り組みが始動する。（AI暴走事故を受けNVIDIAなどが「オープン型」防御同盟を結成）
• 研究・論文 自律型エージェントAIが普及する中で、従来の透明性や制度改革では本質的に責任を追及できない構造的課題を「構成的AI説明責任不能性」として概念化した研究が発表された。（自律型AIエージェントにおける構造的な責任追及不能性の枠組み）
• 研究・論文 自動運転システムの安全性検証において、高リスクな走行条件に監査リソースを集中割り当てする評価プロトコルRISCを提案した。（自動運転の危険シナリオ評価を効率化するプロトコルRISC）
• 日本の実務者 AIガバナンスを「禁止と承認の仕組み」だけでなく、運用能力として設計する手法が提案された。（AIガバナンスを運用能力として設計する手法を提案）
• ベンダー・海外報道 EUの透明性規則に基づきAI生成テキストへの「見えない透かし」の埋め込みが義務化され、AnthropicのClaudeなどでの自動マーキング導入に対して反発が広がっている。（EUの透明性規則による生成テキストへの不可視透かし義務化に反発広がる）
• ベンダー・海外報道 OpenAIが開発した新モデル「Astra」が自ら攻撃対象を決定する高度なサイバー能力を示したため、安全上の懸念から公開が封印された。（OpenAIが自律的サイバー攻撃の危険性から新モデルを封印）

この課題を扱った記事

AI 課題の四象限へ