トレンド一覧

規制・倫理 の AI ニュース

規制・倫理 に関する AI ニュースを新しい順に 108 件。3 時間おきに自動収集し、AI が要約しています。

米政府の事前評価巡りOpenAIとAnthropic対立 オープンウェイト包括規制に主要各社反対 - CHOSUNBIZ - Chosunbiz

米政府によるAIモデルの事前評価制度を巡りOpenAIとAnthropicが対立する一方、主要AI各社はオープンウェイトモデルへの包括規制に反対姿勢を示しています。AI安全基準の法制化と技術競争力のバランスを巡る政策議論の激化を象徴しています。

Google News (Anthropic) ・ 2026-07-29

トランプ米政権、中国製の最新ヒト型ロボットの輸入を禁止へ - BBC

トランプ米政権が、中国製の最新ヒト型（ヒューマノイド）ロボットの輸入を禁止する方針を固めたことが報じられました。先端AI領域における米中対立が、ハードウェアやフィジカルAIの分野にまで拡大していることを示しています。

Google News (中国のAI) ・ 2026-07-29

ABEJA、AIマネジメントシステム（AIMS）の国際規格「ISO/IEC 42001」の認証を取得 - 時事ドットコム

株式会社ABEJAが、AIマネジメントシステム（AIMS）の国際規格である「ISO/IEC 42001」の認証を取得したと発表しました。AI開発や運用の組織的ガバナンスと安全性を証明する取り組みであり、企業向けAIソリューションの信頼性強化につながります。

Google News (国内AIベンダー) ・ 2026-07-29

OpenAI、Anthropic、GoogleなどAI企業の1100人超、米政府にAI開発減速の要請書提出 - ビジネス+IT

OpenAIやAnthropic、GoogleなどのAI主要企業に所属する1,100人以上の研究者・関係者が、米政府にAI開発速度の抑制を求める要請書を提出した。AIのリスク管理や安全性への懸念が高まる中、業界内部から開発減速や規制を呼びかける異例の動きとして極めて重要である。

Google News (Anthropic) ・ 2026-07-29

Sam Altman is ready to decelerate

OpenAIのサム・アルトマンが、自身が強く体感したセキュリティインシデントを受けて開発の加速を見直す姿勢を示している。AIの急速な進化と安全性確保のバランスを見直す契機となっている。

TechCrunch AI ・ 2026-07-28

Falling Behind Drives Unsafe Development in an Idealised AI Race Experiment

モデル化したAI開発競争の行動実験により、競合に対して「遅れをとっている」という認識が不安全な開発行動を誘発する最大の要因であることが示されました。リスクの最大許容レベルや個人のリスク選好よりも競争での優劣の差が安全性の軽視につながることを実証しており、AIガバナンス設計に重要な知見を提供します。

arXiv cs.AI ・ 2026-07-28

LaP-Forensics: Latent-Pixel Consistency Guided Multimodal Reasoning for Deepfake Detection

ディープフェイク検出におけるRGBセマンティクスと再構成ベースのフォレンジック証拠を組み合わせたマルチモーダルフレームワーク「LaP-Forensics」が提案された。GRPO（Group Relative Policy Optimization）を用いた強化学習により、偽造画像の一貫性マップに基づいた高度な説明と検出を行う。

arXiv cs.CV ・ 2026-07-28

Polistemics: Evaluating LLMs as Information Mediators in Politics & Elections

政治・選挙情報の中継者としてのLLMの応答品質や客観性を評価するフレームワーク「Polistemics」が提示されました。最新モデルであっても明確な証拠がない場合や情報が曖昧・矛盾している状況では体系的な誤りを起こすことが明らかになり、選挙情報におけるLLMの利用リスクが浮き彫りになりました。

arXiv cs.CL ・ 2026-07-28

TIGA: Trajectory-Injected Generative Attack against Black-box AIGC Detectors

ブラックボックス化されたAIGC（AI生成コンテンツ）検出器を回避するための訓練不要な攻撃手法「TIGA」が提案された。拡散モデルのサンプリング軌跡を直接操作することで、生成過程において検出器を回避する性質を自然に持たせることができる。

arXiv cs.CV ・ 2026-07-28

Evaluation of Adversarial Robustness in Arabic Language Models

アラビア語言語モデルに対する敵対的攻撃への堅牢性を評価した研究。母音記号の追加などの攻撃により一部の最先端モデルで精度が大幅に低下することを実証し、敵対的訓練を用いた防御策の有効性を確認した。

arXiv cs.CL ・ 2026-07-28

中国、半導体製造装置の国産開始か＝米ＩＴメディア報道、市場は動揺 - ｄメニューニュース

中国が独自に先進的な半導体製造装置の国産化・製造を開始したとの米メディア報道があり、市場に波紋が広がっている。米国の輸出規制に対する中国の技術自給化の進展を示すものであり、世界のAIインフラやサプライチェーンに大きな影響を与える。

Google News (中国のAI) ・ 2026-07-28

Claudeの共有チャットが一時Google検索に表示、第三者が閲覧可能な状態に - ビジネス+IT

AnthropicのAIサービス「Claude」の共有チャット機能で作成された会話が、一時的にGoogle検索のインデックスに登録され第三者から閲覧可能な状態になっていたことが判明した。ユーザーのデータプライバシーや機密情報管理に関する重大な懸念を投げかけている。

Google News (Anthropic) ・ 2026-07-28

Google's Beyond Zero: Enterprise Security for the AI Era

AI時代におけるエンタープライズセキュリティに関するGoogleのアプローチについての記事が公開された。AI導入が進む企業向けの高度なセキュリティ確保の重要性を示している。

Hacker News ・ 2026-07-28

Claude、一部チャットがGoogle検索で“丸見え”に 過去には「ChatGPT」でも 漏えいの原因は？

Anthropicの「Claude」における一部のチャット内容が、Google検索のインデックスに登録され第三者から閲覧可能な状態になっていたことが判明した。過去のChatGPTと同様の公開共有設定に起因するトラブルであり、生成AIサービスにおけるデータプライバシーとセキュリティ管理の重要性を改めて提示している。

ITmedia AI+ ・ 2026-07-28

アップルの全OS更新、AIが発見した脆弱性を大量修正──AnthropicやOpenAI、NVIDIAが貢献 - BigGo ファイナンス

アップルが提供する全OSのアップデートにおいて、AI技術によって発見された多数のセキュリティ脆弱性が修正されました。この脆弱性検出にはAnthropicやOpenAI、NVIDIAなどが貢献しており、セキュリティ分野におけるAIの有効性が実証されています。

Google News (Anthropic) ・ 2026-07-28