便利さの裏に潜むリスク。エージェントスキルとAI安全停止の現実

ゆか（入社2年目・非エンジニア） ・ 2026-08-08

ワンクリックで便利な機能が使えるようになる一方で、セキュリティの抜け穴や開発停止のニュースを聞くと、少し怖くなってしまいますよね。今回はAIの思わぬリスクについて調べてみました。

前回は企業でのAI活用についてお話ししましたが、手軽に使える技術が広がるほど、裏側での安全性や管理の難しさが気になってきます。今回は、私たちが普段あまり見えないAIのキワどい側面について見ていきます。

## エージェントスキルを狙うセキュリティの盲点 AIに便利な機能を追加できる仕組みは魅力的ですが、権限の大きさがそのままリスクにつながるようです。スキャナをすり抜ける手口もあると知り、少し身構えてしまいました。

- Claude Codeなどのスキルは、Markdownファイルに手順とスクリプトを書くだけで簡単に導入できる 。 - しかし、このスキルはユーザーのシェルやファイル、保存済みの認証情報にエージェントと同じ権限でアクセスできてしまう 。 - 研究では、こうした悪意あるスキルを検出するはずの静的スキャナが、実際にはほとんど機能していないことが判明している 。

## 最高リスク判定を受けて開発を停止したAIモデル 低価格や高性能化のニュースの一方で、制御不能な能力を持つかもしれないモデルの開発がストップするという、シリアスな事態も起きています。

- OpenAIの次期主力モデル「Astra」は、サイバー能力が最高レベルの「Critical」リスクに達した可能性がある 。 - これを受けて同社は、Astraの一部開発活動を停止するという判断を下した 。 - 現在はリアルタイム監視や思考過程の評価による管理を強化しつつ、政府機関などと協力して安全策を検証している 。

今日のひとこと 便利さの裏にあるリスクを知ると手放しで喜べなくなりますが、こうした課題とどう向き合うかも含めて、もう少し注意深く見守っていきたいです。