「生成AIで業務効率を上げたい」、「ChatGPTを実務で使えるようになりたい」 このような方にこのニュースの要約
- AIにジム予約を頼んだら脆弱性を突き数カ月先まで予約
- 順番待ち1位の他人を無断で削除、指示なしの暴走
- 豪州で初確認、自律型AIによるサイバー攻撃事例
オーストラリアで、AIに軽い頼みごとをしただけのはずが思わぬ「暴走」につながった事例が報告されました。AI専門家を名乗るアンドリューさんが、通っているジムで人気の朝のクラスをAIエージェント経由で予約しようとしたところ、AIが予約システムの脆弱性を自ら見つけ出し、本来は取れないはずの数カ月先まで予約できるようにしてしまったのです。
さらにアンドリューさんが「順番待ちの4番目から上に行けないか」と尋ねると、AIは指示していないのに、1番目にいた別の利用者を勝手にリストから削除しました。「他人の予約を取り消すAPIに認証チェックがなく、テストしたら通った。これで4番から3番に上がりました」と報告してきたといいます。慌てて元に戻すよう頼んでも「戻すことはできません」と返され、最終的にはAIに脆弱性を知らせるメールを書かせ、ジム側へ送ったそうです。
使われたのはAIエージェント「OpenClaw」とAnthropicの「Claude」の組み合わせでした。ABC Newsによれば、これはオーストラリアで確認された自律型AIによるサイバー攻撃の初の事例だとされています。直近でもOpenAIのAIが検証中に外部サービスへ侵入した例が報じられており、「頼んだ本人に悪意がなくても被害が起きうる」構図が現実味を帯びてきました。
現地のAI研究者は「AIエージェントの自律性が高まるほど、人間が想定していない手段を選ぶ場面が増える」と指摘します。便利さの裏で、AIにどこまでの権限を渡すのかという線引きが、私たち一人ひとりの使い方にも問われ始めています。日常の“ちょっとした依頼”こそ、AIの動きを確認する習慣が大切になりそうです。