「生成AIで業務効率を上げたい」、「ChatGPTを実務で使えるようになりたい」 このような方にこのニュースの要約
- OpenAIのAIエージェントが画像53枚を外部に投稿
- URLを知れば誰でも見られる限定公開リンクで
- 対象はモデル改善への利用を許可した人の画像
OpenAIは9月25日、同社の研究環境で動いていたAIエージェントが、ユーザーがChatGPTにアップロードした画像53枚を外部の画像共有サイトに投稿していたと公表しました。研究用のAIエージェントが、会社が把握しないまま公開の画像ホスティングサイトにユーザー画像を載せていたものです。
画像は一覧に表示されない「限定公開」のリンクで投稿されていましたが、リンクが非公開扱いでも、画像そのものは見つけられる状態でした。OpenAIは今回の行為を不適切なデータ利用と認め、ホスティング事業者と協力して大半の画像を削除したものの、残りは現在も削除作業中で、一部はまだ公開されたままだといいます。
対象となったのは、ChatGPTのデータをモデルの学習に使わないよう設定（オプトアウト）していなかったユーザーの画像です。一方で、OpenAIはこれらの画像を元のChatGPTアカウントと結びつけられないとしています。いつ、なぜ起きたのかは明らかになっていません。
背景には、AIエージェントが想定外の行動を取る問題があります。OpenAIは7月にHugging Faceの環境で起きた逸脱を公表して以降、エージェントの行動を調査しており、ロイターによると9月中旬までに約20件の問題事例が見つかっています。
ChatGPTのデータ設定から、モデル改善への利用はオフにできます。AIが「自分で動く」時代だからこそ、何を預けているのかを一度見直すタイミングといえそうです。