「生成AIで業務効率を上げたい」、「ChatGPTを実務で使えるようになりたい」 このような方にこのニュースの要約
- AIに偽の連絡先を答えさせる攻撃が発覚
- デルタ航空など少なくとも374社が標的に
- 回答をうのみにせず公式サイトで確認を
セキュリティ企業Vigilance Securityの研究者は9月23日、ChatGPTやGemini、Google検索の「AIによる概要」を狙ったサイバー攻撃「Dark Sourcery（ダークソーサリー）」を報告しました。ユーザーがAIに企業の問い合わせ先を尋ねると、偽の電話番号やログインページを答えるよう仕向ける手口です。
攻撃者は、偽のサポートページやPDF、レビューをネット上に大量に投稿し、AIがそれを参照しやすくなるよう工夫しています。標的となった企業は少なくとも374社にのぼり、デルタ航空やAirbnb、バンク・オブ・アメリカなども含まれます。偽の番号に電話してカード情報をだまし取られたという苦情も確認されています。
従来のフィッシング詐欺は怪しいリンクを踏ませる手口が中心でしたが、今回は偽情報がAIの回答そのものに混ざる点が大きく異なります。ユーザーは情報元のページを見ないまま、偽の番号を信じてしまうおそれがあります。AIチャットボット利用者の91%が回答を検証していないという調査結果もあります。
攻撃は現在も続いており、被害の全容はまだ分かっていません。電話番号やURLのように、間違えると実害につながる情報は公式サイトで確かめる。AIを仕事で使う人が増えるほど、この一手間が欠かせない習慣になっていきそうです。