「生成AIで業務効率を上げたい」、「ChatGPTを実務で使えるようになりたい」 このような方にこのニュースの要約
- AIが提示した架空の病名を医師の44％が信用
- 仏リール大病院が41人の医師で検証
- 研修歴6カ月超の医師は全員が見抜く
フランスのリール大学病院などの研究チームが、AIが提示した“存在しない病名”を医師がどれだけ信じてしまうかを検証した研究を発表しました。ITmedia NEWSが8月31日に報じたもので、AIの誤情報が医師の診断に思わぬ形で入り込む危険性が示されました。
研究では、AIによる診断支援システムにあえて架空の病名「ニューロカドミウム症」を“最も可能性が高い候補”として提示させ、41人の医師に脳MRI画像の診断を行わせました。その結果、全体の44％にあたる18人が、この存在しない病名を自分の鑑別診断リストに取り込んでしまいました。
ただし、影響の受けやすさには経験差がありました。神経放射線の研修歴が6カ月以下の医師では69％が架空の病名を受け入れた一方、6カ月を超える医師は1人もだまされませんでした。研究チームは、AIの誤情報が人間の判断に間接的に紛れ込むこの現象を「代理ハルシネーション」と名付けています。
興味深いのは、AIの支援自体は診断精度を52％から61％へと高めていた点です。AIは確かに役立つ一方で、もっともらしい誤りを一緒に運んでくることもある——その両面が浮き彫りになりました。
AIを仕事で使う場面が増えるなか、出力を鵜呑みにせず最後は自分で確かめる姿勢が、これまで以上に大切になりそうです。専門知識や経験がAIの誤りを見抜く“防波堤”になることを、この研究は改めて示しています。