大規模言語モデル(LLM)は、医療情報の整理や文章生成に活用可能である一方、誤情報を反映するリスクが課題となっている。これに対し、米国の研究チームは、複数のLLMを対象に診療記録、退院要約、SNS投稿を用いた横断的評価を実施し、その成果をThe Lancet Digital Healthに発表した。 本研究では、診療記録や退院要約、健康関連のSNS投稿を対象に、意図的に各文章に対して医学的根拠のない情報を加えた。これらをAIへの入力文(プロンプト)として提示し、誤情報を訂正せずに受け入れる割合(受容率:Susceptibility)を定量的に評価した。その結果、LLMは全体の32%のケースで偽情報を訂正せず、正しい情報として扱った。文章の種類別の受
AIは誤情報を受け入れやすい?
