大阪公立大学などの研究グループは、大規模言語モデル（LLM）を用いて患者への処方薬を推奨させた際、最大約97.5%という極めて高い割合で特定の先発医薬品（ブランド薬）に回答が集中し、同等の効果を持つ安価なジェネリック医薬品（後発薬）がほとんど推奨されないという重大な偏り（バイアス）があることを突き止めました。本研究成果は国際学術誌『Nature Health』に掲載されました。
研究チームが複数の主要なLLMに対して様々な臨床シナリオを入力し、推奨される薬剤名とその選択傾向を大規模に検証したところ、医学的な有効性や安全性に差がない場合であっても、AIは圧倒的な確率で有名な先発医薬品の商品名を提示し続けることが判明しました。
この偏りが生じる主な原因として、AIが事前学習で読み込んでいるインターネット上のテキストや医学文献において、先発医薬品の名称が圧倒的に多く言及されている「知名度バイアス」がそのまま出力に反映されているためだと分析されています。
研究グループは、もし医療現場の意思決定支援システムに汎用LLMをそのまま組み込めば、不必要な先発薬の処方が増えて患者負担や国の医療費を押し上げる恐れがあると指摘し、医療AIの実装にあたっては一般名（成分名）での出力や後発薬を適切に評価するガードレール設計が不可欠であると警鐘を鳴らしています（一次ソース：大阪公立大学 公式発表）。