ハルシネーション
AIが事実に基づかない、もっともらしい誤った情報をあたかも真実のように生成してしまう現象のことです。
ハルシネーションとは、生成AIが事実とは異なる情報を、もっともらしい文章として作り出してしまう現象のことです。
日本語では「幻覚」を意味する言葉が語源ですが、AIが意図的に嘘をついているわけではありません。
LLM（大規模言語モデル）は、学習したデータのパターンをもとに「次に来る可能性が高い言葉」を予測して文章を組み立てる仕組みのため、事実確認そのものは行っていません。
そのため、存在しない文献の引用や、誤った数値、実在しない人物・出来事などを自信満々に答えてしまうことがあります。
この弱点を補う手法として、外部の情報源を検索して回答の根拠にするRAG（検索拡張生成）という技術が使われることがあります。
業務でAIを使う際は、重要な事実や数値については必ず一次情報で裏付けを取る習慣が欠かせません。