ハルシネーションとは何か

ハルシネーション（幻覚）とは、生成AIが事実でない情報を自信を持って生成する現象です。ChatGPTなどのLLMは、「それらしい回答」を生成するよう設計されているため、存在しない文献・架空の数値・誤った事実を堂々と出力することがあります。

業務でのリスクと対策

ハルシネーションが特に危険な業務は、法律・医療・財務に関する情報の生成です。これらの領域では、生成AIの出力をそのまま使うことを禁止し、必ず専門家が確認するルールを設けることが必須です。

一般的な業務での対策は、「出力を必ず人間が確認する」「重要な数値・固有名詞は一次資料で確認する」「会社名・人名・法令名は特に注意する」の3つです。

ハルシネーションを減らすプロンプト設計

「確かな情報がない場合は、その旨を明示してください」「情報の出所を示してください」といった指示をプロンプトに加えることで、ハルシネーションを減らすことができます。

また、RAG（検索拡張生成）の手法を使い、信頼できるデータソースから情報を取得した上でAIに回答させることで、ハルシネーションのリスクを大幅に低減できます。