EN
FR
ES
DE
IT
KO
JA
AIハルシネーションとは、AIが確信を持った様子で生成する誤った、または捏造された回答を指します。モデルは存在しない事実を断言したり、情報源を捏造したり、実際には発言されていない引用を人物に帰属させたりします。ブランドにとって、ハルシネーションは誤情報のリスクであり、評判上の課題となります。
AIがハルシネーションを起こす理由
トレーニングデータのギャップ:モデルは欠落部分をもっともらしいが誤った推測で埋めます。
エンティティ間の混同:モデルは類似したエンティティに関する情報を混同します。
一貫性への圧力:モデルは無知を認めるよりも、流暢な回答を優先します。
ハルシネーションの種類
事実のハルシネーション:誤った日付、捏造された統計データ。
捏造された情報源:存在しない研究や記事。
捏造された引用:実際には発言されていない言葉の帰属。
ハルシネーションのリスクを軽減する
- 重要な情報について信頼できる情報源を増やす
- ウェブ上で情報の一貫性を維持する
- 定期的な監査を通じてAIがあなたについて何を言っているかを監視する
- RAGはハルシネーションを軽減しますが(完全には排除しません)
AIの回答では、ブランドが登場するのは6回に1回だけです。あなたのブランドは？
ChatGPTへの質問の回答にあなたの名前がなければ、その分だけ競合があなたの代わりに推奨されています——実際のAI回答6,820件で測定。