AIの誤情報・悪評への対処
生成AIが自社について事実と異なる回答をするとき、何ができて何ができないか
前提:回答は直接編集できない
生成AIが自社について誤った説明をした場合、その回答文を外部から直接書き換える手段は存在しない。検索結果の削除依頼のような窓口を想定すると、対処を誤る。
変えられるのはAIが参照する側の情報である。回答が生成される過程で読まれる一次情報を整備し、誤りの供給源を減らすことで、結果として回答が変わることを狙う。間接的な働きかけしかできない、というのが出発点になる。
したがって「訂正できるか」ではなく、「どこで誤りが生まれているかを特定し、そこを直せるか」が実務上の問いになる。
誤情報の4つの発生源
同じ「間違ったことを言われている」でも、原因によって打ち手がまったく違う。まず切り分ける。
第三者の記事やまとめサイトに古い料金・旧社名・誤った事業内容が書かれており、AIがそれを正しく読んでいる。この場合、AIは正常に動作している。直すべきは参照元である。
自社ページに最新の事実が書かれていない、または複数ページで記述が食い違っている。AIはどれを採用してよいか判断できず、古い方を引くことがある。
そもそも該当情報がWeb上に存在せず、モデルが一般論から補完している。いわゆるハルシネーション。この場合の対処は「否定する」ではなく「事実を供給する」になる。
Web検索を伴わない回答では、モデルの学習時点の知識がそのまま出る。参照元を直しても即座には反映されず、時間差が生じる。
1〜3は回答に出典URLが示されるかどうかで判別できる。出典があればその中身を読めばよく、出典が無ければ3か4を疑う。
実際に取れる手段
- 再現性を確認する。AIの回答は毎回揺れる。1回出ただけの誤りと、10回中8回出る誤りでは深刻度が違う。まず反復試行で発生率を測る。
- 出典URLを回収する。誤った回答が示している出典を集める。ここで発生源が1〜3のどれかが確定する。
- 自社サイトの記述を正す。最新の事実を、meta情報ではなく本文テキストとして明記する。複数ページで矛盾していれば片方に寄せる。
- 第三者ページに訂正を依頼する。誤りの供給源が外部記事なら、運営者に事実の訂正を依頼する。到達できない場合は、正しい事実を書いた自社ページの側を厚くして相対的な参照確率を上げる。
- 各AIサービスのフィードバック窓口を使う。多くのサービスは回答への報告機能を持つ。即効性は期待できないが、記録は残る。
- 継続観測する。直したつもりでも反映には時間差がある。発生率が下がったかを追う。
権利侵害や名誉毀損に該当しうる内容については、上記の情報整備とは別に法務的な対応が必要になる。本ページは技術的な対処の範囲を扱っている。
やっても効かないこと
その会話の中では訂正されるが、他のユーザーの回答には影響しない。会話は基本的にそのセッションで閉じている。
「〜ではありません」という記述は、誤情報の語をページ内に増やすことになり、かえって関連づけを強めることがある。否定ではなく正しい事実を書く。
同じ質問でも回答は毎回変わる。1回消えたことは解決の証拠にならないし、1回出たことも常態の証拠にならない。
誤情報の発生率をどう測るか
該当する質問を繰り返し投げ、誤った記述が現れた割合を追う。単発確認ではなく比率で見る点は、引用の測り方と同じ考え方である。指標の定義はAEOとは、引用側の話はAI検索で引用されるにはを参照。
次に読む
- AI検索で引用されるには — 引用の条件と増やし方
- AEOとは — AIが回答を生成する仕組みと測定指標
- LLMOとは — 用語の使い分け