AEO施策、効果測定してますか? — 施策100個やっても測れなければ意味がない
AEO・GEO施策の効果測定が業界全体で欠落している構造的問題を指摘し、統計的に有意な計測に必要な3要素を実験データとともに解説する。
この記事は誰のためか
AEO対策を始めた、あるいはこれから始めようとしている人へ。
コンサル会社から「構造化データを入れましょう」「E-E-A-Tを高めましょう」「FAQ Schemaを追加しましょう」と提案を受けた。言われた通りに施策を実行した。
で、効果はどうだったのか。何で測ったのか。
この質問に答えられないなら、読む意味がある。
業界の不都合な現実
AEO(Answer Engine Optimization)やGEO(Generative Engine Optimization)の記事は増え続けている。施策のTipsは山ほど出てくる。
だが、こういう記事はほとんど見かけない:
- 「構造化データを追加した結果、AI引用率がX%からY%に変化した」
- 「E-E-AT改善施策のBefore/Afterデータ。統計的有意差あり」
- 「10社に同じ施策を実施し、効果があったのは3社。残り7社では変化なし」
理由は単純で、測っていないからだ。
「ChatGPTに聞いてみた」は計測ではない
よくある"効果測定"のパターン:
- ChatGPTを開く
- 「〇〇のおすすめ企業は?」と聞く
- 自社名が出てきたらスクリーンショットを撮る
- 「AI検索で引用されました!」と報告する
同じ質問を10回聞いてみればわかるが、回答は毎回変わる。今日出てきた社名が明日も出てくる保証はない。1回の観測で「引用された」と言い切るのは無理がある。
計測されないほうが都合がいい構造
AEO施策を提案する側——コンサル会社、SEOツールベンダー、マーケティングエージェンシー——にとって、効果測定が曖昧なままのほうがビジネスとしては回りやすい。「施策を実行しました」が納品物であり、「効果がありました」を証明する義務がなければ、何でも提案できる。
SEOでも広告でも同じ構造は存在する。計測が曖昧な領域ほどバズワードが増え、施策の数が膨張する。
なぜAEOの効果測定は難しいのか
SEOにはGoogle Search Consoleがある。検索順位・CTR・表示回数が見える。GA4でオーガニック流入とコンバージョンが追える。
AEOにはこれに相当するものがない。
1. AI検索の回答は確率的に変動する
同じ質問をChatGPTに投げても、毎回微妙に異なる回答が返ってくる。引用されるソースも変わる。LLMの性質上、これは避けられない。
1回の観測では何もわからない。統計的に有意な回数を繰り返して、ようやく傾向が見える。
Sightedの自社計測では、109個の質問を各30回、合計3,270回観測した。わかったのは:
- 同じ質問でも、引用されるソースは観測ごとに変わる
- 30回中5回引用された(引用率17%)ソースを「引用されている」と呼べるのかどうか、判断基準が要る
- 質問の聞き方を少し変えるだけで、引用パターンが大きく変わる
スクリーンショット1枚では、この変動は見えない。
2. 「何を質問するか」が定義されていない
SEOでは「キーワード」という共通言語がある。「AEO対策」で1位を取る、という目標は明確だ。
AEOで対応するのは**「質問空間」**——AIに投げられる質問の集合だが、この定義自体が難しい。
- 「AEOに強い会社は?」
- 「AI検索の対策ができるツールは?」
- 「AIに自社を引用してもらう方法は?」
全部違う質問だが、意図は同じ。どの質問で測るかによって結果が変わる。
質問空間を定義せずに「うちはAIに引用されてます」と言うのは、キーワードを定義せずに「うちはSEOが強い」と言うのと同じだ。
3. Before/Afterの比較対照実験が設計されていない
施策の効果を測るには、打つ前と後を比較する必要がある。施策以外の条件も揃えないといけない。
だが現実には:
- 施策を打つ前のベースラインデータがない(そもそも測ってなかった)
- 複数の施策を同時に実行して、何が効いたかわからない
- AI側のモデル更新やアルゴリズム変更を考慮していない
Sightedの実験では、LPの文言改修前後で同じ33質問 x 同じ観測回数で比較した。結果はAI引用率9.1% → 9.1%。変わらなかった。
「施策が無意味だった」という知見は、計測したから得られた。測っていなければ「改修したので効果があったはず」で終わっていた。
効果測定に最低限必要な3つの要素
1. 質問空間の定義
自社にとって重要な質問を洗い出す。
- ブランド指名系: 「〇〇(社名)とは?」「〇〇の評判は?」
- 業界一般系: 「〇〇業界のおすすめ企業は?」「〇〇の選び方は?」
- 課題解決系: 「〇〇の方法は?」「〇〇を改善するには?」
まず10-30個の代表的な質問を定義する。SEOでいう「コアキーワードの選定」に相当する。
2. 統計的に有意な観測回数
1つの質問につき20-30回の観測が必要になる。
- LLMの回答変動を平均化するため
- 「30回中15回引用された(50%)」と「30回中2回引用された(7%)」は意味が全く違う
- 1回の観測では偶然の引用と安定した引用の区別がつかない
10質問 x 30回 = 300回の観測。これが最低ラインだと考えている。
3. Before/Afterの比較設計
施策を打つ前にベースラインを取る。
- 施策前に質問空間を定義し、全質問を観測する(ベースライン)
- 施策を1つだけ実行する(変数を1つに絞る)
- 2-4週間後に同じ質問空間を同じ条件で観測する(比較)
- ベースラインとの差分を見る
複数の施策を同時にやると、何が効いたかわからなくなる。
Sightedが自社で学んだこと
Sightedは自社をケーススタディとして、この計測プロセスを回した。うまくいかなかった結果のほうが多い。
業界クエリでの引用率: 0%
「AEOに強い会社は?」「AI検索の対策ができるツールは?」といった業界クエリで、Sightedは一度も引用されなかった。90問 x 3-5回の観測で、業界クエリでの引用率は0%。
ブランド指名(「Sightedとは?」)ではメンション率100%・引用率38%だった。名前を出せば認識されるが、名前を出さないと存在しないのと同じだった。
LP改修は効果なし
「LPの文言を改善すれば引用されるようになるはず」という仮説を立て、GPR実験データに基づいてLP全体を改修した。
Before/After実験の結果: 引用率9.1% → 9.1%。
LPの文言を変えても、AIの引用判断には影響しなかった。
11個の仮説を検証し、9個を否定
「コンテンツ量が足りない」「ドメインオーソリティが低い」「被リンクが足りない」「外部プラットフォームに記事を出すべき」——こうした仮説をデータで1つずつ検証した。
9個は否定された。最終的に残ったのは2つ:
- タイトルタグが検索キーワードと一致していない(最も単純で、最も修正コストが低い原因)
- Googleへの信頼シグナルが不足している(著者情報・外部リンク・構造化データ)
11個のうち9個が「違った」。計測しなければ11個全部を同時にやって、どれが効いたかわからないまま終わっていた。
まとめ: 施策の前に計測設計
AEO施策をやるなという話ではない。順番の問題だ。
- まず質問空間を定義する
- ベースラインを計測する
- 施策を1つ実行する
- 同じ条件で再計測する
- 差分を見る
「施策を100個やりました」ではなく「この施策で引用率がX%からY%に変化しました」と言える状態を作る。計測できないものは改善できない。
関連記事
AI可視性成熟度モデル -- 不可視から不可欠へ、5段階の評価フレームワーク
AI検索における自社の現在地を5段階で評価するフレームワーク。各段階の定量閾値、段階ごとの改善アクション、競合との相対評価の方法を解説します。
AEO対策の費用と効果 — 料金相場・ROI計算式・業種別の投資目安
AEO対策にかかる費用の相場、期待できる効果、ROIの計算方法を解説します。自社で行う場合と外注する場合の費用感、業種別の投資対効果の目安を、実データに基づいて提示します。
Sighted自社AEO計測ケーススタディ: 109質問 x 30回観測で見えた質問空間の実態
SightedがSighted自身のドメインを対象に実施したAEO計測実験の全データ。109質問・30回反復観測・697競合ドメインの分析結果から、AI検索における可視性の実態と施策優先度を解説する。