ContentsquareはLoris AIの買収に関する最終契約を締結しました→
詳しくはこちら
Guide 13 最小読み取り

ABテストの実行方法:5ステップのフレームワーク

価値あるABテストを作成・実行するためのステップとベストプラクティスをご紹介します。

How To Do A/B Testing: A 5-step Framework — Cover Image

理想的な世界では、すべてのデジタル企業が出荷する機能やコンテンツをすべてテストし、それによってチームが運命を左右するような情報に基づいた意思決定を行うことができます。しかし現実の世界では、企業はこの理想を実現するために「テスト文化」を育みながら努力しており、それはつまり、特定のアイデアをABテストし、コントロールグループとの比較によってその影響を測定することを意味します。

この取り組みによって、次の2つの有益なことが実現します: ・良いアイデアは、時間をかけてしっかりと育ち、発展していく ・良くないアイデアは、設計段階に立ち戻ることができる

このガイドでは、ユーザーに好まれるウェブサイトの変更を安定してリリースするための、効果的なA/Bテストの実施方法をご紹介します。

このガイドでは、ユーザーに好まれるウェブサイトの変更を安定してリリースするための、効果的なA/Bテストの実施方法をご紹介します。 しかも、まだ続きがあります! このガイドでは、どのバージョンがユーザーの心をつかんでいるのかを見極める方法、そしてなぜそれが成功しているのかを明らかにする方法もご説明します。 ※ネタバレ:その「なぜ?」を解き明かすカギは、Contentsquareのような補完的なプラットフォームの活用にあります(はい、それが私たちです!)

さあ、どのように進めるのか、見ていきましょう。

ABテストを最大限に活用する

Contentsquareのインサイトは、ABテストの結果を理解し、ユーザーエクスペリエンスの最適化に役立てることができます。

ABテストの実行方法:5ステップのフレームワーク

ABテスト(スプリットテストとも呼ばれます)は、開発、ユーザー体験(UX)、プロダクトマーケティングデザインなど、あらゆるチームの方向性を決定するうえで最も有力な手段です。 セットアップ自体は比較的シンプルですが、インパクトのあるA/Bテストを実施するには、想像以上の要素が関係しています。

テスト結果をセッションリプレイ、ヒートマップ、ユーザーフィードバックツールと組み合わせることで、パフォーマンスの評価、新しいアイデアの創出、ユーザー主導のイノベーションの促進が、これまでにないスピードと質で可能になります。さらに、有効で実用的な結果が得られるテストにかかる時間も短縮できます(その話は後ほど)。

まずは、「正しい方法でABテストを実施する5つのステップ」を見ていきましょう。

ステップ1:証拠に基づく仮説を立てる

すべては1つのアイデアから始まります。たとえば:

  • ストリーミングプラットフォームが、より多くのコンテンツをユーザーに届けるためにパーソナライズ機能のアップデートを検討しており、それによって顧客満足度や継続率の向上を目指している

  • ECサイトが、新規ユーザーのサインアップフローをよりスムーズにし、販売数の向上を期待している

しかし、ABテストは単なる仮定では実行できません。 そこには、非公式ながらも裏付けのある調査(= 既存のデータの掘り下げ)が必要です。 多くの場合、チームは定量データと定性データを組み合わせて仮説を立てます。たとえば、「離脱率が高いページのリスト」と「離脱時アンケートの回答結果」などを掛け合わせて、テストすべき仮説を導き出します。

良い仮説とは何か?

良い仮説とは、以下を満たす論理的かつ検証可能なステートメントです:

  • 問題に対する解決策や説明を提示していること

  • 結果を予測する実験の結果を予測する

  • なぜそのような結果になると予想するのかという根拠があること

例えばNetflix社のサンプル仮説は以下のようになります :"Xを変更すれば、指標Yが改善されるような形で会員体験が改善される"

Netflix社のユーザーエクスペリエンス(UX)の達人たちが、Webインターフェース(UI)上に表示される「Top10リスト」のテストを計画していたとき、彼らが立てた仮説は次のようなものでした: 「メンバーにTop10リストを表示することで、視聴するコンテンツを見つけやすくなり、メンバーの喜びと満足度が高まる」。

2024 10 netflix-top-10-list.png

Netflixの「Top10体験」

ステップ2:ABテストツールを選定する

次に、実験を行うのに適したABテストツールを見つけましょう。ここでは、いくつかのトップオプションを紹介します:

最も人気のある3つのABテストとプロダクトテストツール

1. Optimizely

Optimizelyは、開発者でなくてもWebサイト上でA/Bテストや多変量テストを実施できる、業界をリードする実験プラットフォームです。ユーザーフレンドリーなUIと直感的なUXにより、デザイナーやマーケターを含む幅広いユーザーに対応しています。

メリット:

デメリット:

  • 高価なオプションのひとつ

2.AB Tasty

AB Tastyは、ABテスト、パーソナライゼーション、ユーザーエンゲージメント、オーディエンスセグメンテーションを提供するオールインワンのCROプラットフォームです。ジオロケーションやユーザー行動など、様々なターゲティングオプションを自由に組み合わせて、理想のユーザーに合わせた実験を実行できます。

メリット:

デメリット:

  • 高度なテスト能力が少ない

  • ページの読み込み速度がやや遅くなる傾向

3.Contentsquare

Contentsquareは、サイトのデジタル体験をモニタリングできるオールインワンのエクスペリエンス・インテリジェンス・プラットフォームです。ABテストツールとContentsquareを連携させることで、テストを補完し、改善すべき本当の機会を特定できます。

Contentsquareのメリットとデメリットをこちらで列挙する代わりに、実際のユーザーの声をご紹介します 👉 レビューはこちら(英語)

💡補足:ステップ2とステップ3は順不同で進められます。テストの詳細を決めてから、それを効果的に実行できる機能を備えたツールを選んでも構いません。

ステップ3:テストのセットアップ

仮説は、何を変更しようとしているのか、そしてどの主要指標(KPI)を測定するのかを明確にします。仮説を確定させたら、次の手順に進みましょう:

  • 2つのバージョンを作成する: 例として、メールの件名、CTAボタン、ランディングページのレイアウトなど、あらゆる要素が対象になります。バージョンA(コントロール)は元の要素やデザインで、バージョンB(バリエーション)は変更された内容を反映します。他の要素はすべて同一に保つことが重要です。

  • ユーザーのサンプルを選定する: ユーザーや会員の中から一部を対象に、ランダムに2つのグループに分けます。一方のグループにはバージョンAを、もう一方にはバージョンBを表示させます。。

2024 10 random-assignment-visual.png

ABテストにおけるランダム割り当ての仕組み(ウェブサイトやプロダクトの実験)

  • 信頼水準を決める:信頼水準とは、テスト結果がどれだけ確実なものであるかを示す指標です。マーケットリサーチの分野では、95%の信頼水準が一般的に用いられています。これは、同じ実験を20回行った場合、誤差の範囲内で19回は同じ結果が得られることを意味します。

  • サンプルサイズとテスト期間を決定する 使用するA/Bテストツールによっては、サンプルサイズとテストの期間を設定できます。判断が難しく、社内にアナリストがいない場合は、オンラインのサンプルサイズ計算ツールを使うのもおすすめです。

  • テストのセットアップと実行 選定したABテストツール上で、実験を設定・実行します。同じマーケティングキャンペーン内で、ランディングページ、CTA(ボタン)、ヘッダーなどの要素を1つずつテストし、変化の因果関係を特定の変更に絞り込めるようにします。複数の要素を同時に変えると、原因が特定できなくなるため注意が必要です。

ステップ4:ABテストの結果を分析する

ABテストの結果を分析する際には、統計的有意性(statistical significance)に注目することが重要です。たまたま良い結果が出ただけなのに、そのバリエーションを採用してしまっては意味がありません。 一般的に、95%の統計的有意性があれば、その結果に信頼性があり、「勝ちバリアント」を採用してよいと判断できます。

結果が統計的に有意だった場合は、ABテストツール上で負けたバリエーションを無効化し、勝者を本番環境に反映しましょう!

しかし、どちらのバリエーションも統計的に優れていない場合はどうだろうか?その場合は、テストを「結論なし」とマークしなければなりません。 テストした変数が結果に有意な影響を与えなかったことを示します。

とはいえ、そこから学べることもあります。元のバージョンを継続使用するか、今回の結果を踏まえて新しい仮説を立て、次のテストに活かすことができます。

例えば、eコマースチームが2種類のプロダクトページをテストし、クリック率、カート投入率、購入率を測定したが、明確な差は出なかったとしましょう。 この場合は、さらにユーザーのサブグループ別に挙動を分析するのも一案です。または、商品説明文や価格設定といった新たな要素で再テストする方法もあります。

さて、どうする?

バリエーションに対して異なる反応を示すユーザーサブグループがあるかどうかを確認するために、データを詳しく調べることができます。あるいは、別の商品説明や価格戦略を含むものなど、別の変数で新しいテストを試すこともできます。

💡 プロヒント:ABテストによって、ユーザーがどんな要素を好むのかを定量的に把握できますが、「なぜ」その選択がされたのかは分かりません

Contentsquareのようなエクスペリエンス・インテリジェンス・プラットフォームを使うことで、こうしたギャップを補い、ユーザーの行動や嗜好を深く理解することができます。 たとえば、OptimizelyやAB Tastyとの連携テクノロジーパートナーシップで、セッションリプレイやヒートマップ、アンケートのトリガー設定などが可能になります。 これにより、新しいデザインのローンチ前に一部ユーザーから定性的なインサイトを集めることができます。

これで、例えばホームページのデザイン変更について、時間、お金、労力をかけて大勢に展開する前に、ユーザーの一部から定性的なインサイトを集めることができます。

ステップ5:実験のセッションリプレイを見る

ABテストと補完的に使える高度な行動分析ツールを活用して、ユーザーがバリエーションとどう関わったかをセッションリプレイで確認しましょう。 ユーザーがどこにマウスを動かし、何をクリックし、何を無視したかが分かるため、勝者だけでなく、その理由も特定できます。

こうすれば、どのバージョンが勝ちなのかがわかるだけでなく、その理由も正確に知ることができます。

リプレイを分析し、テストの方法に定性的なインサイトを加える方法をいくつかご紹介しましょう。

  • 期待通りの行動やエンゲージメントを確認するだけでなく、レイジクリックなどの予期せぬフリクションの兆候にも注意を払いましょう。

  • プレイ全体を通して訪問者の経路をたどり、テスト対象の要素がユーザージャーニー内でどう機能しているか、またその影響が体験をどう変えているかを確認しましょう。

💡 ヒント:Contentsquareのフラストレーションスコア(Frustration Scoring)を活用すれば、改善が必要な領域を効率的に特定できます。

フラストレーション・スコアリングは、ユーザーが問題を経験したセッションを自動的にスコア付けしてくれるため、無数のリプレイから該当セッションを探す必要がありません。

2024 10 product-Session-Replay-Insights-right-click-en.png

Contentsquareは、顧客があなたのサイトから離れてしまう最大のつまずきポイントを自動的に可視化します

ContentsquareによるABテストのベストプラクティス

前述の通り、Contentsquareは他のABテストツールとの連携機能に加え、単体でもABテストのモニタリングに活用できる機能を備えています。定量・定性データの両面から実験結果に深みを加え、次に何をすべきか(またはすべきでないか)を明確にすることで、効果のない変更にリソースを費やすことを防ぎます。

バリアントにフィードバックウィジェットを表示する

特定のページバリアント(テスト中の変更パターン)に対するユーザーのフィードバックを収集できます。Contentsquareのフィードバック収集ウィジェットを使えば、ユーザーがブロッカー(障害)に直面した瞬間や、気に入った点を発見したタイミングで、その場で感想を簡単に共有することが可能です。

ここでは、アンケートなどのカスタマーツールを活用して、より高度なリサーチを実施することができます。 実際に課題に直面しているユーザーからフィードバックを収集することで、その課題の鍵を握る当事者から直接、解決のヒントを得ることができるのです。

2024 10 ASK-VOC-Feedback-Button-Hero-1.png

Contentsquareのフィードバック・ウィジェットは、ユーザーがページの好きな部分や嫌いな部分をハイライトすることができる。

コントロールとバリアントのヒートマップを比較します

以下の条件に応じて、ヒートマップを使用してA/Bテストを追跡しましょう:

  1. バリアントが同一URL上で表示される場合:これは、同じURL上でABテストのバリアントをランダムに読み込む設定になっているケースです。この場合、セッションフィルターを適用して、それぞれのバリアントに対応するヒートマップを表示します。

  2. バリアントが異なるURLにある場合:この場合は、ヒートマップのURLフィルター機能を使用して各バリアントのデータを個別に追跡します。 ヒートマップのURLフィルターで、コントロール用のURLおよび/またはバリアント用のURLを入力し、それぞれのヒートマップを確認してください。

2024 10 product-Zoning-Comparitor-Rage-Click-en-1.png

ヒートマップは、ABテスト中により有益なインサイトを提供してくれます

バリアントを見たユーザーのリプレイを視聴しましょう

リプレイを使えば、サイトやページのバリエーションにおいて、ユーザーが実際にどのように行動したのかを直接確認できます。Contentsquareの「セッションリプレイ」機能は、実験中のユーザー行動を視覚的に把握できるため、ユーザーが変更点に気づいたのか、どのように反応したのか、またその体験における使い勝手の問題があったかどうかが明らかになります。

さらに便利なのは、Contentsquareではウェブサイトのフィードバックやアンケートの回答と、それに対応するリプレイを連携させることができる点です。フィードバックを受け取ったら、その直前にユーザーが取った行動をリプレイで確認しましょう。

これらのセッションを見ることで、どのデザインがよりスムーズなインタラクションと高いエンゲージメントにつながったかを特定することができ、どのレイアウトが最も効果的かを明確に示すことができます。

2024 10 ASK-VOC-Feedback-Button-Use-Case-Improve-1.png

メッセージがユーザーにしっかり届いているか、それとも混乱を招いているのかを判断できるようになります。


プロのヒント:Contentsquareでチャンスを見つけ、Optimizelyでテストを実施しましょう。

ContentsquareとOptimizelyのパートナーシップにより、よりスマートで、簡単かつ迅速な実験が可能になります。そのうえで、各テスト結果の「なぜ?」を明らかにし、そのインサイトを活かしてさらなる最適化を行い、再度テストを回すことができます。

  • Optimizelyのゼロレイテンシー、読み込み時間の短縮、高速なパーソナライズ体験は、キャッシングやサポート機能と組み合わさることで、実験中もサイト・製品・アプリのパフォーマンスを維持します。

  • 一方、Contentsquareのカスタマージャーニー分析およびゾーニング分析は、ユーザーがサイト内をどのように移動しているか(どのページを訪問し、どこで止まり、どれだけスクロールし、どこで離脱したか)を明らかにします。

これにより、最適化のための重要な領域を特定することができ、実際の結果をもたらすインパクトのある実験を実施することができます。


Rakuten Logo

ContentsquareのA/Bテストテクノロジーの利点は、実行中のテストを編集し、本番にプッシュするのが簡単ですぐにできることです。

Francois Duprat
最高技術・製品責任者

コンバージョンにつながる変更を着実に実現するために

あとは、これらのステップを実行するだけです。 どんなに小さな変更でも、全ユーザーに展開する前にABテストで検証しましょう。 そして、ヒートマップ、セッションリプレイ、ユーザーアンケートといった複数のデータソースを組み合わせることで、テスト結果だけでは見えない新たな最適化のチャンスを発見することができます。

Contentsquareを使えば、コンバージョン率やユーザーエンゲージメントを損なうリスクを回避しながら、効率的に実験を進めることが可能です。 貴重なリソースを無駄にしないためにも、今すぐ最適化をはじめましょう。

ABテストを最大限に活用する

Contentsquareのインサイトは、ABテストの結果を理解し、ユーザーエクスペリエンスの最適化に役立てることができます。

ABテストに関するFAQ

  • ABテストは、アプリやウェブページの2つのバリアントを比較し、どちらがより良いパフォーマンスをするかを決定する実験手法です。異なるグループのユーザーにバリアントAとバリアントBをランダムに表示し、彼らのインタラクションを測定して比較し、どちらが望ましい結果につながるかを確認します。

Contentsquare

Contentsquareは、カスタマーエクスペリエンス(CX)の向上に取り組む、世界的に多くのブランド企業から信頼を寄せていただいているプラットフォームです。 本記事では、ベストプラクティスから最新のデジタルトレンドまで、幅広いコンテンツをカバーしています。これを通じて、顧客に愛されるデジタル体験を創出するために必要な知識を学びましょう。ぜひ、お楽しみください!

変革をもたらすインサイトを手に入れる