ABテストにおける分散削減手法①〜少ないサンプルから小さな改善効果を検出する〜
マネーフォワード 分析推進部の石田と申します。
社内では、データサイエンティストとして施策効果検証系の案件を中心に担当しています。
本稿から2回に渡って、「ABテストにおける分散削減手法」というテーマで記事を執筆したいと思います。
馴染みのない方もいらっしゃるかもしれませんが、ABテストへ分散削減手法を適用することで、例えば以下に挙げたメリットを享受することができます。
必要サンプルサイズを低減できるため、意思決定サイクルを高速化できる
より小さな改善効果を検出できる