🧠Shapではかろう

SHAP（SHapley Additive exPlanations）は、機械学習モデルの予測を解釈するために使用される手法です。これは、協力ゲーム理論に基づいたアプローチを採用しており、各特徴がモデルの予測に与える寄与を定量的に評価します。

SHAP（SHapley Additive exPlanations）値の基礎には、ゲーム理論から来たシャープレイ値があります。シャープレイ値は、ゲーム理論の概念であり、複数のプレイヤーが共同で生み出す「ゲーム」の総利益（または結果）を、各プレイヤーが公平に受け取るべき貢献度に基づいて分配する方法を提供します。

シャープレイ値の原理

シャープレイ値は、全プレイヤー（この場合はモデルの特徴または入力変数）の各組み合わせにおいて、特定のプレイヤーがゲームの結果にどれだけ貢献するかを計算します。これは、すべての可能なプレイヤーの組み合わせにおけるそのプレイヤーのマージナル貢献の平均を取ることで行われます。計算は、特定のプレイヤーを含む場合と含まない場合の「ゲーム」の価値（結果）の差異に基づいています。

SHAPの主な特徴としては以下の点が挙げられます：

• フィーチャーの重要性：SHAPは、モデルの各フィーチャーが予測にどの程度影響を与えているかを明示します。これにより、特定の予測に最も影響を与えるフィーチャーを特定できます。

• モデルの解釈可能性：SHAPは、モデルの「ブラックボックス」性を解消し、その意思決定プロセスをより透明にします。

• 汎用性：SHAPは、任意の機械学習モデルに適用可能です。

SHAPの実装では、まずSHAPライブラリをインストールし、機械学習モデルをトレーニングした後にSHAP Explainerを使用してSHAP値を計算します。これらの値は、サマリープロット、依存度プロット、フォースプロット、ディシジョンプロットなど、様々な視覚化手法を通じて表現できます。これにより、モデルが特定の予測を行うための理由を理解し、モデルのデバッグ、フィーチャーの重要性の識別、モデルの説明、バイアスの特定などが可能になります。

SHAPの使用により、モデルの解釈可能性と透明性が向上し、ユーザーや規制当局からの信頼を得やすくなります。モデルが特定の予測を行った理由を説明することで、潜在的なバイアスをデバッグし、データの問題を特定し、モデルの決定を正当化するのに役立ちます。

SHAP（SHapley Additive exPlanations）値の計算には、協力ゲーム理論に基づいたシャープレイ値を使用して、機械学習モデルの予測に各特徴がどれだけ寄与しているかを計算します。SHAP値の計算プロセスは以下のステップで構成されます：

1. 特徴の全可能な組み合わせ（連合）を作成します。

2. モデルの平均予測を計算します。

3. 各連合に対して、特徴 F がない場合とある場合のモデルの予測値の差を計算します。

4. 各連合で、特徴 F がモデルの予測を平均からどの程度変えたかを計算します。これが F の周辺寄与です。

5. SHAP値は、ステップ4で計算された値の平均、つまり F の周辺寄与の平均となります。

数学的には、SHAP値は次の式で表されます：

シャープレイ値は、効率性、対称性、ダミー、加算性といった特性を満たす唯一の解とされており、SHAPもこれらの特性を満たしています。SHAPは、局所的な精度、欠損値への対応、一貫性という3つの望ましい特性を記述しています。

SHAP値の計算は、特に特徴が多い場合には計算量が指数関数的に増大するため、実際には近似方法が使用されることが一般的です。近年、LundbergとLeeによって発表された論文では、SHAP値を計算するための効率的な手法が提案されており、shapライブラリを通じてPythonで容易に使用できます。

Lundberg and Lee (2017)69 によるSHAP (SHapley Additive exPlanations)は、個人の予測を説明する手法である。SHAPはゲーム理論的に最適なシャプレー値に基づいている。

https://christophm.github.io/interpretable-ml-book/shap.html

SHAPがシャプレー値のサブチャプターではなく、独自のチャプターとなった理由は2つある。第一に、SHAPの著者たちは、局所代理モデルから着想を得たシャプレー値のための代替的なカーネルベースの推定アプローチであるKernelSHAPを提案した。そして、ツリーベースのモデルのための効率的な推定アプローチであるTreeSHAPを提案した。第二に、SHAPにはシャプレー値の集約に基づく多くの大域的解釈手法が付属している。

予測は、インスタンスの各特徴値が、予測を配当とするゲームの「プレイヤー」であると仮定することで説明できる。シャプレー値-連合ゲーム理論からの手法-は、特徴間の「配当」を公平に分配する方法を教えてくれる。

https://christophm.github.io/interpretable-ml-book/shapley.html#shapley

シャープレイ値が持つ「効率性」「対称性」「ダミー（null player）」「加算性」という四つの特性は、ゲーム理論における公平な価値分配を定義する重要な原則です。これらの特性により、シャープレイ値はある種のゲーム（特に、転送可能な効用を持つ協力ゲーム）における唯一の公平で合理的な解と見なされます

1. 効率性 (Efficiency)

ゲームの総利得（全プレイヤーによって生み出される価値）は、全プレイヤーに完全に分配されます。つまり、ゲームから得られる全利益は、全プレイヤーのシャープレイ値の和に等しくなります。これにより、利益（または費用）が無駄なく、また余分に発生することなく分配されることを保証します。

2. 対称性 (Symmetry)

二つのプレイヤーがゲームにおいて等価な役割を果たす場合（すなわち、一方が他方と置き換え可能である場合）、これらのプレイヤーは同じ価値（シャープレイ値）を受け取ります。これは公平性の観点から、等価な貢献には等価な報酬を与えるべきであるという原則に基づいています。

3. ダミー (Null Player)

「ダミー」プレイヤー、つまりゲームの結果に何の影響も与えないプレイヤーのシャープレイ値はゼロです。これは直感的に理解しやすく、貢献のないプレイヤーには報酬もないという原則を示しています。

4. 加算性 (Additivity)

二つ以上のゲームを合成する場合、各プレイヤーのシャープレイ値は、個々のゲームでのシャープレイ値の合計と等しくなります。これにより、異なるゲーム（状況やタスク）からのプレイヤーの総貢献は、それぞれのゲームにおける貢献の単純な合計によって計算できるという性質を持っています。
これらの特性は、シャープレイ値が持つ解の公平性と一貫性を数学的に定義し、それを他の任意の価値分配方法と区別する根拠となります。これらの条件を満たす価値分配方法は、シャープレイ値以外に存在しないことが証明されています。そのため、シャープレイ値は、プレイヤー間で得られる利益（または費用）を分配する際の「唯一の解」と見なされるわけです。