Profit: Benchmarking Personalization and Robustness Trade-off in Federated Prompt Tuning

Profit: Benchmarking Personalization and Robustness Trade-off in Federated Prompt Tuning

1 本研究の学術的背景は、「フェデレーテッドラーニング」(Federated Learning/FL)と呼ばれるプライバシーを守りつつ複数のクライアント間で機械学習モデルを共同で訓練する技術にあります。その中でも課題となっているのが、個々のクライアントのデータを使ってパーソナライズ（個別化）されたモデルを作る一方、一般の知識も維持しなければならない点です。各クライアント間でデータの違いがあるため、パーソナライズと汎用性のバランスをどのように取るかが、大きな「問い」であり学術的な課題となっています。

2 本研究の目的は、このパーソナライズと汎用性のトレードオフを最適にすることで、パーソナライズされつつも汎用性を備えたフェデレーテッドラーニングを実現することです。特に、大規模な言語モデルに対するフェデレーテッドラーニングを対象に、パラメータ効率的なファインチューニング（Parameter-Efficient Fine-Tuning/PEFT）アプローチを適用します。これは、大規模なデータと制限された計算・通信能力を持つ環境下でも、汎用性とパーソナライズのバランスを取る新たな方法論を提案するという意味で、独自性・創造性があります。

3 フェデレーテッドラーニングは、データプライバシーを守りつつ、分散したクライアント間で機械学習モデルを共同で訓練する技術として注目が集まっています。その一方で、クライアント間でデータの分布が異なる場合などパーソナライズと汎用性のトレードオフに関する問題が指摘されていました。この問題に対し、本研究は大規模な言語モデルを対象にした斬新なアプローチを提案し、その効果を検証します。

4 本研究では、フェデレーテッドラーニングの手法として、FedAvgとFedSGDによるパーソナライズ方法を検証し、大規模な言語モデルに適用するPEFT（パラメータ効率的なファインチューニング）アプローチを実施しました。複数のハイパーパラメータ設定とデータの異質性レベルでの結果から、フェデレーテッドラーニングを用いたパーソナライズがロバスト（頑健）であること、特に多くのエポック（学習の進行度）での学習率が低い場合に効果的であることを示しました。

5 本研究の有効性は、パーソナライズと頑健性のトレードオフの観点から大規模な実験を行い検証しました。具体的には、FedAvgやFedSGDなどのFLアルゴリズムを用いてパーソナライズを行い、その結果を検証した上で、ℓ２正則化やモデルの平均化などのアプローチがパーソナライズと頑健性のバランスを取る上で有効であることを明らかにしました。