ConPET: Continual Parameter-Efficient Tuning for Large Language Models

ConPET: Continual Parameter-Efficient Tuning for Large Language Models

1 本研究の核心をなす学術的な問いは、「大規模言語モデル（LLMs）を用いた連続学習における効率的なパラメータ調整はどのように行うべきか？」ということです。具体的には、従来のフルパラメータ調整では、計算コストやメモリ消費が高まり、学習したことを忘れる（カタストロフィックフォーゲッティング）問題が起こるため、これらの問題を解決する新たな手法が求められています。

2 本研究の目的は、「連続パラメータ効率チューニング（ConPET）」という新しいパラダイムを提案し、LLMsの連続学習における課題に対応することです。本研究の独自性と創造性は、パラメータ効率の良い調整（PET）を用いて既存の連続学習手法を適応させ、また、不同な設定でのタスクに対して最適なモジュールを動的に選択するという方法を開発した点です。

3 この研究の着想は、既存の連続学習手法がLLMsの実装に困難を伴うためです。それらのほとんどは、モデルの規模を増やすことで連続学習を可能にしていますが、それにより計算コストが増大する問題が発生しています。そのため、本研究では新たに、パラメータ効率の良いチューニング(PET)を導入することで、LLMsの連続学習を効率的に達成する方法を提案しています。

4 本研究では、「連続パラメータ効率チューニング（ConPET）」という新たなフレームワークを開発しました。これは、既存の連続学習手法をLLMsに適応させる方法を提供します。具体的には、「Static ConPET」と「Dynamic ConPET」の2つのバージョンが提供されています。「Static ConPET」は、既存のメモリベースの連続学習方法をLLMsに適応させ、計算コスト、過学習、カタストロフィックフォーゲッティングを抑制します。「Dynamic ConPET」は、任務の流動性を管理し、様々なタスクに対して最適なモジュールを動的に選択します。

5 本研究の有効性は、知識抽出のための複数のデータセットに対する実験によって検証されました。その結果、ConPETの両バージョンがLLMsの連続的なタスク特化適応に効果的であることが示されました。さらに分析では、パラメータ効率チューニング、PETモジュールの選択、異なるタスク分割の効果が明らかにされました。