見出し画像

Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone

Ikemen Mas Kot

https://arxiv.org/pdf/2404.14219.pdf
下記の文章は論文のアブストラクトをChatGPTに解釈させたものであり、正確性は保証しません。

Q1 何に関する論文か、詳しく説明してください。

この論文は、人工知能分野における様々な大規模言語モデル（LLMs）の性能と安全性に関する研究を扱っています。特に、Microsoftが開発したPhiシリーズのモデル（Phi-3-miniなど）の性能評価と、それらのモデルがどのように安全性の向上を図っているかに焦点を当てています。

論文の主な内容は、以下の通りです：

  1. Phi-3-miniを含む複数の言語モデルの性能比較：論文では、Phi-3-miniと他のモデル（Phi-3-small、Phi-3-medium、Phi-2など）との性能を比較しています。これには、様々なタスク（例えば、MMLU、HellaSwag、ANLIなど）での性能が含まれます。

  2. 安全性の向上に関する取り組み：Phi-3-miniの開発過程において、Microsoftの責任あるAI原則に従い、安全性の向上を目指した取り組みが行われました。これには、安全性の調整、レッドチーミング、自動テスト、RAI（Responsible AI）の害カテゴリーにわたる評価などが含まれます。

  3. 実験結果：論文では、Phi-3-miniを含む様々なモデルが、Microsoftの内部RAIベンチマークでどのような結果を示したかを報告しています。例えば、Ungroundedness（根拠のなさ）、知的財産侵害、有害コンテンツの継続や要約、ジェイルブレイクなどの指標があります。

  4. モデルの実用化：Phi-3-miniがiPhoneのA16 Bionicチップ上でネイティブに動作し、秒間12トークン以上を生成する様子や、データ最適領域におけるスケーリング法則に関する図が示されています。

論文に記載されている内容と私の知識に相違点は特に見受けられません。むしろ、この論文は人工知能の分野における最新の研究動向を反映しており、言語モデルの性能向上と安全性に対する現在の取り組みを示しています。また、様々なモデルの性能を定量的に評価し、それぞれのモデルが特定のタスクにおいてどのような強みや弱みを持っているかを理解する上で有用な情報を提供しています。

Q2 研究目的とその背景について、詳しく説明してください。

この論文は、人工知能（AI）の分野におけるマルチターン会話におけるモデルの性能と安全性を評価し、改善することを主要な研究目的としています。特に、Microsoft社内のRAI（Responsible AI）ベンチマークを使用して、phi-3-miniモデルおよびその他のモデル群（phi-3-mini-4k、phi-3-mini-128k、phi-2、Mistral-7b-v0.1、Gemma 7b、Llama-3-instruct-8bなど）の性能を比較し、評価しています。

研究目的を追求する背景や動機は、AIモデルが実際に社会で安全かつ有用に機能するためには、モデルが生成する応答の品質と安全性を確保する必要があるという認識に基づいています。具体的には、以下の点が背景となっています。

  1. Ungroundedness（根拠のなさ）: モデルが与えられたプロンプトに基づいた情報を応答にどの程度反映しているかを測定し、モデルが現実世界の情報に基づいた回答を生成する能力を評価します。

  2. Harmfulness（有害性）: モデルが生成する内容が有害であるかどうかを評価し、特に継続的な有害コンテンツ生成や要約における有害コンテンツの発生率を測定します。

  3. Intellectual Property（知的財産）: モデルが著作権などの知的財産権を侵害するような内容を生成するリスクを評価します。

  4. Safety Alignment（安全性の整合性）: モデルのポストトレーニングにおいて安全性を向上させるためのアライメントがどの程度効果的であるかを評価します。

  5. Red Teaming（レッドチーミング）: 独立したチームが敵対的な方法でモデルを試験し、有害な応答を引き出そうとすることで、モデルの安全性をさらに検証します。

この研究は、AIモデルが実世界で広く利用されるにつれて、その応答の品質と安全性がますます重要になる中で、モデルの信頼性と責任ある使用を確保することを目指しています。また、モデルが生成する応答の有害性を低減し、知的財産権を尊重し、根拠のある情報を提供する能力を向上させることで、AIの社会的受容性を高めることを目的としています。

Q3 本研究で用いた手法について、詳しく説明してください。

この論文では、Phi-3-miniというAIモデルの開発とその評価について記述されています。研究手法としては、まずモデルのポストトレーニングにおいて安全性の調整を行い、Microsoftの責任あるAI原則に従っています。具体的には、安全性調整のためのポストトレーニング、レッドチーミング、自動テスト、そしてRAI（Responsible AI）の害に関する数十のカテゴリーにわたる評価が含まれています。

安全性のポストトレーニングでは、有害な応答率を減少させるために、役立ち度と害のなさの優先順位に関するデータセット（[BJN+22, JLD+23]）を活用し、[BSA+24]に触発された修正を加えた複数の社内生成データセットを使用しています。Microsoftの独立したレッドチームがPhi-3-miniを反復的に検証し、ポストトレーニングプロセス中に改善が必要な領域を特定しています。レッドチームのフィードバックに基づき、その洞察に対処するために特別にキュレーションされたデータセットを追加し、ポストトレーニングデータセットを洗練させています。

モデルの性能と安全性を評価するために、Phi-3-mini-4kやPhi-3-mini-128kなどのモデルと、Phi-2、Mistral-7b-v0.1、Gemma 7b、Llama-3-instruct-8bといった他のモデルとの比較を行う社内RAIベンチマークが使用されています。このベンチマークでは、GPT-4を利用して、5つの異なるカテゴリーでマルチターンの会話をシミュレートし、モデルの応答を評価しています。

ベンチマークで使用される指標には、「Ungroundedness（根拠のなさ）」があり、0（完全に根拠がある）から4（全く根拠がない）の間で情報の根拠を測定します。他のカテゴリーでは、有害性の重大度を0（無害）から7（極めて有害）の間で評価し、欠陥率（Defect Rate, DR-x）は重大度スコアがx以上であるサンプルの割合として計算されます。

また、Phi-3-miniのポストトレーニングは、監視されたファインチューニング（SFT）と直接的な嗜好最適化（DPO）の2段階を経ています。SFTは、数学、コーディング、推論、会話、モデルのアイデンティティ、安全性など、多様なドメインにわたる高品質なデータを活用します。DPOでは、チャット形式のデータ、推論、RAIの取り組みを含んでおり、これらの出力を「拒否された」応答として使用して、望ましくない行動からモデルを遠ざけます。ポストトレーニングによって、数学、コーディング、推論、堅牢性、安全性が改善されるだけでなく、ユーザーが効率的かつ安全に対話できるAIアシスタントに言語モデルが変貌します。

学術的なベンチマークにおいては、Phi-3-miniをPhi-2、Mistral-7b-v0.1、Mixtral-8x7b、Gemma 7B、Llama-3-instruct-8b、GPT-3.5と比較し、モデルの推論能力（常識的推論と論理的推論の両方）を測定する標準的なオープンソースのベンチマークの結果を報告しています。これらの数値は、比較可能であることを保証するために、同じパイプラインで生成されています。評価の際には、温度0で数ショットのプロンプトを使用しています。プロンプトとショットの数は、Microsoft内部の言語モデル評価ツールの一部であり、Phi-3モデルのためにパイプラインを最適化することはしていません。

これらのプロセスとベンチマークを通じて、モデルの性能と安全性が体系的に評価され、改善されていることが示されています。

Q4 本研究の成果と限界について、詳しく説明してください。

この研究では、Phi-3-miniをはじめとする様々な人工知能モデルの安全性に関するベンチマーク結果が示されています。表1によれば、Phi-3-mini-4kとPhi-3-mini-128kは、Phi-2、Mistral-7b、Gemma 7b、Llama-3-instruct-8bといった他のモデルと比較して、複数のRAI（Responsible AI）ハームカテゴリーにおけるパフォーマンスを測定しています。これらの結果は、モデルがどれだけ「根拠のある」応答をしているか（Ungroundedness）、知的財産の侵害の可能性（Intellectual Property）、有害なコンテンツの継続や要約（Harmful Content Continuation/Summarization）、ジェイルブレイク（Jailbreak）といった指標に基づいています。

結果の解釈においては、低い数値が良いパフォーマンスを示すこととなります。特に、Phi-3-miniは安全性調整後の有害な応答率の減少に成功しており、これはMicrosoftの独立したレッドチームによる反復的な評価とフィードバックに基づいています。これらの結果から、Phi-3-miniはマルチターン対話において、安全性の面で改善されたことが示唆されています。

しかしながら、これらの結果の一般化にはいくつかの制約があります。まず、これらは社内のベンチマークであり、外部の独立した評価ではないため、結果にバイアスがかかっている可能性があります。また、これらのテストは特定のカテゴリーに限定されており、実世界の多様なシナリオを完全にはカバーしていないかもしれません。さらに、有害な応答の定義や評価基準は常に進化しているため、今後の研究でこれらの基準が変化する可能性があります。

研究成果の意義としては、人工知能モデルの安全性を高めるための具体的なアプローチと評価方法を提供しており、これによりAIシステムの責任ある展開に貢献することができます。将来の研究では、さらに多様なデータセットやシナリオを用いた評価、外部からの独立した検証、有害な応答のより精密な定義や測定方法の開発などが潜在的な改善点として考えられます。また、社会的な規範や価値観の変化に適応するためのモデルの柔軟性や拡張性を高めることも重要な課題です。

Q5 本研究で何を明らかにしたか、詳しく説明してください。

この論文では、phi-3-miniという新しい言語モデルが紹介されており、その特徴は以下の通りです。

  1. モデルサイズと性能のバランス：phi-3-miniは3.8億パラメータを持ち、3.3兆トークンにわたって訓練されています。このモデルは、携帯電話にデプロイ可能なほど小さいサイズでありながら、Mixtral 8x7BやGPT-3.5といったモデルと同等の性能を発揮します（例えば、MMLUで69%、MT-benchで8.38のスコアを達成しています）。

  2. 訓練データの工夫：このモデルの革新点は、phi-2で使用されたデータセットの拡張版である訓練データセットにあります。このデータセットは、厳格にフィルタリングされたウェブデータと合成データから構成されており、ロバスト性、安全性、チャットフォーマットでのさらなるアライメントが行われています。

  3. 安全性への配慮：phi-3-miniはMicrosoftの責任あるAI原則に従って開発されており、安全性調整、レッドチーミング、自動テスト、RAI（Responsible AI）の害のカテゴリーにわたる評価など、安全性を確保するためのアプローチが取られています。

  4. パラメータスケーリングの初期結果：より大きなphi-3-small（7Bパラメータ）とphi-3-medium（14Bパラメータ）のモデルも4.8兆トークンで訓練されており、phi-3-miniよりもさらに高い性能を示しています（MMLUでそれぞれ75%と78%、MT-benchで8.7と8.9）。

  5. モデルの安全性評価：phi-3-miniは、他のモデルと比較して、複数のRAIベンチマークで良好な結果を示しています。特に、基盤のなさ、知的財産の侵害、有害なコンテンツの継続や要約、ジェイルブレイクなどのカテゴリーでの評価が行われています。

  6. ローカルデプロイメント：phi-3-miniは、iPhoneのA16 Bionicチップ上でネイティブに実行可能であり、1秒あたり12トークン以上を生成することができます。

  7. スケーリング法則：データ最適領域に近いスケーリング法則が示されており、phi-1.5、phi-2、phi-3-mini、phi-3-smallとLlama-2ファミリーのモデル（7B、13B、34B、70B）が同じ固定データで訓練されている点が比較されています。

総じて、この研究は、高度に最適化された訓練データを使用することで、小規模ながらも高性能な言語モデルを実現することができるという新しい知見を提供しています。また、安全性やデータの扱いに細心の注意を払ったモデル開発のアプローチが示されており、AI技術の社会への応用において重要な指針となります。

Q6 本研究で用いたデータセットを網羅的に列挙し、名前やURLなどがあればそれらも含めて詳しく説明してください。

この論文では、phi-3-miniという言語モデルの開発について報告されており、複数のデータセットが使用されていますが、すべてのデータセットの名前や詳細情報、アクセス可能なURLを論文から直接抽出することはできません。しかし、論文の内容に基づいて、使用されたデータセットの種類について説明することは可能です。

phi-3-miniモデルは、3.3兆トークンに基づいて訓練され、その訓練データはphi-2で使用されたもののスケールアップバージョンで、フィルタリングされたウェブデータと合成データから構成されています。このモデルは、堅牢性、安全性、チャット形式に向けてさらに調整されています。

論文には具体的なデータセットの名前は記載されていませんが、以下のようなデータセットが言及されています：

  1. Helpfulness and harmlessness preference datasets [BJN+22, JLD+23] - 安全性のポストトレーニングに使用されたデータセット。

  2. Modifications inspired by [BSA+24] - 安全性のポストトレーニングでの改良に影響を与えた研究。

  3. Multiple in-house generated datasets - 社内で生成された複数のデータセットで、安全性のポストトレーニングに利用されました。

これらのデータセットは、モデルの安全性を向上させるためにポストトレーニングプロセスで使用されたものです。

また、論文では、モデル評価のためにいくつかのベンチマークデータセットが使用されています。ただし、これらのデータセットについては、名前のみが記載されており、それぞれのデータセットの詳細情報やアクセスURLは提供されていません。これらのデータセットには以下のようなものが含まれます：

  • MMLU (Massive Multitask Language Understanding)

  • HellaSwag

  • ANLI (Adversarial NLI)

  • GSM-8K

  • MedQA

  • AGIEval

  • TriviaQA

  • Arc-C (AI2 Reasoning Challenge, Challenge Set)

  • Arc-E (AI2 Reasoning Challenge, Easy Set)

  • PIQA (Physical Interaction QA)

  • SociQA

  • BigBench-Hard

  • WinoGrande

  • OpenBookQA

  • BoolQ

  • CommonSenseQA

  • TruthfulQA

  • HumanEval

  • MBPP (Mostly Basic Python Problems)

これらのデータセットは、一般に研究コミュニティで広く使われているもので、それぞれのデータセットの詳細情報やアクセス方法については、公開されている論文やデータセットの公式ウェブサイトを通じて得ることができます。しかし、論文中にURLが記載されていないため、具体的なアクセス先については、各データセットの名称をもとにインターネットで検索する必要があります。

7 本研究を特徴づけるキーワードを日本語で提案し、ハッシュタグとして列挙してください。（５個程度）

#Phi -3-mini #Phi -3-medium #ポストトレーニング #RAI （Responsible AI） #マルチターン会話 #安全性アライメント #レッドチーミング #データ最適領域 #ベンチマーク #量子化モデル

この記事が気に入ったらサポートをしてみませんか？