PHALM: Building a Knowledge Graph from Scratch by Prompting Humans and a Language Model
本研究の学術的背景、研究課題の核心をなす学術的「問い」は、自然言語理解を強化するために預訓練されたトランスフォーマーを利用するものの、ニューラル言語モデルたちはしばしば常識的な知識を適切に扱うことができない問題に対する解決策を見つけることです。
本研究の目的は、クラウドソーシングと大型言語モデル（LLM）の両方をプロンプト（書き出し文などを与えて、続きを生成させること）することによって、最初から知識グラフを構築する方法、PHALMを提案することです。これにより、日本のイベントの知識グラフを作り、日本の一般的知識生成モデルを訓練しました。これは、一般的な知識を得るための幅広い試みから生まれた学術的な独自性と創造性です。
本研究の着想は、現行のモデルが常識的な知識をうまく扱えないという課題から生まれました。また、大規模な知識ベースを取得することは高コストであり、また高品質の一般的な知識を自動的に取得することは困難であるという既存の問題によります。そのため、研究は、既存のデータセットを拡張するだけでなく、新たなデータセットを最初から構築する方法に焦点を当てています。
本研究では、クラウドソーシングとLLMを用いて、最初から知識グラフを構築する方法、PHALMを提案しました。また、実験によって、構築されたグラフと訓練モデルによって生成された推論の受け入れ可能性を明らかにしました。そして、人間とLLMをプロンプトする違いも報告しました。
本研究の有効性は、実験結果を用いて検証しました。具体的には、構築された日本のイベント知識グラフと訓練された一般的な生成モデルによって生成される推論の受け入れ可能性を、見ぬイベントに対して確認しました。
この記事が気に入ったらサポートをしてみませんか？