見出し画像

Latency-tolerant Vector Processor Architectures

情報処理学会・学会誌「情報処理」

2022年度研究会推薦博士論文速報
［システム・アーキテクチャ研究会］

高屋敷 光
（（株）フィックスターズ ソフトウェアエンジニア）

邦訳：レイテンシ耐性を持つベクトルプロセッサアーキテクチャに関する研究

■キーワード
コンピュータアーキテクチャ／ベクトルプロセッサ／スーパーコンピュータ

【背景】高い実効性能を実現するベクトルプロセッサの要求
【問題】プロセッサの性能向上ボトルネックの変化
【貢献】レイテンシについて着目し解決策を提案

　我々はコンピュータに囲まれて生活している．高度な計算向けの大規模なスーパーコンピュータから，スマートフォンなど身近な組込みコンピュータに至るまでさまざまな機器に搭載されている．その中でも本研究は，特にスーパーコンピュータに着目している．スーパーコンピュータは気象予報やAIの研究，宇宙のシミュレーションなど，大規模科学技術計算に使用されるコンピュータである．これらの技術の発展による各種アプリケーションの高度化や多様化に伴い，より高性能なスーパーコンピュータが求められている．

　ベクトルプロセッサはスーパーコンピュータに用いられ，1つの命令で複数のデータ要素を一度に処理するベクトル命令に特化したプロセッサである．ベクトル命令によりハードウェアがデータを連続的に処理することができるため，高度な並列処理を可能としている．

　本研究ではこのベクトルプロセッサにおいてさらに高い性能を実現するために，ベクトル命令のレイテンシに注目した研究を行った．本研究におけるベクトル命令のレイテンシとは「あるベクトル命令を開始（フェッチ）してから完了（コミット）するまでの時間」と定義している．このレイテンシはプロセッサ内の演算器などのハードウェア資源を利用するための待機時間や，プロセッサに接続されている外部メモリからデータを取得するためにかかる時間などに大きく影響を受ける．また，ベクトル命令同士は依存関係を持つため，ある命令の完了が遅れると次の命令も完了が遅れてしまい，全体の性能に影響を及ぼす．

　そこで本研究では，レイテンシを隠ぺいする方針とレイテンシを削減する方針の2つについて，それぞれ2つ，合計4つの提案を行った．

　1つ目は，ベクトル命令の間接メモリアクセスのためのプリフェッチ機構である．間接メモリアクセスは最終的に欲しいデータの位置情報をメモリアクセスにより求める必要がある．複数のメモリアクセスの完了を順番に待つ必要がありレイテンシが増大するため，性能低下の要因となる．そこで，メインメモリよりも高速にアクセスが可能なキャッシュへ，間接メモリアクセス先のデータを前もって読み込んでおくことでレイテンシを隠ぺいした．

　2つ目は，命令レイテンシに応じたベクトル命令発行機構である．ベクトル命令のレイテンシは命令ごとに異なるため，よりレイテンシの長い命令を先に発行することでレイテンシを隠ぺいした．

　3つ目は，ベクトル命令の仮想アドレス変換高速化のための重複排除手法である．ベクトル命令は1命令で複数の要素を扱うため，仮想アドレスから物理アドレスに変換する場合も複数のアドレス変換が必要になる．そのため，変換先アドレスが重複する場合を除くことで，変換にかかる時間を減らしてレイテンシを削減した．

　最後の1つは，キャッシュミス削減のためのスキュー型キャッシュ機構である．ベクトル命令により多数のデータ要素に一度にアクセスするので，キャッシュ内資源の競合が起こる場合がある．すると，容量に空きがあってもデータを保存できない場合がある．そこでスキュー型と呼ばれる特殊なキャッシュを用いることで，メモリアクセスにかかるレイテンシを削減した．

　本研究ではベクトルプロセッサのレイテンシについて注目することで，ベクトルプロセッサの性能向上を実現できることを示した．

（2023年5月30日受付）
（2023年8月15日note公開）

ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー
　取得年月：2023年3月
　学位種別：博士（情報科学）
　大学：東北大学
　正会員
ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー

推薦文［コンピュータサイエンス領域］システム・アーキテクチャ研究会
ベクトルプロセッサは高いコア性能・メモリ性能による効率的なプログラム実行を可能とし，スーパーコンピュータによる科学技術分野の計算に利用されています．本論文では，レイテンシ耐性に着目したベクトルプロセッサの新しい構成方法を提案しており，未来のスーパーコンピュータに向けたさらなる効率化が期待されます．

研究生活　　研究を始めるまでは人々がどのように考え，体系化し，理論を作っているのか，想像もつかないまま勉強していた．しかし，研究をとおしてこれまで研究者たちがいかに悩みながら今日の技術を積み上げてきたのか，その一端を覗き見ることができたと思う．一方で，こんなことすら人類はまだ分かっていないのかという絶望感を感じ，それを乗り越えようとする研究者たちの熱意に揉まれたのは非常に良い経験であった．私は企業に就職して研究から離れるが，博士課程で学び得た内容は社会人として企業で務める上で必要なスキルや考え方に通じるものがあり，進学してよかったと思う．

最後に本研究を進めるにあたりご指導いただいた，小林広明先生，小松一彦先生，佐藤雅之先生ならびに多大なご支援をいただきました研究室の皆様に，この場を借りて感謝申し上げます．