- 運営しているクリエイター
記事一覧
行列積計算を高速化してみる
超高性能プログラミング技術のメモ（15）
実は、このメモは、行列-行列積計算C＝ABを高速化するために必要な技術を記録してきました。今回は、いよいよその行列積計算の高速化に挑みたいと思います。
行列積DGEMMは、HPC業界ではTop500ランキングでもベンチマークプログラムとして使われていて、今でも世界最高速が競われています。近年は、ディープラーニングの畳み込み計算などにも利用されているよう
演算とメモリ転送のオーバーラップ
超高性能プログラミング技術のメモ（１２）
技術を忘れないようにメモしています。
今回から、浮動小数点演算の話に入りたいと思います。高性能化のポイントは、「レジスタスピルやパイプラインハザードを回避しながら、ロード命令のメモリ転送中に浮動小数点演算を同時実行させてしまうか」になります。
命令数のカウントここでは、複数のベクトルの内積を計算する擬似コードを考えてみましょう。
double* in
メモリアクセスパターン
超高性能プログラミング技術のメモ（１０）
技術を忘れないようにノートに書き残しています。
かなり時間が経ってしまいましたが、案外読まれているようなので、また少しずつ追加していこうと思います。プログラミング初心者向けではないので、読者はいないだろうと思っていました。
今回は、メモリアクセスパターンの違いによる性能の違いについて簡単に書きたいと思います。
メモリアクセス速度パソコンを使っていて処
キャッシュをコントロールする方法
超高性能プログラミング技術のメモ（９）
技術を忘れないようにノートに書き残しています。
今回は、キャッシュメモリにデータを乗せておく処理について書こうと思います。この処理は、行列積計算のようなアルゴリズムには必要になります。
メモリアクセス１回目を速くするブロッキングは、キャッシュに乗るサイズにデータ利用領域を制限する技術でした。この領域制限により、一度キャッシュにデータが格納されると、その後
キャッシュメモリを有効利用する方法
超高性能プログラミング技術のメモ（８）
超高性能プログラミング技術を忘れないように記録しています。
今回は、汎用メモリ・キャッシュ・レジスタの記憶階層を有効活用するためのループブロッキング技術を記述していきます。
ここでは、多次元配列を対象とします。多次元配列の場合、メモリ上のデータの配置順序とアルゴリズム上のデータの使用順序が異なること多々あります。そうすると、ストライドアクセス（データを飛
ストリップマイニング
超高性能プログラミング技術のメモ（７）
高性能プログラミングの技術を忘れないようにノートを書いています。今回は、ストリップマイニングについて書いておこうと思います。
ストリップマイニングストリップマイニングは、高性能プログラミングでよく用いられる改変方法です。ループを固定長の長さ毎に分けて実行するようにします。その方法は、ベクトル型コンピュータのベクトライザー（ベクトル化処理器）が行なっている改
パイプラインハザードの防ぎ方
超高性能プログラミング技術のメモ（４）
自分の備忘録として、プログラミング技術のメモを書き残しています。
今回は、アセンブラならではのループの組み方について書いておきます。
ハザードが起こらないパターン前回書いたように、最小限の基本的な演算処理、ロード命令LD→演算命令OP→ストア命令STの順序では、必ずレジスタの使用順序がRAW（Read after Write）型になり、パイプラインハザード
レジスタスピルとパイプラインハザード
超高性能プログラミング技術のメモ（３）
自分のための備忘録として、技術のメモを残しています。
第３回は、アセンブラ言語における主要なチューニングであるパイプラインハザードの回避とデータ転送の時間稼ぎについて書こうと思います。
レジスタスピル演算器が直接利用できるレジスタメモリ（以下、レジスタ）は、有限個しかありません。SIMD命令が使用できるXMM, YMM, ZMMレジスタは、x86アーキテ
