Computer CPU Cache機能...…人の考え方に似せている

ComputerのCPUとMemory間のやり取りを速くすることで、全体的な処理性能に影響する。特にCPUのCache（L1、L2、L3Cache）はこれに非常に影響を与える機能である。そのキャッシュヒット予測（Cache Predictors)は、CPUが次ぎにアクセスするだろうMemory Locationを予測して、Cacheに事前にLoadする。コンピュータも単にCache有無だけではなく、下記の幾つかの予測動作を行いながら、如何に速くすることができるかにTryしている。
CPUの一部の機能であるが、改めて「予測」の大切さを知ることができる。
(Cacheの予測動作）

1. パターンベースの予測:

   • パターンベースの予測は、直前のメモリアクセスパターンから次のアクセスを予測します。例えば、ループ内の配列の要素にアクセスする場合、同じループ内で同じパターンのアクセスが繰り返されることが多いため、このパターンを検出し、次のアクセスを予測します。

2. 局所性の原理:

   • キャッシュのヒット予測は、局所性の原理に基づいて動作します。この原理によれば、プログラムの実行はローカルな領域に集中する傾向があります。つまり、一度アクセスされたメモリ位置や周辺のメモリ位置に再びアクセスされる可能性が高いということです。

3. アクセスパターンの分析:

   • キャッシュヒット予測は、過去のメモリアクセスパターンを分析して、アクセスの傾向を把握します。たとえば、連続するメモリアクセスがある場合、次のアクセスも連続する可能性が高いと予測します。

4. ヒストリーバッファ:

   • 一部のCPUでは、ヒストリーバッファと呼ばれる特殊なメモリ構造が使用されています。ヒストリーバッファには、過去のメモリアクセスパターンが保存され、アクセスの予測に使用されます。

5. 適応的な予測手法:

   • 現代のCPUでは、複数の予測手法が組み合わせられ、適応的に使用されます。これにより、様々なアクセスパターンに対応し、最適な予測を行うことが可能です。