L1・L2・L3キャッシュの違い：容量・レイテンシ・共有範囲・包含関係を比較

どんなときに使うか

L1キャッシュ

命令の取り出しやロード・ストアのたびに使う、最も近いキャッシュです。よく使うデータを小さな範囲にまとめ、時間的局所性を高めると効果が出ます。

L2キャッシュ

L1に収まらない作業データを受け止めます。ループブロッキングなどで、作業データを数百 KB〜数 MB程度に収めると効果が出やすくなります。

L3キャッシュ

複数のコアでデータを共有するときや、コアごとのキャッシュに収まらない大きなデータを扱うときに効きます。ほかのコアと容量を取り合うので、同時に動くプログラムの影響を受けます。

理解度チェック

1. 下位のキャッシュ(L2など)が上位のキャッシュ(L1)の内容をすべて含むインクルーシブ方式の特徴として正しいものはどれか。
2. キャッシュの容量を大きくすると一般にヒット時間がどうなるか。その理由とあわせて正しいものはどれか。
3. L1キャッシュのヒット時間が1 ns、ミス率が5%、L2キャッシュのヒット時間が10 ns、L2のローカルミス率が20%、主記憶のアクセス時間が100 nsのとき、平均メモリアクセス時間はいくらか。

メモリ階層と性能の練習問題へ

関連する用語の解説

キャッシュメモリ

CPUの近くに置く高速・小容量のメモリ。よく使うデータを保持して主記憶との速度差を緩和する。主にSRAMでつくられる。

平均メモリアクセス時間(AMAT)

1回のメモリアクセスにかかる時間の平均。ヒット時間 + ミス率 × ミスペナルティで求め、キャッシュの性能を比べる基本の指標になる。

ミスペナルティ

キャッシュミスが起きたときに、下の階層からデータを持ってくるために余分にかかる時間。下の階層のアクセス時間とラインの転送時間で決まる。

キャッシュコヒーレンシ

マルチコアのCPUで、各コアのキャッシュに同じアドレスのデータがあるとき、その内容の一貫性を保つ仕組み。あるコアが書き換えると、他のコアの古いコピーを無効にするなどして実現する。

時間的局所性

一度アクセスしたデータや命令に、近いうちに再びアクセスしやすい性質。ループの中で繰り返し使う変数などが例で、キャッシュが効く理由の一つ。

関連する比較

• ライトスルーとライトバックの違い：キャッシュの書き込み方式を比較ライトスルーとライトバックのキャッシュを、書き込みの方式・メモリのトラフィック・速度・整合性・複雑さ・追い出しのコスト・用途の観点で表にして比較します。
• ダイレクトマップ・セットアソシアティブ・フルアソシアティブの違い：キャッシュの方式を比較ダイレクトマップ、セットアソシアティブ、フルアソシアティブのキャッシュを、ブロックを置ける場所・タグの比較・速度・コスト・競合ミス・用途の観点で表にして比較します。
• CPUとGPUの違い：構造・得意な処理・用途を比較CPUとGPUを、設計の目的・コア数・実行モデル・キャッシュ・メモリ帯域・分岐・データ転送・得意な処理の観点で表にして比較します。
• MSI・MESI・MOESIの違い：状態の数・Exclusive状態・Owned状態・通信を比較キャッシュコヒーレンシのMSI・MESI・MOESIプロトコルを、状態の数と意味・Exclusive状態の利点・Owned状態の利点・メモリへの書き戻し・回路の複雑さの観点で表にして比較します。
• DRAMとSRAMの違い：構造・速度・コスト・用途を比較DRAMとSRAMを、セル構造・リフレッシュ・速度・集積度・コスト・消費電力・用途の観点で表にまとめて比較。どちらをどんなときに使うかも解説します。
• ノイマン型とハーバード型の違い：命令とデータの扱いを比較ノイマン型とハーバード型のアーキテクチャを、メモリ・バス・スループット・柔軟性・複雑さ・代表的な機器・修正ハーバード型の観点で表にして比較します。