マイクロプロセッサ内部に設けられた高速な記憶装置。ここに使用頻度の高いデータを蓄積しておくことにより、低速なメインメモリへのアクセスを減らすことができ、処理を高速化することができる。2段階のキャッシュメモリを搭載したCPUにおいて、CPUが最初にデータを読みに行くのが、より高速でより容量の小さい1次キャッシュ。
1次キャッシュにデータがなかった場合は、より低速でより容量の大きな2次キャッシュに読みに行く。2次キャッシュになかったデータはメインメモリに読みに行くことになるが、3次キャッシュがある場合はメインメモリより優先して3次キャッシュのデータが読み込まれる。