Merupakan kebiasaan untuk menyebut memori cache sebagai memori yang dibangun ke dalam prosesor, yang dicirikan oleh kecepatan tinggi dan digunakan untuk menyimpan sementara data yang paling sering digunakan.
Kebutuhan untuk menggunakan memori cache dijelaskan oleh perbedaan kecepatan pertukaran informasi antara prosesor dan berbagai bagian memori komputer. Pekerjaan aplikasi apa pun dimulai dengan mentransfer data yang diperlukan dari hard disk yang relatif lambat ke RAM (memori akses acak komputer) ke bagian akses acak dinamis. Dari sana, mereka dapat ditransfer ke cache L2 (memori L2) yang terletak di chip prosesor atau pada chip SRAM terpisah berkecepatan tinggi khusus yang terletak di sebelah prosesor. Akhirnya, informasi yang paling sering digunakan dapat ditransfer ke cache L1 (memori tingkat pertama), yang merupakan bagian khusus dari prosesor. Ukuran cache tingkat pertama hanya sekitar 128 KB, tingkat kedua sudah 512 KB. Sebagai perbandingan, ukuran RAM bisa 1 GB Eksekusi perintah apa pun terjadi sesuai dengan skema tertentu: - analisis register data informasi; - pemindaian data cache tingkat pertama; - memeriksa informasi cache tingkat kedua; - menganalisis data memori utama; - akses ke memori hard disk. Waktu yang dihabiskan oleh prosesor untuk mendapatkan data yang diperlukan berbanding lurus dengan tempat penyimpanan informasi. Dengan demikian, akses ke cache level pertama membutuhkan 1 hingga 3 siklus, level kedua - dari enam hingga dua belas siklus, dan ke memori utama - puluhan, dan dalam beberapa kasus - ratusan siklus. Memori cache memainkan peran khusus dalam proses operasi server, karena lalu lintas prosesor-ke-memori dapat menjadi signifikan dalam kasus ini. Struktur cache juga melayani tujuan mempersempit kesenjangan antara kecepatan prosesor, yang meningkat 50 persen per tahun, dan kecepatan data RAM, yang tumbuh hanya 5 persen. Pengembangan berkelanjutan dari memori cache tingkat ketiga dan keempat tampaknya merupakan langkah logis ke arah ini. Arah pengembangan lain yang mungkin adalah transisi ke manajemen terprogram dari memori cache.
