Meskipun jenis memori komputer yang paling umum adalah memori akses acak (RAM), ada banyak jenis memori lain yang dapat digunakan di komputer. Ini termasuk memori cache, memori flash, dan penyimpanan file. Arsitektur memori mengacu pada kombinasi berbagai jenis memori untuk menyeimbangkan kinerja komputer tanpa mengurangi keandalan penyimpanan atau membuat komputer menjadi mahal. Secara umum, berbagai jenis fungsi memori pada hierarki mulai dari yang cepat dan mahal hingga yang lebih lambat dan lebih murah. Arsitektur memori bekerja untuk memastikan bahwa komputer memiliki perpaduan semua jenis memori, menjaga perangkat keras komputer seimbang dan seefisien mungkin.
Selain berbeda berdasarkan biaya dan kecepatan, memori juga berbeda berdasarkan keabadian. RAM standar di komputer adalah bentuk memori dinamis, yang berarti hanya menyimpan informasi selama komputer tetap menyala. Ini menghadirkan masalah yang jelas ketika harus menyimpan informasi di komputer setelah siklus hidup-mati, karena tanpa bentuk memori yang lebih persisten, semua informasi di komputer akan hilang jika terjadi kegagalan daya. Memori penyimpanan file di dalam komputer — contoh paling umum dari hal ini adalah hard drive — menyediakan metode yang relatif lambat namun stabil untuk menyimpan informasi di komputer setelah dimatikan.
Register prosesor dan memori cache umumnya yang tercepat dan paling mahal. Dengan menempatkan jenis memori ini pada chip prosesor fisik, waktu transfer dan latensi untuk jenis memori ini sangat kecil. Ini berarti bahwa informasi dapat melakukan perjalanan ke dan dari jenis memori ini dalam sekejap mata, membuatnya efisien untuk menyimpan informasi dan variabel saat prosesor secara aktif mengerjakan masalah tertentu.
RAM ada di level berikutnya, lebih murah dan lebih lambat daripada register prosesor dan memori cache. Ini terhubung ke prosesor melalui bus sisi depan, yang berarti bahwa latensi meningkat sementara kecepatan menurun jika dibandingkan dengan register dan memori cache. Biaya juga berkurang secara substansial, menjadikan RAM bentuk penyimpanan dinamis yang paling hemat biaya dalam arsitektur memori.
Terakhir, memori virtual dan lokasi penyimpanan file umumnya disimpan di hard drive. Memori virtual adalah bagian dari hard drive yang diperlakukan oleh sistem operasi komputer sebagai RAM. Ratusan dan ratusan gigabyte penyimpanan hard drive dapat dibeli dengan jumlah yang sama hanya dengan empat hingga delapan gigabyte RAM, menjadikannya lokasi penyimpanan massal persisten terbaik pada arsitektur memori komputer.