多级存储器系统，是围绕读写速度尚可、存储容量适中的主存储器来组织和运行的, 并由高速缓冲存储器缓解主存读写速度慢、不能满足CPU运行速度需要的矛盾；用虚拟存储器更大的存储空间，解决主存容量小、存不下规模更大的程序与更多数据的难题，从而达到使整个存储器系统有更高的读写速度、尽可能大的存储容量、相对较低的制造与运行成本。高速缓冲存储器的问题是容量很小，虚拟存储器的问题是读写速太慢。追求整个存储器系统有更高的性能/价格比的核心思路，在于使用中充分发挥三级存储器各自的优势，尽量避开其短处。