memorias

Jerarquía de Memoria
Parte I
´
´
Practica Santi - Perez Masci
´
66.20 - Organizacion de Computadoras - F.I.U.B.A.

66.20 - Jerarqu´as de Memoria– p. 1/2
ı

Introducción
Características deseadas para un sistema de memoria:
la mayor capacidad de memoria posible;
la menor latencia posible;
el mayor ancho de banda posible;
el menor costo posible;
el menor consumo de energía,espacio, etc.
Situación real: cuanto más rápida es una tecnología de
memoria, más costosa.

66.20 - Jerarqu´as de Memoria– p. 2/2
ı

Introducción (cont.)
Solución:
memoria organizada de forma jerárquica (en varios
niveles);
cada nivel es más rápido, más chico y más costoso por
byte que el siguiente nivel más bajo;
todos los datos que se encuentran en un nivel dado se
encuentran también enlos niveles inferiores.

66.20 - Jerarqu´as de Memoria– p. 3/2
ı

Introducción (cont.)
Se busca con esta organización jerárquica:
que el costo sea casi tan bajo como el nivel de
memoria de menor costo;
que la velocidad sea tan alta como el nivel de memoria
más rápido.
La efectividad de esta solución está dada por los
principios de localidad espacial y temporal.

66.20 - Jerarqu´asde Memoria– p. 4/2
ı

Niveles en una jerarquía de memoria

66.20 - Jerarqu´as de Memoria– p. 5/2
ı

Mejoras performace CPU vs. memoria
La mejora de performance en los procesadores fue
mucho mayor que en las memorias;
Esto acrecentó enormemente la importancia de
organizar jerárquicamente el sistema de memoria (para
intentar “seguirle el paso” a las CPUs).

66.20 - Jerarqu´as deMemoria– p. 6/2
ı

Latencia y Bandwidth
se busca disminuir la latencia para reducir el tiempo de
acceso a un dato cualquiera;
se busca aumentar el bandwidth para poder poblar la
memoria de nivel superior desde la de nivel inferior con
la mayor velocidad posible;
un sistema corriendo múltiples procesos simultáneos
realiza muchos context switches por unidad de tiempo,
por lo cual seproducirán cache misses compulsivos (ej:
en un server). Este tipo de sistemas requieren un gran
ancho de banda para poblar rápidamente niveles
superiores con los datos de los inferiores.

66.20 - Jerarqu´as de Memoria– p. 7/2
ı

Caches
Cache es el nombre de los primeros niveles de la jerarquía
de memoria luego de los registros, y antes de la memoria
principal (RAM).
puede haber varios niveles:L1, L2 y recientemente se
introdujo L3;
el termino cache se utiliza para muchas otras regiones
de almacenamiento destinadas a acelerar el acceso a
datos aprovechando el principio de localidad (ej: file
caches, name caches, etc);

66.20 - Jerarqu´as de Memoria– p. 8/2
ı

Caches - Conceptos básicos
Cache hit / miss: cuando la CPU encuentra un dato en
el cache, tenemos un hit. Sino, esun miss (y el sistema
deberá descender en la jerarquía para obtener el dato);
Bloque o línea de cache: cuando se produce un miss,
se transfiere entre el cache y el nivel inferior un bloque
o línea en lugar de solo el item pedido por el CPU (ppio
de localidad: muy probablemente los aproveche).
la latencia determina cuanto tarda el transferirse el
primer word del bloque;
el bandwidth determinael tiempo para cargar el resto
de la línea;
un cache miss produce que la CPU se detenga (stall)
hasta que los datos estén presentes.

66.20 - Jerarqu´as de Memoria– p. 9/2
ı

Caches - Memory Stall Cycles
Memory Stall cycles
ciclos de reloj durante los cuales la CPU está
detenida esperando los datos requeridos (debido a
un cache miss).
Para evaluar la performance del cache, puedeutilizarse la expresión de CPU execution time,
incluyendo en la misma los memory stall cycles:
CP U execution time

=

(CP U clock cycles + M emory stall cycles) ×
×Clock cycle time

M emory stall cycles

=
=

(1)

=

N umber of misses × M iss penalty
M isses
× M iss penalty
IC ×
Instruction
M emory accesses
IC ×
× M iss rate × M iss penalty
Instruction

66.20 -...