Sistemas multiprocesadores

Sistemas Multiprocesadores
1. 2. 3. 4. 5. Introducción Clasificación de los multiprocesadores Redes básicas de interconexión Clusters Programación y aplicaciones

Sistemas Multiprocesadores

Arquitectura y Tecnología de Computadores Universidad de Sevilla
Prof. Saturnino Vicente Díaz

1. Introducción
• • • • • Niveles de paralelismo Introducción a los sistemas multiprocesadoresArgumentos a favor de los multiprocesadores Argumentos en contra de los multiprocesadores Investigación actual

Introducción
Si existe DLP Paralelizador/ reescritura

Niveles de paralelismo
TLP (Multiprocesadores) DLP extraído (SIMD / PV)

HLL S.O.

Vectorizador

Compilador/ librerías

Desenrollado ILP (VLIW / Superesc) Encadenamiento DLP extraído (Núcleos Multimedia)

ISA
ImplementaciónLógica Digital
Electrónica

Paralelismo a nivel de bits

Fig. 1.1

Introducción
• Sistemas multiprocesadores
– En los sistemas actuales la CPU
• es un todo monolítico • está separada de la memoria principal y de la E/S • Alcanza grandes velocidades

Introducción
– Idealmente, t ejec, mult =

t ejec,uni N

, lo cual es imposible

• La red de interconexión juega un papelimportante
– Comunicación entre procesadores – Comunicación entre procesadores y memoria

– Vamos a romper con esta concepción para diseñar los multiprocesadores
DISEÑAR Reduce el nº de mensajes APROVECHAR

• La memoria está separada de los procesadores, pero no totalmente ⇒ Cada procesador tiene su caché local. La forma de organizar la jerarquía de memoria es vital

Comunicación eficienteCuidado con el progreso de las apli. reales

UniProc. barato altas prestaciones
ESCRIBIR

Código Paralelo

Sistemas Multiprocesadores

Fig. 1.2

– Lo que vamos a construir se parece a:
Fig. 1.4

Fig. 1.3

Introducción
• Argumentos a favor de los Multiprocesadores
– En 15 ó 20 años, el rendimiento de los Uniprocesadores llegará a su fin, debido a dos razones:
• Incrementar elrendimiento conectando uniprocesadores en paralelo
– Menos costoso que diseñar un nuevo procesador – Más flexible para todo tipo de soft que un nuevo diseño

Introducción
• Argumentos en contra de los Multiprocesadores
– Cada 2 ó 3 años, alguien anuncia el fin de los UniPr
• A los 2 ó 3 años se disparan las prestaciones por una nueva idea arquitectónica. Esto es debido a que hay mucho mercado ⇒mucha inversión ⇒ mucho avance
– – – – Segmentación Vectorización Superescalaridad HyperThreading, etc.

• El ritmo de innovación en la endoarquitectura es difícil de mantener indefinidamente
– Actualmente el incremento en transistores es superior al de rendimiento (nºtran x 4 ; rend. x 3 cada 3 años) – Algunos estudios indican el inicio de la saturación en prestaciones de los uniprocesadoresPrestaciones Uniprocesador Coste de saturación

– Lentitud en las comunicaciones
• Latencia a memoria local es del orden de pocos ns • En MPr, si un Pr necesita un dato remoto ⇒alta latencia, del orden de microsegundos (Ejemplo)

– Limitación del paralelismo de las aplicaciones
• La ley de Amdahl nos indica el efecto del paralelismo de las aplicaciones en la aceleración – Intuitivamente tejec , mult = t ejec ,uni N
– Sin embargo, la mejora solo afecta al porcentaje de código que se pueda paralelizar » Dado un código normal, un compilador intenta paralelizar el código, y lo consigue en la mitad del programa 1 1 2N A= = = →2 F 1 1 N +1 (1 − F ) + + N 2 2* N » Suponer que queremos conseguir una aceleración de 80, con 100 procesadores ¿Qué fracción del programa debe ser paralela?
F ≈99,75

1990’s 1980´s (VLSI) 1970´s (Circuitos integrados) 1960´s (Transistores discretos)

Coste
Fig. 1.5

– Parece que los MPr’s son la única forma de aumentar considerablemente el rendimiento a un precio razonable

Introducción
• Investigación actual
– Software más adaptado a la computación paralela
• Nuevos algoritmos
– Se obtendrían mayor rendimiento

2. Clasificación de los...