
En esta imagen podemos ver una instrucción siendo procesada representada por el problema siendo fragmentada para después ser procesado cada fragmento uno a uno en el CPU único.

En esta imagen ya podemos verlo representado en un proceso corriéndose y siendo fragmentado.
En el caso de los sistemas paralelos se utilizan múltiples CPUs a la hora de resolver un problema por ejemplo.

El problema se divide en varias partes las cuales a su vez son divididas en fragmentos y son procesadas todas a las ves por los diferentes CPUs con los que se cuente, haciéndole de esta forma más eficiente y rápido.
Hasta el momento esto es lo que eh estado investigando y lo subi a la wiki como información de apoyo.
http://elisa.dyndns-web.com/progra/Aplicaciones#preview
Bibliografia:https://computing.llnl.gov/tutorials/parallel_comp/