Классификация параллельных ВС

Организация вычислительных систем

Расширенная классификация Флинна может быть представлена так:

Машины SIMD представлены двумя подгруппами. В первую попадают многочисленные суперкомпьютеры и другие машины, которые оперируют векторами, выполняя одну и ту же операцию над каждым элементом вектора. Во вторую подгруппу попадают машины (типа ILLIAC IV), в которых главный блок управления посылает команды нескольким независимым АЛУ.

Категория MIMD распалась на мультипроцессоры (машины с памятью совместного использования) и мультикомпьютеры (машины с передачей сообщений).

Существует три типа мультипроцессоров, отличающихся друг от друга по способу реализации памяти совместного использования:

o UMA (Uniform Memory Access) – архитектура с однородным доступом к памяти;

o NUMA (NonUniform Memory Access) – архитектура с неоднородным доступом к памяти;

o СОМА (Cache Only Memory Access) – архитектура с доступом только к кэш-памяти.

В машинах UMА (еще одно название – симметричное мультипроцессирование, SMP) каждый процессор имеет одно и то же время доступа к любому модулю памяти. Т.е. каждое слово памяти можно считать с той же скоростью, что и любое другое слово памяти. Если это технически невозможно, самые быстрые обращения замедляются, чтобы соответствовать самым медленным. При этом программист не видит никакой разницы . Это и значит «однородный».

Мультипроцессор NUMA не обладает свойством однородности. Обычно есть модули памяти, которые расположены близко к каждому процессору, и доступ к этим модулям происходит гораздо быстрее, чем к другим. С точки зрения производительности очень важно, куда помещаются программа и данные.

Машины СОМА тоже с неоднородным доступом.

Мультикомпьютеры не имеют памяти совместного использования на архитектурном уровне. При выполнении команды LOAD для доступа к «чужим» областям памяти работает не аппаратное обеспечение, а операционная система, которая отправляет сообщение и ждет ответа. Так как мультикомпьютеры не имеют прямого доступа к отдаленным модулям памяти, они иногда называются машинами NORMA (NO Remote Memory Access – без доступа к отдаленным модулям памяти).

Мультикомпьютеры можно разделить на две категории:

o МРР (Massively Parallel Processors) – процессоры с массовым параллелизмом или массивно параллельные системы. МРР состоит из однородных вычислительных узлов, включающих один или несколько центральных процессоров, локальную память (прямой доступ к памяти других узлов невозможен), коммуникационный процессор, специальные узлы ввода-вывода и управляющие узлы. Связь элементов реализуется на основе высокоскоростной коммуникационной сети.

o NOW (Network of Workstations) – сеть рабочих станций и COW (Cluster of Workstattions) – кластер рабочих станций.