分散処理フレームワーク

大量のデータを多数のサーバに分散して並列に処理するためのソフトウェア基盤。データの分割と配置、処理の割当て、障害時の再実行などを自動で行い、開発者は処理の内容を記述するだけで済む。Apache Hadoop（MapReduce）やApache Sparkが代表的。

大量のデータの処理を多数のサーバに分けて並列に実行するためのソフトウェア基盤。処理の分割と割当て、ノード間のデータの受渡し、故障したノードの処理のやり直しを基盤側が受け持つので、利用者は処理の内容の記述に集中できる。MapReduceを中核とするApache Hadoopと、メモリ上で処理するApache Sparkが代表的である。

複数のCPUコアを1つのチップに搭載したプロセッサ。並列処理による性能向上が可能だが、組込みシステムではコア間の排他制御やリアルタイム性の保証が課題となる。AMP（非対称型）とSMP（対称型）の構成がある。

数百から数万の多数のプロセッサを結合し、処理を分割して同時に実行することで高い処理能力を得るコンピュータ。MPPと略す。各プロセッサが専用のメモリを持ち、プロセッサ間はネットワークでデータをやり取りする構成が多く、スーパーコンピュータや大規模なデータウェアハウスに使われる。

同じ演算を行う多数の演算装置（プロセッシングエレメント）を配列状に並べ、1つの命令で複数のデータを一斉に処理するプロセッサ。これを中心に構成したシステムをアレイコンピュータとも呼ぶ。フリンの分類のSIMDに当たり、行列演算や画像処理など同種の大量データを扱う計算に向く。

並列処理システムの構成で、複数のサーバ（ノード）がディスクなどの資源を共有し、どのノードからもすべてのデータにアクセスできるもの。どのノードも全データを処理できるので負荷が偏りにくく、ノードが故障しても処理を引き継ぎやすいが、共有資源へのアクセスの調整が性能拡張の制約になる。共有ディスク型のデータベースクラスタが例。

並列処理システムの構成で、各サーバ（ノード）が専用のプロセッサ、メモリ、ディスクを持ち、資源を共有しないもの。データを分割して各ノードに配置し、それぞれが担当分を並列に処理する。資源の競合がないためノードの追加で処理能力をほぼ比例して高められるが、データの配置に偏りがあると特定のノードに負荷が集中する。

多数のプロセッサやGPUを高速なネットワークで結合し、大規模な計算を並列処理で高速に行う技術。気象予測、創薬、流体解析などの科学技術計算や、AIの大規模な学習に使われる。スーパーコンピュータが代表で、クラウドで利用する形態も広がっている。