MPI紹介 ①

MPI ( Message Passing Interface )

プログラムを並列化するためのライブラリ

スーパーコンピュータから、PCクラスタ、一般のPCで使用可能！！

並列コンピュータ　イメージ

MPIは、プロセス並列である。
プロセスは、独自のメモリ空間を保持する。
MPIでは、MPIプロセスを生成し並列処理を行う。
MPIプロセス間のデータのやり取り(他のプロセスにデータをあげたり・もらったり)は
MPI通信関数を使用してOSを介した通信によって行われる。

プロセス並列の他に、スレッド並列というものがある。
例えば、OpenMPやpthreadなどがある。
スレッドは、親プロセスからフォーク処理によって生成される。
複数のスレッドを生成した場合、スレッド間は親プロセスが持つメモリ空間
を共有することができる。