Bilgisayarda programlanarak çözülecek bir problemi, parçalara bölerek paralel bir şekilde (ideal olarak) işleyip sonuca ulaşmaya paralel programlama adını verebiliriz. Paralel programlama veya paralelleme sayesinde donanım ya da sistem yetersizliği nedeniyle geleneksel yöntemlerle çözülemeyecek (hesaplanamayacak) problemler paralel süreçlere bölünerek çözülebilmektedir. Günümüzdeki süper bilgisayarlar da paralel süreçleme kavramından yola çıkarak tasarlanmıştır.