大型线性代数方程组的求解一直都是工程分析和科学研究的重要问题,并行计算为大规模的数值计算提供了有效的保障。随着PC机的普及和网络速度的提升,分布式并行计算环境为科学工程的计算提供良好的平台。超级计算机的造价和维护非常的昂贵,这不是一个普通的科研组织所能承受的。因此,结合消息传递并行编程环境MPI,研究如何利用个人的PC机来搭建一个分布式的并行计算环境,为并行算法的研究提供良好的并行平台。三对角线性方程组的求解在工程中有着广泛的应用。三对角线性方程组的并行算法,目前已有Wang的分裂法,双向分裂法的分布并行算法,以及基于减少通信次数和消息传递的一种三对角分布式并行算法。在三对角的基础上推广到块三对角线性方程组的并行求解,研究了分裂块三对角线性方程组的并行计算,给出一种有效求解带状线性方程组的分布式并行算法。在求解对称大型稀疏线性方程组的Krylov子空间迭代法中,共轭梯度法是一种有效的方法。预处理矩阵的优劣影响了共轭梯度法的收敛速度。本文考虑对预处理矩阵进行不完全正交分解,结合负载平衡算法,研究有效预处理共轭梯度法的分布式并行算法。