求解大型稀疏线性代数方程组是科学与工程计算主要的基础计算问题之一,其性能优劣往往影响到整体数值模拟的效率。目前在世界上最高性能的前五百台并行计算机中,超过九成的使用了多核架构。因此研究适用于多核架构并行机的大型稀疏线性代数方程组并行求解算法具有重要的现实意义。大型稀疏线性代数方程组求解算法通常由两个方面组成：矩阵向量运算和向量校正。并行计算机体系结构越来越呈现出多级化特点。目前比较常见的体系结构是机群-节点-CPU-核。在这种体系结构下,节点间的通信代价比较昂贵,而CPU内各个核之间的通信则廉价得多。基于这种架构,本文设计了两级预处理技术,旨在充分发挥当前多核架构并行机的效率。第一级预处理是基于区域分解的限制加法Schwarz技术(RAS),这种技术的优点是通信较少、收敛效果好。第二级预处理关注CPU内多核间的快速计算,通过使用线程级编程实现。文中设计了两种不同的计算方案,一种是RAS-块Jacobi预处理算法,一种是RAS-RAS预处理算法。经过数值实验表明,两种两级预处理算法的计算效率都比一级预处理有比较明显的提升,并具有比较好的可扩展性。矩阵向量运算是迭代算法中复杂度最高的过程。因此本文设计了适用于多核并行机运算的矩阵向量乘算法。基于压缩稀疏块格式(CSB:Compressed Sparse Block Format),本文给出了多CPU多核CSB存储格式及基于此格式的稀疏矩阵向量乘,并进行了相关的数值实验。结果表明,多CPU多核CSB格式及稀疏矩阵向量乘算法具有较高的并行加速比,对于带状矩阵具有良好的可扩展性。