1.1 并行计算技术简介
1.1.1 并行计算的基本概念
随着信息技术的快速发展，人们对计算系统的计算能力和数据处理能力的要求日益提高。随着计算问题规模和数据量的不断增大，人们发现，以传统的串行计算方式越来越难以满足实际应用问题对计算能力和计算速度的需求，为此出现了并行计算技术。
并行计算（Parallel Computing）是指同时对多条指令、多个任务或多个数据进行处理的一种计算技术。实现这种计算方式的计算系统称为并行计算系统，它由一组处理单元组成，这组处理单元通过相互之间的通信与协作，以并行化的方式共同完成复杂的计算任务。实现并行计算的主要目的是，以并行化的计算方法，实现计算速度和计算能力的大幅提升，以解决传统的串行计算所难以完成的计算任务。
现代计算机的发展历程可分为两个明显不同的发展时代：串行计算时代和并行计算时代。并行计算技术是在单处理器计算能力面临发展瓶颈、无法继续取得突破后，才开始走上了快速发展的通道。并行计算时代的到来，使得计算技术获得了突破性的发展，大大提升了计算能力和计算规模。
1.处理器计算性能提升达到极限
纵观计算机的发展历史，日益提升计算性能是计算技术不断追求的目标和计算技术发展的主要特征之一。自计算机出现以来，提升单处理器计算机系统计算速度的常用技术手段有以下几个方面。
图1-8 Amdal定律在程序不同的可并行化比例和不同处理器数量下的加速比
2）Gustafson定律：在放大系统规模的情况下，加速比可与处理器数量成比例地线性增长，串行比例不再是加速比的瓶颈。这反映了对于增大的计算负载，当系统性能未达到期望值时，可通过增加处理器数量的方法应对（如图1-9和1-10所示）。
文章知识点与官方知识档案匹配，可进一步学习相关知识Python入门技能树人工智能机器学习工具包Scikit-learn208266 人正在系统学习中 相关资源：按软件服务对象的范围划分-软件工程课件-专业指导文档类资源-CSDN…
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！