《并行计算概述》PPT课件.ppt

《《并行计算概述》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《并行计算概述》PPT课件.ppt（29页珍藏版）》请在装配图网上搜索。

1、2020/10/12 并行计算 概述 1 并行计算概述 安俊秀 软件工程学院 并行计算实验室 6412 云计算云搜索中心（成都 ） 如何满足不断增长的计算力需求？ 用速度更快的硬件，也就是减少每一条指 令所需时间 优化算法（或者优化编译） 用多个处理机 (器 )同时解决一个问题 并行计算 2 并行计算 概述 并行计算概述 3 并行 :古老的思想 ! “.并行计算并不是什么新的思想 ,只 是将它扩展应用于计算机而已” . 作 者也不认为这种扩展应用会存在什么 无法克服的困难 . 但也不要期待有效 的并行编程方法与技术能够在一夜之 间诞生 . 期间还需要有许多的工作和 实验要做 . 毕竟 , 今天

2、的编程技术 (串 行 )是若干年来艰苦的探索才取得的 . 现在编程工作似乎成了一种令人单调 乏味的工作 ,事实上 ,并行编程的出现 将会使重新恢复编程工作者们的探索 精神 .” (Gill, S. (1958), “Parallel Programming” The Computer Journal, vol. 1, April, pp. 2-10.) Parallel Programming with MPI by Peter Pacheco(2000) 并行计算 -高性能计算 并行计算 (Parallel Computing） 高端计算 (High-end Parallel Computi

3、ng) 高性能计算 (High Performance Computing) 超级计算 (Super Computing) 任何高性能计算和超级计算都离不开使用并行技术 The simultaneous use of more than one computer to solve a problem. 由 由运行在多个部件上的小任务合作来求解一个规模很大 的计算问题的一种方法 4 什么是高性能并行计算机 由 多个计算单元 组成， 运算速度快 、 存储容量 大 、 可靠性高 的计算机系统。 也称为：巨型计算机、超 级计算机 目前 仸何高性能计算和超 级计算都离丌开使用并行 技术 ，所以高性能计算

4、机 肯定是并行计算机。 5 并行计算的概念 6 串行计算与并行计算 . . . 处 理 器 可 分 解 的 计 算 任 务 串 行 计 算 并 行 计 算 任 务 队 列 并行计算 概述 7 为什么要做并行计算？ 应用需求 8 9 计算科学 与传统的两种科学，即 理论科学 和 实验科学 ，并列被认为是人类认识自然 的三大支柱，他们彼此相辅相成地推动科 学发展与社会进步。在许多情况下，或者 是理论模型复杂甚至理论尚未建立，或者 实验费用昂贵甚至无法进行时，计算就成 了求解问题的唯一或主要的手段。 为什么要做并行计算？ 应用需求 10 为什么要做并行计算？ 人类对计算及性能的要求是无止境的 从系统

5、的角度 ：集成系统资源，以满足不断增长的对 性能和功能的要求 从应用的角度 ：适当分解应用，以实现 更大规模 或 更 细致 的计算 11 为什么要做并行计算？ 问题 : 科学和工程问题的数值模拟与仿真 计算密集 数据密集 网络密集 三种混合 要求 :在合理的时限内完成计算任务 秒级 制造业 分钟级 短时天气预报 (当天 ) 小时级 中期天气预报 (310日 ) 尽可能快 长期天气预报 (气候 ) 可计算 湍流模拟 12 全球气候变化 图1-1 系统速度 天气预报 7 2 小时 油藏建模机翼设计 物体特性分析 年后1 9 9 51 9 9 11 9 8 0 1 9 8 8 1 9 9 3 存储器

6、容量 48 结构生物学 药物设计 化学动力学 1 0 0 0 G B 1 0 0 G B 1 0 G B 1 G B 1 0 0 M B 1 0 M B 小时天气预报 1 0 0 M f l o p s 1 G f l o p s 1 0 G f l o p s 1 0 0 G f l o p s 1 T f l o p s 人类基因 湍流 飞行动力学 海洋环流 粘滞流体动力学 超导建模 半导体建模 视觉 量子染色动力学 3 维等离子体建模 13 其发展历程可以简单的分为两个时代 专用时代 包括向量机， MPP系统， SGI NUMA 系统， SUN大型 SMP系统，也包括我国的神威，银 河，

7、曙光 1000等。 之所以称为“与用”，并丌是说它们只能运行某种应用，是指它们的组成部件是与门设计 的，它们的 CPU板，内存板， I/O板，甚至操作系统，都是丌能在其它系统中使用的。由 于技术上桌面系统不高端系统的巨大差异，和用户群窄小。 普及时代 高性能计算机价格下降，应用门槛降低，应用开始普及。两个技术趋势起到重要作用。 商品化趋势 使得大量生产的商品部件接近了高性能计算机与有部件 标准化趋势 使得这些部件之间能够集成一个系统中，其中 X86处理器、以太网、内存部件、 Linux都起到决定性作用。 机群系统 是高性能计算机的一种，它的技术基础和工业基础都是商品化和标准化。 14 Top5

8、00中的超级计算机 地球模拟器 ASCI Q ASCI White 15 Earth Simulator Earth simulator center Nec Rmax:35.86Tflops 8*8*640 Earth Simulator Earth Simulator ASCI Q 1024 nodes 8cpu/node 10240Gflops 7727Gflops ASCI white LLNL IBM SP power3 Rmax 7.22Tflops 曙光 1000 曙光 1000有 36个结点机 ; 峰值计算速度为浮点 25.6亿次 /秒，实际达 到 15.8 亿次 /秒； 内存

9、容量为 1024兆字节； 基于 Wormhole机制的二维 Mesh通讯网， 结点不网络通讯总带宽为 2.88GB/秒； 采用基于 UNIX的并行操作系统和并行文件 系统； 并行计算机 -CRAY System Name Jaguar 1059000 GFlops System Family Cray XT Operating System CNL Interconnect XT4 Internal Interconnect Processor AMD Opteron Quad Core 2300 MHz (9.2 GFlops) 并行计算机 -IBM System Name Roadrunn

10、er 1105000 GFlops System Family IBM Cluster Operating System Linux Interconnect Infiniband Processor PowerXCell 8i 3200 MHz (12.8 GFlops) 并行计算机 -DAWNING System Name Dawning 5000A 180600 GFlops System Family Dawning Cluster Operating System Windows HPC server 2008 and SUSE Interconnect Infiniband DDR

11、 Processor AMD Opteron Quad Core 1900 MHz (7.6 GFlops) 并行计算机所用的处理器 AMD Opteron Xeon Nocona Intel Itanium Compaq Alpha HP PA-RISC Sun UltraSPARC IBM POWER5+,POWER6 IBM BlueGene processor MIPS R10000 龙芯 最新 TOP500cpu分布 并行机处理器 -AMD PERFORMANCE 1-WAY PERFORMANCE 2-WAY PERFORMANCE 4-WAY AND 8-WAY AMD Opte

12、ron 200 Series & 2000 Series Processors Designed for 2-way Server / Workstation solutions First native x86 dual-core solution for 2-way computing AMD Opteron 100 Series & 1000 Series Processors Designed for 1-way Server / Workstation solutions First native x86 dual-core solution for 1-way computing

13、AMD Opteron 800 Series & 8000 Series Processors Designed for 4-way and 8-way Server solutions First native x86 dual-core solution for 4-way / 8-way computing AMD Opteron Processors for Servers and Workstations 并行机处理器 -Intel 数据要求苛刻 双核英特尔 至强 7000 系列处理器 最大限度提高性能、可靠性和可扩展性 双核英特尔 安腾 处理器 9000 大型机级服务器 ,具有顶级的灵活性和可靠性 RISC 与大型机 现代化 基本 计算 四核英特尔 至强 3000 系列处理器 经济、可靠的单路服务器 高密度 基础设施 四核英特尔 至强 5000 系列处理器 利用四核处理最大限度提高性能密度 RISC 与大型机 现代化 并行机处理器 -龙芯 Godson意思为“教子”，相对于此的另一个词叫教父（ Godfather）