模板

Size: px

Start display at page:

Download "模板"

烽池
5 years ago
Views:

1 高性能计算与高性能计算机

2 总结什么是高性能计算和高性能计算机什么是集群 (Cluster), 怎么配臵集群什么样的用户需要高性能计算机高性能用户都关心哪些问题高性能计算机销售和一般服务器销售的区别

3 高性能市场概要曙光和高性能计算机什么是高性能计算什么是高性能计算机集群系统提纲

4 高性能计算市场 IDC 对 08 年服务器市场的预测 : 08 年, 全球服务器产业预计以接近 9% 的速度发展,HPC 产业预计的发展速度将会超过 12% 在中国,HPC 市场的发展速度将会超过 20% HPC 市场既是一个传统的市场, 又是一个新兴的高速发展的市场高 : 定位高端用户标杆项目, 影响力大平民化趋势快速发展

5 一些厂商的表现例如 :Intel 国家的政策自主创新高性能计算市场技术的发展 CPU 多核化的趋势多进程多线程并行化的趋势其他并行计算机上的广泛应用高端下移高性能计算的市场正处于发展阶段

6 高性能市场概要曙光和高性能计算机什么是高性能计算什么是高性能计算机集群系统提纲

7 计算所 / 曙光和高性能计算 1956 年成立, 我国第一个计算技术研究所, 被誉为我国计算机事业的摇篮第一台电子管计算机 (103 机 ) 第一台大型晶体管计算机 (109 机 ) 第一台大型集成电路计算机 (111 机 ) 第一台向量计算机 (757 机 ) 第一台大规模并行计算机 ( 曙光 1000) 被国防部门誉为功勋机 109 丙机, 为两弹一星做出过重要贡献

8 计算所 / 曙光和高性能计算曙光一号 16 个处理器, 每秒 6.4 亿次使中国成为少数能生产制造 MPP 的国家之一曙光个节点机, 每秒 25.6 亿次曙光 2000 I 68 个节点机, 每秒 200 亿次曙光 2000 II 164 个 CPU, 每秒 1117 亿次中国第一个 SMP 集群

9 计算所 / 曙光和高性能计算曙光 3000 每秒 4032 亿次 SUMA 标准诞生曙光 4000L 644 个 CPU, 每秒 3 万亿次曙光 4000A 2560 颗 CPU, 每秒 10 万亿次名列世界第十, 成为除美日以外第一个进入世界 top500 前 10 名的国家

10 计算所 / 曙光和高性能计算中国登峰造极的最高性能的计算机系统运算速度超过百万亿次的曙光 5000, 将使中国成为美国之后第二个能生产百万亿次超级计算机的国家曙光 5000 共采用 3 万颗 CPU 核, 峰值 230 万亿次,Linpack 效率超过 70% 曙光 5000 计算能力超过曙光 4000A 十多倍, 而体积功耗与曙光 4000A 相同, 代表了中国高性能计算机发展的最高水平

11 计算所 / 曙光和高性能计算 2005 年 2006 年 2007 年

12 高性能市场概要曙光和高性能计算机什么是高性能计算什么是高性能计算机集群系统提纲

13 什么是高性能计算? 高性能计算 HPC:High Performance Compute 高性能计算 --- 并行计算并行计算 (Parallel Computing) 高端计算 (High-end Parallel Computing) 高性能计算 (High Performance Computing) 超级计算 (Super Computing)

14 什么是高性能计算? 计算科学与传统的两种科学, 即理论科学和实验科学, 并立被认为是人类认识自然的三大支柱, 他们彼此相辅相成地推动科学发展与社会进步在许多情况下, 或者是理论模型复杂甚至理论尚未建立, 或者实验费用昂贵甚至无法进行时, 计算就成了求解问题的唯一或主要的手段

15 为什么要做高性能计算应用需求

16 为什么要做高性能计算人类对计算及性能的要求是无止境的从系统的角度 : 集成系统资源, 以满足不断增长的对性能和功能的要求从应用的角度 : 适当分解应用, 以实现更大规模或更细致的计算问题 : 科学和工程问题的数值模拟与仿真计算密集数据密集网络密集三种混合

17 什么人需要高性能计算高性能计算机都在什么地方使用? 都卖到哪儿去? 国外状况国内状况

18 高性能市场概要曙光和高性能计算机什么是高性能计算什么是高性能计算机集群系统提纲

19 什么是高性能计算机? 由多个计算单元组成, 运算速度快存储容量大可靠性高的计算机系统也称为 : 巨型计算机超级计算机目前任何高性能计算和超级计算都离不开使用并行技术, 所以高性能计算机肯定是并行计算机

20 其发展历程可以简单的分为两个时代专用时代包括向量机,MPP 系统,SGI NUMA 系统,SUN 大型 SMP 系统, 也包括我国的神威, 银河, 曙光 1000 等之所以称为专用, 并不是说它们只能运行某种应用, 是指它们的组成部件是专门设计的, 它们的 CPU 板, 内存板,I/O 板, 操作系统, 甚至 I/O 系统, 都是不能在其它系统中使用的由于技术上桌面系统与高端系统的巨大差异, 和用户群窄小普及时代高性能计算机价格下降, 应用门槛降低, 应用开始普及两个技术趋势起到重要作用商品化趋势使得大量生产的商品部件接近了高性能计算机专有部件标准化趋势使得这些部件之间能够集成一个系统中, 其中 X86 处理器以太网内存部件 Linux 都起到决定性作用机群系统是高性能计算机的一种, 它的技术基础和工业基础都是商品化和标准化

21 高性能计算机系统架构并行向量机 SMP DSM(NUMA) MPP, 节点可以是单处理器的节点, 也可以是 SMP,DSM Cluster Constellation

22 高性能计算机的制造厂商 Cray SGI IBM 曙光银河神威

23 并行计算机系统类型 Flynn 分类 : SISD, SIMD, MIMD, MISD 结构模型 : PVP, SMP, MPP, DSM, COW 访存模型 : UMA, NUMA, COMA, CC-NUMA, NORMA

24 并行计算机分类 Flynn 分类 Flynn(1972) 提出指令流数据流和多倍性概念, 把不同的计算机分为四大类 : SISD(Single-Instruction Single-Data) SIMD(Single-Instruction Multi-Data) MISD(Multi-Instruction Single-Data) MIMD(Multi-Instruction Multi-Data) 现代高性能计算机都属于 MIMD MIMD 从结构上和访存方式上, 又可以分为 : 结构模型 :PVP, SMP, MPP, DSM, COW 访存模型 :UMA, NUMA, COMA, CC-NUMA, NORMA

25 结构模型

26 对称多处理机系统 (SMP) SMP 对称式共享存储 : 任意处理器可直接访问任意内存地址, 且访问延迟带宽机率都是等价的 ; 系统是对称的 ; 微处理器 : 一般少于 64 个 ; 处理器不能太多, 总线和交叉开关的一旦作成难于扩展 ; 例子 : IBM R50, SGI Power Challenge, SUN Enterprise, 曙光一号 ;

27 分布式共享存储系统 (DSM) DSM 分布共享存储 : 内存模块物理上局部于各个处理器内部, 但逻辑上 ( 用户 ) 是共享存储的 ; 这种结构也称为基于 Cache 目录的非一致内存访问 (CC-NUMA) 结构 ; 局部与远程内存访问的延迟和带宽不一致,3-10 倍高性能并行程序设计注意 ; 与 SMP 的主要区别 :DSM 在物理上有分布在各个节点的局部内存从而形成一个共享的存储器 ; 微处理器 : 个, 几百到千亿次 ; 代表 : SGI Origin 2000, Cray T3D;

28 大规模并行计算机系统 (MPP) MPP 物理和逻辑上均是分布内存能扩展至成百上千个处理器 ( 微处理器或向量处理器 ) 采用高通信带宽和低延迟的互联网络 ( 专门设计和定制的 ) 一种异步的 MIMD 机器 ; 程序系由多个进程组成, 每个都有其私有地址空间, 进程间采用传递消息相互作用 ; 代表 :CRAY T3E(2048), ASCI Red(3072), IBM SP2, 曙光 1000

29 机群系统 (Cluster) Cluster 每个节点都是一个完整的计算机各个节点通过高性能网络相互连接网络接口和 I/O 总线松耦合连接每个节点有完整的操作系统曙光 , ASCI Blue Mountain

30 访存模型 NORMA: UMA: NUMA: 多处理机 ( 单地址空间共享存储器 ) UMA: Uniform Memory Access NUMA: Nonuniform Memory Access 多计算机 ( 多地址空间非共享存储器 ) NORMA: No-Remote Memory Access

31 结构模型 -- 访存模型 UMA: NUMA: NORMA:

32 多处理机 && 多计算机多处理机 ( 共享存储 ) 多计算机 ( 分布式存储 ) UMA: NUMA: NORMA:

33 并行计算机的性能指标名称符号含意单位机器规模 n 处理器的数目无量纲时钟速率 f 时钟周期长度的倒数 MHZ 工作负载 W 计算操作的数目 Mflop 顺序执行时间 T 1 程序在单处理机上的运行时间 s( 秒 ) 并行执行时间 T n 程序在并行机上的运行时间 s( 秒 ) 速度 R n = W/T n 每秒百万次浮点运算 Mflop/s 加速 S n =T 1 /T n 衡量并行机有多快无量纲效率 E n = S n /n 衡量处理器的利用率无量纲峰值速度 R peak = n R peak 所有处理器峰值速度之积, R peak 为一个处理器的峰值速度 Mflop/s 利用率 U =R n /R peak 可达速度与峰值速度之比无量纲通信延迟 t o 传送 0- 字节或单字的时间 Μ s 渐近带宽 r 传送长消息通信速率 MB/s

34 衡量系统性能的主要指标 (1) MIPS( 百万条指令每秒 ) 理论计算 : 处理器的时钟频率与平均每条指令所需的时钟周期 (Cycles Per Instruction) 的比值 MIPS = clock rate / CPI = (number of Instructions) / (CPU time) 实际数值 : 对于一个应用 ( 程序 ), 指令数目与运行时间的比值 MIPS = (number of Instructions) / (execution time)

35 衡量系统性能的主要指标 (2) MFLOPS( 百万次浮点运算每秒 ) 理论计算 : 系统的浮点计算部件每秒可以做的浮点计算次数 ; MFLOPS = (number of Floating Point compute Unit) N N 为每个浮点计算部件一个周期内可以做的最多浮点操作数, 对于目前常见的微处理器, 一般为 1-4; 实际数值 : 对于一个应用, 浮点运算数目与运行时间的比值 ; MFLOPS = (number of floating operations) / (execution time)

36 两个指标的缺点都不能全面表征系统的性能 MIPS 指标比较适用于事务处理领域 ; 不同系统的指令不同, 一条指令的功能和复杂度差别很大, 如 IBM 的大型主机 (Mainframe), 价格达到千万元的大型机 ( 含配套软件 ), 其 MIPS 值一般为 5-10, 不及价值数千元的 Pentium4 PC; 非计算密集型的应用 ( 事务处理 ) 对 I/O 要求高, 计算密集型的应用 ( 图形程序 ) 对主频要求高用户对可靠性等特殊要求 ; 应用的需求不同, 高性能计算领域也是通才难求, 各有所长 ; 某些特殊类型计算机适合特定的应用

37 两个指标的缺点理论计算和实际测试的差别对于一个具体的应用, 可获得的实际性能与理论峰值有相当大的差距, 即效率低的问题 ; 应用效率成为高性能计算的核心问题之一, 受到普遍关注

38 加速比定律在并行计算系统, 并行算法 ( 并行程序 ) 的执行速度相对于串行算法 ( 串行程序 ) 加快的倍数, 就是该并行算法 ( 并行程序 ) 的加速比 ; 加速比是衡量并行收益的重要指标 ; Amdahl 定律适用于固定计算规模的加速比性能描述,Gustafson 定律适用于可扩展问题

39 S = (W S +W P )/(W S +W P /p) = 1/(1/p+f(1-1/p)) Amdahl 定律显然, 当 p 时,S=1/f, 即对于固定规模的问题, 并行系统所能达到的加速上限为 1/f 一度引发了并行界部分人士的悲观情绪

40 Gustafson 定律 S =(W S +pw p )/(W S +W P ) =p-f(p-1)=f+p(1-f) 并行计算是为了解决大规模并行问题, 可并行部分的比例是可扩大的加速比与处理器数成斜率为 (1-f) 的线性关系这样串行比例 f 就不再是程序扩展性的瓶颈, 当然,f 越低, 斜率会越大, 加速性能越好

41 Linpack 采用主元高斯消去法求解双精度稠密线性代数方程组, 结果按每秒浮点运算次数 (flops) 表示包含三类测试, 问题规模与优化选择各不相同 : 测试, 在该测试中, 不允许对 Linpack 测试程序进行任何修改 ( 包括注释行 ) 测试, 在该测试中, 允许对算法和软件进行修改或替换, 并尽量利用系统的硬件特点, 以达到尽可能高的性能但是所有的优化都必须保持和标准算法如高斯消去法相同的相对精度, 而且必须使用 Linpack 的主程序进行调用

42 Linpack( 续 ) HPL 测试针对大规模并行计算系统的测试, 其名称为 High Performance Linpack (HPL), 是第一个标准的公开版本并行 Linpack 测试软件包, 用于 TOP500 与国内 TOP100 排名依据使用者可以改变问题规模有相当大的优化空间

43 NAS Parallel Benchmark NPB 套件由八个程序组成每个基准测试有五类 :A B C D W ( 工作站 ) A 最小,D 最大 NPB 套件以每秒百万次运算为单位输出结果整数排序 (IS) 快速 Fourier 变换 (FT) 多栅格基准测试 (MG) 共轭梯度 (CG) 基准测试稀疏矩阵分解 (LU) 五对角方程 (SP) 和块状三角 (BT) 求解密集并行 (EP)

44 高性能计算机的最新发展状况顶天立地高端 : 低端 : 从单纯关注性能到综合评价高性能 vs 高效能性能 vs 使用硬件建设 vs 综合建设

45 高性能市场概要曙光和高性能计算机什么是高性能计算什么是高性能计算机集群系统提纲

46 什么是机群系统机群系统 (Cluster) 利用标准网络将一台台普通服务器或者 PC 机连接起来, 为使用者提供更高的计算能力和存储能力并为使用者提供单一系统映象的系统单一系统映象使用者在使用机群系统的时候感觉上就象使用一个单独的计算机系统一样单一系统映象实现方法 : 硬件层操作系统层软件层

47 机群系统的优势极高的性价比大型机的主流良好的可扩展性更高的可管理性更低的使用维护成本更好的可使用性更改的系统鲁棒性更多的应用支持机群使用越来越广泛应用领域越来越多

48 机群系统的应用领域信息服务基因信息气象预报汽车制造生物物理石油勘探数学船舶制造

49 年高性能计算机在 TOP500 中的变化

机群成为高性能计算机的主流 Architecture Count Share % Cluster 400 80 % MPP 98

50 机群成为高性能计算机的主流 Architecture Count Share % Cluster % MPP % Constellations % Total % TOP500 排名 (2008 年 6 月 )

51 高性能机群负载均衡机群高可用机群机群系统的分类

52 高性能机群系统架构

53 高性能机群层次架构应用层机群操作系统层 (DCOS) 系统软件层 (OS, 编译器 ) 硬件层 ( 节点, 网络等 )

54 曙光 4000 系列机群系统节点机网络存储机群支撑系统 SKVM 并行环境编译环境高性能数学库曙光机群操作系统 (DCAS) 机群管理系统机群监控系统机群部署系统作业管理系统并行文件系统

55 曙光机群十大标准化技术机群负载均衡技术智能机柜技术异构平台整合技术机群快速部署技术曙光机群服务器十大标准化技术复杂机群简易管理技术机群安全管理技术机群并行吞吐技术行业定制优化技术远程 / 异地操作控制技术一体化监控技术

56 总结什么是高性能计算和高性能计算机? 集群 (Cluster) 是当今高性能计算机的主流什么样的用户需要高性能计算机? 用户都关心哪些问题? 高性能计算机销售和一般服务器销售的区别

<453A5CBDCCD1A72DBFCEB3CC5C C4EAB4BA20B2A2D0D0BCC6CBE35C536C E65775C D E >

<453A5CBDCCD1A72DBFCEB3CC5C C4EAB4BA20B2A2D0D0BCC6CBE35C536C E65775C D E > 并行计算 Parallel Computing 主讲人孙广中 Spring, 2018 国家高性能计算中心 ( 合肥 ) 并行计算, 孙广中 ( 中国科学技术大学, 计算机学院 ) 2018-4-11 并行计算结构算法编程第一篇并行计算的基础第一章并行计算与并行计算机结构模型第二章并行计算机系统互连与基本通信操作第三章典型并行计算机系统介绍第四章并行计算性能评测国家高性能计算中心