Microsoft PowerPoint - PC2.pptx

Size: px

Start display at page:

Download "Microsoft PowerPoint - PC2.pptx"

湿妆森
5 years ago
Views:

1 并行计算结构算法编程主讲教师 : 谢磊

2 第二章当代并行机系统 2.1 共享存储多处理机系统对称多处理机 SMP 结构特性 2.2 分布存储多计算机系统大规模并行机 MPP 结构特性 2.3 机群系统大规模并行处理系统 MPP 机群 SP 工作站机群 COW 2

3 对称多处理机 SMP(1) SMP: 采用商用微处理器, 通常有片上和片外 Cache, 基于总线连接, 集中式共享存储,UMA 结构例子 :SGI Power Challenge, DEC Alpha Server, Dawning 1 P/C P/C P/C 总线或交叉开关 SM SM I/O 3

4 对称多处理机 SMP(2) 优点对称性单地址空间, 易编程性, 动态负载平衡, 无需显示数据分配高速缓存及其一致性, 数据局部性, 硬件维持一致性低通信延迟,Load/Store 完成问题欠可靠,BUS,OS,SM 通信延迟 ( 相对于 CPU), 竞争加剧慢速增加的带宽 (MB double/3 年,IOB 更慢 ) 不可扩放性 CC NUMA 4

5 成百上千个处理器组成的大规模计算机系统, 规模是变化的基于 NORMA 结构, 高带宽低延迟定制互连可扩放性 Mem, I/O, 平衡设计系统成本商用处理器, 相对稳定的结构,SMP, 分布通用性和可用性大规模并行机 MPP 不同的应用,PVM,MPI, 交互, 批处理, 互连对用户透明, 单一系统映象, 故障通信要求存储器和 I/O 能力例子 :Intel Option Red,IBM SP2 Dawning

6 大规模并行机 MPP MB P/C MB P/C LM NIC LM NIC 定制网络 6

7 典型 MPP 系统特性比较 MPP 模型 Intel/Sandia ASCI Option Red IBM SP2 SGI/Cray Origin2000 一个大型样机的配置 9072 个处理器, 1.8Tflop/s(NSL) 400 个处理器, 100Gflop/s(MHPCC) 128 个处理器, 51Gflop/s(NCSA) 问世日期 1996 年 12 月 1994 年 9 月 1996 年 10 月处理器类型节点体系结构和数据存储器互连网络和主存模型节点操作系统自然编程机制 200MHz, 200Mflop/s Pentium Pro 2 个处理器,32 到 256MB 主存, 共享磁盘分离两维网孔, NORMA 轻量级内核 (LWK) 基于 PUMA Portals 的 MPI 67MHz,267Mflop/s POWER2 1 个处理器,64MB 到 2GB 本地主存, 1GB 到 14.5GB 本地磁盘 200MHz, 400Mflop/s MIPS R 个处理器,64MB 到 256MB 分布共享主存和共享磁盘多级网络,NORMA 胖超立方体网络, CC-NUMA 完全 AIX(IBM UNIX) MPI 和 PVM 微内核 Cellular IRIX Power C, Power Fortran 其他编程模型 Nx,PVM,HPF HPF,Linda MPI,PVM 7

8 MPP 所用的高性能 CPU 特性比较属性 Pentium Pro PowerPC 602 Alpha 21164A Ultra SPARC MIPS R10000 工艺 BiCMOS CMOS CMOS II CMOS CMOS 晶体管数 5.5M/15.5M 7M 9.6M 5.4M 6.8M 时钟频率 150MHz 133MHz 417MHz 200MHz 200MHz 电压 2.9V 3.3V 2.2V 2.5V 3.3V 功率 20W 30W 20W 28W 30W 字长 32 位 64 位 64 位 64 位 64 位 I/O 8KB/8KB 32KB/32KB 8KB/8KB 16KB/16KB 32KB/32KB 高速缓存 2 级高速缓存 256KB ( 多芯片模块 ) 1~128MB ( 片外 ) 96KB ( 片上 ) 16MB ( 片外 ) 16MB ( 片外 ) 执行单元 5 个单元 6 个单元 4 个单元 9 个单元 5 个单元超标量 3 路 (Way) 4 路 4 路 4 路 4 路流水线深度 14 级 4~8 级 7~9 级 9 级 5~7 级 SPECint > SPECfp > SPECint >11 N/A 7.4 SPECfp >17 N/A 15 其它特性 CISC/RISC 混合短流水线长 L1 高速缓存 8 最高时钟频率最大片上 2 级高速缓存多媒体和图形指令 MP 机群总线可支持 4 个 CPU

9 机群系统 (1) 计算机机群 (Cluster) 简称集群是一种计算机系统, 它通过一组松散集成的计算机软件和 / 或硬件连接起来高度紧密地协作完成计算工作在某种意义上, 他们可以被看作是一台计算机集群系统中的单个计算机通常称为节点, 通常通过局域网连接, 但也有其它的可能连接方式集群计算机通常用来改进单个计算机的计算速度和 / 或可靠性一般情况下集群计算机比单个计算机, 比如工作站或超级计算机性能价格比要高得多 9

10 机群系统 (2) 集群分为同构与异构两种, 它们的区别在于 : 组成集群系统的计算机之间的体系结构是否相同集群计算机按功能和结构可以分成以下几类 : 高性能计算集群 High performance (HPC) clusters 负载均衡集群 Load balancing clusters 高可用性集群 High availability (HA) clusters 网格计算 Grid computing 10

11 机群系统 (3) 高性能计算集群高性能计算集群采用将计算任务分配到集群的不同计算节点而提高计算能力, 因而主要应用在科学计算领域比较流行的 HPC 采用 Linux 操作系统和其它一些免费软件来完成并行运算这一集群配置通常被称为 Beowulf 集群这类集群通常运行特定的程序以发挥 HPC cluster 的并行能力这类程序一般应用特定的运行库, 比如专为科学计算设计的 MPI 库 HPC 集群特别适合于在计算中各计算节点之间发生大量数据通讯的计算作业, 比如一个节点的中间结果或影响到其它节点计算结果的情况 11

12 机群系统 (4) 负载均衡集群负载均衡集群运行时, 一般通过一个或者多个前端负载均衡器, 将工作负载分发到后端的一组服务器上, 从而达到整个系统的高性能和高可用性这样的计算机集群有时也被称为服务器群 (Server Farm) 一般高可用性集群和负载均衡集群会使用类似的技术, 或同时具有高可用性与负载均衡的特点 Linux 虚拟服务器 (LVS) 项目在 Linux 操作系统上提供了最常用的负载均衡软件 12

13 机群系统 (5) 高可用性集群一般是指当集群中有某个节点失效的情况下, 其上的任务会自动转移到其他正常的节点上还指可以将集群中的某节点进行离线维护再上线, 该过程并不影响整个集群的运行 13

14 IBM WAS HA Levels of WebSphere system availability WebSphere system HA level 1 level 5 WebSphere system HA level 1

15 WAS HA level 2 WebSphere system HA level 2

16 WAS HA level 3 WebSphere system HA level 3

17 WAS HA level 4 WebSphere system HA level 4

18 WAS HA level 5 WebSphere system HA level 5

19 机群系统 (6) 网格计算网格计算或网格集群是一种与集群计算非常相关的技术网格与传统集群的主要差别是网格是连接一组相关并不信任的计算机, 它的运作更像一个计算公共设施而不是一个独立的计算机还有, 网格通常比集群支持更多不同类型的计算机集合网格计算是针对有许多独立作业的工作任务作优化, 在计算过程中作业间无需共享数据网格主要服务于管理在独立执行工作的计算机间的作业分配资源如存储可以被所有结点共享, 但作业的中间结果不会影响在其他网格结点上作业的进展 19

20 机群型大规模并行机 SP2 设计策略 : 机群体系结构标准环境标准编程模型系统可用性精选的单一系统映像系统结构 : 高性能开关 HPS 多级 Ω 网络宽节点窄节点和窄节点 2 20

21 机群型大规模并行机 SP2 P MP D 节点 1 MCC E I/O 总线 NIC 以太网 P MP 节点 N D MCC E I/O 总线 NIC S 高性能开关, Omega 网络 21

22 工作站机群 COW 分布式存储,MIMD, 工作站 + 商用互连网络, 每个节点是一个完整的计算机, 有自己的磁盘和操作系统, 而 MPP 中只有微内核优点 : 投资风险小系统结构灵活性能 / 价格比高能充分利用分散的计算资源可扩放性好问题通信性能并行编程环境例子 :Berkeley NOW,Alpha Farm, FXCOW 22

23 工作站机群 COW P/C P/C M M D MIO NIC LAN D MIO NIC 23

24 典型的机群系统典型的机群系统特点一览表名称 Princeton:SHRIMP Karsruhe:Parastation Rice:TreadMarks Wisconsin:Wind Tunnel Chica Maryl Penns:NSCP Argonne:Globus Syracuse:WWVM HKU:Pearl Cluster 系统特点 PC 商用组件, 通过专用网络接口达到共享虚拟存储, 支持有效通信用于分布并行处理的有效通信网络和软件开发软件实现分布共享存储的工作站机群在经由商用网络互连的工作站机群上实现分布共享存储国家可扩放机群计划 : 在通过因特网互连的 3 个本地机群系统上进行元计算在由 ATM 连接的北美 17 个站点的 WAN 上开发元计算平台和软件使用因特网和 HPCC 技术, 在世界范围的虚拟机上进行高性能计算研究机群在分布式多媒体和金融数字库方面的应用 Virgina:Legion 在国家虚拟计算机设施上开发元计算软件 24

25 SMP\MPP\ 机群比较系统特征 SMP MPP 机群节点数量 (N) O(10) O(100)-O(1000) O(100) 节点复杂度中粒度或细粒度细粒度或中粒度中粒度或粗粒节点间通信共享存储器消息传递度消息传递或共享变量 ( 有 DSM 时 ) 节点操作系统 1 N( 微内核 ) N ( 希望为同构 ) 和 1 个主机 OS( 单一 ) 支持单一系统映像永远部分希望地址空间单一多或单一 ( 有 DSM 时 ) 多个作业调度单一运行队列主机上单一运行队列协作多队列网络协议非标准非标准标准或非标准可用性通常较低低到中高可用或容错性能 / 价格比一般一般高互连网络总线 / 交叉开关定制商用 25

26 并行计算机存储组织层次存储技术自上而下, 速度由快到慢, 容量由小到大高速缓存的一致性高速缓存的一致性问题高速缓存写策略写通过 (Write Through) 写回 (Write Back) 高速缓存不一致的原因由共享可写数据造成的不一致由进程迁移造成的不一致由绕过高速缓存的 I/O 操作所造成的不一致 26

27 并行计算机存储组织保证高速缓存的一致性监听总线协议写无效写更新基于目录的协议使用一个目录来记录共享数据的所有高速缓存行的位置和状态 27

并行计算

并行计算并行计算 Parallel Computing 主讲人孙广中 Spring, 2016 并行计算结构算法编程第一篇并行计算的基础第一章并行计算与并行计算机结构模型第二章并行计算机系统互连与基本通信操作第三章典型并行计算机系统介绍第四章并行