Microsoft PowerPoint - Lustre in CNIC

Size: px

Start display at page:

Download "Microsoft PowerPoint - Lustre in CNIC"

荏孔
7 years ago
Views:

1 Lustre 在中科院超级计算中心的应用 Title Unit Name Date Nov 26,

2 Outline 中科院超级计算中心简介 Lustre 在超级算中心的部署 Lustre 在超级算中心的应用 Lustre 在实际应用中的问题高性能计算对未来文件系统的需求 2

3 中国科学院超级计算中心超级计算中心是隶属于中国科学院计算机网络信息中心 (CNIC) 的支撑服务单位, 是科技部命名的中国国家网格运行管理中心和中国国家网格北方主节点, 旨在为院内外科研单位提供超级计算服务和技术支持服务内容机时服务 HPC 咨询服务技术支持服务 HPC 培训服务提供丰富的计算资源提供稳定持续的计算机时 (7 24h) 提供专业技术支持协助用户制定适合其应用的集群解决方案协助用户对 HPC 系统进行基准测试协助用户制定 HPC 运行管理策略基础并行软件开发并行应用软件开发及性能优化科学计算可视化科学计算网格 SC 远程技术支撑专业软件应用服务与支持高性能计算培训 HPC 系统的安装配置作业调度培训 HPC 系统运行管理培训网格计算服务及网格应用培训专业应用领域软件使用培训 3

4 Supercomputing Center of Chinese Academy of Sciences 中国科学院超级计算中心中国国家网格运行管理中心 CNGrid 中科院超级计算环境 CS G id 中科院超级计算环境 CScGrid 4

5 中国科学院超级计算中心在超级计算环境建设方面, 针对我院研究所在各领域的超级计算需求, 提出了优化布局, 整合资源, 强化服务, 推动应用的建设原则和思路, 拟采用院超级计算总中心分中心及所级中心的三层网格结构布局, 以实现统一的运维管理与资源调度, 统一为用户提供服务, 方便用户使用, 达到资源整合与共享使用提高资源利用率的目的, 促进应用发展作为三层网格结构的最高层, 院超级计算总中心将建设成为国际先进国内一流的超级计算运行服务中心, 成为国家科技信息化基础设施的重要组成部分和培养超级计算应用人才的基地, 成为引领我国超级计算应用与发展的主要力量 5

6 DeepComp 7000 DeepComp 7000 Hybrid architecture (Xeon + Itanium2) More than 12,000 cores Peak performance: 146TFlops More than 66TB memory 350TB on-line storage,1pb off-line storage 4X DDR Infiniband Interconnected Lustre,SNFS,IBM GPFS,SGI SGI CXFS file system Linux OS TOP500:No.19 (2008) 375 users up to Sep 30, 2011 Utilization:More than 70% 6

7 Outline 中科院超级计算中心简介 Lustre 在超级算中心的部署 Lustre 在超级算中心的应用 Lustre 在实际应用中的问题高性能计算对未来文件系统的需求 7

8 Lustre 在超级算中心的部署客户端 : 1140 计算刀片,38 厚节点,2 台胖节点 I/O 节点 Lustre: 140TB, Max WR:8GB/s RD:20GB/s I/O 节点 I/O 节点 I/O 节点 I/O 节点 I/O 节点 I/O 节点印象 : 良好 I/O 吞吐能力超出想象的稳定具备自我恢复能力 256 端口 SAN 256 端口 SAN FC 盘阵 FC 盘阵 8

9 Outline 中科院超级计算中心简介 Lustre 在超级算中心的部署 Lustre 在超级算中心的应用 Lustre 在实际应用中的问题高性能计算对未来文件系统的需求 9

10 宇宙演化模拟 10

11 整合素 (Integrin Integrin) 配体结合位点激活的分子机制研究整合素的结构及两种构象整合素是表达在细胞表面的一种异构二聚体, 它们介导了细胞间以及细胞与胞外基质间的相互作用, 同时可以在细胞内外双向传递信号本研究确定了对构象变化和配体结合亲和性具有决定性作用的氨基酸残基, 从而也就确定了可能的药物靶向位点, 对针对整合素激活紊乱引起的疾病的药物设计提供了理论基础 11

12 高速列车气动噪声数值评估在时速大于 350 公里的情况下, 气动噪声成为高速列车的主要噪声源研究内容 : 通过数值模拟手段, 结合理论和实验研究, 对高速列车的气动噪声进行预测评估, 提出列车关键部件的降噪优化设计方案目的 : 提高高速列车乘坐的舒适性缓解噪声对铁路沿线居民的影响促进高速轨道交通的可持续发展 12

13 Outline 中科院超级计算中心简介 Lustre 在超级算中心的部署 Lustre 在超级算中心的应用 Lustre 在实际应用中的问题高性能计算对未来文件系统的需求 13

14 Lustre 在实际应用中的问题 Quota 丢失现象 : 用户的空间没有达到 quota, 但无法写入解决 : 重新设置 quota Lustre Recovery 时间过长现象 :160 个 OST, 任何一个故障再恢复的过程持续至少 20 分钟解决 : 无 14

15 Lustre 在实际应用中的问题元数据性能瓶颈现象 : 元数据处理效率不高, 重 IO 负载时产生性能瓶颈解决 : 无日志不易理解现象 : : :5: :0:4362:0:(mdc_request.c:1444:mdc_init_ea_size()) :0:4362:0:(mdc c:1444:mdc ea size()) upd ating max_mdsize/max_cookiesize: 3888/ : :5: :0:4362:0:(import.c:1335:ptlrpc_import_recovery_sta te_machine()) CAS-OST0055-osc-ffff d400: Connection restored to service CAS-OST0 055 using nid @o2ib : :0: :0:4313:0:(lib-move.c:1782:lnet_parse_put()) Droppi ng PUT from @o2ib portal 4 match offset 192 length 192: 2 15

16 Outline 中科院超级计算中心简介 Lustre 在超级算中心的部署 Lustre 在超级算中心的应用 Lustre 在实际应用中的问题高性能计算对未来文件系统的需求 16

17 高性能计算对未来文件系统的需求具有更高的性能支持更多的 OST 提高元数据的执行效率和性能支持分布式容错, 使 lustre 具有更高的可靠性任一 OST 故障都会导致数据丢失 OST 备份几乎不可操作支持数据的分级存储数据在不同级别存储设备上自动迁移, 降低存储成本支持故障的快速恢复 17

18 对 Lustre 未来的担忧版权及后继版本 18

19 19

HPC TOP , HPC 2004SCIDACTOPS PI David Keyes TOP100 HPC Supercomputing in China TOP500 Hans Meuer

HPC TOP , HPC 2004SCIDACTOPS PI David Keyes TOP100 HPC Supercomputing in China TOP500 Hans Meuer TOP100 State-of-the-Art Analysis and Perspectives of China HPC Development: A View from 2011 HPC TOP100 (Yunquan Zhang) GTC Asia 2011 12 14 HPC TOP100 200210, 2004 863 2007 2005 2006 2007 2004 7 2007 130HPC