幻灯片 1

Size: px

Start display at page:

Download "幻灯片 1"

盎壑冯
5 years ago
Views:

1 提纲一.PBS 脚本编写使用二. 曙光 Gridview 作业调度中间件

2 PBS 作业提交步骤 1. 准备 : 编写描述改作业的脚本, 包括作业名, 需要的资源等 2. 提交 : 使用 qsub 命令将该作业提交给 PBS 服务器 3. 排队 : 服务器将该任务排入适当的队列 4. 调度 : 服务器检查各工作节点的状态是否符合该作业的要求, 并进行调度 5. 执行 : 当条件满足时, 作业被发给相应的执行服务器执行程序运行时执行服务器会收集程序的标准输出和标准错误流, 等程序结束时, 将这些信息返回给用户 6. 查询和调整 : 当作业在运行时, 用户可以使用 qstat 进行状态查询用户发现作业提交错误时, 可以使用 qdel 删除正在运行的作业 7. 查看结果 : 使用文本编辑软件 vi 或者系统命令 cat, less 等查看输出及错误信息显示

3 PBS 作业提交基本命令在 PBS 系统中, 用户使用 qsub 命令提交用户程序用户运行程序的命令及 PBS 环境变量设置组成 PBS 作业脚本, 作业脚本使用如下格式提交到 PBS 系统运行 : qsub <PBS 作业脚本 > qsub -N test.vasp -l nodes=4:ppn=2 -q defaults <PBS 作业脚本 >

4 PBS 作业脚本本质是一个 SHELL 脚本注释以 # 开头 PBS 运行参数, 以 #PBS 开头可以直接调用 SHELL 命令和系统命令 #PBS -N vasp #PBS -l nodes=1:ppn=1 #PBS -l walltime=12:00:00 #PBS -q high cd /home/test/work./test.exe

5 PBS 运行参数在 PBS 脚本和 qsub 命令行中均有效,qsub 命令行参数的优先级更高运行参数说明 -a < 作业开始运行的时间 > 向 PBS 系统指定作业运行的开始时间作业运行时间格式为 : [[[[CC]YY]MM]DD]hhmm[.SS] -A < 用户名 > 使用不同的用户来提交作业, 缺省使用当前用户名 -o < 标准输出文件的路径 > -e < 标准错误输出的路径 > -N < 作业名 > 指定提交的作业名该参数指定标准错误输出的位置, 缺省的情况下,PBS 系统把标准输出和标准错误输出放在用户 qsub 命令提交作业的目录下标准错误输出 :< 作业名 >.o< 作业号 > 标准错误输出 :< 作业名 >.e< 作业号 > 路径使用如下格式标准 : [< 节点名 >:]< 路径名 > -q < 目标队列 > 指定作业提交的目标队列, 其中目标队列可以是目标队列目标节点名或者是目标节点上的队列如果目标队列是一个路由队列, 那么服务器可能把作业路由到新的队列中如果该参数没有指定, 命令 qsub 会把作业脚本提交到缺省的队列中 -l < 申请资源列表 > 该参数指定作业脚本申请的 PBS 系统资源列表申请资源列表使用如下格式 : < 资源名 >[=[< 数量 >]][, 资源名 [=[< 数量 >]],..] 例如作业希望申请在双路节点上申请 5 个 CPU 资源的情况, 则可以在脚本中如下 : #PBS l nodes=2:ppn=2+1:ppn=1

6 PBS 的环境变量变量名说明登陆 SHELL 继承来的变量 $PBS_O_HOST $PBS_O_QUEUE $PBS_O_WORKDIR $PBS_JOBID 包括 $HOME,$LANG,$LOGNAME,$PATH,$MAIL, $SHELL 和 $TZ qsub 提交的节点名称 qsub 提交的作业的最初队列名称 qsub 提交的作业的绝对路径作业被 PBS 系统指定的作业号 $PBS_JOBNAME 用户指定的作业名, 可以在作业提交的时候用 qsub N < 作业名 > 指定, 或者在 PBS 脚本中加入 #PBS N < 作业名 > $PBS_NODEFILE $PBS_QUEUE PBS 系统指定的作业运行的节点名该变量在并行机和机群中使用当在 PBS 脚本中用 #PBS l nodes=2:ppn=2 指定程序运行的节点数时, 可以使用 $PBS_NODEFILE 在脚本中引用 PBS 系统指定的作业运行的节点名比如 : #PBS l nodes=2:ppn=2 mpirun np 4 machinefile $PBS_NODEFILE < 程序名 > PBS 脚本在执行时的队列名

7 PBS 脚本举例 # 这是一个串行作业脚本的例子 #PBS -N test #PBS -l nodes=1:ppn=1 cd $HOME/test/./a.out > $HOME/result/a.result # 这是一个并行作业脚本的例子 #PBS -N vasp_job #PBS -l nodes=2:ppn=8 #PBS -q low echo This jobs is $PBS_JOBID@$PBS_QUEUE cd $PBS_O_WORKDIR mpirun -np 16 -machinefile $PBS_NODEFILE./vasp

8 PBS 脚本举例 ( 续 1) 有时在 PBS 脚本中, 需要对 PBS 环境变量的内容进行改造比如,$PBS_NODEFILE, 该文件内容格式为 : node1 node1 node2 node2 对于一般 MPI 程序, 可直接将 $PBS_NODEFILE 作为 MPI 的 -machinefile 参数, 如上例所示而一些软件有特殊的节点指定格式, 比如 ANSYS 的命令行参数格式为 : ansys121 -dis -machines node1:2:node2:2 -i test.inp -o test.log 这时我们可以对 $PBS_NODEFILE 进行字符处理, 得到需要的格式

9 PBS 脚本举例 ( 续 2) # 这是一个 ANSYS 并行作业的例子 #PBS -N ansys_job #PBS -l nodes=2:ppn=8 #PBS -q low INPUTFILE=test.inp OUTPUTFILE=test.log hosts=`cat $PBS_NODEFILE uniq -c awk '{print $2":"$1}' tr '\n' ':' sed 's/:$//'` cd $PBS_O_WORKDIR ansys121 -dis -machines $hosts -i $INPUTFILE -o $OUTPUTFILE

10 一个复杂的 PBS 脚本 #!/bin/bash #PBS -N jobname #PBS -l nodes=2:ppn=8 cat `echo $PBS_NODEFILE` > $HOME/$PBS_JOBID.nodes for node in `cat $HOME/$PBS_JOBID.nodes` do ssh $node mkdir /tmp/$pbs_jobid ssh $node cp -rf $PBS_O_WORKDIR/* /tmp/$pbs_jobid/ done cd /tmp/$pbs_jobid mpirun -np 16 -machinefile $PBS_NODEFILE $HOME/bin/vasp cp -rf /tmp/$pbs_jobid/* $PBS_O_WORKDIR/ for node in `cat $HOME/$PBS_JOBID.nodes` do ssh $node rm -rf /tmp/$pbs_jobid done rm $HOME/$PBS_JOBID.nodes

11 指定节点特性 # 这是一个并行作业脚本的例子 #PBS -N vasp.hg #PBS -j oe #PBS -l nodes=2:ppn=12:amd #PBS -q low echo "This jobs is "$PBS_JOBID@$PBS_QUEUE NP=`cat $PBS_NODEFILE wc -l` cd $PBS_O_WORKDIR mpirun -np $NP -machinefile $PBS_NODEFILE./vasp #PBS -l nodes=2:ppn=4:amd:chem #PBS -l nodes=1:ppn=8:chem+1:ppn=8:bio #PBS -l nodes=node1:ppn=8+node2:ppn=8

12 查询作业状态作业提交后, 会生成一个作业号, 如 : [dawning@node1 ~]$ qsub test.pbs 93.node1 查看集群作业运行状态 : [dawning@node1 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs test 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default 作业状态说明 : E: 退出 Q: 排队 H : 挂起 R : 运行 C: 结束

13 查询作业状态 ( 续 ) [dawning@node1 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default 查询某个作业运行状态 : qstat 93.node1 ( 或者 qstat 93) 显示作业运行在哪些节点上 : qstat -n 93.node1 显示作业运行详细信息 : qstat -f 93.node1

14 取消删除作业 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default qdel 93.node1 注 : 用户只能删除自己的作业, 管理员可以删除所有用户作业

15 作业挂起及取消 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default 挂起作业 : qhold 111.node1 取消作业挂起 qrls 111.node1

16 更改作业 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default 更改作业运行队列 : qmove high 111.node1 更改作业资源属性 : qalter -l walltime=10:00: node1

17 交换作业顺序 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 111.node1 structure amber 0 Q default 112.node1 gaussian gauss 0 Q default 交换两个作业的排队顺序 : qorder 111.node1 112.node1 [dawning@node1 ~]$ qstat Job id Name User Time Use S Queue node1 test.pbs zhaocs 0 R default 95.node1 vasp.hg vasp 0 E default 112.node1 gaussian gauss 0 Q default 111.node1 structure amber 0 Q default

18 作业依赖关系 PBS 脚本中可以指定多个作业之间的依赖关系, 比如作业提交前另一个作业必须完成, 否则处于排队状态 #PBS -N step2 #PBS -l nodes=4:ppn=4 #PBS -q high #PBS -W depend=after:<job_id> 当指定作业非正常结束, 作业才能提交 #PBS -N job_rerun #PBS -l nodes=4:ppn=4 #PBS -q high #PBS -W depend=afternotok:<job_id>

19 Job Array 应用场景使用相同的 PBS 脚本, 提交多个作业, 每个作业运行环境基本一致, 除了个别运行参数有不同可用 #PBS -t 或 qsub -t 的方式提交这样的一个 Job Array, 每个作业用环境变量 $PBS_ARRAYID 进行区分简单的例子 array.pbs: #PBS -N array #PBS -l nodes=1:ppn=8 #PBS -j oe #PBS -t cd $PBS_O_WORKDIR mpirun -np 8./myprogram -parameter $PBS_ARRAYID

20 PBS 查看节点状态 ( 续 ) pbsnodes 命令的主要参数 -a 列出所有结点及其属性, 属性包括 state 和 properties -o 将指定结点的状态标记为 offline 这将帮助管理员暂时停止某些结点的服务 -l 以行的方式列出被标记的结点的状态, 如 -l free,-l offline -c 清除结点列表中的 offline 或 down 状态设置, 使结点可以被分配给作业 -r 清除指定结点的 offline 状态

21 提纲一.PBS 脚本编写使用二. 曙光 Gridview 作业调度中间件

22 作业提交该作业调度系统主要通过 web 页面将作业提交给调度器系统中有三种提交方式 : (1) 模板方式提交 (2) 脚本方式提交 (3) 命令行方式提交每次只能选择一种方式提交, 在打开提交窗口时, 默认是第一种提交方式

23 作业提交的界面

24 1. 模板方式提交作业提交 2. 脚本方式提交 3. 命令行方式提交 4. 其他参数设置 5. 文件上传

25 1 模板方式提交点击选择集群点击选择模板

26 1 模板方式提交新提交的作业

27 1. 模板方式提交作业提交 2. 脚本方式提交 3. 命令行方式提交 4. 其他参数设置 5. 文件上传

28 2 脚本方式提交点击选择集群点击选择脚本

29 1. 模板方式提交作业提交 2. 脚本方式提交 3. 命令行方式提交 4. 其他参数设置 5. 文件上传

30 3 命令行方式提交点击选择集群输入命令

31 1. 模板方式提交作业提交 2. 脚本方式提交 3. 命令行方式提交 4. 其他参数设置 3. 文件上传

32 1. 作业名称 2. 队列 3. 工作路径 4. 节点列表 5. 节点数 6. 每个节点处理器数 7. 标准输出 8. 错误输出 9. 批量提交 10. 所需执行时间 4 其他可选参数

33 1. 模板方式提交作业提交 2. 脚本方式提交 3. 命令行方式提交 4. 其他参数设置 5. 文件上传

34 5 文件上传点击上传文件

35 点击浏览单击选择集群选择目的路径

36 新增功能 : 基于应用的提交模版 Gridview Web Portal

37 作业管理作业管理主要包含对作业的查询控制和删除等操作对作业的控制包括保留释放挂起恢复重新运行等操作

38 作业管理界面

39 作业控制作业控制包括保留作业释放作业挂起作业恢复作业和重新运行作业五种操作

40 删除作业在作业管理主界面的表格中选择要删除的作业, 点击工具栏中的删除作业按钮即可实现删除操作管理员可以删除任何作业, 普通用户只能删除自己的作业用户可以选择多个作业同时删除

曙光HPC模版

曙光HPC模版作业调度系统介绍及使用解决方案中心高性能计算部姜金良作业调度系统概述 PBS 作业调度系统 Maui 调度器集群使用中存在的问题集群结构的松散性节点类型的差别 (CPU 类型内存大小数量等 ) 用户丌同类型的作业 ( 串行 / 并行, 各类应用软件 ) 如何对用户可以使用资源迚行限制作业调度系统的功能系统资源整合异构资源, 软硬件资源的整合任务综合管理用户提交的任务的统一安排