Linux系统下程序的编译运行

Size: px

Start display at page:

Download "Linux系统下程序的编译运行"

导波
5 years ago
Views:

1 程序的编译运行中山大学国家超级计算广州中心应用部李家辉

2 Preface 一个公共的 HPC 平台的使用 Linux 系统资源管理系统 CPU #1 CPU #2 Memory VPN VPN 账号系统账号 ln0 ln1 ln2 Slurm cn0 cn1 cn2 ln3 cn---- shared file system

3 Preface 查看正在使用的节点的信息 hostname top ssh 共享文件系统 WORKSPACE/ 查看计算分区 yhi

4 内容目录一.Linux 常用编译器简介 1.1 GCC Intel 二. 简单程序编译和执行 2.1 程序的编译流程 2.2 函数库的使用和生成 2.3 程序的执行 2.4 module 的使用 2.5 yhbatch 和简单 bash 脚本三. 并行程序的编译运行 3.1 OpenMP 和 MPI 程序设计介绍 3.2 OpenMP 和 MPI 程序的编译和运行四.Make 工具介绍 4.1 Make 工具的作用 4.2 基本规则 4.3 Makefile 的产

5 Linux 常用编译器简介课程说明基于 Linux 系统掌握简单程序的编译运行的流程本课程主要介绍 C C++ Fortran 代码的编译和运行在天河二号上实践

6 Linux 常用编译器简介 GCC 编译器功能特点 :GNU Compiler Collection, 支持 C C++ Objective-C Fortran Java Ada 和 Go 等语言使用广泛, 功能强大, 获取方便获取途径 : 开源免费, 使用命令 : 编程语言 C C++ Fortran77 Fortran90/95 编译器调用命令 gcc g++ gfortran gfortran

7 Linux 常用编译器简介 Intel 编译器功能特点 :Intel 公司开发的一款编译器, 支持 C/C++/Fortran 编程语言编译器针对 Intel 处理器优化, 性能优异同样支持 AMD 处理器平台获取途径 : 商业授权, 通常通过厂商和 intel 的合作关系, 获得授权使用命令 : 编程语言 C C++ Fortran77 Fortran90/95 编译器调用命令 icc icpc ifort ifort

8 内容目录一.Linux 常用编译器简介 1.1 GCC Intel 二. 简单程序编译和执行 2.1 程序的编译流程 2.2 函数库的使用和生成 2.3 程序的执行 2.4 module 的使用 2.5 yhbatch 和简单 bash 脚本三. 并行程序的编译运行 3.1 OpenMP 和 MPI 程序设计介绍 3.2 OpenMP 和 MPI 程序的编译和运行四.Make 工具介绍 4.1 Make 工具的作用 4.2 基本规则 4.3 Makefile 的产

9 简单程序编译和执行编译器通过命令行调用, 最基本的用法是 gcc [options] [filenames] icc [options] [filenames] $gcc hello.c 程序在 shell 中的执行 $./a.out $ yhrun -n 1 -p training./a.out hello.c #include<stdio.h> int main(int argc, char* argv[]) { } printf( Hello.\n"); return 0; 不要在登录节点上运行程序 -p training 参数根据实际的分区确定使用 count.c 测试注 1: 课程都以 C 语言示例, C++ Fortran 等语言的编译运行流程跟 C 语言类似注 2: 编译器为 gcc 或 icc, 它们的使用方法类似, 请参见相关文档或 man 手册

10 简单程序编译和执行程序在 shell 中的执行 $./a.out $ yhrun -n 1 -p training./a.out yhrun [options] program 不要在登录节点上运行程序使用 count.c 测试向资源管理系统申请资源在申请到的计算节点上运行 program yhrun p training N 1 n 1./program

11 编译流程示例实际使用过程中, 比较常用的是分成编译和链接两步 : 参数都用 - 开始, -o 表示输出文件的名称编译 : $ gcc -c hello.c -o hello.o 链接 : $ gcc hello.o -o hello *.c 编译 *.o 链接 exec 执行

12 简单程序编译和执行程序的编译详细流程 *.c *.i 编译 *.s *.o 链接 exec 预编译汇编执行把预编译编译和汇编三步简称为编译

13 编译流程示例编译流程示例用 vi 查看每一个输出文件 $ gcc -E hello.c -o hello.i $ gcc -S hello.i -o hello.s $ gcc -c hello.s -o hello.o $ gcc hello.o -o hello hello.c #include<stdio.h> int main(int argc, char* argv[]) { printf( Hello.\n"); return 0; } *.c *.i 编译 *.s *.o 链接 Exec 预编译汇编执行

14 简单程序编译和执行后缀规范可执行文件没有后缀要求源代码目标文件等有统一的规范 ( 或使用 -x ) 文件类型后缀名文件类型后缀名 C.c C++.C,.cc,.cpp,.cxx Fortran 77.f,.for,.F,.FOR Fortran 90/95.f90, F90 汇编.s 目标文件.o 头文件.h Fortran90/95 模块.mod 动态库.so 静态库.a

15 多个源文件例子 hello_main.c hello_sub.c #include<stdio.h> int main(int argc, char* argv[]) { sayhello(); return 0; } #include<stdio.h> int sayhello() { printf( Hello.\n"); return 0; }

16 多个源文件例子 hello_main.c hello_sub.c 编译链接 $ gcc -c hello_main.c -o hello_main.o $ gcc -c hello_sub.c -o hello_sub.o $ gcc hello_main.o hello_sub.o -o hello.run $ yhrun -n 1 p training./hello.run

17 函数库的使用概述函数库实际上是目标文件 (*.o) 的一个集合前面的例子实际上已经使用了系统库存在大量的开源函数库, 可以让使用者通过简单的代码, 实现复杂的功能这些开源库在 Linux 平台上使用更简便开发者也可以编译自己的库

18 函数库的使用通常需要两部分 : 头文件和库文件编译阶段, 需要使用头文件链接阶段, 需要使用库文件

19 函数库的使用编译阶段 : 头文件的使用编译器自动搜索的头文件目录源文件所在目录环境变量指定的目录, 如 :$CPATH 编译器自己的头文件目录系统头文件目录指定头文件搜索路径 : 使用 -I 参数 -I<path1> -I<path2>...

20 简单例子使用 fftw3 库 fftw_test.c $ icc -c -I/WORK/app/fftw/3.3.4/include fftw_test.c -o fftw_test.o

21 函数库的使用链接阶段静态库命名规范为 libxxx.a, 如 :libfftw3.a 编译后库函数会被连接到可执行程序, 可执行文件体积较大, 库函数更新后, 需要重新编译程序运行时不会出现找不到指定动态库的情况动态库命名规范为 libxxx.so, 如 :libfftw3.so 编译后库函数不会被连接到可执行程序, 可执行文, 体积较小, 可执行文件运行时, 库函数动态载入使用灵活, 库函数更新后, 不需要重新编译程序运行时可能会出现找不到指定动态库的情况

22 fftw3 库

23 函数库的使用方法一 : 链接时, 把库当作目标文件使用 fftw_test.c $ icc -c fftw_test.c -I/WORK/app/fftw/3.3.4/include -o fftw_test.o $ icc fftw_test.o /WORK/app/fftw/3.3.4/lib/libfftw3.a -o fftw_test $ yhrun -n 1 -p training./fftw_test fftw 库编译的时候使用的是 intel 编译器, 使用的时候最好使用对应编译器, 可以降低编译的复杂度

24 函数库的使用方法二 : 使用编译器 -lxxx 参数, 表示在指定库函数路径下搜索名为 libxxx.so 或 libxxx.a 的库文件 $ icc -c fftw_test.c -I/WORK/app/fftw/3.3.4/include -o fftw_test.o $ icc fftw_test.o -L/WORK/app/fftw/3.3.4/lib -lfftw3 -o fftw_test $ yhrun -n 1 -p training./fftw_test

25 函数库的使用方法二 : 使用编译器 -lxxx 参数, 表示在指定库函数路径下搜索名为 libxxx.so 或 libxxx.a 的库文件按优先级从高到低搜索以下路径 -L 指定的搜索路径, 可多次指定,-L<path1> -L<path2> LIBRARY_PATH( 静态库 ) LD_LIBRARY_PATH( 动态库 ) 环境变量指定路径系统配置文件 /etc/ld.so.conf 中指定的动态库搜索路径系统的 /lib(64) /usr/lib(64) 等库文件目录如果在库函数路径下同时有静态库和动态库, 会选择动态库

26 函数库的生成静态库的生成编译子函数源代码, 得到目标文件 $ gcc -c func1.c $ gcc -c func2.c 使用 ar 命令打包目标文件, 产生静态库 $ ar cr libtest.a func1.o func2.o /* func12.h */ int mysum(int i, int j); int mysub(int i, int j); /* func1.c */ int mysum(int i, int j) { return i+j; } /* func2.c */ int mysub(int i, int j) { return i-j; }

27 函数库的生成动态库的生成使用 fpic 参数编译子函数源代码 $ gcc -c -fpic func1.c $ gcc -c -fpic func2.c 使用 shared 参数产生动态库 $gcc -o libtest2.so -shared func1.o func2.o /* func12.h */ int mysum(int i, int j); int mysub(int i, int j); /* func1.c */ int mysum(int i, int j) { return i+j; } /* func2.c */ int mysub(int i, int j) { return i-j; }

28 编译 : $ gcc -c main.c 使用静态库 : $ gcc main.o -L. -ltest $ yhrun -n 1 -p training./a.out 使用动态库 : $ gcc main.o -L. -ltest2 $ ldd a.out $ yhrun -n 1 -p training./a.out #include <stdio.h> #include "func12.h" int main(int argc, char* argv[]) { int i, j, k; i = 1; j = 2; k = 0; printf("i = %d, j = %d\n", i, j); k = mysum(i, j); printf("i+j = %d\n", k); k = mysub(i, j); printf("i-j = %d\n", k); return 0; }

29 程序的执行运行方式 $./hello.run $ yhrun -n 1 -p training./hello.run 过程权限检查载入动态库, 搜索路径优先级 ( 从高到低 ): LD_LIBRARY_PATH 环境变量指定的路径配置文件 /etc/ld.so.conf 中指定的动态库搜索路径系统的 /lib(64) /usr/lib(64) 等库文件目录

30 程序的执行权限检查

31 程序的执行动态库加载当程序运行时, 提示某个库找不到, 只需要找到库所在的文件夹, 然后把这个文件夹的路径加到 LD_LIBRARY_PATH 环境变量中

32 程序的执行 LD_LIBRARY_PATH 环境变量手动添加路径 : $ export LD_LIBRARY_PATH=/WORK/app/fftw/3.3.4/lib:$LD_LIBRARY_PATH 使用配置文件 :.bashrc 使用 module load $ module load fftw/3.3.4-default

33 module 的使用环境变量管理工具 module 通过配置 modulefile 支持环境变量的动态修改, 能够控制软件不同版本对环境变量的依赖关系通常主要修改 $PATH 和 $LD_LIBRARY_PATH 两个环境变量 module avail: 查看可用的模块的列表 module display [modulesfile] : 显示模块的相关内容 module load [modulesfile]: 能够加载需要使用的 modulefiles

34 使用 yhbatch 提交作业 yhrun 的限制需要保持连接只能完成简单的工作流 yhbatch 提交批处理作业, 推荐使用 yhbatch N 2 p training./job.sh Bash 脚本

35 Bash 脚本 Bash: Bourne Again Shell, GNU Project 大多数 Linux 发行版的默认 Shell Bash 的执行方式交互式 :Linux 终端登录后, 即进入交互式的执行环境脚本方式

36 Bash 脚本脚本方式将一些 Bash 语句写在文本文件中, 批量执行在新的子 Shell 中运行 : bash test.sh./test.sh 不开启子 Shell, 在当前 Shell 中运行 : source test.sh. test.sh

37 Bash 脚本一个简单的脚本第一行 #!/bin/bash 是声明, 使用 bash shell 执行脚本, 其他地方使用 # 是注释变量程序主体脚本返回值

38 Bash 脚本 Bash 的变量变量定义查看清除 var=value # 注意 = 号前后无空格, 不需要声明类型 echo $var unset var 全局变量子 Shell 会继承 export var=value

39 Bash 脚本 Bash 的变量系统变量 HOSTNAME HOME echo $VARNAME 特殊变量变量名含义 $? 前一个命令的退出状态, 正常退出返回 0, 异常退出返回非 0 值 $# 脚本或函数位置参数的个数 $0 脚本或函数的名称 $1, $2, 传递给脚本或函数的位置参数

40 Bash 脚本主体完成脚本功能的命令和语法判断循环 yhrun 重定向 yhbatch n 1 p training job.sh

41 Bash 脚本主体重定向 Linux 默认的三个 I/O 通道 : stdin( 标准输入, 文件描述符 :0) 默认是键盘 stdout( 标准输出, 文件描述符 :1) 默认是终端 stderr( 标准错误, 文件描述符 :2) 默认是终端 < 重定向 stdin 到文件 > 重定向 stdout 到文件 ( 新建或覆盖 ) >> 重定向 stdout 到文件 ( 追加 ) 2> 重定向 stderr 到文件 ( 新建或覆盖 ) 2>> 重定向 stderr 到文件 ( 追加 ) 2>&1 重定向 stderr 到 stdout >& 重定向 stdout 和 stderr 到文件

42 内容目录一.Linux 常用编译器简介 1.1 GCC Intel 二. 简单程序编译和执行 2.1 程序的编译流程 2.2 函数库的使用和生成 2.3 程序的执行 2.4 module 的使用 2.5 yhbatch 和简单 bash 脚本三. 并行程序的编译运行 3.1 OpenMP 和 MPI 程序设计介绍 3.2 OpenMP 和 MPI 程序的编译和运行四.Make 工具介绍 4.1 Make 工具的作用 4.2 基本规则 4.3 Makefile 的产

43 并行编程模型并行编程模型特征消息传递共享存储数据并行典型代表 MPI,PVM OpenMP,Pthreads, Cilk 并行粒度进程级大粒度线程级细粒度进程级细粒度数据存储模式分布式存储共享存储共享存储 HPF 学习入门难度较难容易偏易可扩展性好差一般指令级的并行混合使用并行计算导论清华大学出版社张林波等

44 用高速网络把大量的结点连接在一起, 每个结点都是一个共享内存体系高速网络 CPU #1 CPU #2 CPU #1 CPU #2 CPU #1 CPU #2 Memory Memory Memory 结点 : 共享内存体系

$h> int main (int argc, char *argv[]) { int tid=-1; #pragma omp parallel { tid = omp_get_thread_num(); printf("%d : Hello World!$

45 OpenMP 共享内存式多线程并行支持 C C++ Fortran 编译器制导, 由编译器提供支持组成部分 : 编译器制导指令运行时库函数环境变量 export OMP_NUM_THREADS=4 #include <stdio.h> #include <omp.h> int main (int argc, char *argv[]) { int tid=-1; #pragma omp parallel { tid = omp_get_thread_num(); printf("%d : Hello World!\n", tid); } return 0; }

46 OpenMP 程序的编译 OpenMP 通过编译器支持, 编译时使用恰当的编译参数即可常用编译器的 OpenMP 编译参数 GCC 编译器 : $ gcc -fopenmp omp.c -o omp.run Intel 编译器 $ icc -openmp omp.c -o omp.run

47 OpenMP 程序的编译当参数使用不当时, 编译器提示错误 : $ icc -c omp.c -o omp.o $ icc omp.o -o omp.run

48 OpenMP 程序的运行只能够单结点运行正确设置环境变量 $ export OMP_NUM_THREADS=8 $ export KMP_AFFINITY = scatter #none/scatter/compact 运行方式跟普通串行程序类似 : $./omp.run $ yhrun -n 1 -p training omp.run 使用 yhbatch 提交

49 MPI 消息传递模型 PVM MPI MPICH IntelMPI Open MPI 并行编程模型标准 / 规范 (specialist) 实现 (implementation/library) MPI (Message-Passing Interface) 是消息传递并行模型的一套规范用户编写程序的时候只需要学习 MPI 标准接口, 不用关心具体的实现

50 MPI 程序编译环境传统语言 (C,Fortran,C++) 编译器 + 符合 MPI 标准的库 Intel + IMPI( Intel MPI) Intel+MPICH GCC+MPICH

$h" int main(int argc, char **argv) { MPI_Init(&argc, &argv); printf("hello world!$

51 Hello world #include <stdio.h> #include "mpi.h" int main(int argc, char **argv) { MPI_Init(&argc, &argv); printf("hello world!\n"); } MPI_Finalize(); << 高性能计算之并行编程技术 MPI 并行程序设计 >> 都志辉等

52 Hello world! // filename: mpi_hello.c #include <stdio.h> #include mpi.h int main(int argc, char *argv[]) { int MyID, NumProcess, NameLen; // MPI_MAX_PROCESSOR_NAME Maximun computer name char Processor_Name[MPI_MAX_PROCESSOR_NAME]; // MPI program starts MPI_Init(&argc, &argv); MPI_Comm_rank(MPI_COMM_WORLD, &MyID); // Tag of current process MPI_Comm_size(MPI_COMM_WORLD, &NumProcess); // Total number of processes MPI_Get_processor_name(Processor_Name, &NameLen); // Computer name of current process printf("process No.%d of %d on %s \n\n", MyID, NumProcess, Processor_Name); // MPI program ends MPI_Finalize(); } return 0;

53 MPI 程序编译 GCC + MPICH Intel + MPICH Intel + IMPI C mpicc mpicc mpiicc C++ mpicxx mpicxx mpiicpc Fortran mpif77/mpif90 mpif77/mpif90 mpiifort $ mpicc -c mpi_hello.c -o mpi_hello.o $ mpicc mpi_hello.o -o mpi_hello.run $ which mpicc $ mpicc -show

54 MPI 程序的运行使用的动态库 : $ ldd mpi_hello.run 可以单结点运行, 也可以多节点运行 MPI 程序启动器常见 MPI 实现都会提供 MPI 程序的启动器 mpirun, mpiexec

55 MPI 程序的运行运行的时候需要指定进程数和运行的结点列表直接指定节点列表 $ mpirun -np 4 -machinefile nlist./mpi_hello.run 调度软件提供结点列表, 如 PBS,slurm $ mpirun -np 4./mpi_hello.run nlist cn10010 cn10010 cn10923 cn10923 cn1093

56 MPI 程序的运行天河二号上运行直接使用 yhrun 运行 $yhrun -n 4 -p training./mpi_hello.run 使用 yhbatch 提交作业 $ yhbatch -N 1 -p training./job.sh #!/bin/bash yhrun -n 4./mpi_hello.run

57 << 高性能计算之并行编程技术 MPI 并行程序设计 >> 都志辉等

58 内容目录一.Linux 常用编译器简介 1.1 GCC Intel 二. 简单程序编译和执行 2.1 程序的编译流程 2.2 函数库的使用和生成 2.3 程序的执行 2.4 module 的使用 2.5 yhbatch 和简单 bash 脚本三. 并行程序的编译运行 3.1 OpenMP 和 MPI 程序设计介绍 3.2 OpenMP 和 MPI 程序的编译和运行四.Make 工具介绍 4.1 Make 工具的作用 4.2 基本规则 4.3 Makefile 的产

59 Make 工具开发较大的项目时, 需要使用很多的源文件和库, 手工编译将十分困难和耗时源文件经过修改后, 需要重新编译链接在 Linux 系统中, 一般使用 make 工具来自动维护目标文件 make 工具的优点在于它只重新编译修改过的源文件, 而没有修改过的源文件则不作处理还有一些简化操作的隐式规则和通配符

60 Make 工具调用命令 GNU Make 的主要工作是读进一个文本文件, 并根据这个文本文件中的规则执行相应的编译链接命令 make ( 默认使用 Makefile 或 makefile) make -f mymakefile( 指定 makefile)

61 Make 工具 Makefile 文件 make 工具会根据 Makefile 的内容进行编译链接 Makefile 由规则组成, 每一条规则由三部分组成 : 目标依赖文件列表命令 object : dependency \tab commands # 注意 : 行首这里是一个 tab, 不是空格

62 简单例子 $ gcc -c hello_main.c -o hello_main.o $ gcc -c hello_sub.c -o hello_sub.o $ gcc hello_main.o hello_sub -o hello.run Makefile 文件内容 : # First example for make hello.run : hello_main.o hello_sub.o gcc hello_main.o hello_sub.o -o hello.run hello_main.o : hello_main.c gcc -c hello_main.c -o hello_main.o hello_sub.o : hello_sub.c gcc -c hello_sub.c -o hello_sub.o hello_main.c #include<stdio.h> int main(int argc, char* argv[]) { sayhello(); return 0; } hello_sub.c #include<stdio.h> int sayhello() { } printf("hello\n"); return 0;

63 Make 工具使用 make 命令 : $ make hello.run gcc -c hello_main.c -o hello_main.o gcc -c hello_sub.c -o hello_sub.o gcc hello_main.o hello_sub.o -o hello.run 运行 make 时, 可以接一目标名 ( 如 :make hello_sub.o) 作为参数, 表示要处理的目标如没有指定, 则处理第一个目标编译完成后, 如果只修改了 hello_sub.c, 执行 make, 只重新编译 hello_sub.c, 不会重新编译 hello_main.c

64 Make 工具 make 工具执行非编译任务 # First example for make hello.run : hello_main.o hello_sub.o gcc hello_main.o hello_sub.o -o hello.run hello_main.o : hello_main.c gcc -c hello_main.c -o hello_main.o hello_sub.o : hello_sub.c gcc -c hello_sub.c -o hello_sub.o clean : rm -f hello.run *.o 执行 make clean, 将删除目标文件和 hello.run $ make clean

65 Make 工具 Makefile 使用变量, 定义后可以在后面引用变量定义格式 : 变量名 = 变量的值, 如 :OBJS = main.o sub.o 变量的使用 $( 变量名 ), 如 :$(OBJS)

66 Make 工具 Makefile 使用变量 # First example for make EXE = hello.run OBJS = hello_main.o hello_sub.o CC = gcc $(EXE) : $(OBJS) $(CC) $(OBJS) -o $(EXE) hello_main.o : hello_main.c $(CC) -c hello_main.c -o hello_main.o hello_sub.o : hello_sub.c $(CC) -c hello_sub.c -o hello_sub.o clean : rm -f $(EXE) $(OBJS)

67 Make 工具编译开源软件库./configure [options] make make install cmake /path/of/the/cmakelist/ make make install

Slide 1

基本编译和纠错吴宏文 hongwenwu@cn.ibm.com IBM STG Lab Services and Training 1 目录 AIX 上编译介绍 MPI 编译运行介绍一般程序的纠错 2 一般编译过程源文件 source 编译目标文件 object 连接可执行文件 exe 执行 3 一般编译过程 Unix 系统中, 可执行文件没有统一的后缀, 系统从文件的属性来区分可执行文件和丌可执行文件