뉴론 lammps-16Mar18 (GPU 버전) 설치

KISTI 슈퍼컴퓨터센터의 장비에 lammps-16Mar18 source 버전으로 설치 하는 방법에 대하여 소개 한다.

1. 설치 환경

구분	내용
대상 시스템	뉴론
OS Version	리눅스 / CentOS 7.4
CPU	Intel Xeon E5-2670 v2
컴파일러	Intel 2018 Version
MPI	Mvapich2 2.3 Version
기타	Intel MKL Math Library, CUDA 10.0

2. 설치 전 환경 설정

KISTI 시스템은 PATH, LD_LIBRARY_PATH 등을 쉽게 하기 위하여 OpenSource 인 Environment Modules(http://modules.sourceforge.net)이 구성되어 있고, 이하 설치 소개 에서는 module load를 이용한 환경 설정 방법을 이용한다. 

[ 환경 설정 ]

$ module load intel/18.0.2 cuda/10.0 cudampi/mvapich2-2.3

3. 설치 과정

 설치 과정 소개는 tar 를 이용한 압축 해제 방법과 설정 방법등 진행 절차를 위주로 설명하고, 소스 파일 다운로드 등은 생략한다. 

 (1) VORO++ 설치 (다운로드 : http://math.lbl.gov/voro++/download/)

VORONOI 패키지 설치를 위한 voro++를 우선 설치한다. 

설치과정
$ tar xvf voro++-0.4.6.tar.gz $ cd voro++-0.4.6 $ mkdir -p ${HOME}/build/library $ vi config.mk  ----- 수정 사항은 아래의 내용 참고 ----- $ make $ make install

[config.mk 수정 사항]

CXX=mpicxx CFLAGS= -Wall -ansi -pedantic -O3 -fPIC E_INC= -I../../src E_LIB= -L../../src PREFIX= ${HOME}/build/library INSTALL= install IFLAGS_EXEC= -m 0755 IFLAGS= -m 0644

 (2) LATTE 설치 (다운로드 : https://github.com/lanl/LATTE/releases)

LATTTE 패키지 설치를 위한 Latte 라이브러리를 우선 설치한다.

다운로드 받은 파일을 적당한 위치($HOME/build)에 올린 후 다음과 같은 명령으로 압축 묶음 파일을 푼다.

설치과정
$ cd ${HOME}/build $ tar xvf LATTE-1.2.1.tar.gz $ cd LATTE-1.2.1 $ vi makefile.CHOICES  ----- 수정 사항은 아래의 내용 참고 ----- $ make

[makefile.CHOICES 수정 사항]

# # CPU Fortran options #   #For GNU compiler: #FC = mpif90 #FC = gfortran #FCL = $(FC) #FFLAGS = -O3 -fopenmp -cpp #FFLAGS = -fast -Mpreprocess -mp #LINKFLAG = -fopenmp   #For intel compiler: FC = ifort FCL = $(FC) FFLAGS = -O3 -fpp -qopenmp LINKFLAG = -qopenmp #LIB = -mkl=parallel #GNU BLAS/LAPACK libraries: LIB = -llapack -lblas   #Intel MKL BLAS/LAPACK libraries: LIB = -Wl,--no-as-needed -L${MKLROOT}/lib/intel64 \ -lmkl_lapack95_lp64 -lmkl_gf_lp64 -lmkl_gnu_thread -lmkl_core \ -lmkl_gnu_thread -lmkl_core -ldl -lpthread -lm   #Alternative flags for MKL: LIB += -mkl=parallel # # GPU options #   GPU_CUDA_LIB = -L/apps/cuda/10.0/lib64 -lcublas -lcudart GPU_ARCH = sm_35 GPU_ARCH = sm_70

 (3) 라이브러리 패키지 설치

LAMMPS 홈페이지(http://lammps.sandia.gov/index.html)로부터 다운로드 받은 파일을 적당한 위치($HOME/build)에 올린 후 다음과 같은 명령으로 압축 묶음 파일을 푼다.

$ tar xvf lammps-16Mar18.tar.gz

 (3-1) voronoi 설치

(1)에서 설치한 voro++ 설치 디렉토리를 지정해 준다.

lammps 압축 해제후 lammps-16Mar18 폴더로 이동하여 아래의 작업을 진행한다.

설치과정
$ cd lammps-16Mar18 $ cd lib/voronoi $ ln -s ${HOME}/build/library/include/voro++ includelink $ ln -s ${HOME}/build/library/lib liblink $ cd ../../

 (3-2) poems 설치

설치과정
$ cd lib/poems $ make -f Makefile.icc $ cd ../../

 (3-3) meam 설치

설치과정
$ cd lib/meam $ vi Makefile.lammps.ifort ----- 수정 사항은 아래의 내용 참고 ----- $ make -f Makefile.ifort $ cd ../../

[Makefile.lammps.ifort 수정 사항]

meam_SYSINC= meam_SYSLIB= meam_SYSPATH=

 (3-4) awpmd 설치

설치과정
$ cd lib/awpmd $ vi Makefile.lammps.installed ----- 수정 사항은 아래의 내용 참고 ----- $ make -f Makefile.mpicc $ cd ../../

[Makefile.lammps.installed 수정 사항]

user-awpmd_SYSINC = user-awpmd_SYSLIB = user-awpmd_SYSPATH =

 (3-5) atc 설치

설치과정
$ cd lib/atc $ vi Makefile.lammps.installed ----- 수정 사항은 아래의 내용 참고 ----- $ vi Makefile.lammps.linalg ----- 수정 사항은 아래의 내용 참고 ----- $ make -f Makefile.mpic++ $ cd ../../

[Makefile.lammps.installed 수정 사항]

user-atc_SYSINC = user-atc_SYSLIB = user-atc_SYSPATH =

[Makefile.lammps.linalg 수정 사항]

user-atc_SYSINC = user-atc_SYSLIB = -llinalg user-atc_SYSPATH = -L../../lib/linalg$(LIBOBJDIR)

 (3-6) linalg 설치

설치과정
$ cd lib/linalg $ cp -p Makefile.gfortran Makefile.ifort $ vi Makefile.ifort ----- 수정 사항은 아래의 내용 참고 ----- $ make -f Makefile.ifort $ cd ../../

[Makefile.ifort 수정 사항]

FC = ifort FFLAGS = -O3 -fPIC FFLAGS0 = -O0 -fPIC

 (3-7) reax 설치

설치과정
$ cd lib/reax $ make -f Makefile.ifort $ cd ../../

 (3-8) latte 설치

설치과정
$ cd lib/latte $ ln -s ${HOME}/build/LATTE-1.2.1/src includelink $ ln -s ${HOME}/build/LATTE-1.2.1 liblink $ ln -s ${HOME}/build/LATTE-1.2.1/src/latte_c_bind.o filelink.o $ vi Makefile.lammps.mpi ----- 수정 사항은 아래의 내용 참고 -----  $ cd ../../

[Makefile.lammps.mpi 수정 사항]

latte_SYSINC = latte_SYSLIB = ../../lib/latte/filelink.o -llatte -llinalg -lifport latte_SYSPATH = -L../../lib/linalg -qopenmp

 (3-9) gpu 설치

설치과정
$ cd lib/gpu $ vi Makefile.linux ----- 수정 사항은 아래의 내용 참고 -----  $ vi Makefile.mpi ----- 수정 사항은 아래의 내용 참고 -----  $ make -f Makefile.linux $ ./nvc_get_devices $ cd ../../

[Makefile.linux 수정 사항]

CUDA_HOME = /apps/cuda/10.0 # Tesla CUDA CUDA_ARCH = -arch=sm_70 #CUDA_ARCH = -arch=sm_10 -DCUDA_PRE_THREE #CUDA_ARCH = -arch=sm_35

[Makefile.mpi 수정 사항]

CUDA_HOME = /apps/cuda/10.0 # Tesla CUDA CUDA_ARCH = -arch=sm_70 #CUDA_ARCH = -arch=sm_10 -DCUDA_PRE_THREE #CUDA_ARCH = -arch=sm_35 include /home01/optpar05/build/lammps-16Mar18/lib/gpu/Makefile.mpi

 (4) LAMMPS 설치

lammps 설치 디렉토리(${HOME}/build/lammps-16Mar18) 아래 src 폴더로 이동한다.

 - package 선택 및 설치

사용하는 사용자의 연구내용에 맞추어 필요한 package를 선택하여 설치한다. 여기서는 기본적으로 많이 사용되는 package를 위주로 설치하였다.

설치과정
$ cd src $ make package-status $ make yes-standard $ make no-kim $ make no-KOKKOS $ make no-MSCG $ make no-PYTHON $ make yes-GPU $ make yes-USER-ATC $ make yes-USER-AWPMD $ make yes-USER-MEAMC $ make yes-USER-MISC $ make yes-USER-OMP $ make yes-USER-REAXC $ make package-status $ vi MAKE/Makefile.mpi -- 수정 사항은 아래 내용 참고 -- $ vi Makefile.package.settings -- 수정 사항은 아래 내용 참고 -- $ make mpi		package 선택 확인  standard package 선택  standard package 중 kim package 제외  standard package 중 KOKKOS package 제외  standard package 중 MSCG package 제외  standard package 중 PYTHON package 제외  package 선택 확인

[MAKE/Makefile.mpi 수정 사항]

CC =        mpicxx OPTFLAGS = -O3 -fp-model fast=2 -no-prec-div -qoverride-limits CCFLAGS =   -qopenmp -qno-offload -fno-alias -ansi-alias -restrict \ -DLMP_INTEL_USELRT -DLMP_USE_MKL_RNG $(OPTFLAGS) CCFLAGS += -I/apps/compiler/intel/18.0.2/mkl/include/ -lmkl_rt -I/${HOME}/build/library/include/voro++ \ -I/apps/cuda/10.0/include SHFLAGS =   -fPIC DEPFLAGS =  -M LINK =      mpicxx LINKFLAGS = -qopenmp $(OPTFLAGS) LIB = -L/apps/cuda/10.0/lib64 -lcudart -lcuda -L/apps/compiler/intel/18.0.2/lib/intel64 -lifport SIZE =      size ARCHIVE =   ar ARFLAGS =   -rc SHLIBFLAGS =    -shared FFT_INC =       -DFFT_MKL -DFFT_SINGLE FFT_PATH = FFT_LIB =   -L${MKLROOT}/lib/intel64/ -lmkl_intel_ilp64 -lmkl_sequential -lmkl_core

[Makefile.package.settings 수정 사항]

include ../../lib/awpmd/Makefile.lammps include ../../lib/atc/Makefile.lammps include ../../lib/gpu/Makefile.mpi include ../../lib/voronoi/Makefile.lammps include ../../lib/reax/Makefile.lammps include ../../lib/poems/Makefile.lammps include ../../lib/meam/Makefile.lammps include ../../lib/latte/Makefile.lammps.mpi include ../../lib/compress/Makefile.lammps

4. 실행 파일 복사

 설치가 완료되면 사용에 편의를 위해 bin 경로를 만들어 실행 파일인 lmp_mpi를 bin 경로에 복사한다.(선택사항)

$ ls -l lmp_mpi $ cd ${HOME}/build/lammps-16Mar18/ $ mkdir bin $ cp ${HOME}/build/lammps-16Mar18/src/lmp_mpi .

5. 뉴론에서 LAMMPS 사용을 위한 SLURM 작업 스크립트 예제

 위의 과정을 거처 설치된 lammps는 뉴론 환경에서 다음과 같이 실행이 가능하다.

뉴론에서 작업을 제출하기 위해서는 SLURM 작업 스크립트를 사용하여야 한다.

 

실행 예제로는 examples/meam 아래의 데이터를 이용하였다.

작업스크립트 예제(lammps_test-run.sh)
#!/bin/sh #SBATCH -J test #SBATCH -p ivy_v100_2 #SBATCH -N 1 #SBATCH -n 10 #SBATCH -o %x_%j.out #SBATCH -e %x_%j.err #SBATCH -t 00:30:00 #SBATCH --gres=gpu:2 #SBATCH --comment lammps module load intel/18.0.2 cuda/10.0 cudampi/mvapich2-2.3 ulimit -s unlimited export PATH=${HOME}/build/lammps-16Mar18:$PATH srun lmp_mpi -sf gpu -pk gpu 2 -in peri/in.peri