GROMACS

Deskripsi

GROMACS adalah package berkecepatan tinggi untuk komputasi dinamika molekular baik untuk biokimia (seperti protein, lipids) maupun non-biokimia (seperti polimer).

Versi yang Tersedia

Versi	Nama Modul	Dukungan MPI	Dukungan Hardware	Partisi
2021.1	gromacs	Hybrid MPI/OMP	CPU-GPU, parallel multi-node	epyc, gpu_ampere

Menjalankan Perintah GROMACS di Login Node

Beberapa perintah GROMACS bekerja secara interaktif dan membutuhkan input dari user (contoh: pdb2gmx, grompp) sehingga tidak dapat dijalankan melalui manajemen SLURM. Beberapa perintah tersebut hanya membutuhkan resource yang kecil dan dapat dilakukan langsung di login node melalui terminal.

Sebelum melakukan perintah-perintah interaktif GROMACS, load module GROMACS:

$ module load gromacs

Lanjutkan dengan melakukan perintah interaktif GROMACS (contoh: pdb2gmx):

$ gmx_mpi pdb2gmx <parameter_input_dan_output>

Perintah-perintah GROMACS yang membutuhkan resource komputasi berat (contoh: mdrun), harus dijalankan melalui manajemen SLURM.

Contoh SLURM Script

User harus menggunakan manajemen SLURM untuk menjalankan komputasi GROMACS di Compute Node. User dapat menjalankan GROMACS dengan satu node atau paralel (lebih dari satu node) untuk performa lebih kencang.

Satu Node CPU

Contoh berikut untuk menjalankan GROMACS pada satu node CPU.

#!/bin/bash

#SBATCH --ntasks=64               # Contoh menggunakan 64 core CPU
#SBATCH --mem=128GB               # Contoh menggunakan RAM 128GB
#SBATCH --time=10:00:00           # Contoh menetapkan walltime maks 10 jam
#SBATCH --output=result-%j.out    # Output terminal program
#SBATCH --error=result-%j.err     # Output verbose program

# Memuat modul GROMACS
module load gromacs

# RUN COMMAND
# mpirun wajib menggunakan flag protokol UCX

mpirun -np $SLURM_NTASKS --mca pml ucx --mca osc ucx gmx_mpi mdrun <parameter_input_dan_output>

Multi Node CPU

Contoh berikut untuk menjalankan GROMACS pada lebih dari satu node CPU.

#!/bin/bash

#SBATCH --nodes=2                 # Contoh menggunakan 2 node ...
#SBATCH --ntasks-per-node=64      # dengan 64 core per node.
                                  # Maka dari itu total menggunakan 128 core CPU
#SBATCH --mem=128GB               # Contoh menggunakan RAM 128GB per node
#SBATCH --time=10:00:00           # Contoh menggunakan walltime maks 10 jam
#SBATCH --output=result-%j.out    # Output terminal program
#SBATCH --error=result-%j.err     # Output verbose program

# Memuat modul GROMACS
module load gromacs

# RUN COMMAND
# mpirun wajib menggunakan flag protokol UCX
# SLURM_NTASKS menangkap total proses MPI (nodes * ntasks-per-node)

mpirun -np $SLURM_NTASKS --mca pml ucx --mca osc ucx gmx_mpi mdrun <parameter_input_dan_output>

Akselerasi Satu GPU di GPU Node

User juga dapat menjalankan pekerjaan di GPU node menggunakan resource GPU. Perlu diketahui tidak semua input dan parameter berjalan kencang dengan akselerasi GPU. Harap user dapat menguji terlebih dahulu mdrun-nya dengan nsteps kecil untuk mengetahui peningkatan performa yang bisa diperoleh melalui akselerasi GPU. Perlu diketahui pula akselerasi GPU umumnya hanya bisa berjalan dengan hybrid OpenMP.

Biasanya, GROMACS mdrun tidak memerlukan parameter tambahan untuk menjalankan akselerasi GPU. Namun dalam beberapa kasus, optimasi menggunakan parameter tambahan bisa berpengaruh positif ke kecepatan komputasi. Referensi mengenai parameter akselerasi GPU lanjutan (-nb, -bonded, -pme) dapat dibaca di laman Getting good performance from mdrun — GROMACS 2021.1 documentation dan Creating Faster Molecular Dynamics Simulations with GROMACS 2020 | NVIDIA Developer Blog.

Berikut adalah contoh SLURM script dengan penggunaan 1 GPU.

#!/bin/bash

#SBATCH --partition=gpu_ampere    # Menggunakan Compute Node GPU.
#SBATCH --ntasks=32               # Contoh menggunakan 32 core CPU ...
#SBATCH --gres=gpu:1              # dengan 1 GPU.
#SBATCH --mem=48GB                # Contoh menggunakan RAM 48GB.
#SBATCH --time=10:00:00           # Contoh menetapkan walltime maks 10 jam.
#SBATCH --output=result-%j.out    # Output terminal program.
#SBATCH --error=result-%j.err     # Output verbose program.

# Memuat modul GROMACS
module load gromacs

# RUN COMMAND
# Definisikan jumlah thread OpenMP menyesuaikan ntasks
export OMP_NUM_THREADS=${SLURM_NTASKS}

gmx_mpi mdrun <parameter_input_dan_output>

Akselerasi Banyak GPU di GPU Node dan Hybrid MPI/OMP

User dapat menggunakan lebih dari satu GPU dengan paralelisme hybrid MPI dan OpenMP. Terdapat beberapa aturan mengenai hybrid MPI/OMP dari software GROMACS:

• Jumlah thread OMP maksimal adalah 6 thread OMP per MPI.
• Jumlah core CPU yang dipakai (ntasks) mengikuti perumusan:

ntasks = jumlah GPU yang dipakai * jumlah thread OMP per MPI yang dipilih user

Terdapat rekomendasi dari admin EFISON supaya dapat menghasilkan performa terbaik:

• Sangat dianjurkan untuk hanya menggunakan 1 proses MPI per unit GPU untuk mencegah penurunan performa sehingga dapat dirumuskan:

Jumlah proses MPI = jumlah GPU yang digunakan

Berikut adalah contoh SLURM script dengan penggunaan 2 GPU dimana user memilih untuk menggunakan 4 thread OMP per MPI.

#!/bin/bash

#SBATCH --partition=gpu_ampere    # Menggunakan Compute Node GPU.
#SBATCH --ntasks=8                # Pada contoh ini, user menggunakan 4 thread OMP per MPI ...
                                  # sehingga ntasks = 2 GPU * 4 OMP = 8
#SBATCH --gres=gpu:2              # Menggunakan 2 GPU.
#SBATCH --mem=48GB                # Contoh menggunakan RAM 48GB.
#SBATCH --time=10:00:00           # Contoh menetapkan walltime maks 10 jam.
#SBATCH --output=result-%j.out    # Output terminal program.
#SBATCH --error=result-%j.err     # Output verbose program.

# Memuat modul GROMACS
module load gromacs

# Set nilai OMP
export OMP_NUM_THREADS=4

# PERINTAH SPESIFIK UNTUK OPENMPI DI PARTITION gpu_ampere
# Tanpa unset, proses MPI tidak akan berjalan di partition gpu_ampere
unset UCX_TLS
unset UCX_NET_DEVICES

# RUN COMMAND
# Jumlah mpirun = jumlah GPU yang dipakai

mpirun -np 2 --mca pml ucx --mca osc ucx gmx_mpi mdrun <parameter_input_dan_output>