GROMACS

GROMACS adalah package berkecepatan tinggi untuk komputasi dinamika molekular baik untuk biokimia (seperti protein, lipids) maupun non-biokimia (seperti polimer).

Modul GROMACS

Berikut adalah detail versi GROMACS yang tersedia secara global di ALELEON Supercomputer:

Modul GROMACS versi CPU
Versi	Nama modul software	Dukungan hardware
Versi	Nama modul software	CPU	GPU	OMP Threading	MPI multi-node
2021.1	gromacs/2021.1-GCC10-MKL	V	-	-	V

Modul GROMACS versi GPU
Versi	Nama modul software	Dukungan hardware
Versi	Nama modul software	CPU	GPU	OMP Threading	MPI multi-node
2022.4	gromacs/2022.4-GCC11.3-AOCL4.0-CUDA11.8	V	V	V	V

Info Menjalankan GROMACS dengan Akselerasi GPU

ALELEON Supercomputer menyediakan GROMACS yang dapat berjalan dengan akselerasi GPU. Beberapa hal yang perlu diketahui dan menjadi pertimbangan user:

Tidak semua input dan parameter berjalan kencang dengan akselerasi GPU.
- Harap user dapat menguji terlebih dahulu dengan nsteps kecil untuk mengetahui peningkatan performa yang bisa diperoleh melalui akselerasi GPU.
- Perhatikan bahwa pengujian tersebut menggunakan kredit CPU Core Hour dan GPU Hour user.

Biasanya, GROMACS mdrun tidak memerlukan parameter tambahan untuk menjalankan akselerasi GPU. Namun dalam beberapa kasus, optimasi menggunakan parameter tambahan bisa berpengaruh positif ke kecepatan komputasi.
Referensi mengenai parameter akselerasi GPU lanjutan (-nb, -bonded, -pme) dapat dibaca di laman:
- Getting good performance from mdrun — GROMACS 2021.1 documentation
- Creating Faster Molecular Dynamics Simulations with GROMACS 2020 | NVIDIA Developer Blog.

Menjalankan GROMACS

User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO (klik expand atau kembangkan).

Opsi Menggunakan terminal (SLURM sbatch)

Langkah Menjalankan GROMACS di Terminal

0

Login SSH

Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.

1

Menyiapkan File Komputasi

Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:

File input dan data komputasi.
- User dapat upload / download file ke ALELEON dengan software FTP.

Menyiapkan Input Parameter GROMACS

User harus membuat input parameter GROMACS supaya komputasi dapat berjalan:

Beberapa perintah bersifat interaktif sehingga harus dilakukan sebelum submit job.
Berikut adalah langkah membuat input parameter GROMACS:

Langkah Menyiapkan Input Parameter
1	Aktifkan GROMACS dengan memuat modul versi GROMACS yang akan digunakan. $ module load <nama-modul-software-GROMACS> Nama modul lihat subbab Modul GROMACS di atas.
2	Buat parameter GROMACS dengan perintah `gmx_mpi`. Contoh menggunakan pdb2gmx: $ gmx_mpi pdb2gmx <parameter_input_dan_output>

2

Berikutnya buat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.

Nama script bebas dengan format file .sh (bash), contoh my_job_submission.sh

$ nano my_job_submission.sh

3

Template SLURM Submit Script GROMACS

Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.

Template SLURM Submit Script untuk GROMACS versi CPU

#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (versi CPU) | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"

# Memuat modul software GROMACS versi CPU
# Daftar modul lihat subbab "Modul GROMACS" di atas 
module load gromacs////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Perintah menjakankan GROMACS
mpirun -np ${SLURM_NTASKS} gmx_mpi mdrun ${GROMACS_PARAMETER}

Template SLURM Submit Script untuk GROMACS dengan 1 GPU

#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (dengan akselerasi 1 GPU) | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Disarankan untuk tidak mengubah jumlah parameter
#    ntasks, gpus, mem, dan OMP untuk hasil optimal.
#
#    Template ini menggunakan rate komputasi 
#    64 CCH/jam dan 1 GH/jam.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=8

# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=8

# Alokasi jumlah GPU
#SBATCH --gpus=1

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=16GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"

# Memuat modul software GROMACS versi GPU
# Daftar modul lihat subbab "Modul GROMACS" di atas 
module load gromacs////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}

# Perintah menjalankan GROMACS
gmx_mdi mdrun ${GROMACS_PARAMETER}

Template SLURM Submit Script untuk GROMACS dengan 2 GPU

#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (dengan akselerasi 2 GPU) | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Disarankan untuk tidak mengubah jumlah parameter
#    ntasks, gpus, mem, dan OMP untuk hasil optimal.
#
#    Template ini menggunakan rate komputasi 
#    32 CCH/jam dan 2 GH/jam.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=8

# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=4

# Alokasi jumlah GPU
#SBATCH --gpus=2

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=16GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"

# Memuat modul software GROMACS versi GPU
# Daftar modul lihat subbab "Modul GROMACS" di atas 
module load gromacs////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}

# Unset UCX supaya MPI berjalan di NVIDIA
unset UCX_TLS
unset UCX_NET_DEVICES

# Perintah menjalankan GROMACS
mpirun -np 2 gmx_mpi mdrun ${GROMACS_PARAMETER}

Panduan Nilai Maksimal SBATCH untuk GROMACS

Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi	ntasks (CPU)	mem (RAM)	gpus (GPU)	time (time limit)
Fair policy usage untuk akumulasi semua job¹	128	128GB	2	3-00:00:00 atau 72:00:00
GROMACS versi CPU²	384	240GB²	0
GROMACS versi CPU di high-mem node Tambahkan `#SBATCH --nodelist=epyc001`	128	500GB	0
GROMACS versi GPU	Ikuti template
Keterangan: Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer. User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih. Info detail buka laman Limitasi Fair Usage ALELEON Supercomputer GROMACS mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128: SLURM otomatis menjalankan job pada multi-node. Parameter mem adalah alokasi memori RAM per-node. Info detail buka laman MPI ALELEON Supercomputer.
Keterangan tambahan
Untuk akun perseorangan dengan Kredit Core Hour: SLURM akan menahan job apabila: ntasks * time (jam) lebih besar dari sisa CPU Core Hour user. gpus * time (jam) lebih besar dari sisa GPU Hour user. Cek sisa Kredit Core Hour melalui perintah: $ sausage Info SBATCH lebih detail lihat laman Submit Script ALELEON Supercomputer

4

Menjalankan Job Komputasi

Jalankan job dengan perintah sbatch.

$ sbatch <nama-SLURM-Submit-script>

Contoh menjalankan nama script my_job_submission.sh.

$ sbatch my_job_submission.sh

5A

User dapat melihat status jalannya job dengan perintah squeue berikut.

Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.

$ squeue -ul $USER

Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:

Daftar STATE squeue SLURM
STATE	Kepanjangan	Penjelasan
R	RUN	Job berjalan
PD	PENDING	Job tertahan, lihat keterangan NODELIST(REASON)
CG	COMPLETING	Job selesai dan dalam proses clean-up SLURM
CA	CANCELED	Job dibatalkan oleh user
PR	PREEMPETED	Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
S	SUSPENDED	Job ditahan oleh admin EFISON

5B

Menghentikan Job Komputasi

Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.

Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
User hanya bisa membatalkan job submission milik user sendiri.

$ scancel <job-ID-submission-user>

Contoh user membatalkan job submission milik user dengan ID 231.

$ scancel 231

Opsi Menggunakan Web EFIRO (EFIRO Job Composer)

Langkah Menjalankan GROMACS di Web EFIRO

0

Login Web EFIRO

User harus terhubung ke jaringan VPN ALELEON Supercomputer.
Buka alamat web http://aleleon.ood lalu masukkan username dan password user.
- Bagi user Linux, buka alamat http://10.192.50.11

1

Membuka Job Composer dan Memilih Template Job

Buka menu Jobs > Jobs Composer pada dashboard EFIRO.
Pilih New Job > From Template

Menu Jobs > Jobs Composer

Menu New Jobs > From Template

2

PIlih template GROMACS yang diinginkan.
Isi atau ganti kolom Job Name sesuai keinginan user.
Apabila sudah selesai, klik Create New Job.

Template GROMACS yang tersedia
Nama Template	Penjelasan
GROMACS 2021.1 (CPU)	Menjalankan GROMACS 2021.1 CPU
GROMACS 2022.4 dengan 1 GPU	GROMACS 2022.4 dengan akselerasi 1 GPU
GROMACS 2022.4 dengan 2 GPU	GROMACS 2022.4 dengan akselerasi 2 GPU

3

Menyiapkan File Komputasi

Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.

Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
- Gunakan aplikasi FTP untuk upload file tunggal diatas 2GB.

Menyiapkan Input Parameter GROMACS

User harus membuat input parameter GROMACS supaya komputasi dapat berjalan:

Beberapa perintah bersifat interaktif sehingga harus dilakukan di terminal.
Berikut adalah langkah membuat input parameter GROMACS:

Langkah Menyiapkan Input Parameter
1	Buka terminal melalui menu `Open Terminal`.
2	Aktifkan GROMACS dengan memuat modul versi GROMACS yang akan digunakan. $ module load <nama-modul-software-GROMACS> Nama modul lihat subbab Modul GROMACS di atas.
3	Buat parameter GROMACS dengan perintah `gmx_mpi`. Contoh menggunakan pdb2gmx: $ gmx_mpi pdb2gmx <parameter_input_dan_output>

4

Melengkapi Submit Script

Submit Script adalah "formulir" untuk menjalankan job komputasi user.

Lengkapi Submit Script melalui menu Open Editor.
Ikuti petunjuk NOTES di dalamnya.
Jangan lupa klik Save setiap sekali mengubah script.

Panduan Nilai Maksimal SBATCH

Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi	ntasks (CPU)	mem (RAM)	gpus (GPU)	time (time limit)
Fair policy usage untuk akumulasi semua job¹	128	128GB	2	3-00:00:00 atau 72:00:00
GROMACS versi CPU²	384	240GB²	0
GROMACS versi CPU di high-mem node Tambahkan `#SBATCH --nodelist=epyc001`	128	500GB	0
GROMACS versi GPU	Ikuti template
Keterangan: Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer. User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih. Info detail buka laman Limitasi Fair Usage ALELEON Supercomputer GROMACS mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128: SLURM otomatis menjalankan job pada multi-node. Parameter mem adalah alokasi memori RAM per-node. Info detail buka laman MPI ALELEON Supercomputer.
Keterangan tambahan
Untuk akun perseorangan dengan Kredit Core Hour: SLURM akan menahan job apabila: ntasks * time (jam) lebih besar dari sisa CPU Core Hour user. gpus * time (jam) lebih besar dari sisa GPU Hour user. Cek sisa Kredit Core Hour melalui menu `Open Terminal` dan jalankan perintah: $ sausage Info SBATCH lebih detail lihat laman Submit Script ALELEON Supercomputer

5

Menjalankan Job Komputasi

Jalankan job dengan klik tombol Submit.

Status Arti

Not Submitted Job belum pernah dijalankan.

Running Job berjalan.

Queue

Job mengantri dan belum berjalan.

Langkah melihat status job ketika queue
Buka `Jobs > Active Jobs` pada dashboard EFIRO. Lakukan langkah sesuai gambar dibawah ini Halaman Active Jobs. Ubah opsi `Your jobs` untuk melihat status job user saja. Klik simbol > untuk melihat status job pending pada kolom Reason. Arti reason lihat laman Daftar Reason NODELIST ALELEON Supercomputer.

Completed Job selesai berjalan.

Failed Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.

Menghentikan Job Komputasi

Untuk menghentikan job yang tengah berjalan, klik tombol Stop.

6A

Melihat Output Komputasi

User dapat melihat output file komputasi pada kolom Folder Contents

Atau dengan membuka Edit Files

Kolom Folder Contents.

6B User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit.

Notifikasi Status Jalannya Komputasi via email

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:

#SBATCH --mail-user=<alamat-email-user> 
#SBATCH --mail-type=BEGIN,END,FAIL

SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:

BEGIN -> notifikasi job sudah mulai
END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.

Pelaporan Kendala dan Support

Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.

---

Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:

support@efisonlt.com

Article tools

Perkakas pribadi

Navigasi

Perkakas

GROMACS

Daftar isi

Modul GROMACS

Info Menjalankan GROMACS dengan Akselerasi GPU

Menjalankan GROMACS

Opsi Menggunakan terminal (SLURM sbatch)

Login SSH

Menyiapkan File Komputasi

Menyiapkan Input Parameter GROMACS

Template SLURM Submit Script GROMACS

Panduan Nilai Maksimal SBATCH untuk GROMACS

Menjalankan Job Komputasi

Menghentikan Job Komputasi

Opsi Menggunakan Web EFIRO (EFIRO Job Composer)

Login Web EFIRO

Membuka Job Composer dan Memilih Template Job

Menyiapkan File Komputasi

Menyiapkan Input Parameter GROMACS

Melengkapi Submit Script

Panduan Nilai Maksimal SBATCH

Menjalankan Job Komputasi

Menghentikan Job Komputasi

Melihat Output Komputasi

Notifikasi Status Jalannya Komputasi via email

Pelaporan Kendala dan Support