|
|
Baris 53: |
Baris 53: |
|
| |
|
| == '''Info Menjalankan GROMACS dengan Akselerasi GPU''' == | | == '''Info Menjalankan GROMACS dengan Akselerasi GPU''' == |
| ALELEON Supercomputer menyediakan GROMACS yang dapat berjalan dengan akselerasi GPU. Beberapa hal yang perlu diketahui dan menjadi pertimbangan user: | | ALELEON Supercomputer menyediakan GROMACS yang dapat berjalan dengan akselerasi GPU. Beberapa hal perlu menjadi pertimbangan user: |
|
| |
|
| * '''Tidak semua input dan parameter berjalan kencang dengan akselerasi GPU'''. | | * Akselerasi GPU bukan jaminan peningkatan performa pada semua jenis input dan parameter. |
| ** User harap menguji dahulu dengan nsteps kecil untuk mengetahui peningkatan performa yang diperoleh melalui akselerasi GPU. | | ** User harap menguji dengan nsteps kecil untuk mengetahui peningkatan performa pada akselerasi GPU. |
| ** Perhatikan bahwa pengujian tersebut mengurangi kredit Core Hour user.
| |
|
| |
|
| * Biasanya, GROMACS mdrun tidak memerlukan parameter tambahan untuk menggunakan akselerasi GPU. Namun dalam beberapa kasus, optimasi menggunakan parameter tambahan bisa berpengaruh positif ke kecepatan komputasi. | | * Biasanya GROMACS mdrun tidak memerlukan parameter tambahan untuk akselerasi GPU. |
| * Referensi lanjutan parameter akselerasi GPU (-nb, -bonded, -pme) dapat dibaca pada tautan berikut: | | ** Dalam beberapa kasus, optimasi parameter tambahan dapat meningkatkan kecepatan komputasi. |
| | * Referensi lanjutan parameter akselerasi GPU (-nb, -bonded, -pme) dapat dipelajari pada tautan berikut: |
| ** [https://manual.gromacs.org/current/user-guide/mdrun-performance.html '''Getting good performance from mdrun — GROMACS 2021.1 documentation'''] | | ** [https://manual.gromacs.org/current/user-guide/mdrun-performance.html '''Getting good performance from mdrun — GROMACS 2021.1 documentation'''] |
| ** '''[https://developer.nvidia.com/blog/creating-faster-molecular-dynamics-simulations-with-gromacs-2020 Creating Faster Molecular Dynamics Simulations with GROMACS 2020 | NVIDIA Developer Blog].''' | | ** '''[https://developer.nvidia.com/blog/creating-faster-molecular-dynamics-simulations-with-gromacs-2020 Creating Faster Molecular Dynamics Simulations with GROMACS 2020 | NVIDIA Developer Blog].''' |
Revisi per 18 Juli 2024 09.02
GROMACS adalah package berkecepatan tinggi untuk komputasi dinamika molekular baik untuk biokimia (seperti protein, lipids) maupun non-biokimia (seperti polimer).
NOTE: Halaman ini dalam tahap maintenance!
Tim admin sedang melakukan proses maintenance perubahan info pada laman ini. Proses maintenance selesai apabila pesan ini hilang.
Modul GROMACS
Berikut adalah detail versi GROMACS yang tersedia secara global di ALELEON Supercomputer:
Modul GROMACS versi CPU
Versi
|
Nama modul software
|
Dukungan hardware
|
CPU
|
GPU
|
OMP
Threading
|
MPI
multi-node
|
2021.1
|
gromacs/2021.1-GCC10-MKL
|
V
|
-
|
-
|
V
|
Modul GROMACS versi CPU dan GPU
Versi
|
Nama modul software
|
Dukungan hardware
|
CPU
|
GPU
|
OMP
Threading
|
MPI
multi-node
|
2022.4
|
gromacs/2022.4-GCC11.3-AOCL4.0-CUDA11.8
|
V
|
V
|
V
|
V
|
Hubungi tim admin melalui email support@efisonlt.com untuk permintaan instalasi versi lain.
Info Menjalankan GROMACS dengan Akselerasi GPU
ALELEON Supercomputer menyediakan GROMACS yang dapat berjalan dengan akselerasi GPU. Beberapa hal perlu menjadi pertimbangan user:
- Akselerasi GPU bukan jaminan peningkatan performa pada semua jenis input dan parameter.
- User harap menguji dengan nsteps kecil untuk mengetahui peningkatan performa pada akselerasi GPU.
- Biasanya GROMACS mdrun tidak memerlukan parameter tambahan untuk akselerasi GPU.
- Dalam beberapa kasus, optimasi parameter tambahan dapat meningkatkan kecepatan komputasi.
- Referensi lanjutan parameter akselerasi GPU (-nb, -bonded, -pme) dapat dipelajari pada tautan berikut:
Menjalankan GROMACS
User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO (klik expand atau kembangkan).
Opsi Menggunakan terminal (SLURM sbatch)
Langkah Menjalankan GROMACS di Terminal
|
0
|
Login SSH
Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.
|
1
|
Menyiapkan File Komputasi
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
- File input dan data komputasi.
- User dapat upload / download file ke ALELEON dengan software FTP.
Menyiapkan Input Parameter GROMACS
User harus membuat input parameter GROMACS supaya komputasi dapat berjalan:
- Beberapa perintah bersifat interaktif sehingga harus dilakukan sebelum submit job.
- Berikut adalah langkah membuat input parameter GROMACS:
Langkah Menyiapkan Input Parameter
|
1
|
Aktifkan GROMACS dengan memuat modul versi GROMACS yang akan digunakan.
$ module load <nama-modul-software-GROMACS>
Nama modul lihat subbab Modul GROMACS di atas.
|
2
|
Buat parameter GROMACS dengan perintah gmx_mpi . Contoh menggunakan pdb2gmx:
$ gmx_mpi pdb2gmx <parameter_input_dan_output>
|
|
2
|
Berikutnya buat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
- Nama script bebas dengan format file .sh (bash), contoh
my_job_submission.sh
$ nano my_job_submission.sh
|
3
|
Template SLURM Submit Script GROMACS
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
Template SLURM Submit Script untuk GROMACS versi CPU
|
#!/bin/bash
# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (versi CPU) | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log
#SBATCH --error=error-%j.txt
# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"
# Memuat modul software GROMACS versi CPU
# Daftar modul lihat subbab "Modul GROMACS" di atas
module load gromacs////
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
# Perintah menjakankan GROMACS
mpirun -np ${SLURM_NTASKS} gmx_mpi mdrun ${GROMACS_PARAMETER}
|
Template SLURM Submit Script untuk GROMACS dengan 1 GPU
|
#!/bin/bash
# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (dengan akselerasi 1 GPU) | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# User dapat mengubah bagian yang perlu diubah.
# 3. Disarankan untuk tidak mengubah jumlah parameter
# ntasks, gpus, mem, dan OMP untuk hasil optimal.
#
# Template ini menggunakan rate komputasi
# 64 CCH/jam dan 1 GH/jam.
# -----------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere
# Alokasi jumlah core thread CPU
#SBATCH --ntasks=8
# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=8
# Alokasi jumlah GPU
#SBATCH --gpus=1
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=16GB
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log
#SBATCH --error=error-%j.txt
# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"
# Memuat modul software GROMACS versi GPU
# Daftar modul lihat subbab "Modul GROMACS" di atas
module load gromacs////
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
# Threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
# Perintah menjalankan GROMACS
gmx_mdi mdrun ${GROMACS_PARAMETER}
|
Template SLURM Submit Script untuk GROMACS dengan 2 GPU
|
#!/bin/bash
# -----------------------------------------------------
# Template SLURM Submit Script
# GROMACS (dengan akselerasi 2 GPU) | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# User dapat mengubah bagian yang perlu diubah.
# 3. Disarankan untuk tidak mengubah jumlah parameter
# ntasks, gpus, mem, dan OMP untuk hasil optimal.
#
# Template ini menggunakan rate komputasi
# 32 CCH/jam dan 2 GH/jam.
# -----------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere
# Alokasi jumlah core thread CPU
#SBATCH --ntasks=8
# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=4
# Alokasi jumlah GPU
#SBATCH --gpus=2
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=16GB
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log
#SBATCH --error=error-%j.txt
# Parameter input dan output untuk GROMACS
GROMACS_PARAMETER="////"
# Memuat modul software GROMACS versi GPU
# Daftar modul lihat subbab "Modul GROMACS" di atas
module load gromacs////
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
# Threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
# Unset UCX supaya MPI berjalan di NVIDIA
unset UCX_TLS
unset UCX_NET_DEVICES
# Perintah menjalankan GROMACS
mpirun -np 2 gmx_mpi mdrun ${GROMACS_PARAMETER}
|
|
Panduan Nilai Maksimal SBATCH untuk GROMACS
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
Skenario Komputasi
|
ntasks
(CPU)
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
Fair policy usage untuk akumulasi semua job1
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
GROMACS versi CPU2
|
384
|
240GB2
|
0
|
GROMACS versi CPU di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
GROMACS versi GPU
|
Ikuti template
|
Keterangan:
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- GROMACS mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui perintah:
$ sausage
|
|
4
|
Menjalankan Job Komputasi
Jalankan job dengan perintah sbatch.
$ sbatch <nama-SLURM-Submit-script>
Contoh menjalankan nama script my_job_submission.sh .
$ sbatch my_job_submission.sh
|
5A
|
User dapat melihat status jalannya job dengan perintah squeue berikut.
- Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ squeue -ul $USER
Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
Daftar STATE squeue SLURM
STATE
|
Kepanjangan
|
Penjelasan
|
R
|
RUN
|
Job berjalan
|
PD
|
PENDING
|
Job tertahan, lihat keterangan NODELIST(REASON)
|
CG
|
COMPLETING
|
Job selesai dan dalam proses clean-up SLURM
|
CA
|
CANCELED
|
Job dibatalkan oleh user
|
PR
|
PREEMPETED
|
Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|
S
|
SUSPENDED
|
Job ditahan oleh admin EFISON
|
|
5B
|
Menghentikan Job Komputasi
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
- Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
- User hanya bisa membatalkan job submission milik user sendiri.
$ scancel <job-ID-submission-user>
Contoh user membatalkan job submission milik user dengan ID 231.
$ scancel 231
|
Opsi Menggunakan Web EFIRO (EFIRO Job Composer)
Langkah Menjalankan GROMACS di Web EFIRO
|
0
|
Login Web EFIRO
|
1
|
Membuka Job Composer dan Memilih Template Job
- Buka menu
Jobs > Jobs Composer pada dashboard EFIRO.
- Pilih
New Job > From Template
Menu Jobs > Jobs Composer Menu New Jobs > From Template
|
2
|
- PIlih template GROMACS yang diinginkan.
- Isi atau ganti kolom
Job Name sesuai keinginan user.
- Apabila sudah selesai, klik
Create New Job .
Template GROMACS yang tersedia
|
Nama Template
|
Penjelasan
|
GROMACS 2021.1 (CPU)
|
Menjalankan GROMACS 2021.1 CPU
|
GROMACS 2022.4 dengan 1 GPU
|
GROMACS 2022.4 dengan akselerasi 1 GPU
|
GROMACS 2022.4 dengan 2 GPU
|
GROMACS 2022.4 dengan akselerasi 2 GPU
|
|
3
|
Menyiapkan File Komputasi
Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.
- Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
- Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
Menyiapkan Input Parameter GROMACS
User harus membuat input parameter GROMACS supaya komputasi dapat berjalan:
- Beberapa perintah bersifat interaktif sehingga harus dilakukan di terminal.
- Berikut adalah langkah membuat input parameter GROMACS:
Langkah Menyiapkan Input Parameter
|
1
|
Buka terminal melalui menu Open Terminal .
|
2
|
Aktifkan GROMACS dengan memuat modul versi GROMACS yang akan digunakan.
$ module load <nama-modul-software-GROMACS>
Nama modul lihat subbab Modul GROMACS di atas.
|
3
|
Buat parameter GROMACS dengan perintah gmx_mpi . Contoh menggunakan pdb2gmx:
$ gmx_mpi pdb2gmx <parameter_input_dan_output>
|
|
4
|
Melengkapi Submit Script
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
- Lengkapi Submit Script melalui menu
Open Editor .
- Ikuti petunjuk NOTES di dalamnya.
- Jangan lupa klik
Save setiap sekali mengubah script.
|
Panduan Nilai Maksimal SBATCH
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
Skenario Komputasi
|
ntasks
(CPU)
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
Fair policy usage untuk akumulasi semua job1
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
GROMACS versi CPU2
|
384
|
240GB2
|
0
|
GROMACS versi CPU di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
GROMACS versi GPU
|
Ikuti template
|
Keterangan:
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- GROMACS mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui menu
Open Terminal dan jalankan perintah:
$ sausage
|
|
5
|
Menjalankan Job Komputasi
Jalankan job dengan klik tombol Submit .
Penjelasan kolom Status , pantau dengan refresh halaman job
Status
|
Arti
|
Not Submitted
|
Job belum pernah dijalankan.
|
Running
|
Job berjalan.
|
Queue
|
Job mengantri dan belum berjalan.
Langkah melihat status job ketika queue
|
Buka Jobs > Active Jobs pada dashboard EFIRO.
- Lakukan langkah sesuai gambar dibawah ini
|
|
Completed
|
Job selesai berjalan.
|
Failed
|
Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|
Menghentikan Job Komputasi
Untuk menghentikan job yang tengah berjalan, klik tombol Stop .
|
6A
|
Melihat Output Komputasi
User dapat melihat output file komputasi pada kolom Folder Contents
- Atau dengan membuka
Edit Files
|
6B
|
User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit .
|
Notifikasi Status Jalannya Komputasi via email
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
- BEGIN -> notifikasi job sudah mulai
- END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
- FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
- TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
- TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
Pelaporan Kendala dan Support
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
---
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
support@efisonlt.com