OpenMX adalah software package untuk simulasi material skala nano berdasarkan DFT (Density Functional Theories), norm-conserving pseudopotensials, dan pseudo-atomic localized basis functinons. OpenMX merupakan software tidak berbayar dengan lisensi GNU GPLv3.
Modul OpenMX
Berikut adalah detail versi OpenMX yang tersedia secara global di ALELEON Supercomputer:
Modul OpenMX
Versi
|
Nama modul
|
Modul
DEFAULT
|
Dukungan hardware
|
CPU
|
GPU
|
OMP
Threading
|
MPI
multi-node
|
3.9.9
|
openmx/3.9.9-GCC11.3-AOCL4.0
|
V
|
V
|
-
|
V
|
V
|
DATA.PATH pada File Input
User wajib mendefinisikan DATA.PATH berikut pada file input supaya OpenMX dapat berjalan. Daftar DATA.PATH per versi OpenMX lihat tabel di bawah.
DATA.PATH <data-path-OpenMX>
Daftar DATA.PATH OpenMX
Versi
|
DATA.PATH
|
3.9.9
|
/comp/openmx/3.9.9-GCC11.3-AOCL4.0/DFT_DATA19
|
Pilihan MPI atau Threading OpenMP untuk Menjalankan OpenMX
OpenMX dapat berjalan melalui metode paralelisasi MPI, threading OpenMP (OMP), atau Hybrid MPI/OMP. ALELEON Supercomputer menyerahkan keputusan kepada user untuk memilih metode paralelisasi tersebut melalui konfigurasi pada SLURM Submit Script (lihat subbab Menjalankan OpenMX):
- SBATCH ntasks mewakili jumlah task MPI sedangkan SBATCH cpus-per-task mewakili jumlah thread OMP.
#SBATCH --ntasks -> mewakili jumlah task MPI
#SBATCH --cpus-per-task -> mewakili jumlah thread OpenMP
- Apabila ingin Pure MPI maka isi jumlah SBATCH cpus-per-task dengan 1.
# Pure MPI
#SBATCH --ntasks=<isi-sesuai-keinginan>
#SBATCH --cpus-per-task=1
- Apabila ingin Hybrid MPI/OMP maka isi kedua parameter tersebut. Perlu diingat bahwa total core CPU yang digunakan adalah ntasks * cpus-per-task. Contoh berikut menggunakan 2 proses MPI dan 4 thread OMP per MPI sehingga total menggunakan 8 core CPU:
# Hybrid MPI/OMP, contoh dengan 2 proses MPI dan 4 thread OMP per MPI.
#SBATCH --ntasks=2
#SBATCH --cpus-per-task=4
- Apabila ingin Pure OMP maka isi jumlah ntasks dengan 1.
# Pure OMP
#SBATCH --ntasks=1
#SBATCH --cpus-per-task=<isi-sesuai-keinginan>
Menjalankan OpenMX
User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO (klik expand atau kembangkan).
Opsi Menggunakan terminal (SLURM sbatch)
Langkah Menjalankan OpenMX di Terminal
|
0
|
Login SSH
Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.
|
1
|
Menyiapkan File Komputasi
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
- File input dan data komputasi.
- User dapat upload / download file ke ALELEON dengan software FTP.
- Membuat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
- Nama script bebas dengan format file .sh (bash), contoh
my_job_submission.sh
|
2
|
Template SLURM Submit Script OpenMX
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
Template SLURM Submit Script untuk OpenMX
|
#!/bin/bash
# -----------------------------------------------------
# Template SLURM Submit Script
# OpenMX | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# User dapat mengubah bagian yang perlu diubah.
# 3. Perhatikan rate CCH = ntasks * cpus-per-task.
# -----------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
# Alokasi jumlah core thread CPU, mewakili jumlah task MPI
#SBATCH --ntasks=////
# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=////
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log
#SBATCH --error=error-%j.txt
# Nama input file OpenMX yang dijalankan
INPUT_FILE='////.dat'
# Memuat modul software OpenMX
# Daftar modul lihat subbab "Modul OpenMX" di atas
module load openmx////
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
# Definisi threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
# Perintah menjakankan OpenMX
mpirun -np ${SLURM_NTASKS} openmx ${INPUT_FILE}
|
|
Panduan Nilai Maksimal SBATCH untuk OpenMX
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
Skenario Komputasi
|
(CPU)1
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
Fair policy usage untuk akumulasi semua job2
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
OpenMX3
|
384
|
240GB2
|
0
|
OpenMX versi CPU di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
Keterangan:
- Jumlah CPU = ntasks * cpus-per-task
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- OpenMX mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui perintah:
$ sausage
|
|
3
|
Menjalankan Job Komputasi
Jalankan job dengan perintah sbatch.
$ sbatch <nama-SLURM-Submit-script>
Contoh menjalankan nama script my_job_submission.sh .
$ sbatch my_job_submission.sh
|
4A
|
User dapat melihat status jalannya job dengan perintah squeue berikut.
- Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ squeue -ul $USER
Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
Daftar STATE squeue SLURM
STATE
|
Kepanjangan
|
Penjelasan
|
R
|
RUN
|
Job berjalan
|
PD
|
PENDING
|
Job tertahan, lihat keterangan NODELIST(REASON)
|
CG
|
COMPLETING
|
Job selesai dan dalam proses clean-up SLURM
|
CA
|
CANCELED
|
Job dibatalkan oleh user
|
PR
|
PREEMPETED
|
Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|
S
|
SUSPENDED
|
Job ditahan oleh admin EFISON
|
|
4B
|
Menghentikan Job Komputasi
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
- Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
- User hanya bisa membatalkan job submission milik user sendiri.
$ scancel <job-ID-submission-user>
Contoh user membatalkan job submission milik user dengan ID 231.
$ scancel 231
|
Opsi Menggunakan Web EFIRO (EFIRO Job Composer)
Langkah Menjalankan OpenMX di Web EFIRO
|
0
|
Login Web EFIRO
|
1
|
Membuka Job Composer dan Memilih Template Job
- Buka menu
Jobs > Jobs Composer pada dashboard EFIRO.
- Pilih
New Job > From Template
Menu Jobs > Jobs Composer Menu New Jobs > From Template
|
2
|
- PIlih template OpenMX yang diinginkan.
- Isi atau ganti kolom
Job Name sesuai keinginan user.
- Apabila sudah selesai, klik
Create New Job .
Template OpenMX yang tersedia
|
Nama Template
|
Penjelasan
|
OpenMX 3.9.9
|
Menjalankan OpenMX 3.9.9
|
|
3
|
Menyiapkan File Komputasi
Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.
- Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
- Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
|
4
|
Melengkapi Submit Script
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
- Lengkapi Submit Script melalui menu
Open Editor .
- Ikuti petunjuk NOTES di dalamnya.
- Jangan lupa klik
Save setiap sekali mengubah script.
|
Panduan Nilai Maksimal SBATCH
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
Skenario Komputasi
|
(CPU)1
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
Fair policy usage untuk akumulasi semua job2
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
OpenMX3
|
384
|
240GB2
|
0
|
OpenMX versi CPU di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
Keterangan:
- Jumlah CPU = ntasks * cpus-per-task
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- OpenMX mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui menu
Open Terminal dan jalankan perintah:
$ sausage
|
|
5
|
Menjalankan Job Komputasi
Jalankan job dengan klik tombol Submit .
Penjelasan kolom Status , pantau dengan refresh halaman job
Status
|
Arti
|
Not Submitted
|
Job belum pernah dijalankan.
|
Running
|
Job berjalan.
|
Queue
|
Job mengantri dan belum berjalan.
Langkah melihat status job ketika queue
|
Buka Jobs > Active Jobs pada dashboard EFIRO.
- Lakukan langkah sesuai gambar dibawah ini
|
|
Completed
|
Job selesai berjalan.
|
Failed
|
Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|
Menghentikan Job Komputasi
Untuk menghentikan job yang tengah berjalan, klik tombol Stop .
|
6A
|
Melihat Output Komputasi
User dapat melihat output file komputasi pada kolom Folder Contents
- Atau dengan membuka
Edit Files
|
6B
|
User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit .
|
Notifikasi Status Jalannya Komputasi via email
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
- BEGIN -> notifikasi job sudah mulai
- END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
- FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
- TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
- TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
Pelaporan Kendala dan Support
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
---
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
support@efisonlt.com