DFTB+ adalah software package yang versatil untuk simulasi mechanical quantum. DFTB+ merupakan software tidak berbayar dengan lisensi GNU Lesser General Public License.
Modul DFTB+
Berikut adalah detail versi DFTB+ yang tersedia secara global di ALELEON Supercomputer:
| Versi
|
Nama modul
|
Modul
DEFAULT
|
Dukungan hardware
|
| CPU
|
GPU
|
OMP
Threading
|
MPI
multi-node
|
| 22.2
|
dftbplus/22.2-GCC11.3-AOCL4.0
|
V
|
V
|
-
|
V
|
V
|
Pilihan MPI atau Threading OpenMP untuk Menjalankan DFTB+
DFTB+ secara default berjalan dengan paralelisasi OpenMP (OMP). Sementara itu DFTB+ pada ALELEON Supercomputer dicompile dengan MPI sehingga dapat berjalan dengan paralelisasi hybrid MPI/OMP. ALELEON Supercomputer menyerahkan keputusan kepada user untuk memilih metode paralelisasi tersebut melalui konfigurasi pada SLURM Submit Script (lihat subbab Menjalankan DFTB+):
- SBATCH ntasks mewakili jumlah task MPI sedangkan SBATCH cpus-per-task mewakili jumlah thread OMP.
#SBATCH --ntasks -> mewakili jumlah task MPI
#SBATCH --cpus-per-task -> mewakili jumlah thread OpenMP
- Apabila ingin Pure MPI maka isi jumlah SBATCH cpus-per-task dengan 1.
# Pure MPI
#SBATCH --ntasks=<isi-sesuai-keinginan>
#SBATCH --cpus-per-task=1
- Apabila ingin Hybrid MPI/OMP maka isi kedua parameter tersebut. Perlu diingat bahwa total core CPU yang digunakan adalah ntasks * cpus-per-task. Contoh berikut menggunakan 2 proses MPI dan 4 thread OMP per MPI sehingga total menggunakan 8 core CPU:
# Hybrid MPI/OMP, contoh dengan 2 proses MPI dan 4 thread OMP per MPI.
#SBATCH --ntasks=2
#SBATCH --cpus-per-task=4
- Apabila ingin Pure OMP maka isi jumlah ntasks dengan 1.
# Pure OMP
#SBATCH --ntasks=1
#SBATCH --cpus-per-task=<isi-sesuai-keinginan>
Menyiapkan File Slaster-Koster (SK)
File input DFTB+ membutuhkan file Slater-Koster (SK) pada bagian Hamiltonian yang bisa didapatkan pada tautan berikut. File dalam format .tar sehingga perlu di ekstrak.
Admin menyarankan menaruh / upload folder SK pada direktori HOME supaya dapat diakses oleh banyak job.
$HOME/<folder-file-SK-yang-dibutuhkan>
Pastikan file input dftb_in.hsd pada bagian Hamiltonian menunjuk direktori file SK spesifik pada HOME tersebut.
Menjalankan DFTB+
User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO (klik expand atau kembangkan).
Opsi Menggunakan terminal (SLURM sbatch)
| Langkah Menjalankan DFTB+ di Terminal
|
| 0
|
Login SSH
Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.
|
| 1
|
Menyiapkan File Komputasi
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
- File input DFTB+ dftb_in.hsd
- Buat / upload file input DFTB+ dengan nama dan format
dftb_in.hsd
- Pastikan bagian Hamiltonian di file input menunjuk direktori file SK yang tepat.
- User dapat upload / download file ke ALELEON dengan software FTP.
- Membuat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
- Nama script bebas dengan format file .sh (bash), contoh
my_job_submission.sh
|
| 2
|
Template SLURM Submit Script DFTB+
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
| Template SLURM Submit Script untuk DFTB+
|
#!/bin/bash
# -----------------------------------------------------
# Template SLURM Submit Script
# DFTB+ | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# User dapat mengubah bagian yang perlu diubah.
# 3. Perhatikan rate CCH = ntasks * cpus-per-task.
# -----------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
# Alokasi jumlah core thread CPU. mewakili jumlah task MPI
#SBATCH --ntasks=////
# Alokasi jumlah thread OMP per task MPI
#SBATCH --cpus-per-task=////
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log
#SBATCH --error=error-%j.txt
# Memuat modul software DFTB+
# Daftar modul lihat subbab "Modul DFTB+" di atas
module load dftbplus////
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
# Definisi threading OMP
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
# Perintah menjakankan DFTB+
mpirun -np ${SLURM_NTASKS} dftb+
|
|
Panduan Nilai Maksimal SBATCH untuk DFTB+
| Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
| Skenario Komputasi
|
(CPU)1
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
| Fair policy usage untuk akumulasi semua job2
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
| DFTB+3
|
384
|
240GB3
|
0
|
DFTB+ di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
Keterangan:
- Jumlah CPU = ntasks * cpus-per-task
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- DFTB+ mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
| Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui perintah:
$ sausage
|
|
| 3
|
Menjalankan Job Komputasi
Jalankan job dengan perintah sbatch.
$ sbatch <nama-SLURM-Submit-script>
Contoh menjalankan nama script my_job_submission.sh.
$ sbatch my_job_submission.sh
|
| 4A
|
User dapat melihat status jalannya job dengan perintah squeue berikut.
- Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ squeue -ul $USER
Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
Daftar STATE squeue SLURM
| STATE
|
Kepanjangan
|
Penjelasan
|
| R
|
RUN
|
Job berjalan
|
| PD
|
PENDING
|
Job tertahan, lihat keterangan NODELIST(REASON)
|
| CG
|
COMPLETING
|
Job selesai dan dalam proses clean-up SLURM
|
| CA
|
CANCELED
|
Job dibatalkan oleh user
|
| PR
|
PREEMPETED
|
Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|
| S
|
SUSPENDED
|
Job ditahan oleh admin EFISON
|
|
| 4B
|
Menghentikan Job Komputasi
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
- Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
- User hanya bisa membatalkan job submission milik user sendiri.
$ scancel <job-ID-submission-user>
Contoh user membatalkan job submission milik user dengan ID 231.
$ scancel 231
|
Opsi Menggunakan Web EFIRO (EFIRO Job Composer)
| Langkah Menjalankan DFTB+ di Web EFIRO
|
| 0
|
Login Web EFIRO
|
| 1
|
Membuka Job Composer dan Memilih Template Job
- Buka menu
Jobs > Jobs Composer pada dashboard EFIRO.
- Pilih
New Job > From Template
 Menu Jobs > Jobs Composer  Menu New Jobs > From Template |
| 2
|
- PIlih template DFTB+ yang diinginkan.
- Isi atau ganti kolom
Job Name sesuai keinginan user.
- Apabila sudah selesai, klik
Create New Job.
| Template DFTB+ yang tersedia
|
| Nama Template
|
Penjelasan
|
| DFTB+ 22.2
|
Menjalankan DFTB+ 22.2
|
|
| 3
|
Menyiapkan File Komputasi
Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.
- Buat / upload file input DFTB+ dengan nama dan format
dftb_in.hsd.
- Pastikan bagian Hamiltonian di file input menunjuk direktori file SK yang tepat.
- Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
- Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
|
| 4
|
Melengkapi Submit Script
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
- Lengkapi Submit Script melalui menu
Open Editor.
- Ikuti petunjuk NOTES di dalamnya.
- Jangan lupa klik
Save setiap sekali mengubah script.
|
Panduan Nilai Maksimal SBATCH
| Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|
| Skenario Komputasi
|
(CPU)1
|
mem
(RAM)
|
gpus
(GPU)
|
time
(time limit)
|
| Fair policy usage untuk akumulasi semua job2
|
128
|
128GB
|
2
|
3-00:00:00
atau
72:00:00
|
| DFTB+3
|
384
|
240GB3
|
0
|
DFTB+ di high-mem node
- Tambahkan
#SBATCH --nodelist=epyc001
|
128
|
500GB
|
0
|
Keterangan:
- Adalah nilai ntasks * cpus-per-task
- Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
- DFTB+ mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
- SLURM otomatis menjalankan job pada multi-node.
- Parameter mem adalah alokasi memori RAM per-node.
- Info detail buka laman MPI ALELEON Supercomputer.
|
| Keterangan tambahan
|
- Untuk akun perseorangan dengan Kredit Core Hour:
- SLURM akan menahan job apabila:
- ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
- gpus * time (jam) lebih besar dari sisa GPU Hour user.
- Cek sisa Kredit Core Hour melalui menu
Open Terminal dan jalankan perintah:
$ sausage
|
|
| 5
|
Menjalankan Job Komputasi
Jalankan job dengan klik tombol Submit.
Penjelasan kolom Status, pantau dengan refresh halaman job
| Status
|
Arti
|
| Not Submitted
|
Job belum pernah dijalankan.
|
| Running
|
Job berjalan.
|
| Queue
|
Job mengantri dan belum berjalan.
| Langkah melihat status job ketika queue
|
Buka Jobs > Active Jobs pada dashboard EFIRO.
- Lakukan langkah sesuai gambar dibawah ini
|
|
| Completed
|
Job selesai berjalan.
|
| Failed
|
Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|
Menghentikan Job Komputasi
Untuk menghentikan job yang tengah berjalan, klik tombol Stop.
|
| 6A
|
Melihat Output Komputasi
User dapat melihat output file komputasi pada kolom Folder Contents
- Atau dengan membuka
Edit Files
|
| 6B
|
User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit.
|
Notifikasi Status Jalannya Komputasi via email
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
- BEGIN -> notifikasi job sudah mulai
- END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
- FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
- TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
- TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
Pelaporan Kendala dan Support
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
---
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
support@efisonlt.com
