Submit Script ALELEON Supercomputer: Perbedaan antara revisi

Dari ALELEON by EFISON
(→‎Alur Penggunaan SLURM: mengedit contoh terminal)
(Merapikan urutan tutorial, merombak tabel parameter resources SBATCH Esensial)
Baris 1: Baris 1:
SLURM adalah software manajemen untuk mengantarkan dan mengatur antrian job komputasi user ke Compute Node. Bila tidak menggunakan SLURM maka job user akan berjalan di Login Node yang tidak layak untuk komputasi. Selain itu SLURM mencatat penggunaan [[Core Hour]] user.
SLURM adalah '''software manajemen''' yang digunakan oleh HPC Aleleon Mk.II untuk '''mengantarkan dan mengatur antrian job komputasi user ke Compute Node'''. Bila tidak menggunakan SLURM maka job user akan berjalan di Login Node yang tidak layak untuk komputasi.
[[Berkas:Slurmm.png|pus|nirbing|700x700px]]
[[Berkas:Slurmm.png|pus|nirbing|700x700px]]


=='''Alur Penggunaan SLURM''' ==
== '''Perintah Dasar SLURM''' ==
Contoh, user akan menjalankan program bernama 'kerjaan-skripsi'. User membuat '''SLURM submission script''' untuk menjalankan program 'kerjaan-skripsi' di Compute Node.   
Berikut adalah perintah dasar bagi user untuk menggunakan SLURM:
{| class="wikitable"
|+Perintah dasar SLURM untuk user
!Perintah
!Penjelasan
|-
|
$ '''sbatch''' <slurm-script>             
|Menjalankan job komputasi user yang ditulis pada '''SLURM script''' ke Compute Node. SLURM Script adalah bash script yang berisikan alokasi resources (CPU, GPU, RAM, walltime, output, dll) dan alur jalannya program komputasi user.
|-
|
  $ '''squeue'''
|Melihat status dan antrian semua komputasi. Tambahan opsi:


* Ada baiknya SLURM submission script ditaruh pada satu direktori dengan program yang akan dijalankan. 
* squeue -l : menampilkan squeue dengan info lengkap
* Penamaan SLURM submission script bisa bebas dimana pada contoh ini bernama 'slurm-skripsi'.
* squeue -u $USER : menampilkan squeue untuk job pribadi user
|-
|
$ '''scancel''' <job-ID>
|Membatalkan job SLURM yang sedang berjalan
|}


=='''Contoh Penggunaan SLURM'''==
User akan menjalankan program bernama 'kerjaan-skripsi' di Compute Node. User membuat '''SLURM script''' yang berisikan alokasi resources dan perintah untuk menjalankan program 'kerjaan-skripsi'. 


* Ada baiknya SLURM script ditaruh pada satu direktori dengan program yang akan dijalankan.
* Penamaan SLURM script bisa bebas dimana pada contoh ini bernama 'slurm-skripsi'.
  [olala01@login myjob]$ ls
  [olala01@login myjob]$ ls
  kerjaan-skripsi  '''slurm-skripsi'''
  kerjaan-skripsi  '''slurm-skripsi'''
Baris 14: Baris 35:
  [olala01@login myjob]$ '''sbatch slurm-skripsi'''
  [olala01@login myjob]$ '''sbatch slurm-skripsi'''
  Submitted batch job 231
  Submitted batch job 231
User dapat melihat status jalannya job masing-masing dengan perintah '''squeue -u $USER'''.  
User dapat melihat status jalannya job masing-masing dengan perintah '''squeue -u $USER'''. Keterangan dari kolom ST (STATUS) adalah R (RUNNING), menandakan program kerjaan-skripsi user sedang berjalan di Compute Node.  
  [olala01@login myjob]$ '''squeue -u $USER'''
  [olala01@login myjob]$ '''squeue -u $USER'''
  Mon Mar 22 10:43:22 2021
  Mon Mar 22 10:43:22 2021
Baris 24: Baris 45:
Apabila user ingin membatalkan program yang tengah berjalan via SLURM, gunakan perintah '''scancel''' job ID:  
Apabila user ingin membatalkan program yang tengah berjalan via SLURM, gunakan perintah '''scancel''' job ID:  
  [olala01@login myjob]$ '''scancel 231'''
  [olala01@login myjob]$ '''scancel 231'''
Untuk merangkum alur diatas, berikut adalah daftar perintah yang esensial pada SLURM: 
== '''SLURM Script''' ==
{| class="wikitable"
'''SLURM script adalah bash-script yang berisikan alokasi resources (CPU, RAM, GPU, walltime, output, dll) dan alur jalannya program'''. Terdapat 4 komponen penting pada SLURM script:  
|+Perintah esensial penggunaan SLURM
!Perintah
!Penjelasan
|-
|
$ sbatch <slurm-submission-script>
|Mengirim SLURM submission script untuk dijalankan di SLURM.
|-
|
$ squeue
|Melihat status dan antrian semua komputasi. Tambahan opsi:
 
* squeue -l : squeue dengan info lengkap
* squeue -u $USER : squeue untuk job masing-masing user
|-
|
$ scancel <job-ID>
|Membatalkan job SLURM yang sedang berjalan
|}
 
== '''SLURM Submission Script''' ==
'''SLURM submission script adalah bash-script yang berisikan alokasi resources (CPU, RAM, waktu, output, dll) dan alur jalannya program'''. Terdapat 4 komponen penting pada SLURM submission script:  


[[Berkas:Contoh SLURM updated.png|al=|nirbing|578x578px]]
[[Berkas:Contoh SLURM updated.png|al=|nirbing|578x578px]]
Baris 56: Baris 55:


=== '''Resources HPC Aleleon Mk.II''' ===
=== '''Resources HPC Aleleon Mk.II''' ===
Sebelum menggunakan SLURM, user harus mengetahui spesifikasi dan limitasi hardware dari HPC Aleleon Mk.II dimana dijelaskan pada tabel dibawah ini.
Sebelum menggunakan SLURM, user harus mengetahui alokasi maksimal hardware dari HPC Aleleon Mk.II yang dijelaskan pada tabel dibawah ini.
{| class="wikitable"
{| class="wikitable"
|+Partisi Hardware HPC Aleleon Mk.II
|+Partisi Hardware HPC Aleleon Mk.II
Baris 66: Baris 65:
!Jumlah GPU per node
!Jumlah GPU per node
|-
|-
|'''epyc''' (DEFAULT)
|'''epyc''' (DEFAULT)        
|compute node CPU
|compute node CPU
|3
|3
Baris 81: Baris 80:
|}
|}


=== '''Parameter Resources SBATCH Esensial''' ===
=='''Parameter Resources SBATCH Esensial'''==
Berikut adalah daftar parameter SBATCH basis yang esensial untuk '''menjalankan job di compute node CPU AMD EPYC:'''
Terdapat ratusan jenis parameter SBATCH pada SLURM. Berikut adalah parameter esensial yang digunakan pada HPC Aleleon Mk.II.
{| class="wikitable"
{| class="wikitable"
|+Parameter esensial SBATCH SLURM untuk menjalankan job di [[Partisi Aleleon Mk.II|compute node CPU (partisi epyc)]]
|+Parameter esensial SBATCH SLURM untuk menjalankan job di [[Partisi Aleleon Mk.II|Compute Node CPU]] (DEFAULT)
!Parameter
!Parameter
!Resource
!Penjelasan
!Penjelasan
|-
|-
|#SBATCH --ntasks=<cpu-cores>
|'''#SBATCH --ntasks'''=<cpu-cores>
|Jumlah alokasi cores CPU yang akan dipakai. Contoh mengalokasikan 64 core CPU:
|Core CPU       
|Alokasi jumlah core CPU yang akan digunakan. Contoh mengalokasikan 64 core CPU:
<nowiki>#</nowiki>SBATCH --ntasks=64
<nowiki>#</nowiki>SBATCH --ntasks=64
|-
|-
|#SBATCH --mem=<mem-capacity>
|'''#SBATCH --mem'''=<mem-capacity>                      
|Jumlah alokasi memori RAM. User bisa menetapkan satuan apapun namun kami merekomendasikan satuan GB. Contoh mengalokasikan memori 64GB:
|Memori RAM
|Alokasi memori RAM yang akan digunakan. User bisa menetapkan satuan apapun namun kami merekomendasikan satuan GB. Contoh mengalokasikan memori 64GB:
<nowiki>#</nowiki>SBATCH --mem=64GB
<nowiki>#</nowiki>SBATCH --mem=64GB
|-
|-
|#SBATCH --time=<walltime>
|'''#SBATCH --time'''=<walltime>
|Walltime             
|Waktu maksimal yang dialokasikan untuk job. Walltime maksimal yang diizinkan saat ini adalah 14 hari. Format waktu <walltime> yang digunakan:  
|Waktu maksimal yang dialokasikan untuk job. Walltime maksimal yang diizinkan saat ini adalah 14 hari. Format waktu <walltime> yang digunakan:  


* HH:MM:SS. Contoh alokasi 10 jam= #SBATCH --time=10:00:00
* '''HH:MM:SS'''. Contoh alokasi 10 jam= #SBATCH --time=10:00:00
* D-HH:MM:SS. Contoh alokasi 2 hari= #SBATCH --time=2-00:00:00
* '''D-HH:MM:SS'''. Contoh alokasi 2 hari= #SBATCH --time=2-00:00:00
|-
|-
|#SBATCH --output=<output-file>
|'''#SBATCH --output'''=<output-file>
|Output terminal     
|Merekap output terminal dari program user. Terdapat variabel spesial yaitu %j untuk merekap JOB ID. Format file dibebaskan. Contoh:
|Merekap output terminal dari program user. Terdapat variabel spesial yaitu %j untuk merekap JOB ID. Format file dibebaskan. Contoh:
<nowiki>#</nowiki>SBATCH --output=hasil-%j.out
<nowiki>#</nowiki>SBATCH --output=hasil-%j.out
|-
|-
|#SBATCH --error=<error-file>
|'''#SBATCH --error'''=<error-file>
|Output verbose
|Merekap output verbose program, berguna untuk melakukan troubleshooting dikala program user tidak berjalan. Contoh:
|Merekap output verbose program, berguna untuk melakukan troubleshooting dikala program user tidak berjalan. Contoh:
<nowiki>#</nowiki>SBATCH --error=hasil-%j.err
<nowiki>#</nowiki>SBATCH --error=hasil-%j.err
|-
|'''#SBATCH --nodes='''<nodes>
|Node
|Alokasi node Compute Node yang akan dipakai. User tidak perlu mencantumkan parameter nodes ketika hanya menggunakan satu node. Contoh mengalokasikan 3 node:
<nowiki>#</nowiki>SBATCH --nodes=3
|}
=== '''Menggunakan Paralel Multi-Node''' ===
Berikut adalah dua parameter wajib apabila user menggunakan lebih dari satu node untuk komputasi paralel:
{| class="wikitable"
|+Parameter wajib SBATCH SLURM untuk menggunakan lebih dari satu node
!Paramater
!Resource
!Penjelasan
|-
|'''#SBATCH --nodes='''<nodes>
|Node
|Alokasi jumlah node Compute Node yang akan digunakan. Contoh mengalokasikan 3 node:
<nowiki>#</nowiki>SBATCH --nodes=3
|-
|'''#SBATCH --ntasks-per-node='''<cpu-cores>     
|Core CPU per node
|Alokasi jumlah core CPU per node yang akan digunakan. Contoh mengalokasikan 64 core per node:
$SBATCH --ntasks-per-node=64                                                                                                                               
|}
|}
Tambahkan parameter berikut apabila ingin '''menjalankan job di compute node GPU NVIDIA Ampere:'''   
 
=== '''Menggunakan Compute Node GPU''' ===
Berikut adalah dua parameter wajib apabila user '''menjalankan job di compute node GPU NVIDIA Ampere:'''   
{| class="wikitable"
{| class="wikitable"
|+Parameter SBATCH SLURM untuk menjalankan job di [[Partisi Aleleon Mk.II|compute node GPU (partisi gpu_ampere)]]
|+Parameter wajib SBATCH SLURM untuk menjalankan job di [[Partisi Aleleon Mk.II|compute node GPU]]
!Paramater
!Paramater
!Resource
!Penjelasan
!Penjelasan
|-
|-
|#SBATCH --partition=gpu_ampere
|'''#SBATCH --partition=gpu_ampere'''           
|Memasukan job ke compute node GPU
|Partisi GPU     
|Menjalankan job pada partisi compute node GPU (yang bernama gpu_ampere)                                                                                                                                                               
|-
|-
|#sbatch --gres=gpu:<jumlah-GPU>
|'''#SBATCH --gres=gpu:<jumlah-GPU >'''                   
|GPU                       
|Contoh menggunakan 2 GPU:  
|Contoh menggunakan 2 GPU:  
$SBATCH --gres=gpu:2
$SBATCH --gres=gpu:2                          
|}
|}
Apabila terjadi kesalahan parameter SLURM, user tetap bisa melakukan sbatch namun job tidak berjalan (tidak muncul di squeue). User dapat melihat pesan error pada file output .err yang dihasilkan dari #SBATCH --error. 


=== '''Menggunakan Threading CPU''' ===
Berikut adalah parameter untuk mengalokasikan threading CPU untuk user yang menggunakan program paralel threading seperti OpenMP (OMP), hybrid MPI/OMP, OpenBLAS, MKL, dll:
{| class="wikitable"
|+Parameter SBATCH SLURM untuk menjalankan threading CPU
!Parameter
!Resource
!Penjelasan
|-
|'''#SBATCH --cpus-per-task='''<cpu-task>         
|Threading CPU   
|Jumlah threading CPU per core yang digunakan.                                                                                                                           
|}
== '''Contoh SLURM Submission Script Satu Node CPU''' ==
== '''Contoh SLURM Submission Script Satu Node CPU''' ==



Revisi per 8 September 2021 12.13

SLURM adalah software manajemen yang digunakan oleh HPC Aleleon Mk.II untuk mengantarkan dan mengatur antrian job komputasi user ke Compute Node. Bila tidak menggunakan SLURM maka job user akan berjalan di Login Node yang tidak layak untuk komputasi.

Slurmm.png

Perintah Dasar SLURM

Berikut adalah perintah dasar bagi user untuk menggunakan SLURM:

Perintah dasar SLURM untuk user
Perintah Penjelasan
$ sbatch <slurm-script>              
Menjalankan job komputasi user yang ditulis pada SLURM script ke Compute Node. SLURM Script adalah bash script yang berisikan alokasi resources (CPU, GPU, RAM, walltime, output, dll) dan alur jalannya program komputasi user.
$ squeue
Melihat status dan antrian semua komputasi. Tambahan opsi:
  • squeue -l : menampilkan squeue dengan info lengkap
  • squeue -u $USER : menampilkan squeue untuk job pribadi user
$ scancel <job-ID>
Membatalkan job SLURM yang sedang berjalan

Contoh Penggunaan SLURM

User akan menjalankan program bernama 'kerjaan-skripsi' di Compute Node. User membuat SLURM script yang berisikan alokasi resources dan perintah untuk menjalankan program 'kerjaan-skripsi'.

  • Ada baiknya SLURM script ditaruh pada satu direktori dengan program yang akan dijalankan.
  • Penamaan SLURM script bisa bebas dimana pada contoh ini bernama 'slurm-skripsi'.
[olala01@login myjob]$ ls
kerjaan-skripsi  slurm-skripsi

Jalankan SLURM submission script tersebut dengan perintah sbatch. Perhatikan bahwa user akan mendapatkan nomor ID dari job tersebut.

[olala01@login myjob]$ sbatch slurm-skripsi
Submitted batch job 231

User dapat melihat status jalannya job masing-masing dengan perintah squeue -u $USER. Keterangan dari kolom ST (STATUS) adalah R (RUNNING), menandakan program kerjaan-skripsi user sedang berjalan di Compute Node.

[olala01@login myjob]$ squeue -u $USER
Mon Mar 22 10:43:22 2021
             JOBID PARTITION     NAME     USER  ST       TIME   NODES NODELIST(REASON)
               231 gpu_amper slurm-sc  olala01   R       2:00       1 epyc01

Job selesai bila sudah tidak terlihat di daftar squeue. Lihat apakah job menghasilkan output yang diinginkan atau tidak.

[olala01@login myjob]$ ls
kerjaan-skripsi  slurm-skripsi  result-231.out  result-231.err 

Apabila user ingin membatalkan program yang tengah berjalan via SLURM, gunakan perintah scancel job ID:

[olala01@login myjob]$ scancel 231

SLURM Script

SLURM script adalah bash-script yang berisikan alokasi resources (CPU, RAM, GPU, walltime, output, dll) dan alur jalannya program. Terdapat 4 komponen penting pada SLURM script:

  1. Header #!/bin/bash untuk bash script.
  2. Parameter alokasi resources CPU, memori, waktu, output, dll dengan SBATCH.
  3. Pengaturan Module Environment untuk memuat software yang dibutuhkan.
  4. Alur perintah untuk menjalankan komputasi user.

Resources HPC Aleleon Mk.II

Sebelum menggunakan SLURM, user harus mengetahui alokasi maksimal hardware dari HPC Aleleon Mk.II yang dijelaskan pada tabel dibawah ini.

Partisi Hardware HPC Aleleon Mk.II
Partisi Keterangan Jumlah Node Jumlah Core CPU per node Jumlah RAM per node Jumlah GPU per node
epyc (DEFAULT) compute node CPU 3 128 250GB 0
gpu_ampere compute node GPU 1 128 125GB 2

Parameter Resources SBATCH Esensial

Terdapat ratusan jenis parameter SBATCH pada SLURM. Berikut adalah parameter esensial yang digunakan pada HPC Aleleon Mk.II.

Parameter esensial SBATCH SLURM untuk menjalankan job di Compute Node CPU (DEFAULT)
Parameter Resource Penjelasan
#SBATCH --ntasks=<cpu-cores> Core CPU Alokasi jumlah core CPU yang akan digunakan. Contoh mengalokasikan 64 core CPU:

#SBATCH --ntasks=64

#SBATCH --mem=<mem-capacity> Memori RAM Alokasi memori RAM yang akan digunakan. User bisa menetapkan satuan apapun namun kami merekomendasikan satuan GB. Contoh mengalokasikan memori 64GB:

#SBATCH --mem=64GB

#SBATCH --time=<walltime> Walltime Waktu maksimal yang dialokasikan untuk job. Walltime maksimal yang diizinkan saat ini adalah 14 hari. Format waktu <walltime> yang digunakan:
  • HH:MM:SS. Contoh alokasi 10 jam= #SBATCH --time=10:00:00
  • D-HH:MM:SS. Contoh alokasi 2 hari= #SBATCH --time=2-00:00:00
#SBATCH --output=<output-file> Output terminal Merekap output terminal dari program user. Terdapat variabel spesial yaitu %j untuk merekap JOB ID. Format file dibebaskan. Contoh:

#SBATCH --output=hasil-%j.out

#SBATCH --error=<error-file> Output verbose Merekap output verbose program, berguna untuk melakukan troubleshooting dikala program user tidak berjalan. Contoh:

#SBATCH --error=hasil-%j.err

#SBATCH --nodes=<nodes> Node Alokasi node Compute Node yang akan dipakai. User tidak perlu mencantumkan parameter nodes ketika hanya menggunakan satu node. Contoh mengalokasikan 3 node:

#SBATCH --nodes=3

Menggunakan Paralel Multi-Node

Berikut adalah dua parameter wajib apabila user menggunakan lebih dari satu node untuk komputasi paralel:

Parameter wajib SBATCH SLURM untuk menggunakan lebih dari satu node
Paramater Resource Penjelasan
#SBATCH --nodes=<nodes> Node Alokasi jumlah node Compute Node yang akan digunakan. Contoh mengalokasikan 3 node:

#SBATCH --nodes=3

#SBATCH --ntasks-per-node=<cpu-cores> Core CPU per node Alokasi jumlah core CPU per node yang akan digunakan. Contoh mengalokasikan 64 core per node:

$SBATCH --ntasks-per-node=64

Menggunakan Compute Node GPU

Berikut adalah dua parameter wajib apabila user menjalankan job di compute node GPU NVIDIA Ampere:

Parameter wajib SBATCH SLURM untuk menjalankan job di compute node GPU
Paramater Resource Penjelasan
#SBATCH --partition=gpu_ampere Partisi GPU Menjalankan job pada partisi compute node GPU (yang bernama gpu_ampere)
#SBATCH --gres=gpu:<jumlah-GPU > GPU Contoh menggunakan 2 GPU:

$SBATCH --gres=gpu:2

Menggunakan Threading CPU

Berikut adalah parameter untuk mengalokasikan threading CPU untuk user yang menggunakan program paralel threading seperti OpenMP (OMP), hybrid MPI/OMP, OpenBLAS, MKL, dll:

Parameter SBATCH SLURM untuk menjalankan threading CPU
Parameter Resource Penjelasan
#SBATCH --cpus-per-task=<cpu-task> Threading CPU Jumlah threading CPU per core yang digunakan.

Contoh SLURM Submission Script Satu Node CPU

SLURM Satu Node

Program akan berjalan dengan jumlah core CPU dan RAM yang definisikan pada parameter SBATCH ntasks dan mem. Contoh lengkap SLURM submission script dengan CPU 128 threads dan RAM 16GB:

#!/bin/bash

#SBATCH --ntasks=128
#SBATCH --mem=16GB
#SBATCH --time=00:10:00
#SBATCH --output=result-%j.out
#SBATCH --error=result-%j.err

# MODULE 
# module load software yang dibutuhkan

# RUN COMMAND
# run command software...

SLURM Satu Node MPI

User hendaknya menggunakan modul MPI default yang direkomendasikan admin EFISON:

$ module load openmpi

Perhatikan bahwa jumlah task mpirun tidak boleh melebihi ntasks pada SBATCH. Selain itu, masukkan parameter UCX pada perintah mpirun untuk memanfaatkan protokol UCX (Unified Communication X) guna mendapatkan performa lebih:

--mca pml ucx --mca osc ucx

Contoh lengkap SLURM submission script dengan CPU 64 core, RAM 32GB, dan proses MPI 64:

#!/bin/bash

#SBATCH --ntasks=64
#SBATCH --mem=32GB
#SBATCH --time=1:00:00
#SBATCH --output=result-%j.out
#SBATCH --error=result-%j.err

# MODULE
module load openmpi
# dan module load lain yang dibutuhkan

# RUN COMMAND
mpirun -np 64 --mca pml ucx --mca osc ucx <program-MPI...>

SLURM Satu Node MPI + OpenMP

Contoh: user ingin menggunakan 128 threads CPU dengan pembagian 16 MPI processes dam 8 OMP thread per MPI (Total CPU terpakai = MPI x OMP. Penjelasan lebih detail kunjungi Hybrid MPI dan OMP). Pada SLURM, user mendeklarasikan variabel OMP melalui parameter SLURM_CPUS_PER_TASK dan SBATCH cpus-per-task.

Parameter SBATCH SLURM untuk OpenMP / Hybrid
Parameter Penjelasan
#SBATCH --cpus-per-task=<cpu-task> Jumlah komputasi CPU per ntask. Bila diterapkan ke MPI-OMP artinya jumlah OMP per MPI.

Berikut adalah contoh lengkap SLURM submission script dengan 16 proses MPI, 8 OMP per MPI, dan RAM 128GB. Perhatikan bahwa jumlah proses MPI mengikuti ntasks.

#!/bin/bash

#SBATCH --ntasks=16
#SBATCH --cpus-per-task=8
#SBATCH --mem=128GB
#SBATCH --time=1-00:00:00
#SBATCH --output=result-%j.out
#SBATCH --error=result-%j.err

# MODULE
module load openmpi
# dan modul lain yang dibutuhkan

# RUN COMMAND
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
mpirun -np 16 --mca pml ucx --mca osc ucx <program-MPI...>

Contoh SLURM Submission Script Banyak Node CPU

Pada HPC, program dengan dukungan komputasi paralel (seperti MPI dan ekstensi lib. paralel lainnya) dapat dijalankan secara paralel dengan banyak node sekaligus. SLURM menggunakan parameter SBATCH nodes dan ntasks-per-node untuk menjalankan komputasi paralel banyak node.

Parameter SBATCH SLURM untuk banyak node
Parameter Penjelasan
#SBATCH --nodes=<nodes> Jumlah node yang akan dipakai.
#SBATCH --ntasks-per-node=<cpu-cores> Jumlah ntasks per node.

Sementara itu jumlah memori yang dideklarasikan (SBATCH mem) adalah dan sudah otomatis per node (sehingga nilai maksimal 250GB). Tidak ada parameter total mem atau mem-per-node.

SLURM Banyak Node MPI

Perhatikan bahwa total task MPI task adalah nodes X ntasks-per-node. Contoh ketika user ingin menggunakan 2 node, 128 threads per node, dan RAM 192GB per node maka konfigurasi SBATCH menjadi:

#SBATCH --nodes=2
#SBATCH --ntasks-per-node=128
#SBATCH --mem=192GB

Total proses MPI dari konfigurasi tersebut adalah 2 x 128 = 256 proses MPI. Berikut adalah contoh lengkap SLURM submission script untuk menjalankan konfigurasi diatas:

#!/bin/bash

#SBATCH --nodes=2
#SBATCH --ntasks-per-node=128
#SBATCH --mem=192GB
#SBATCH --time=10:00:00
#SBATCH --output=chem-%j.out
#SBATCH --error=chem-%j.out

# MODULE
module load openmpi
# atau modul lain yang dibutuhkan

# RUN COMMAND
mpirun -np 256 --mca pml ucx --mca osc ucx <program-MPI...>

SLURM Banyak Node MPI + OpenMP

Kita gunakan contoh MPI + OpenMP sebelumnya dengan 16 ntasks dan 8 cpus-per-task (16 proses MPI dan 8 OMP per MPI) per node. Bila dijalankan 2 node misalnya, maka parameter akan menjadi:

#SBATCH --nodes=2
#SBATCH --ntasks-per-node=16
#SBATCH --cpus-per-task=8

Total proses MPI tetap mengikuti aturan nodes x ntasks-per-node yaitu 2 x 16 = 32 proses MPI. Contoh lengkap SLURM submission script:

#!/bin/bash

#SBATCH --nodes=2
#SBATCH --ntasks-per-node=16
#SBATCH --cpus-per-task=8
#SBATCH --mem=128GB
#SBATCH --time=1-00:00:00
#SBATCH --output=result-%j.out
#SBATCH --error=result-%j.err

# MODULE
module load openmpi
# atau modul yang dibutuhkan

# RUN COMMAND
export OMP_NUM_THREADS=${SLURM_CPUS_PER_TASK}
mpirun -np 32 --mca pml ucx --mca osc ucx <program-MPI...>

Contoh SLURM Submission Script GPU

Contoh SLURM Submission script dengan 2 GPU, 16 CPU, dan RAM 32GB:

#!/bin/bash

#SBATCH --partition=gpu_ampere
#SBATCH --gres=gpu:2
#SBATCH --ntasks=16
#SBATCH --mem=32GB
#SBATCH --time=1:00:00
#SBATCH --output=result-%j.out
#SBATCH --error=result-%j.err

# MODULE
# module load yang dibutuhkan

# RUN COMMAND
# run command software...

Contoh SLURM Submission Script Software Spesifik

Terdapat software yang membutuhkan contoh SLURM submission script spesifik supaya dapat berjalan dengan baik. Kunjungi Software di HPC Aleleon Mk.II.

Membaca squeue

Sesuai penjelasan diatas, user dapat melihat status dan antrian jalannya program melalui perintah squeue.

Penjelasan bagian squeue

Info yang esensial untuk user adalah bagian STATE dan NODELIST(REASON). STATE (ST) memberikan kondisi jalannya program user sementara itu NODELIST(REASON) memberikan detail verbose status jalannya program user.

Daftar STATE yang biasa muncul
STATE Kepanjangan Penjelasan
R RUN Job berjalan
PD PENDING Job tertahan, lihat keterangan NODELIST
CG COMPLETING Job selesai dan dalam proses clean-up SLURM
CA CANCELED Job dibatalkan oleh user
PR PREEMPETED Job dibatalkan oleh sys-admin Aleleon, alasan akan dikabarkan melalui email
S SUSPENDED Job ditahan oleh sys-admin Aleleon

Pada saat job berjalan (RUNNING) maka NODELIST akan menampilkan info nama node tempat job berjalan. Sementara itu NODELIST akan memberikan alasan verbose pada saat job tidak berjalan (STATE selain RUNNING). Berikut adalah daftar NODELIST yang bisa terjadi di HPC Aleleon Mk.II:

Daftar NODELIST di HPC Aleleon Mk.II
NODELIST Penjelasan
Resources Job menunggu alokasi resources (CPU, RAM, GPU) yang dipesan oleh SLURM submission script user
AssocMaxWallDurationPerJobLimit Job tidak dapat berjalan karena melewati batas walltime maksimum partisi
QOSMaxCpuPerUserLimit Job melewati batas alokasi CPU user (lihat laman QOS User untuk penjelasan lebih lanjut).

User dapat lapor admin melalui email support@efisonlt.com apabila menjumpai NODELIST yang tidak terdapat pada daftar diatas ketika job user tidak berjalan.