Submit Script ALELEON Supercomputer: Perbedaan antara revisi

Dari ALELEON by EFISON
Baris 1: Baris 1:
Halaman ini menjelaskan panduan mengisi Submit Script yang merupakan:   
32Halaman ini menjelaskan panduan mengisi Submit Script yang merupakan:   


* Script untuk mengalokasikan hardware komputasi dan menjalankan software user ke Compute Node.   
* Script untuk mengalokasikan hardware komputasi dan menjalankan software user ke Compute Node.   
Baris 31: Baris 31:
  #SBATCH --error=////
  #SBATCH --error=////
{| class="wikitable"
{| class="wikitable"
!Komponen
|+Penjelasan dan rentang nilai parameter SBATCH Partisi epyc
!Alokasi Komponen
!SBATCH
!SBATCH
!Nilai Maksimal
!Nilai MAKSIMAL
!Contoh penulisan
|-
|-
|Node
|Jumlah Compute Node
|nodes
| --nodes
|'''3'''
|'''3'''
|<code>'''#SBATCH --nodes=1'''</code>
|-
|-
|Core thread CPU  
|Jumlah Core thread CPU  
|ntasks
| --ntasks
|'''128''' per node
|'''128''' per node
'''384''' total
'''384''' total
|<code>'''#SBATCH --ntasks=64'''</code>
|-
|-
|RAM  
| rowspan="2" |Kapasitas RAM  
|mem
| rowspan="2" | --mem
|'''240GB''' per node
|'''240GB'''  
|<code>'''#SBATCH --mem=128GB'''</code>
|-
|-
|Walltime
| colspan="2" |''Penulisan angka dan satuan digabung''
|time
|-
| rowspan="2" |Walltime
| rowspan="2" | --time
|'''14-00:00:00'''
|'''14-00:00:00'''
|<code>'''#SBATCH --time=08:00:00'''</code>
|-
| colspan="2" |''Format penulisan:''
* ''HH:MM:SS''
* ''D-HH:MM:SS''
|-
|Output terminal
| --output
| colspan="2" rowspan="2" |''Lihat penjelasan dibawah''
|-
|Output verbose
| --error
|}
|}
'''Catatan penting:'''
* '''nodes'''
* '''nodes'''
** Alokasi jumlah '''node atau unit server Compute Node''' yang digunakan.
** Lihat tabel Dukungan Hardware pada [https://wiki.efisonlt.com/wiki/Katalog_Software_ALELEON_Supercomputer#Daftar_Software_Komputasi '''Daftar Software Komputasi'''] atau di halaman tutorial masing-masing software untuk menentukan apakah '''dapat berjalan multi-node (> 1 node) atau hanya single-node (1 node saja).'''
** Contoh mengalokasikan 1 node: '''#SBATCH --nodes=1.'''
** Lihat tabel Dukungan Hardware pada [https://wiki.efisonlt.com/wiki/Katalog_Software_ALELEON_Supercomputer#Daftar_Software_Komputasi '''Daftar Software Komputasi'''] atau di halaman tutorial masing-masing software untuk menentukan apakah dapat berjalan multi-node (> 1 node) atau hanya single-node (1 node saja).
* '''ntasks'''  
* '''ntasks'''  
** Alokasi jumlah '''core thread CPU''' yang digunakan.
** Contoh mengalokasikan 32 core thread CPU: '''#SBATCH --ntasks=32.'''
** Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya.
** Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya.
** '''Catatan penting:'''
** Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
*** Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
*'''nodes dan ntasks untuk menjalankan program paralel MPI (satu node atau multi node)'''
*** CPU AMD pada ALELEON Supercomputer berjalan dengan '''SMT (Simultaneous Multi-Threading) aktif''' sehingga ntasks mewakili core thread CPU.
**Ikuti penjelasan [[MPI ALELEON Supercomputer#MPI%20Satu%20Node%20vs%20Multi%20Node|'''MPI Satu Node vs Multi Node''']].
---
**Hal ini juga berlaku untuk program paralel selain MPI (apabila ada).
 
Berikut adalah aturan umum menetapkan nilai nodes dan ntasks di Partisi epyc:
{| class="wikitable"
!Jumlah ntasks
!Jumlah nodes
|-
|1 - 128
|1
|-
|129 - 256
|2
|-
|257 - 384
|3
|}
Khusus untuk multi-node program MPI lihat [[MPI ALELEON Supercomputer#MPI%20Satu%20Node%20vs%20Multi%20Node|'''MPI Satu Node vs Multi Node''']].  


---
*'''mem'''
** Alokasi '''kapasitas RAM''' '''per node''' yang digunakan, diikuti dengan satuan KB, MB, atau GB.
** Contoh mengalokasikan RAM 32GB: '''#SBATCH --mem=32GB'''
** Tidak ada aturan baku untuk memilih jumlah RAM. Apabila tidak dapat memperkirakan kebutuhan RAM, admin EFISON menyarankan user untuk memilih jumlah RAM 0.5GB per ntasks sebagai basis, contoh:
***ntasks=8, alokasikan mem 4GB.
***ntasks=32, alokasikan mem 16GB.
**User dapat menggunakan kapasitas RAM yang lebih besar apabila mengetahui bahwa program yang dijalankan membutuhkan kapasitas RAM besar atau alokasi RAM 0.5GB per ntasks tidak cukup.
*'''time'''
** Alokasi '''walltime (waktu maksimal)''' yang diizinkan untuk menjalankan job, mengikuti format penulisan:
*** HH:MM:SS. Contoh alokasi 2 jam: '''#SBATCH --time=02:00:00'''
*** D-HH:MM:SS. Contoh alokasi 2 hari: '''#SBATCH --time=2-00:00:00'''
*'''output'''  
*'''output'''  
** Merekap '''output program yang keluar di terminal'''. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
** Merekap '''output program yang keluar di terminal'''. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
** Terdapat penamaan pattern dari SLURM yaitu '''%j''' yang merekap job-ID.
** Terdapat pola penamaan dari SLURM yaitu '''%j''' yang merekap job-ID.
** Contoh penamaan output yang sering digunakan: '''#SBATCH --output=result-%j.txt'''
** Contoh penamaan output yang sering digunakan: '''<code>#SBATCH --output=result-%j.txt</code>'''
** Apabila job berjalan dengan no. ID 2555, maka nama output menjadi '''result-2555.txt'''
*** Apabila job berjalan dengan no. ID 2555, maka nama output menjadi '''result-2555.txt'''
*'''error'''
*'''error'''
** Merekap '''output verbose program''' yaitu status jalannya program seperti "job sudah berjalan!" dan error log ketika program gagal selesai.
** Merekap '''output verbose program''' yaitu status jalannya program dan error log ketika program gagal selesai.
** Output error sangat bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
** Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
** Format penamaan mengikuti parameter output diatas, contoh: '''#SBATCH --error=error-%j.txt'''
** Format penamaan mengikuti parameter output diatas, contoh: '''<code>#SBATCH --error=error-%j.txt</code>'''
== '''SBATCH Partisi gpu_ampere / Compute Node GPU''' ==
== '''SBATCH Partisi gpu_ampere / Compute Node GPU''' ==
  # Alokasi GPU, core thread CPU, RAM, time limit, output program & error
  # Alokasi GPU, core thread CPU, RAM, time limit, output program & error
  '''#SBATCH --partition=gpu_ampere'''
  '''#SBATCH --partition=gpu_ampere'''
  '''#SBATCH --gres=gpu:////'''
  '''#SBATCH --gres=gpu:////'''
  #SBATCH --ntasks=////
  #SBATCH --ntasks=////
Baris 112: Baris 101:
  #SBATCH --error=////
  #SBATCH --error=////
{| class="wikitable"
{| class="wikitable"
!Komponen
|+Penjelasan dan rentang nilai parameter SBATCH Partisi gpu_ampere
!Alokasi Komponen
!SBATCH
!SBATCH
!Nilai Maksimal
!Nilai MAKSIMAL
!Contoh penulisan
|-
|Compute Node GPU
| --partition
| colspan="2" |'''<code>#SBATCH --partition=gpu_ampere</code>'''
|-
|-
|Node
|Jumlah GPU
|nodes
| --gres=gpu:
|'''1'''
|'''3'''
|'''<code>#SBATCH --gres=gpu:1</code>'''
|-
|-
|Core thread CPU
|Jumlah Core thread CPU  
|ntasks
| --ntasks
|'''32'''
|'''32'''
|<code>'''#SBATCH --ntasks=16'''</code>
|-
|-
|GPU
| rowspan="2" |Kapasitas RAM
|gres=gpu
| rowspan="2" | --mem
|'''3'''
|'''120GB'''
|<code>'''#SBATCH --mem=64GB'''</code>
|-
|-
|RAM
| colspan="2" |''Penulisan angka dan satuan digabung''
|mem
|'''125GB'''  
|-
|-
|Walltime
| rowspan="2" |Walltime
|time
| rowspan="2" | --time
|'''14-00:00:00'''
|'''14-00:00:00'''
|<code>'''#SBATCH --time=08:00:00'''</code>
|-
| colspan="2" |''Format penulisan:''
* ''HH:MM:SS''
* ''D-HH:MM:SS''
|-
|Output terminal
| --output
| colspan="2" rowspan="2" |''Lihat penjelasan dibawah''
|-
|Output verbose
| --error
|}
|}
*'''partition=gpu_ampere'''
'''Catatan penting:'''
** Mengalokasikan job ke Compute Node GPU gpu_ampere
*'''gres=gpu:''<jumlah-GPU>'''''
*'''gres=gpu:<jumlah-GPU>'''
**Penghitungan kredit GPU Hour (GH) berdasarkan jumlah gres gpu yang didefinisikan user.
** Alokasi '''Jumlah GPU''' yang digunakan.
** Contoh mengalokasikan 1 GPU: '''#SBATCH --gres=gpu:1'''
** Contoh mengalokasikan 2 GPU: '''#SBATCH --gres=gpu:2'''
** '''Catatan penting:'''
*** Penghitungan kredit GPU Hour (GH) berdasarkan jumlah gres gpu yang didefinisikan user.
* '''ntasks'''
* '''ntasks'''
** Alokasi jumlah '''core thread CPU''' yang digunakan.
** Contoh mengalokasikan 32 core thread CPU: '''#SBATCH --ntasks=32.'''
** Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32.
** Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32.
** '''Catatan penting:'''
** Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
*** Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
*** CPU AMD pada ALELEON Supercomputer berjalan dengan '''SMT (Simultaneous Multi-Threading) aktif''' sehingga ntasks mewakili core thread CPU.
*'''mem'''
** Alokasi '''kapasitas RAM''' '''per node''' yang digunakan, diikuti dengan satuan KB, MB, atau GB.
** Contoh mengalokasikan RAM 32GB: '''#SBATCH --mem=32GB'''
** Tidak ada aturan baku untuk memilih jumlah RAM. Apabila tidak dapat memperkirakan kebutuhan RAM, admin EFISON menyarankan user untuk memilih jumlah RAM 0.5GB per ntasks sebagai basis, contoh:
***ntasks=8, alokasikan mem 4GB.
***ntasks=32, alokasikan mem 16GB.
**User dapat menggunakan kapasitas RAM yang lebih besar apabila mengetahui bahwa program yang dijalankan membutuhkan kapasitas RAM besar atau alokasi RAM 0.5GB per ntasks tidak cukup.
*'''time'''
** Alokasi '''walltime (waktu maksimal)''' yang diizinkan untuk menjalankan job, mengikuti format penulisan:
*** HH:MM:SS. Contoh alokasi 2 jam: '''#SBATCH --time=02:00:00'''
*** D-HH:MM:SS. Contoh alokasi 2 hari: '''#SBATCH --time=2-00:00:00'''
*'''output'''  
*'''output'''  
** Merekap '''output program yang keluar di terminal'''. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
** Merekap '''output program yang keluar di terminal'''. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
** Terdapat penamaan pattern dari SLURM yaitu '''%j''' yang merekap job-ID.
** Terdapat pola penamaan dari SLURM yaitu '''%j''' yang merekap job-ID.
** Contoh penamaan output yang sering digunakan: '''#SBATCH --output=result-%j.txt'''
** Contoh penamaan output yang sering digunakan: '''<code>#SBATCH --output=result-%j.txt</code>'''
** Apabila job berjalan dengan no. ID 2555, maka nama output menjadi '''result-2555.txt'''
*** Apabila job berjalan dengan no. ID 2555, maka nama output menjadi '''result-2555.txt'''
*'''error'''
*'''error'''
** Merekap '''output verbose program''' yaitu status jalannya program seperti "job sudah berjalan!" dan error log ketika program gagal selesai.
** Merekap '''output verbose program''' yaitu status jalannya program dan error log ketika program gagal selesai.
** Output error sangat bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
** Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
** Format penamaan mengikuti parameter output diatas, contoh: '''#SBATCH --error=error-%j.txt'''
** Format penamaan mengikuti parameter output diatas, contoh: '''<code>#SBATCH --error=error-%j.txt</code>'''
== '''SBATCH Notifikasi e-mail''' ==
== '''SBATCH Notifikasi e-mail''' ==
SLURM pada ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan nama email '''Jojo''' untuk mengirim notifikasi email. SBATCH notifikasi e-mail secara default ada pada semua template di Job Composer.  
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan nama email '''Jojo''' untuk mengirim notifikasi email. SBATCH notifikasi e-mail secara default ada pada semua template di Job Composer.  
  #SBATCH --mail-user=////
  #SBATCH --mail-user=////
  #SBATCH --mail-type=begin
  #SBATCH --mail-type=begin

Revisi per 21 September 2022 10.39

32Halaman ini menjelaskan panduan mengisi Submit Script yang merupakan:

  • Script untuk mengalokasikan hardware komputasi dan menjalankan software user ke Compute Node.
  • ALELEON Supercomputer menggunakan manajemen SLURM sehingga Submit Script mengikuti tata cara penulisan SLURM.

Struktur Submit Script

Secara umum, Submit Script atau SLURM Script dipecah menjadi 4 bagian penting.

Bagian Submit Script
  1. Header #!/bin/bash karena Submit Script adalah bash script.
  2. Parameter SBATCH untuk mengalokasikan resources job seperti CPU, RAM, GPU, time, dll.
    • Terdapat ratusan jenis parameter SBATCH pada SLURM dari yang standar hingga advanced.
    • Pada halaman ini, admin EFISON merangkum parameter SBATCH yang esensial untuk menggunakan ALELEON Supercomputer.
  3. Memuat software yang dibutuhkan untuk menjalankan job user dengan Module Environment melalui perintah module load. Apabila user tidak memuat modul software yang benar maka job tidak akan berjalan.
  4. Perintah utama untuk menjalankan program user.

Tanda ////

Tanda 4 garing (////) menandai bagian yang perlu diisi oleh user. Contoh terdapat bagian script untuk menaruh nama file input: 

file_input="////.inp"

Artinya user mengisi nama file input dengan menggantikan tanda //// di dalam braket tanda petik, contoh menjadi:

file_input="thesis.inp"

SBATCH Partisi epyc / Compute Node CPU

# Alokasi node, core thread CPU, RAM, time limit, output program & error
#SBATCH --nodes=////
#SBATCH --ntasks=////
#SBATCH --mem=////
#SBATCH --time=////
#SBATCH --output=////
#SBATCH --error=////
Penjelasan dan rentang nilai parameter SBATCH Partisi epyc
Alokasi Komponen SBATCH Nilai MAKSIMAL Contoh penulisan
Jumlah Compute Node --nodes 3 #SBATCH --nodes=1
Jumlah Core thread CPU --ntasks 128 per node

384 total

#SBATCH --ntasks=64
Kapasitas RAM --mem 240GB #SBATCH --mem=128GB
Penulisan angka dan satuan digabung
Walltime --time 14-00:00:00 #SBATCH --time=08:00:00
Format penulisan:
  • HH:MM:SS
  • D-HH:MM:SS
Output terminal --output Lihat penjelasan dibawah
Output verbose --error

Catatan penting:

  • nodes
    • Lihat tabel Dukungan Hardware pada Daftar Software Komputasi atau di halaman tutorial masing-masing software untuk menentukan apakah dapat berjalan multi-node (> 1 node) atau hanya single-node (1 node saja).
  • ntasks
    • Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya.
    • Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
  • nodes dan ntasks untuk menjalankan program paralel MPI (satu node atau multi node)
  • output
    • Merekap output program yang keluar di terminal. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
    • Terdapat pola penamaan dari SLURM yaitu %j yang merekap job-ID.
    • Contoh penamaan output yang sering digunakan: #SBATCH --output=result-%j.txt
      • Apabila job berjalan dengan no. ID 2555, maka nama output menjadi result-2555.txt
  • error
    • Merekap output verbose program yaitu status jalannya program dan error log ketika program gagal selesai.
    • Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
    • Format penamaan mengikuti parameter output diatas, contoh: #SBATCH --error=error-%j.txt

SBATCH Partisi gpu_ampere / Compute Node GPU

# Alokasi GPU, core thread CPU, RAM, time limit, output program & error
#SBATCH --partition=gpu_ampere

#SBATCH --gres=gpu:////
#SBATCH --ntasks=////
#SBATCH --mem=////
#SBATCH --time=////
#SBATCH --output=////
#SBATCH --error=////
Penjelasan dan rentang nilai parameter SBATCH Partisi gpu_ampere
Alokasi Komponen SBATCH Nilai MAKSIMAL Contoh penulisan
Compute Node GPU --partition #SBATCH --partition=gpu_ampere
Jumlah GPU --gres=gpu: 3 #SBATCH --gres=gpu:1
Jumlah Core thread CPU --ntasks 32 #SBATCH --ntasks=16
Kapasitas RAM --mem 120GB #SBATCH --mem=64GB
Penulisan angka dan satuan digabung
Walltime --time 14-00:00:00 #SBATCH --time=08:00:00
Format penulisan:
  • HH:MM:SS
  • D-HH:MM:SS
Output terminal --output Lihat penjelasan dibawah
Output verbose --error

Catatan penting:

  • gres=gpu:<jumlah-GPU>
    • Penghitungan kredit GPU Hour (GH) berdasarkan jumlah gres gpu yang didefinisikan user.
  • ntasks
    • Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32.
    • Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
  • output
    • Merekap output program yang keluar di terminal. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
    • Terdapat pola penamaan dari SLURM yaitu %j yang merekap job-ID.
    • Contoh penamaan output yang sering digunakan: #SBATCH --output=result-%j.txt
      • Apabila job berjalan dengan no. ID 2555, maka nama output menjadi result-2555.txt
  • error
    • Merekap output verbose program yaitu status jalannya program dan error log ketika program gagal selesai.
    • Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
    • Format penamaan mengikuti parameter output diatas, contoh: #SBATCH --error=error-%j.txt

SBATCH Notifikasi e-mail

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan nama email Jojo untuk mengirim notifikasi email. SBATCH notifikasi e-mail secara default ada pada semua template di Job Composer. 

#SBATCH --mail-user=////
#SBATCH --mail-type=begin
#SBATCH --mail-type=end
  • mail-user
    • Alamat email user untuk menerima notifikasi SLURM
  • mail-type=begin
    • Notifikasi email yang menginfokan job sudah mulai.
  • mail-type=end
    • Notifikasi email yang menginfokan job sudah selesai.
    • Sekaligus memberikan cuplikan 20 baris terakhir dari SBATCH output dan error job user.

Memuat Software dengan module load

Untuk menjalankan software di Compute Node, user harus memuat software yang dibutuhkan melalui perintah module load pada Submit Script: 

module load nama-modul-software
  • Perintah module load harus ditaruh sebelum penulisan perintah menjalankan program.
  • Template software komputasi sudah menyertakan module load yang diperlukan.
  • Pada template umum (misalnya Default Template, MPI - Template Kosong, Python - Template Kosong, dll), user harus menulis sendiri module load yang dibutuhkan.
  • Daftar lengkap nama modul software dapat ditemukan pada Katalog Software ALELEON Supercomputer.
Diperoleh dari "https://wiki.efisonlt.com/index.php?title=Submit_Script_ALELEON_Supercomputer&oldid=888"