Submit Script ALELEON Supercomputer

Halaman ini menjelaskan panduan memahami, membuat, dan mengisi SLURM Submit Script untuk melakukan job submission ke Compute Node.

Struktur Submit Script

Secara umum, Submit Script atau SLURM Script dipecah menjadi 4 bagian penting.

1. Header #!/bin/bash karena Submit Script adalah bash script.
2. Parameter SBATCH untuk mengalokasikan resources job seperti CPU, RAM, GPU, time, dll.
3. Memuat modul software yang dibutuhkan untuk menjalankan komputasi user dengan Module Environment.
4. Perintah utama untuk menjalankan program user.

Note: Terdapat ratusan jenis parameter SBATCH pada SLURM dari yang standar hingga kompleks. Pada halaman ini, admin EFISON merangkum parameter SBATCH yang esensial untuk menggunakan ALELEON Supercomputer.

Tanda ////

Dalam membuat template SLURM Submit Script, admin EFISON menggunakan tanda 4 garing (////) untuk menandai bagian yang perlu diisi oleh user. Contoh terdapat bagian script untuk menaruh nama file input:

FILE_INPUT="////.in"

Artinya user mengisi nama file input dengan menggantikan tanda //// di dalam braket tanda petik, contoh menjadi:

FILE_INPUT="myskripsi.in"

SBATCH untuk Compute Node CPU (Partisi epyc)

Berikut adalah daftar SBATCH yang esensial (dan biasanya akan ditemukan pada banyak template) untuk menjalankan komputasi di Compute Node CPU atau Partisi epyc.

#SBATCH --nodes=<jumlah-compute-node>
#SBATCH --ntasks=<jumlah-core-CPU>
#SBATCH --mem=<jumlah-memori-RAM>
#SBATCH --time=<jumlah-limit-waktu-komputasi>
#SBATCH --output=<output-textfile>
#SBATCH --error=<output-verbose-dan-error-log-textfile>

SBATCH Partisi epyc

SBATCH	Penjelasan
nodes	Alokasi jumlah Compute Node CPU yang digunakan.
	#SBATCH --nodes=<jumlah-compute-node> Contoh mengalokasikan 1 node: #SBATCH --nodes=1 Jumlah nodes maksimal 3
ntasks	Alokasi jumlah core CPU yang digunakan.
	#SBATCH --ntasks=<jumlah-core-CPU> Contoh mengalokasikan 32 core CPU: #SBATCH --ntasks=32 Jumlah ntasks maksimal Per Compute Node 128 Semua Compute Node 384
	Note: ALELEON Supercomputer menyalakan SMT (Simultaneous Multithreading) pada semua CPU sehingga ntasks mengisi core thread CPU. Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya. Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
Apabila user ingin menjalankan komputasi paralel lebih dari 2 Compute Node (dengan program yang mendukung seperti MPI), silahkan lihat panduan tambahan: Panduan menjalankan Program MPI Multi-Compute Node.
mem	Alokasi jumlah memori RAM yang digunakan. Admin merekomendasikan satuan MB atau GB.
	#SBATCH --mem=<jumlah-memori>MB|GB Contoh mengalokasikan memori RAM 32GB: #SBATCH --mem=32GB Contoh mengalokasikan memori RAM 7500MB: #SBATCH --mem=7500MB Jumlah mem maksimal 240GB
	Partisi epyc mempunyai satu node spesial dengan kapasitas RAM hingga 500GB (dibandingkan standar 240GB). Apabila user membutuhkan RAM lebih dari 240GB, gunakan kombinasi SBATCH berikut: #SBATCH --nodelist=epyc01 #SBATCH --mem=<maks-hingga-500GB> Note: Hanya untuk user yang benar-benar membutuhkan komputasi dengan RAM lebih dari 240GB! Nodelist epyc01 juga digunakan oleh user lainnya jadi bersiaplah untuk mengantri apabila alokasi epyc01 belum dapat memenuhi permintaan user dengan RAM lebih dari 240GB.
time	Alokasi limit waktu untuk menjalankan job. Apabila waktu jalannya program melebihi limit maka akan dihentikan (kill) secara otomatis oleh SLURM.
	#SBATCH --time=<HH:MM:SS>atau #SBATCH --time=<D-HH:MM:SS> Contoh mengalokasikan limit waktu 10 jam 30 menit: #SBATCH --time=10:30:00 Contoh mengalokasikan limit waktu 2 hari: #SBATCH --time=2-00:00:00 Jumlah time maksimal 7-00:00:00 (7 hari)
output	Output textfile untuk merekap output terminal.
	User mendefinisikan nama dan format file. Terdapat pola penamaan dari SLURM yaitu %j untuk merekap nomor Job ID. Format file dibebaskan (biasanya menggunakan .txt atau .out). #SBATCH --output=<nama-file-output>.<format-file>
	Contoh mendefinisikan file output dengan format txt bersama job-ID:#SBATCH --output=result-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file output menjadi result-670.txt.
error	Output textfile untuk merekap output verbose (status jalannya program dan error log ketika program gagal berjalan).
	Bermanfaat untuk melakukan troubleshooting ketika program gagal berjalan. Apabila membutuhkan support, admin biasanya akan meminta file output dari SBATCH error ini. Pola penamaan mengikuti SBATCH output diatas: #SBATCH --error=<nama-file-output>.<format-file>
	Contoh mendefinisikan file error dengan format txt bersama job-ID: #SBATCH --output=error-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file error menjadi error-670.txt.

Penjelasan dan rentang nilai parameter SBATCH Partisi epyc

Alokasi Komponen	SBATCH	Nilai MAKSIMAL	Contoh penulisan
Jumlah Compute Node	--nodes	3	#SBATCH --nodes=1
Jumlah Core thread CPU	--ntasks	128 per node 384 total	#SBATCH --ntasks=64
		Untuk menjalankan program parallel multi-node, lihat: MPI Satu Node vs Multi Node.
Kapasitas RAM	--mem	240GB	#SBATCH --mem=128GB
		Penulisan angka dan satuan digabung
Walltime	--time	14-00:00:00	#SBATCH --time=08:00:00
		Format penulisan HH:MM:SS atau D-HH:MM:SS
Output terminal	--output	Lihat penjelasan dibawah
Output verbose	--error

Catatan penting:

• nodes
  • Lihat tabel Dukungan Hardware pada Daftar Software Komputasi atau di halaman tutorial masing-masing software untuk menentukan apakah dapat berjalan multi-node (> 1 node) atau hanya single-node (1 node saja).
• ntasks
  • Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya.
  • Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.

• output
  • Merekap output program yang keluar di terminal. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
  • Terdapat pola penamaan dari SLURM yaitu %j yang merekap job-ID.
  • Contoh penamaan output yang sering digunakan: #SBATCH --output=result-%j.txt
    • Apabila job berjalan dengan no. ID 2555, maka nama output menjadi result-2555.txt
• error
  • Merekap output verbose program yaitu status jalannya program dan error log ketika program gagal selesai.
  • Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
  • Format penamaan mengikuti parameter output diatas, contoh: #SBATCH --error=error-%j.txt

SBATCH Partisi gpu_ampere / Compute Node GPU

# Alokasi GPU, core thread CPU, RAM, time limit, output program & error
#SBATCH --partition=gpu_ampere
#SBATCH --gres=gpu:////
#SBATCH --ntasks=////
#SBATCH --mem=////
#SBATCH --time=////
#SBATCH --output=////
#SBATCH --error=////

Penjelasan dan rentang nilai parameter SBATCH Partisi gpu_ampere

Alokasi Komponen	SBATCH	Nilai MAKSIMAL	Contoh penulisan
Compute Node GPU	--partition	#SBATCH --partition=gpu_ampere
Jumlah GPU	--gres=gpu:	3	#SBATCH --gres=gpu:1
Jumlah Core thread CPU	--ntasks	32	#SBATCH --ntasks=16
Kapasitas RAM	--mem	120GB	#SBATCH --mem=64GB
		Penulisan angka dan satuan digabung
Walltime	--time	14-00:00:00	#SBATCH --time=08:00:00
		Format penulisan HH:MM:SS atau D-HH:MM:SS
Output terminal	--output	Lihat penjelasan dibawah
Output verbose	--error

Catatan penting:

• gres=gpu:<jumlah-GPU>
  • Penghitungan kredit GPU Hour (GH) berdasarkan jumlah gres gpu yang didefinisikan user.
• ntasks
  • Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32.
  • Penghitungan kredit CPU Core Hour (CCH) berdasarkan jumlah ntasks yang didefinisikan user.
• output
  • Merekap output program yang keluar di terminal. User memberikan sendiri nama file (satu kata tanpa spasi) diikuti dengan format file seperti .txt atau .out yang sering digunakan.
  • Terdapat pola penamaan dari SLURM yaitu %j yang merekap job-ID.
  • Contoh penamaan output yang sering digunakan: #SBATCH --output=result-%j.txt
    • Apabila job berjalan dengan no. ID 2555, maka nama output menjadi result-2555.txt
• error
  • Merekap output verbose program yaitu status jalannya program dan error log ketika program gagal selesai.
  • Output error bermanfaat bagi user untuk melakukan troubleshooting disaat program gagal berjalan. Admin EFISON merekomendasikan user untuk selalu menggunakan parameter error ini.
  • Format penamaan mengikuti parameter output diatas, contoh: #SBATCH --error=error-%j.txt

SBATCH Notifikasi e-mail

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan nama email Jojo untuk mengirim notifikasi email. SBATCH notifikasi e-mail secara default ada pada semua template di Job Composer.

#SBATCH --mail-user=////
#SBATCH --mail-type=begin
#SBATCH --mail-type=end

• mail-user
  • Alamat email user untuk menerima notifikasi SLURM
• mail-type=begin
  • Notifikasi email yang menginfokan job sudah mulai.
• mail-type=end
  • Notifikasi email yang menginfokan job sudah selesai.
  • Sekaligus memberikan cuplikan 20 baris terakhir dari SBATCH output dan error job user.

Memuat Software dengan module load

Untuk menjalankan software di Compute Node, user harus memuat software yang dibutuhkan melalui perintah module load pada Submit Script:

module load nama-modul-software

• Perintah module load harus ditaruh sebelum penulisan perintah menjalankan program.

• Template software komputasi sudah menyertakan module load yang diperlukan.
• Pada template umum (misalnya Default Template, MPI - Template Kosong, Python - Template Kosong, dll), user harus menulis sendiri module load yang dibutuhkan.
• Daftar lengkap nama modul software dapat ditemukan pada Katalog Software ALELEON Supercomputer.