Submit Script ALELEON Supercomputer

Halaman ini menjadi suplemen untuk konten: Penggunaan terminal - menjalankan komputasi ke Compute Node via SLURM Penggunaan EFIRO - menjalankan komputasi ke Compute Node via Job Composer

Halaman ini menjelaskan panduan memahami, membuat, dan mengisi SLURM Submit Script (atau disingkat Submit Script) untuk melakukan job submission ke Compute Node.

Bahasa Bash

Submit Script menggunakan bahasa bash dengan standar versi 4.4.

Struktur Submit Script

Secara umum, Submit Script mempunyai 4 bagian utama.

1. Header #!/bin/bash karena Submit Script adalah bash script.
2. Parameter SBATCH untuk mengalokasikan resources job seperti CPU, RAM, GPU, time, dll.
3. Memuat modul software yang dibutuhkan untuk menjalankan komputasi user dengan Module Environment.
4. Alur perintah untuk menjalankan program user.

Note: Terdapat ratusan jenis parameter SBATCH pada SLURM dari yang standar hingga kompleks. Pada halaman ini, admin EFISON merangkum parameter SBATCH yang esensial untuk menggunakan ALELEON Supercomputer.

Limitasi Sementara Alokasi Komputasi

Per tanggal 3 Februari 2023, ALELEON Supercomputer mengimplementasikan aturan baru berupa limitasi fair usage. Hal ini dilakukan untuk menjamin kualitas layanan ALELEON Supercomputer kepada seluruh pengguna. Mohon maaf atas ketidaknyamannya.

Berikut adalah limitasi fair usage per akun untuk total akumulasi semua job masing-masing user yang berjalan.

Alokasi komputasi	Limit maksimal
CPU	128
Memori RAM	128GB
GPU	2
Limit waktu komputasi	3 hari (3-00:00:00)

Ketika job yang sedang berjalan pada akun mencapai batas fair usage tersebut, maka job baru yang masuk ke antrian akan menunggu sampai job yang berjalan selesai dan alokasi fair usage dapat digunakan kembali.

Permintaan Membuka Limitasi Sementara

Ketika membutuhkan alokasi komputasi yang lebih besar dari limit diatas, user dapat mengajukan pembukaan limitasi sementara melalui laporan kendala dengan mengklik gambar ini.

• Tim admin akan memutuskan alokasi pembukaan limitasi tersebut menyesuaikan ketersediaan sumber daya komputasi dan antrian job pengguna lain di ALELEON Supercomputer.

SBATCH untuk Compute Node CPU (Partisi epyc)

Berikut adalah daftar SBATCH yang esensial (dan biasanya akan ditemukan pada banyak template) untuk menjalankan komputasi di Compute Node CPU atau Partisi epyc.

#SBATCH --nodes=<jumlah-compute-node>
#SBATCH --ntasks=<jumlah-core-CPU>
#SBATCH --mem=<jumlah-memori-RAM>
#SBATCH --time=<jumlah-limit-waktu-komputasi>
#SBATCH --output=<output-textfile>
#SBATCH --error=<output-verbose-dan-error-log-textfile>

Info Detail SBATCH Partisi epyc

SBATCH	Penjelasan
nodes	Alokasi jumlah Compute Node CPU yang digunakan.
	#SBATCH --nodes=<jumlah-compute-node> Contoh mengalokasikan 1 node: #SBATCH --nodes=1 Jumlah nodes maksimal 3
ntasks	Alokasi jumlah core CPU yang digunakan.
	#SBATCH --ntasks=<jumlah-core-CPU> Contoh mengalokasikan 32 core CPU: #SBATCH --ntasks=32 Jumlah ntasks maksimal Per Compute Node atau nodes 128 Semua Compute Node 384
	Note: ALELEON Supercomputer menyalakan SMT (Simultaneous Multithreading) pada semua CPU sehingga ntasks mengisi core thread CPU. Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32, 36, 40, dan seterusnya. Kredit CPU Core Hour (CCH) akan berkurang sejumlah ntasks yang didefinisikan user per jam-nya.
Apabila user ingin menjalankan komputasi paralel lebih dari 2 Compute Node (dengan program yang mendukung seperti MPI), silahkan lihat panduan tambahan: Panduan menjalankan Program MPI Multi-Compute Node.
mem	Alokasi jumlah memori RAM yang digunakan. Admin merekomendasikan satuan MB atau GB.
	#SBATCH --mem=<jumlah-memori>MB|GB Contoh mengalokasikan memori RAM 32GB: #SBATCH --mem=32GB Contoh mengalokasikan memori RAM 7500MB: #SBATCH --mem=7500MB Jumlah mem maksimal 240GB
	Partisi epyc mempunyai satu node spesial dengan kapasitas RAM hingga 500GB (dibandingkan standar 240GB). Apabila user membutuhkan RAM lebih dari 240GB, gunakan kombinasi SBATCH berikut: #SBATCH --nodelist=epyc001 #SBATCH --mem=<maks-hingga-500GB> Note: Hanya untuk user yang benar-benar membutuhkan komputasi dengan RAM lebih dari 240GB! Compute epyc001 juga digunakan oleh user lainnya jadi bersiaplah untuk mengantri apabila alokasi epyc01 belum dapat memenuhi permintaan user dengan RAM lebih dari 240GB.
time	Alokasi limit waktu untuk menjalankan job. Apabila waktu jalannya program melebihi limit maka akan dihentikan (kill) secara otomatis oleh SLURM.
	#SBATCH --time=<HH:MM:SS>atau #SBATCH --time=<D-HH:MM:SS> Contoh mengalokasikan limit waktu 10 jam 30 menit: #SBATCH --time=10:30:00 Contoh mengalokasikan limit waktu 2 hari: #SBATCH --time=2-00:00:00 Jumlah time maksimal 3-00:00:00 (3 hari)
output	Output textfile untuk merekap output terminal. User mendefinisikan nama dan format file. Terdapat pola penamaan dari SLURM yaitu %j untuk merekap nomor Job ID. Format file dibebaskan (biasanya menggunakan .txt atau .out).
	#SBATCH --output=<nama-file-output>.<format-file> Contoh mendefinisikan file output dengan format txt bersama job-ID: #SBATCH --output=result-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file output menjadi result-670.txt.
error	Output textfile untuk merekap output verbose (status jalannya program dan error log ketika program gagal berjalan). Bermanfaat untuk melakukan troubleshooting ketika program gagal berjalan. Apabila membutuhkan support, admin biasanya akan meminta file output dari SBATCH error ini. Pola penamaan mengikuti SBATCH output diatas.
	#SBATCH --error=<nama-file-output>.<format-file> Contoh mendefinisikan file error dengan format txt bersama job-ID: SBATCH --output=error-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file error menjadi error-670.txt.

SBATCH untuk Compute Node GPU (Partisi ampere)

Berikut adalah daftar SBATCH yang esensial untuk menjalankan komputasi di Compute Node GPU atau Partisi ampere.

#SBATCH --partition=ampere
#SBATCH --gpus=<jumlah-GPU>
#SBATCH --ntasks=<jumlah-core-CPU>
#SBATCH --mem=<jumlah-memori-RAM>
#SBATCH --time=<jumlah-limit-waktu-komputasi>
#SBATCH --output=<output-textfile>
#SBATCH --error=<output-verbose-dan-error-log-textfile>

Info Detail SBATCH Partisi ampere

SBATCH	Penjelasan
#SBATCH --partition=ampere bertujuan untuk menjalankan job submission di Compute Node GPU.
gpus	Alokasi jumlah GPU yang digunakan.
	#SBATCH --gpus=<jumlah-GPU> Contoh mengalokasikan 1 GPU: #SBATCH --gpus=1 Jumlah gpu maksimal 2
	Note: Kredit GPU Hour (GH) akan berkurang sejumlah gpus yang didefinisikan user per jam-nya.
ntasks	Alokasi jumlah core CPU yang digunakan.
	#SBATCH --ntasks=<jumlah-core-CPU> Contoh mengalokasikan 8 core CPU: #SBATCH --ntasks=8 Jumlah ntasks maksimal 32
	Note: ALELEON Supercomputer menyalakan SMT (Simultaneous Multithreading) pada semua CPU sehingga ntasks mengisi core thread CPU. Berdasarkan arsiktektur CPU AMD yang digunakan ALELEON Supercomputer, user direkomendasikan untuk memilih jumlah ntasks berdasarkan kelipatan 4, dimulai dari 1,2,4, kemudian naik kelipatan 4 menjadi 8, 12, 16, 20, 24, 28, 32. Kredit CPU Core Hour (CCH) akan berkurang sejumlah ntasks yang didefinisikan user per jam-nya.
mem	Alokasi jumlah memori RAM yang digunakan. Admin merekomendasikan satuan MB atau GB.
	#SBATCH --mem=<jumlah-memori>MB|GB Contoh mengalokasikan memori RAM 32GB: #SBATCH --mem=32GB Contoh mengalokasikan memori RAM 7500MB: #SBATCH --mem=7500MB Jumlah mem maksimal 120GB
time	Alokasi limit waktu untuk menjalankan job. Apabila waktu jalannya program melebihi limit maka akan dihentikan (kill) secara otomatis oleh SLURM.
	#SBATCH --time=<HH:MM:SS>atau #SBATCH --time=<D-HH:MM:SS> Contoh mengalokasikan limit waktu 10 jam 30 menit: #SBATCH --time=10:30:00 Contoh mengalokasikan limit waktu 2 hari: #SBATCH --time=2-00:00:00 Jumlah time maksimal 3-00:00:00 (3 hari)
output	Output textfile untuk merekap output terminal. User mendefinisikan nama dan format file. Terdapat pola penamaan dari SLURM yaitu %j untuk merekap nomor Job ID. Format file dibebaskan (biasanya menggunakan .txt atau .out).
	#SBATCH --output=<nama-file-output>.<format-file> Contoh mendefinisikan file output dengan format txt bersama job-ID: #SBATCH --output=result-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file output menjadi result-670.txt.
error	Output textfile untuk merekap output verbose (status jalannya program dan error log ketika program gagal berjalan). Bermanfaat untuk melakukan troubleshooting ketika program gagal berjalan. Apabila membutuhkan support, admin biasanya akan meminta file output dari SBATCH error ini. Pola penamaan mengikuti SBATCH output diatas.
	#SBATCH --error=<nama-file-output>.<format-file> Contoh mendefinisikan file error dengan format txt bersama job-ID: SBATCH --output=error-%j.txt Ketika job berjalan (contoh) dengan job-ID 670, maka nama file error menjadi error-670.txt.

SBATCH Notifikasi e-mail

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan nama email Jojo untuk mengirim notifikasi email.

Silahkan tambahan SBATCH berikut apabila user ingin menerima notifikasi email dari SLURM:

#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=begin
#SBATCH --mail-type=end

• mail-user
  • Alamat email user untuk menerima notifikasi SLURM
• mail-type=begin
  • Notifikasi email yang menginfokan job sudah berjalan.
• mail-type=end
  • Notifikasi email yang menginfokan job sudah selesai.
  • Sekaligus memberikan cuplikan 20 baris terakhir dari file output SBATCH output dan error job user.

Memuat Software dengan module load

Modul software pada SLURM Submit Script berfungsi supaya Compute Node dapat menjalankan software yang dibutuhkan oleh komputasi user. Masukkan line script berikut:

module load <nama-modul-software-yang-digunakan-untuk-komputasi-user>

Tulis script module load tersebut sebelum menulis run script jalannya program.

• Daftar lengkap nama modul software dapat ditemukan pada Katalog Software ALELEON Supercomputer.

Template Submit Script

Admin EFISON menyediakan referensi untuk template Submit Script berdasarkan skenario dan software komputasi.

Tanda ////

Dalam membuat template SLURM Submit Script, admin EFISON menggunakan tanda 4 garing (////) untuk menandai bagian yang perlu diisi oleh user. Contoh terdapat bagian script untuk menaruh nama file input:

FILE_INPUT="////.in"

Artinya user mengisi nama file input dengan menggantikan tanda //// di dalam braket tanda petik, contoh menjadi:

FILE_INPUT="myskripsi.in"

Daftar Template Submit Script

User dapat melihat daftar lengkap template Submit Script pada laman ini: