Submit Script ALELEON Supercomputer

Salah satu seni dalam menggunakan superkomputer adalah user menentukan sendiri alokasi resources untuk menjalankan job seperti jumlah core CPU, RAM, GPU, walltime, file output, notifikasi email, threading CPU, dll. Analogikan seperti kita hendak pesan bungkus di warung makan nasi padang di mana kita menentukan sendiri berapa porsi yang mau dibungkus, jenis lauk, dan jumlahnya.

Memilih alokasi resources untuk menjalankan job di superkomputer ibarat kita memilih lauk dan jumlahnya untuk pesan bungkus nasi padang

Resources ALELEON Supercomputer

Sebelum menentukan alokasi resource job, user harus mengetahui spesifikasi hardware dari ALELEON Supercomputer yang dijelaskan pada tabel dibawah ini.

Partisi Hardware dan Resources ALELEON Supercomputer

Partisi	Keterangan	Jumlah Node	Jumlah Core Fisik CPU per node	Jumlah Core Thread CPU per node	Kapasitas RAM per node	Jumlah GPU per node
epyc (DEFAULT)	compute node CPU	3	64	128	250GB	0
gpu_ampere	compute node GPU	1	64	128	125GB	2

Keterangan:

• Partisi adalah pengelompokan jenis Compute Node. Partisi epyc khusus untuk komputasi CPU sedangkan Partisi gpu_ampere mempunyai GPU.
• Secara default, komputasi pada ALELEON Supercomputer diarahkan ke Partisi epyc. Gunakan parameter SBATCH partition untuk menggunakan Partisi gpu_ampere (penjelasan di bawah).

• Istilah node digunakan sebagai satuan jumlah server. Contoh, Partisi epyc mempunyai 3 node yang artinya mempunyai 3 unit server.

Core Thread CPU pada ALELEON Supercomputer

EFISON menggunakan CPU AMD EPYC 7702P pada Partisi epyc dan AMD Threadripper 3990X pada Partisi gpu_ampere. EFISON mengaktifkan SMT (Simultaneous Multi-Threading) pada semua CPU AMD di ALELEON Supercomputer sehingga masing-masing CPU mempunyai 2 core thread per 1 core fisik.

Secara default, penggunaan CPU pada ALELEON Supercomputer didasarkan pada core thread, termasuk penghitungan penggunaan komputasi CPU Core Hour user.

Parameter Resources SBATCH Esensial

Terdapat ratusan jenis parameter SBATCH pada SLURM. Admin EFISON merangkum parameter esensial yang digunakan pada ALELEON Supercomputer.

Parameter esensial SBATCH SLURM untuk menjalankan job di partisi default yaitu epyc

Parameter	Penjelasan	Alokasi maksimal
#SBATCH --nodes=	Alokasi jumlah node yang digunakan. Contoh mengalokasikan 1 node:	3
	#SBATCH --nodes=1
#SBATCH --ntasks=	Alokasi jumlah core thread CPU yang digunakan. Contoh mengalokasikan 32 core thread CPU:	384
	#SBATCH --ntasks=32
Cara memilih alokasi nodes dan ntasks lihat bagian: Rekomendasi Kombinasi Alokasi nodes dan ntasks
#SBATCH --mem=	Alokasi memori RAM yang akan digunakan. User bisa menetapkan satuan KB, MB, atau GB. Contoh mengalokasikan memori 32GB:	250GB
	#SBATCH --mem=32GB
#SBATCH --time=	Waktu maksimal yang dialokasikan untuk job. Format waktu <walltime> yang digunakan:	14-00:00:00
	HH:MM:SS. Contoh alokasi 10 jam: #SBATCH --time=10:00:00
	D-HH:MM:SS. Contoh alokasi 2 hari: #SBATCH --time=2-00:00:00
#SBATCH --output=	Merekap output terminal program kedalam text file. User memberikan nama file (bebas, satu kata tanpa spasi) dan format file. Format file dibebaskan, misalnya format .txt atau .out Terdapat penamaan pattern dari SLURM yaitu %j yang merekap JOB ID. Contoh pengisian output:
	#SBATCH --output=result-%j.txt Ketika job berjalan dengan ID 2500, maka file output bernama result-2500.txt.
#SBATCH --error=	Merekap output verbose program (contoh: error log ketika program gagal selesai). Admin EFISON menyarankan user untuk selalu menggunakan parameter ini. Berguna untuk melakukan troubleshooting ketika program user gagal berjalan. Contoh pengisian error output:
	#SBATCH --error=error-%j.txt

Menggunakan Compute Node GPU

Berikut adalah dua parameter tambahan untuk menggunakan compute node GPU ALELEON Supercomputer atau Partisi gpu_ampere:

Parameter wajib SBATCH SLURM untuk menjalankan job di compute node GPU

Paramater	Penjelasan	Alokasi maksimal
#SBATCH --partition=gpu_ampere	Menjalankan job pada partisi compute node GPU
#SBATCH --gres=gpu:<jumlah-GPU>	Jumlah GPU yang digunakan. Contoh menggunakan 1 GPU:	gpu:2
	$SBATCH --gres=gpu:1

Menggunakan Paralelisasi Threading Core pada OpenMP atau BLAS

Berikut adalah parameter untuk mengalokasikan threading per core para program paralel yang menggunakan metode OpenMP (OMP), hybrid MPI/OMP, atau terintegrasi dengan BLAS:

Parameter SBATCH SLURM untuk menjalankan threading CPU

Parameter	Penjelasan	Alokasi maksimal
#SBATCH --cpus-per-task=	Jumlah paralelisasi threading per core yang digunakan. Contoh mengalokasikan paralelisasi 8 threading per core:	128 untuk Pure OMP. 4 atau 8 untuk Hybrid MPI/OMP.
	#SBATCH --cpus-per-task=8

User yang menjalankan program hybrid MPI/OMP atau terintegrasi dengan BLAS dapat mempelajari bagaimana threading bekerja di AMD EPYC ALELEON Supercomputer supaya menghasilkan performa yang optimal.

Pengiriman Status Jalannya Job via E-mail

SLURM pada ALELEON Supercomputer dapat mengirim notifikasi email kepada user untuk mengabarkan apabila job user sudah berjalan atau selesai. SLURM ALELEON Supercomputer menggunakan alamat email [email protected] untuk mengirim notifikasi email.

Parameter email SLURM

Parameter	Penjelasan
#SBATCH --mail-user=	Email user untuk menerima pesan dari SLURM
#SBATCH --mail-type=begin	Mengirim pesan email bahwa job user sudah berjalan.
#SBATCH --mail-type=end	Mengirim pesan email bahwa job user sudah selesai. Email ini sekaligus berisikan cuplikan 20 baris terakhir dari file output dan error SLURM.

Rekomendasi Kombinasi Alokasi nodes dan ntasks

Ketika membutuhkan kekuatan komputasi atau jumlah core thread yang besar, user dapat menjalankan komputasi paralel multi-node (lebih dari satu node) pada ALELEON Supercomputer dengan memasukkan jumlah node lebih dari satu. SLURM secara otomatis akan menyebarkan alokasi core thread ntasks ke semua node. Contoh menggunakan 2 node dengan total 128 core thread:

#SBATCH --nodes=2
#SBATCH --ntasks=128

Berapa Jumlah Minimal ntasks untuk Menggunakan Multi-Node?

Tidak ada jawaban pasti atas jawaban ini karena setiap software komputasi mempunyai karakteristik optimasi performa yang berbeda-beda. Ambil contoh user akan menggunakan 96 atau 128 core thread untuk menjalankan software komputasi. Dengan 128 core thread per node pada ALELEON Supercomputer, akan terdapat 2 skenario yang umum terjadi:

• Skenario 1: Software tersebut berjalan optimal pada 1 node karena mempunyai pemograman paralelisasi threading yang efisien.
• Skenario 2: Software tersebut berjalan lebih lambat dibandingkan dengan jumlah core yang lebih kecil (contoh 64 core) pada 1 node dan ternyata berjalan optimal ketika dipecah ke 2 node karena mempunyai pemograman yang, misalnya, membutuhkan cache L3 per task yang besar.

Skenario apa yang akan terjadi? User dapat mengetahuinya dengan melakukan tes benchmark sendiri (perlu disadari akan mengurangi kredit Core Hour user!) atau bertanya kepada forum software tersebut. Maka dari itu EFISON merumuskan kombinasi nodes dan ntasks untuk komputasi multi-node:

Kombinasi jumlah nodes dan ntasks untuk komputasi multi-node:

Jumlah nodes	Rekomendasi EFISON: Jumlah ntasks setiap kelipatan 64	Jumlah ntasks setiap kelipatan 128
1	1 - 64	1 - 128
2	65 - 128	129 - 256
3	129 - 192	256 - 384

Contoh SLURM Script

EFISON merangkum contoh SLURM script untuk penggunaan berbagai skenario komputasi pada laman Contoh SLURM Script.

Contoh SLURM Script Software Spesifik

EFISON juga merangkum contoh SLURM script untuk software komputasi saintifik pada laman Software di HPC Aleleon Mk.II.