Trial Testing

Halaman ini menjabarkan tutorial untuk pengujian software komputasi dan hardware di ALELEON Supercomputer. Silahkan lihat contents / daftar isi (apabila ada) untuk menjalankan pengujian yang diinginkan.

DISCLAIMER!

Selain akun testing, sistem tetap menghitung Core Hour untuk pengujian yang menjalankan komputasi!

Komputasi AI AMD RDNA3 dan ROCm 6

Ini adalah pengujian GPU AMD RDNA3 dan ROCm 6 untuk komputasi AI dengan environment:

• Berjalan di compute node trial dengan spesifikasi CPU AMD Ryzen 3300X 4 core / 8 thread, GPU AMD Radeon 7900XT 20GB GDDR6, dan RAM efektif 60GB.
• Sesi interaktif Jupyter dengan container Apptainer. Tim admin menyediakan image siap pakai untuk pengujian ini:

Daftar image siap pakai
Nama Image	Isi Package
rocm/pytorch2.1.2_jupyter_rocm6.1.3.sif	PyTorch 2.1.2 dengan Jupyter dan ROCm 6.1.3
rocm/pytorch2.3.0_jupyter_rocm6.2.sif	PyTorch 2.3.0 dengan Jupyter dan ROCm 6.2
rocm/tensorflow2.15_rocm6.1_py3.10_dev.sif	TensorFlow 2.15 dengan Jupyter dan ROCm 6.1

Memulai Sesi Jupyter

Langkah Interactive Job Sesi Jupyter dengan Container
1
Login ke web EFIRO ALELEON Supercomputer.
2
Buka pinned apps Jupyter di homepage EFIRO.
3
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut: Choose Jupyter version pilih sesuai preferensi user, Jupyter Lab atau Notebook Partition -> radeon Number of CPU core(s) -> 2 - 8 Amount of memory/RAM (GB) -> 1 - 60 Number of hours -> 1 - 72 Choose how to launch Jupyter -> container Choose available .sif container to run -> pilih sesuai kebutuhan Software modules -> kosongkan Environment setup -> kosongkan Additional Jupyter arguments -> kosongkan Email address Notifikasi email untuk status mulai dan selesainya sesi Jupyter. Isi apabila berkenan.
4
Klik tombol Launch untuk memulai sesi Jupyter. User akan diarahkan ke halaman My Interactive Sessions. Tunggu hingga sesi Jupyter siap diakses. Status sesi Jupyter mengantri menunggu alokasi hardware
5
Apabila status Running, klik tombol Connect to Jupyter. Sesi Jupyter siap diakses. Untuk menghentikan sesi, klik tombol Cancel.
6
Pilih Notebook Python 3 untuk memulai sesi notebook Python 3. Gunakan Notebook Python 3 untuk menjalankan kernel conda env user di Jupyter Notebook Gunakan Notebook Python 3 untuk menjalankan kernel conda env user di Jupyter Lab
Note perintah penting pada cell Jupyter
Apabila membutuhkan tambahan library Python selain isi Image: Lakukan instalasi dengan pip: !pip install [nama-package] Untuk menunjukkan status GPU, jalankan perintah berikut: !rocm-smi
7
User dapat mengunjungi sesi Jupyter yang sedang berjalan pada: Menu My Interactive Sessions pada homepage EFIRO. Kolom Active interactive sessions pada homepage EFIRO.

Instalasi dan Menjalankan gmx_MMPBSA

Ini adalah pengujian instalasi dan menjalankan gmx_MMPBSA yang merupakan tool berdasarkan MMPBSA.py dari AMBER untuk kalkulasi end-state free energy dengan file GROMACS.

Instalasi gmx_MMPBSA dengan Conda Environment

gmx_MMPBSA menggunakan library Python spesifik sehingga instalasi dilakukan oleh user melalui Mamba dan ditampung pada conda environment.

Langkah membuat conda environment gmxMMPBSA
1
Muat modul berikut: $ ml Mamba/23.11.0-0 OpenMPI/4.1.1-GCC-11.2.0
2
Buat conda environment: $ mamba env create -f /comp/condaenv_yml/gmxMMPBSA.yml Perintah ini membuat conda environment bernama gmxMMPBSA. Conda env ini berisikan dependencies untuk instalasi gmx_MMPBSA: Isi conda environment gmxMMPBSA Python 3.11.8 AmberTools 23.6 versi conda Gromacs 2023.4 MPI4PY 4.0.1 + MPICH 4.2.3 Numpy 1.26.4 Matplotlib 3.7.3 SciPy 1.14.1 Pandas 1.5.3 Seaborn 4.2.2 ParmEd 4.2.2 PyQt6 6.7.1
3
Aktifkan conda env gmxMMPBSA dan instal package gmx_MMPBSA: $ source activate gmxMMPBSA $ python -m pip install gmx_MMPBSA

Mengaktifkan Conda Environment gmxMMPBSA

Berikut langkah mengaktifkan conda environment gmxMMPBSA apabila dibutuhkan untuk pre-processing di Login Node:

$ ml Mamba/23.11.0-0
$ source activate gmxMMPBSA

Untuk menonaktifkan conda env: 
$ conda deactivate

Template Submit Script gmx_MMPBSA

Gunakan template submit script berikut untuk job submission gmx_MMPBSA. Saat ini diketahui gmx_MMPBSA hanya dapat menggunakan CPU.

#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script [TESTING]
# gmx_MMPBSA | rev.221124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Mengaktifkan conda env gmxMMPBSA 
ml Mamba/23.11.0-0
source activate gmxMMPBSA 

# Perintah menjalankan gmx_MMPBSA 
////

Instalasi BoltzTraP2

Ini adalah pengujian instalasi [BoltzTraP2] yang merupakan implementasi modern berbasis Python untuk smoothed Fourier interpolation algorithm berdasarkan BoltzTraP versi 1.2.5. Instalasi ini menggunakan conda environment dan ditujukan untuk user yang hendak menginstal BoltzTraP secara mandiri.

Instalasi dengan Conda Environment

Bagi user yang pertama kali menggunakan package Python:

1. Instalasi package Python dilakukan oleh user karena umumnya membutuhkan jenis dan versi spesifik per skenario komputasi.
2. Instalasi dilakukan pada conda environment dimana adalah "ruang isolasi" untuk menampung instalasi package Python. Conda environment adalah praktik terbaik dalam manajemen package Python untuk mencegah konflik package.
3. Praktik yang sehat adalah setiap conda environment menjalankan satu jenis komputasi dimana pada contoh ini spesifik menjalankan BoltzTraP2.

Membuat Conda Environment untuk Instalasi BoltzTraP2

Karena BoltzTraP2 berbasis package Python maka instalasi dilakukan oleh user di direktori HOME melalui environment. Tutorial ini menggunakan conda environment dari package manager Mamba.

- Langkah Instalasi Environment BoltzTraP2 -
---| 1 |---
Muat modul Anaconda dan cmake: $ ml Anaconda3/2024.02-1 CMake
---| 2 |---
Buat conda env kosong dimana pada tutorial ini: Menggunakan Python 3.11 Env bernama boltztrap2 (bisa diganti) $ conda create -n boltztrap2 python=3.11
---| 3 |---
Aktifkan dengan perintah source untuk masuk ke conda env tsb: $ source activate boltztrap2
---| 4 |---
Instal package BoltzTraP2 beserta pendukungnya: Package jupyter opsional apabila ingin pakai sesi Jupyter. (boltztrap2)$ pip install numpy cython setuptools (boltztrap2)$ pip install BoltzTraP2 --no-build-isolation (boltztrap2)$ pip install jupyter jupyterlab Package BoltzTraP2 telah terinstal dan siap digunakan.

Menggunakan Conda Environment boltztrap2

Lihat subbab Menggunakan Conda Env BoltzTraP2 siap pakai di bawah ini dengan menyesuaikan nama conda env yang dibuat user (contoh apabila mengikuti tutorial diatas, ganti nama $CONDAENV/boltztrap2-25.3.1 menjadi boltztrap2

Menggunakan Conda Environment BoltzTraP2 Siap Pakai

[BoltzTraP2] merupakan implementasi modern BoltzTraP 1.2.5 berupa package Python untuk smoothed Fourier interpolation algorithm. Pada ALELEON Supercomputer, package Python diinstal dan dijalankan melalui conda environment (yaitu "ruang isolasi" instalasi package Python untuk mencegah konflik package). Normalnya user membuat sendiri conda enviroment beserta instalasi package-nya namun kali ini ALELEON Supercomputer dapat menyediakan conda env siap pakai yang dapat digunakan global.

Spesifikasi Conda Env BoltzTraP2

Berikut daftar dan spesifikasi conda env global BoltzTraP2 di ALELEON Supercomputer

Nama Conda Env	Package Utama	Platform Package Manager	Versi Python	Package Manager	Dukungan Komputasi
					CPU	GPU	Batch Job	Sesi Jupyter
$CONDAENV/boltztrap2-25.3.1	BoltzTraP2 25.3.1	Anaconda3/2024-02.1	3.11.3	pip	V	X	V	V

Mengaktifkan Conda Env di Login Node

User dapat mengaktifkan conda env tersebut di login node untuk pre-processing dan post-processing data. Perhatikan login node tidak untuk menjalankan komputasi karena mempunyai spesifikasi terbatas, dapat mengganggu user lainnya, dan berpotensi dihentikan oleh admin. Apabila akan digunakan untuk komputasi berat, lihat subbab berikut ini.

--- Mengaktifkan conda env
$ ml Anaconda3/2024-02.1
$ source activate $CONDAENV/boltztrap2-25.3.1

--- Mengecek kelengkapan package
$ pip list
atau
$ pip list | grep [nama package yang dibutuhkan]
Hubungi tim admin apabila ada package yang kurang

--- Menonaktifkan conda env
$ conda deactivate

Menggunakan Conda Env untuk Job di Compute Node

Conda env ini dapat digunakan untuk batch job dan sesi Jupyter Notebook / Lab. Silahkan pilih sesuai kebutuhan.

Batch Job

Menjalankan script Python siap jalan yang tidak membutuhkan interaksi user melalui manajemen Slurm di [compute node].

• Perhatikan file .ipynb harus dikonversi ke file .py.
• Tersedia dua pilihan tampilan yaitu terminal dan web EFIRO. Pilih sesuai keinginan.

(klik expand / kembangkan)

- Langkah Batch Job di Terminal -
Tutorial ini mengasumsikan user familiar dengan terminal Linux
Menggunakan terminal! User EFIRO klik app Aleleon Shell Access atau menu Apps > Aleleon Shell Access
---| 1 |---
Lakukan persiapan:
Pastikan package lengkap pada conda env yang akan digunakan: Package tidak lengkap akan menyebabkan job gagal berjalan. Siapkan file komputasi yang dibutuhkan: Upload / download file lihat [Upload / Download File HOME] Untuk mencegah batch job mengacu site-packages yang salah: 1 - Apabila conda env aktif, keluar: (env)$ conda deactivate 2 - Menonaktifkan modul Package Python: $ ml unload Anaconda Apabila ada pesan ini, abaikan: the module ... cannot be unloaded because it was not loaded
---| 2 |---
Buat Submit Script yaitu 'formulir' untuk menjalankan job komputasi: Nama file bebas dengan format .sh, contoh submit.sh Biasanya submit script berada satu folder dengan file komputasi. $ nano submit.sh atau vim
Contoh template Submit Script: Ikuti petunjuk NOTES dan alur script di dalamnya. Klik expand / kembangkan - Template submit script Conda Env BoltzTraP2 siap pakai - #!/bin/bash # ----------------------------------------------------- # Template SLURM Submit Script # BoltzTraP2 25.3.1 (conda env prebuild) | rev.210125 # # NOTES: # 1. Isi bagian yang ditandai 4 garing (////). # 2. Template ini bersifat referensi. # User dapat mengubah bagian yang perlu diubah. # 3. Pastikan user sudah melengkapi conda environment. # ----------------------------------------------------- # ----------------------------------------------------- # Alokasi komputasi SBATCH dan file input # ----------------------------------------------------- # Alokasi jumlah core thread CPU #SBATCH --ntasks=//// # Alokasi jumlah memori RAM (satuan GB) #SBATCH --mem=////GB # Alokasi limit waktu menjalankan job # Format HH:MM:SS atau D-HH:MM:SS #SBATCH --time=//// # Definisi file untuk menampung output terminal program #SBATCH --output=result-%j.txt # Definisi file untuk menampung output error log #SBATCH --error=error-%j.txt # ---------------------------------------------------- # Script jalannya program # ---------------------------------------------------- # Mengaktifkan Conda Env prebuild BoltzTraP2 25.3.1 ml Anaconda3/2024.02-1 source activate /comp/condaenv/boltztrap2-25.3.1 # Tuliskan perintah menjalankan BoltzTraP2 ////
Detail Submit Script lihat [Submit Script ALELEON Supercomputer] Untuk SBATCH notifikasi email status jalannya job lihat [Slurm Jojo]
---| 3 |---
Jalankan job dengan perintah: $ sbatch [nama-submit-script] Contoh: $ sbatch submit.sh
---| 4 |---
User dapat melihat status jalannya job dengan perintah: $ squeue -ul $USER Apabila tidak ada di squeue artinya job bersangkutan telah berakhir. Job berakhir ketika: Komputasi selesai atau ada error sehingga selesai prematur. Job menyentuh walltime yang didefinisikan user di SBATCH time. Kolom ST atau STATE menunjukkan status jalannya job: STATE Penjelasan R (RUN) Job berjalan PD (PENDING) Job tertahan, lihat [Daftar Job Reason] CG (COMPLETING) Job selesai dan dalam proses clean-up CA (CANCELED) Job dibatalkan user PR (PREEMPETED) Job dibatalkan admin, alasan dikabarkan via email S (SUSPENDED) Job ditahan admin, alasan dikabarkan via email
---| 5 |---
User dapat memantau file output dengan perintah Unix seperti: ls, cat, more, tail, dll
---| 6 |---
Apabila user ingin menghentikan job yang berjalan, jalankan perintah: $ scancel [job-ID] Job ID ada pada squeue diatas. contoh membatalkan job ID 231: $ scancel 231
---

- Langkah Batch Job di web EFIRO -
---| 1 |---
[Login ke web EFIRO] ALELEON Supercomputer.
---| 2 |---
Klik app Job Composer di homepage EFIRO. atau menu Apps > Job Composer
Pilih menu New Job > From Template
---| 3 |---
Buat ruang job untuk menjalankan komputasi:
Pilih template Anaconda Python yang diinginkan: Nama Template Penjelasan BolzTraP2 25.3.1 Menjalankan conda env BoltzTraP 25.3.1 Kemudian Isi Job Name dan klik Create New Job
---| 4 |---
Lakukan persiapan:
Pastikan package lengkap pada conda env yang akan digunakan: Package tidak lengkap akan menyebabkan job gagal berjalan. Akses terminal apabila butuh via menu Open Terminal Siapkan file komputasi yang dibutuhkan di ruang job: Pastikan ruang job yang dipilih adalah yang akan digunakan. Upload / download / edit file via menu Edit Files Upload / download file tunggal diatas 2GB gunakan [software FTP]
---| 5 |---
Lengkapi Submit Script melalui tombol Open Editor Submit script adalah 'formulir' untuk menjalankan job komputasi. Ikuti petunjuk NOTES dan alur script di dalamnya. Klik Save setiap kali mengubah script.
Detail Submit Script lihat [Submit Script ALELEON Supercomputer] Untuk SBATCH notifikasi email status jalannya job lihat [Slurm Jojo]
---| 6 |---
Jalankan job dengan klik tombol Submit Job berakhir (Status completed) ketika: Komputasi selesai atau ada error sehingga selesai prematur. Job menyentuh walltime yang didefinisikan user di SBATCH time. Kolom Status menunjukkan status jalannya job: Status Arti Not Submitted Job belum pernah dijalankan. Running Job berjalan. Queue Job mengantri dan belum berjalan. Completed Job selesai berjalan. Failed Job berhenti karena error atau di stop user. Melihat alasan job yang queue: Buka menu Apps > Active Jobs di homepage EFIRO. Ubah opsi All jobs ke Your Jobs. Klik simbol > untuk melihat status job yang pending pada kolom Reason. Arti reason lihat laman Daftar Job Reason ALELEON Supercomputer
---| 7 |---
Lihat output file komputasi pada kolom Folder Contents Atau dengan membuka menu Edit Files Kolom Folder Contents
---| 8 |---
Apabila user ingin menghentikan job yang berjalan, klik Stop
---| 9 |---
Untuk menghapus ruang job dan datanya: Pilih ruang job yang akan dihapus. Perhatikan opsi ini juga menghapus data di ruang job tersebut. Klik menu Delete
---

Sesi Jupyter

Menjalankan sesi interaktif Jupyter Lab atau Notebook di [interactive node].

(klik expand / kembangkan)

- Langkah Sesi Jupyter -
---| 1 |---
[Login ke web EFIRO] ALELEON Supercomputer.
---| 2 |---
Lakukan persiapan sebelum sesi Jupyter:
Untuk efisiensi sesi terkait batasan waktu dan konsumsi Core Hour: Pastikan kelengkapan instalasi package pada conda env. Upload file besar lihat [Upload / Download File HOME] Direktori standar sesi Jupyter adalah $HOME user.
---| 3 |---
Klik app Jupyter di homepage EFIRO. atau menu Apps > Jupyter
---| 4 |---
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut: Choose Jupyter version Pilih sesuai preferensi user, Jupyter Lab atau Notebook Partition Pilihtorti (interactive node CPU ) Number of CPU thread(s) Alokasi core CPU, range 2 - 32 Amount of memory/RAM (GB) Alokasi RAM dalam satuan GB, range 1 - 55 Number of hours Waktu maksimal sesi Jupyter, range 1 - 72 Apakah bisa menjalankan sesi Jupyter? Ketentuan sesi Jupyter dapat berjalan: sisa CCH > number of CPU threads X number of hours sisa GH > number of GPU X number of hours Choose how to launch Jupyter Pilih Anaconda/Mamba Choose Anaconda/Mamba version Pilih Anaconda3/2024-02.1 Conda/Mamba environment directory Isi $CONDAENV/boltztrap2-25.3.1 Software Modules Kosongkan Environment setup Memuat environment variable, isi apabila ada. Additional Jupyter arguments Memuat argumen tambahan Jupyter, isi apabila ada. Email address Notifikasi email untuk status mulai dan selesainya Jupyter. Isi apabila berkenan.
---| 5 |---
Klik tombol Launch untuk memulai sesi Jupyter: User akan diarahkan ke halaman My Interactive Sessions Tunggu hingga sesi Jupyter siap diakses.
---| 6 |---
Apabila status Running, klik tombol Connect to Jupyter Sistem mulai menghitung Core Hour! Sesi akan terus berjalan selama waktu sesi masih ada. Untuk menghentikan sesi yang running, klik tombol Cancel
---| 7 |---
Gunakan kernel Python 3 (ipykernel) untuk sesi Jupyter.
---| 8 |---
Sesi Jupyter tidak terputus ketika: Koneksi user terputus saat sesi Jupyter. User keluar / log out dari sesi Jupyter dan web EFIRO. User dapat mengunjungi sesi Jupyter yang sedang berjalan pada: Menu My Interactive Sessions Kolom Active interactive sessions di homepage EFIRO. Ketika user keluar saat ada cell berjalan dan kembali masuk: Bisa jadi cell tersebut tidak menampilkan proses jalannya komputasi. Lihat cell berikutnya apakah belum / sedang / selesai berjalan.
---