Anaconda Python: Perbedaan antara revisi

Dari ALELEON by EFISON
(menambah info sistem menghitung CH)
(overhaul wiki)
Baris 37: Baris 37:
|3.9.12
|3.9.12
|}
|}
Keterangan:
'''''Keterangan:'''''


# Melalui package Python yang mendukung OpenMP seperti [https://cython.org/ '''Cython'''], [https://numba.pydata.org/ '''Numba'''], [https://pythran.readthedocs.io/en/latest/ '''Pythran'''], [https://www.pypy.org/ '''PyPy'''], dll.
# Melalui package Python yang mendukung OpenMP seperti [https://cython.org/ '''Cython'''], [https://numba.pydata.org/ '''Numba'''], [https://pythran.readthedocs.io/en/latest/ '''Pythran'''], [https://www.pypy.org/ '''PyPy'''], dll.
Baris 43: Baris 43:


== '''Modul NVIDIA CUDA Toolkit''' ==
== '''Modul NVIDIA CUDA Toolkit''' ==
User membutuhkan modul NVIDIA CUDA Toolkit untuk menjalankan Python dengan akselerasi GPU NVIDIA di ALELEON Supercomputer. Berikut adalah detail versi NVIDIA CUDA Toolkit yang tersedia secara global di ALELEON Supercomputer.  
User membutuhkan modul NVIDIA CUDA Toolkit untuk menjalankan Python dengan akselerasi GPU NVIDIA. Berikut adalah detail versi NVIDIA CUDA Toolkit yang tersedia secara global di ALELEON Supercomputer.  
{| class="wikitable sortable"
{| class="wikitable sortable"
|+Modul NVIDIA CUDA Toolkit
|+Modul NVIDIA CUDA Toolkit
Baris 64: Baris 64:
|cuda/12.1-cuDNN8.8.1
|cuda/12.1-cuDNN8.8.1
''atau'' cuda
''atau'' cuda
|}Apabila user membutuhkan CUDA versi spesifik yang belum ada pada daftar diatas, hubungi tim admin melalui '''support@efisonlt.com''' untuk permintaan instalasi. Layanan ini bebas biaya dan akan dilakukan pada hari dan jam kerja EFISON.
|}Apabila user membutuhkan CUDA versi spesifik yang belum ada di atas, hubungi tim admin melalui '''support@efisonlt.com''' untuk permintaan instalasi. Layanan ini bebas biaya dan akan dilakukan pada hari dan jam kerja EFISON.
=='''Alternatif Menjalankan Anaconda Python di ALELEON Supercomputer'''==
ALELEON Supercomputer menawarkan user untuk menjalankan Anaconda Python dengan pilihan skema: 
{| class="wikitable"
|-
![[Berkas:Efirojobcomposer3.png|pus|nirbing|300x300px]]---
'''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Menjalankan_Anaconda_Python_Melalui_Job_Submission Menjalankan Anaconda Python melalui Job Submission]'''
|-
|
*Menjalankan file Python siap jalan melalui scheduler SLURM.
*Tidak dapat menjalankan file ipynb dimana harus dikonversi ke file Python.
*Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Compute_Node '''Compute Node''']:
**CPU epyc dengan spesifikasi hingga CPU 128 core dan RAM 500GB
***Python versi MPI (MPI4PY) dapat berjalan paralel hingga CPU 384 core.
**GPU ampere dengan spesifikasi CPU 32 core, RAM 120GB, dan 2 GPU.
|-
![[Berkas:Rjupyterlab.png|pus|nirbing|225x225px]]---
'''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Menjalankan_Anaconda_Python_dengan_Sesi_Interaktif_Jupyter Menjalankan Anaconda Python dengan sesi interaktif Jupyter]'''
|-
|
*Menjalankan Anaconda Python melalui sesi interaktif via Jupyter Notebook / Lab.
*Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Interactive_Node '''Interactive Node''']:
**Torti dengan spesifikasi CPU 32 core dan RAM 64GB.
**Tilla dengan spesifikasi CPU 32 core, RAM 64GB, dan 1 GPU.
|}
=='''Membuat Conda Environment dan Instalasi Package Python'''==
=='''Membuat Conda Environment dan Instalasi Package Python'''==
ALELEON Supercomputer mensyaratkan user membuat '''Conda Environment''' untuk menjalankan komputasi Python via Anaconda.   
ALELEON Supercomputer mensyaratkan user membuat '''Conda Environment''' untuk menjalankan komputasi Python via Anaconda.   
Baris 96: Baris 72:
* Kegiatan membuat Conda Env dan instalasi dilakukan pada Login Node sehingga tidak mengurangi Kredit Core Hour user.
* Kegiatan membuat Conda Env dan instalasi dilakukan pada Login Node sehingga tidak mengurangi Kredit Core Hour user.


Berikut adalah langkah membuat Conda Environment di ALELEON Supercomputer:  
Berikut adalah langkah membuat Conda Environment di ALELEON Supercomputer ''(klik expand atau kembangkan)'':  
{| class="wikitable"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |
! colspan="2" |Membuat Conda Environment
=== Membuat Conda Environment ===
|-
|-
|'''0'''
|'''0'''
Baris 108: Baris 83:
|-
|-
|'''1'''
|'''1'''
|Aktifkan modul Anaconda, tim admin EFISON menyarankan menggunakan Anaconda terbaru:   
|Aktifkan modul Anaconda, disarankan menggunakan Anaconda terbaru:   
  $ module load '''Anaconda3'''
  $ module load '''Anaconda3'''
Apabila ingin menggunakan versi Anaconda lainnya, lihat '''[[Python#Modul Anaconda|subbab Modul Anaconda]]'''.
Apabila ingin menggunakan versi Anaconda lainnya, lihat '''[[Python#Modul Anaconda|subbab Modul Anaconda]]'''.
Baris 114: Baris 89:
|'''2'''
|'''2'''
|
|
==== Membuat Conda Environment ====
=== Membuat Conda Environment ===
Buat Conda Environment secara default di direktori HOME dengan format perintah:
Buat Conda Environment secara default di direktori HOME dengan format perintah:
  $ conda create --name '''''<nama-conda-environment>''''' pip
  $ conda create --name '''''<nama-conda-environment>''''' pip
Baris 123: Baris 98:
|'''3'''
|'''3'''
|
|
==== Mengaktifkan Conda Environment ====
=== Mengaktifkan Conda Environment dan Instalasi Package Python ===
Aktifkan Conda Environment dengan format <code>source activate</code> berikut:  
Aktifkan Conda Environment dengan format berikut:  
   $ source activate $CONDA/'''''<nama-conda-environment'''''
   $ source activate $CONDA/'''''<nama-conda-environment'''''
   
   
Baris 131: Baris 106:
Conda Environment aktif ditandai dengan tulisan nama env pada bash terminal seperti ini:  
Conda Environment aktif ditandai dengan tulisan nama env pada bash terminal seperti ini:  
  ''(kerjaanskripsi)'' [wololo@login ~]$
  ''(kerjaanskripsi)'' [wololo@login ~]$
Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan '''<code>pip</code>'''
''(kerjaanskripsi)'' $ pip install '''''<nama-package-Python>'''''
Instal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter
''(kerjaanskripsi)'' $ pip install jupyter
''(kerjaanskripsi)'' $ pip install jupyterlab
|-
|-
|'''4'''
| colspan="2" |
|
=== Menonaktifkan Conda Environment ===
==== Instalasi Package Python melalui pip ====
Lakukan instalasi package Python (seperti Tensorflow, PyTorch, Numpy, dll) yang dibutuhkan dengan '''<code>pip</code>''' 
 
* Lakukan instalasi setelah mengaktifkan Conda Environment yang akan dipakai untuk komputasi.
* Pip digunakan untuk memastikan instalasi package terisolasi pada Conda Env dan akun user.
 
$ pip install '''''<nama-package-Python>'''''
|-
|'''5'''
|
==== Menonaktifkan Conda Environment ====
User dapat menonaktifkan Conda Environment yang sedang aktif dengan perintah:  
User dapat menonaktifkan Conda Environment yang sedang aktif dengan perintah:  
  $ conda deactivate
  $ conda deactivate
|-
 
| colspan="2" |
=== '''Mengaktifkan Kembali Conda Environment User''' ===
==== '''Mengaktifkan Kembali Conda Environment User''' ====
User dapat kembali mengaktifkan Conda Environment yang dibuat dengan langkah 1 dan 3 diatas:  
User dapat kembali mengaktifkan Conda Environment yang dibuat dengan langkah 1 dan 3 diatas:  
  $ module load Anaconda3
  $ module load Anaconda3
Baris 156: Baris 124:
  $ conda-env list
  $ conda-env list


==== Menghapus Conda Environment ====
=== Menghapus Conda Environment ===
User dapat menghapus Conda Environment dengan format perintah:  
User dapat menghapus Conda Environment dengan format perintah:  
  $ conda remove -n '''''<nama-conda-environment>''''' --all
  $ conda remove -n '''''<nama-conda-environment>''''' --all
|}
|}
 
=='''Alternatif Menjalankan Anaconda Python di ALELEON Supercomputer'''==
ALELEON Supercomputer menawarkan user untuk menjalankan Anaconda Python dengan pilihan skema: 
{| class="wikitable"
|-
![[Berkas:Efirojobcomposer3.png|pus|nirbing|300x300px]]---
'''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Menjalankan_Anaconda_Python_Melalui_Job_Submission Menjalankan Anaconda Python melalui Job Submission]'''
|-
|
*Menjalankan file Python siap jalan melalui scheduler SLURM.
*Tidak dapat menjalankan file ipynb dimana harus dikonversi ke file Python.
*Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Compute_Node '''Compute Node''']:
**CPU epyc dengan spesifikasi hingga CPU 128 core dan RAM 500GB
***Python versi MPI (MPI4PY) dapat berjalan paralel hingga CPU 384 core.
**GPU ampere dengan spesifikasi CPU 32 core, RAM 120GB, dan 2 GPU.
|-
![[Berkas:Rjupyterlab.png|pus|nirbing|225x225px]]---
'''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Menjalankan_Anaconda_Python_dengan_Sesi_Interaktif_Jupyter Menjalankan Anaconda Python dengan sesi interaktif Jupyter]'''
|-
|
*Menjalankan Anaconda Python melalui sesi interaktif via Jupyter Notebook / Lab.
*Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Interactive_Node '''Interactive Node''']:
**Torti dengan spesifikasi CPU 32 core dan RAM 64GB.
**Tilla dengan spesifikasi CPU 32 core, RAM 64GB, dan 1 GPU.
|}
== '''Menjalankan Anaconda Python Melalui Job Submission''' ==
== '''Menjalankan Anaconda Python Melalui Job Submission''' ==
User dapat menjalankan Anaconda Python melalui job submission dengan pilihan cara melalui tampilan terminal atau GUI web EFIRO.
User dapat menjalankan komputasi dengan pilihan cara melalui tampilan terminal atau GUI web EFIRO ''(klik expand atau kembangkan)''.
 
===Menggunakan terminal - SLURM sbatch===
---
{| class="wikitable mw-collapsible mw-collapsed"
===Mengecek Kredit Core Hour bagi Akun Perseorangan ===
! colspan="2" | Langkah Menjalankan Anaconda Python di Terminal melalui SLURM sbatch
User dengan akun perseorangan disarankan untuk selalu mengecek sisa Kredit Core Hour sebelum melakukan job submission dengan menjalankan perintah pada terminal:
$ '''sausage'''
Bagi yang login ke web EFIRO, buka terminal pada menu '''<code>Clusters</code> > <code>Aleleon Shell Access</code>'''
 
---
===Opsi menggunakan terminal - SLURM sbatch===
[[Berkas:Sbatch Terminal.png|nirbing|500x500px]]
[[Berkas:Sbatch Terminal.png|nirbing|500x500px]]
Menjalankan komputasi pada terminal melalui job submission SLURM sbatch ''(klik expand atau kembangkan)''.
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan Anaconda Python via SLURM sbatch
|-
|-
| rowspan="2" |'''0'''
|'''0'''
|Sebelum login, [[Koneksi VPN ALELEON Supercomputer|'''user harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
|
|-
=====Login SSH=====
|Login dengan SSH:
Tatacara login SSH lihat laman [https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#1_|_Login_SSH '''Login SSH ALELEON Supercomputer'''].
* User OS Windows dan MacOS -> <code>'''$ ssh <''username''>@aleleon.hpc'''</code>
*User OS Linux -> <code>'''$ ssh <''username''>@10.192.50.10'''</code>
|-
|-
|'''1'''
|'''1'''
|Siapkan Conda Environment dan package Python yang akan digunakan untuk komputasi Python user
|
 
=====Menyiapkan File Komputasi=====
* Lihat subbab '''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Membuat_Conda_Environment_dan_Instalasi_Package_Python Membuat Conda Environment dan Instalasi Package Python]'''
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
*File input dan data komputasi.
**User dapat upload / download file ke ALELEON dengan [[Upload File dengan Aplikasi FTP|'''software FTP''']].
*Membuat '''SLURM Submit Script''' yaitu 'formulir' untuk menjalankan job komputasi.**Nama script bebas dengan format file .sh (bash), contoh ''<code>my_job_submission.sh</code>''
$ mkdir kerjaanskripsi
$ cd kerjaanskripsi
$ touch my_job_submission.sh
''... upload / menyiapkan data input komputasi dll ...''
|-
|-
|'''2'''
| rowspan="2" |'''2'''
|Siapkan file yang dibutuhkan untuk menjalankan komputasi user.
|
 
=====Template SLURM Submit Script Anaconda Python=====
* [[Upload File dengan Aplikasi FTP|'''User dapat melakukan upload / download file dengan bantuan aplikasi FTP''']]
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
|-
| rowspan="2" |'''3'''
|Buat '''SLURM Submit Script''' yaitu 'formulir' untuk menjalankan job komputasi dengan panduan berikut:
*Nama script dibebaskan dengan format file .sh (bash), contoh ''<code>my_job_submission.sh</code>''
*Buat script pada direktori yang sama dengan file komputasi yang akan dijalankan.
*Ikuti panduan template berikut dan petunjuk pada NOTES di dalamnya ''(klik expand atau kembangkan)''.
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
!Template SLURM Submit Script untuk Anaconda Python versi CPU
!Template SLURM Submit Script untuk Anaconda Python versi CPU
Baris 206: Baris 187:
#!/bin/bash
#!/bin/bash


# -------------------------------------------------------------
# -----------------------------------------------------
# | Template SLURM Submit Script
# Template SLURM Submit Script
# | Software        : Anaconda Python versi CPU
# Anaconda Python (CPU)
# | Update script  : 06/10/2023
#  
# |
# NOTES:  
# | NOTES:  
# 1. Isi bagian yang ditandai 4 garing (////).
# | 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# | 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# |   User dapat mengubah bagian yang sekiranya perlu diubah.
# 3. Pastikan user sudah membuat Conda Environment.
# | 3. Panduan menjalankan Anaconda Python di ALELEON lihat:
# -----------------------------------------------------
# |    https://wiki.efisonlt.com/wiki/Anaconda_Python
# -------------------------------------------------------------


# --------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi, modul software, dan file input
# Alokasi komputasi SBATCH dan file input
# --------------------------------------------------
# -----------------------------------------------------


# Alokasi jumlah core thread CPU
# Alokasi jumlah core thread CPU
Baris 229: Baris 208:
#SBATCH --mem=////GB
#SBATCH --mem=////GB


# Alokasi limit waktu menjalankan job.
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
#SBATCH --time=////


# Definisi file untuk menampung output terminal
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
#SBATCH --output=result-%j.txt


Baris 239: Baris 218:
#SBATCH --error=error-%j.txt  
#SBATCH --error=error-%j.txt  


# Nama Conda Environment yang digunakan untuk komputasi ini
# Nama Conda Environment yang digunakan
CONDA_ENV_NAME='////'
CONDA_NAME=////


# Nama input file Python dengan format file-nya
# Nama program Python yang dijalankan
INPUT_FILE='////.py'
INPUT_FILE=////.py


# -------------------------------------------------
# ----------------------------------------------------
# RUN SCRIPT
# Script jalannya program
# -------------------------------------------------
# ----------------------------------------------------


# Mengaktifkan Conda Environment  
# Mengaktifkan Conda Environment  
module load Anaconda3  
module load Anaconda3
source activate $CONDA/$CONDA_ENV_NAME
source activate ${CONDA}/${CONDA_NAME}


# Perintah menjalankan Python  
# Menjalankan file Python
python $INPUT_FILE
python3 ${INPUT_FILE}
</syntaxhighlight>
</syntaxhighlight>
|}
|}
Baris 263: Baris 242:
#!/bin/bash
#!/bin/bash


# -------------------------------------------------------------
# -----------------------------------------------------
# | Template SLURM Submit Script
# Template SLURM Submit Script
# | Software        : Anaconda Python versi GPU
# Anaconda Python (GPU)
# | Update script  : 06/10/2023
#  
# |
# NOTES:  
# | NOTES:  
# 1. Isi bagian yang ditandai 4 garing (////).
# | 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
# | 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# |   User dapat mengubah bagian yang sekiranya perlu diubah.
# 3. Pastikan user sudah membuat Conda Environment.
# | 3. Panduan menjalankan Anaconda Python di ALELEON lihat:
# -----------------------------------------------------
# |    https://wiki.efisonlt.com/wiki/Anaconda_Python
# -------------------------------------------------------------


# --------------------------------------------------
# -----------------------------------------------------
# Alokasi komputasi, modul software, dan file input
# Alokasi komputasi SBATCH dan file input
# --------------------------------------------------
# -----------------------------------------------------


# Menjalankan komputasi di Compute Node GPU  
# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere
#SBATCH --partition=ampere


Baris 292: Baris 269:
#SBATCH --mem=////GB
#SBATCH --mem=////GB


# Alokasi limit waktu menjalankan job.
# Alokasi limit waktu menjalankan job  
# Format HH:MM:SS atau D-HH:MM:SS
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
#SBATCH --time=////


# Definisi file untuk menampung output terminal
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
#SBATCH --output=result-%j.txt


Baris 302: Baris 279:
#SBATCH --error=error-%j.txt  
#SBATCH --error=error-%j.txt  


# Memuat modul NVIDIA CUDA Toolkit
# Nama Conda Environment yang digunakan
# Daftar modul CUDA lihat subbab "Modul NVIDIA CUDA Toolkit" pada
CONDA_NAME=////
# https://wiki.efisonlt.com/wiki/Anaconda_Python
module load cuda////


# Nama Conda Environment yang digunakan untuk komputasi ini
# Nama program Python yang dijalankan
CONDA_ENV_NAME='////'
INPUT_FILE=////.py


# Nama input file Python dengan format file-nya
# ----------------------------------------------------
INPUT_FILE='////.py'
# Script jalannya program
# ----------------------------------------------------


# -------------------------------------------------
# Memuat modul NVIDIA CUDA default
# RUN SCRIPT
module load cuda
# -------------------------------------------------


# Mengaktifkan Conda Environment  
# Mengaktifkan Conda Environment  
module load Anaconda3  
module load Anaconda3
source activate $CONDA/$CONDA_ENV_NAME
source activate ${CONDA}/${CONDA_NAME}


# Perintah menjalankan Python  
# Menjalankan file Python
python $INPUT_FILE
python3 ${INPUT_FILE}
</syntaxhighlight>
</syntaxhighlight>
|}
|}
|-
|-
|
|=====Panduan Nilai Maksimal SBATCH=====
{| class="wikitable"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="6" |Panduan nilai maksimal SBATCH''<sup>1</sup>'' untuk Anaconda Python
! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|-
! rowspan="2" |Skenario Menjalankan
Anaconda Python
! rowspan="2" |Berjalan di
Compute Node
! colspan="4" | Nilai maksimal SBATCH
|-
|-
!Skenario Komputasi
!ntasks
!ntasks
(CPU)
(CPU)  
!mem
!mem
(RAM)  
(RAM)
! gpus
!gpus
(GPU)
(GPU)
!time
!time
(time limit)
(time limit)
|-
|-
| colspan="2" | ''Fair policy usage untuk total akumulasi job<sup>2</sup>''
|Fair policy usage untuk akumulasi semua job<sup>''1''</sup>
|''128''
|128
|''128GB''
|128GB
|''2''
|2
| rowspan="5" | 3-00:00:00
| rowspan="5" | 3-00:00:00
atau 72:00:00
atau
 
72:00:00
|-
|-
|Python versi CPU
|Python versi CPU  
|epyc (CPU)
|128
|128
| 240GB  
|240GB
| 0
|0
|-
|Python versi CPU di high-mem node
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
|128
|500GB
|0
|-
|-
|Python versi GPU
|Python versi GPU
|ampere (GPU)
|32
|32
|120GB
|120GB
|2
| 2
|-
|Python versi MPI (MPI4PY)''<sup>2</sup>''
|384
|240GB''<sup>2</sup>''
|0
|-
| colspan="5" | '''''Keterangan:'''''
#Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
#MPI4PY mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
#*SLURM otomatis menjalankan job pada multi-node.
#*Parameter mem adalah alokasi memori RAM per-node.
#*Info detail buka laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
|-
|-
|Python versi MPI (MPI4PY)''<sup>3</sup>''
! colspan="5" |Keterangan tambahan
|epyc (CPU)
|384
|240GB
| 0
|-
|-
|Python CPU dan MPI4PY di high-mem node''<sup>4</sup>''
| colspan="5" |
|epyc (CPU)
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
|128
**SLURM akan menahan job apabila:
| 500GB
***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
|0
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
|}'''''Keterangan:'''''
**Cek sisa Kredit Core Hour melalui perintah:
#Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
$ '''sausage'''
#Limitasi fair policy usage untuk menjaga kualitas layanan ALELEON Supercomputer.
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
#*User dapat mengajukan permintaan membuka limitasi apabila job membutuhkan alokasi lebih.
|}
#*Info lebih detail lihat laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
#Python versi MPI (MPI4PY) mendukung komputasi paralel MPI untuk berjalan ''multi-node'' :
#*Pada jumlah ntasks >128, SLURM otomatis menjalankan job secara multi-node.
#*Dalam kaitan ini, parameter mem adalah alokasi memori RAM per-node.
#*Info lebih detail lihat laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
# User dapat mengalokasikan RAM hingga 500GB di high-mem node epyc.#
#* Tambahkan parameter <code>'''#SBATCH --nodelist=epyc001'''</code>
|-
|-
|'''4'''
|'''3'''
|Jalankan job dengan perintah sbatch.
|
=====Menjalankan Job Komputasi=====
Jalankan job dengan perintah sbatch.
  $ '''sbatch''' '''''<nama-SLURM-Submit-script>'''''
  $ '''sbatch''' '''''<nama-SLURM-Submit-script>'''''
Contoh menjalankan nama script <code>my_job_submission.sh</code>.
Contoh menjalankan nama script <code>my_job_submission.sh</code>.
  $ sbatch my_job_submission.sh
  $ sbatch my_job_submission.sh
|-
|-
|'''5A'''
|'''4A'''
|User dapat melihat status jalannya job dengan perintah squeue berikut.
|User dapat melihat status jalannya job dengan perintah squeue berikut.
*Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
*Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
Baris 406: Baris 387:
|R
|R
|RUN
|RUN
|Job berjalan<sup>''1''</sup>
|Job berjalan
|-
|-
|PD
|PD
|PENDING
|PENDING
|Job tertahan, lihat keterangan NODELIST(REASON)''<sup>2</sup>''
|Job tertahan, lihat keterangan [[Daftar Reason NODELIST ALELEON Supercomputer|'''NODELIST(REASON)''']]
|-
|-
|CG
|CG
Baris 416: Baris 397:
|Job selesai dan dalam proses clean-up SLURM
|Job selesai dan dalam proses clean-up SLURM
|-
|-
|CA
| CA
|CANCELED
|CANCELED
|Job dibatalkan oleh user
|Job dibatalkan oleh user
|-
|-
|PR  
|PR
| PREEMPETED
| PREEMPETED  
|Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|-
|-
Baris 427: Baris 408:
|SUSPENDED
|SUSPENDED
| Job ditahan oleh admin EFISON
| Job ditahan oleh admin EFISON
|}'''''Keterangan:'''''
|}
# Sistem mulai menghitung Core Hour saat job komputasi user berjalan.
# Kunjungi laman [[Daftar Reason NODELIST ALELEON Supercomputer|'''Daftar Reason NODELIST ALELEON Supercomputer''']].
|-
|-
|'''5B'''  
|'''4B'''
|Apabila user ingin membatalkan job yang sedang berjalan, gunakan perintah scancel berdasarkan job ID.
|
=====Menghentikan Job Komputasi=====
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
*Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
*Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
*User hanya bisa membatalkan job submission milik user sendiri.
*User hanya bisa membatalkan job submission milik user sendiri.
Baris 438: Baris 419:
Contoh user membatalkan job submission milik user dengan ID 231.
Contoh user membatalkan job submission milik user dengan ID 231.
  $ scancel 231
  $ scancel 231
|}---
|}
===Opsi menggunakan GUI Web - EFIRO Job Composer===
===Menggunakan Web EFIRO - EFIRO Job Composer===
[[Berkas:Efirojobcomposer3.png|nirbing|500x500px]]
 
Menjalankan komputasi dengan tampilan grafis pada formulir job submission EFIRO Job Composer ''(klik expand atau kembangkan)''.
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan Anaconda Python via EFIRO Job Composer
! colspan="2" |Langkah Menjalankan Anaconda Python via EFIRO Job Composer
[[Berkas:Efirojobcomposer3.png|nirbing|500x500px]]
|-
|-
| rowspan="2" |'''0'''
|'''0'''
|Sebelum login, [[Koneksi VPN ALELEON Supercomputer|'''user harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
|
|-
===== Login Web EFIRO=====
|Buka alamat web '''<code>[http://aleleon.ood/ http://aleleon.ood]</code>''' kemudian masukkan username dan password user.
*[[Koneksi VPN ALELEON Supercomputer|'''User harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
*Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
*Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>''' lalu masukkan username dan password user.**Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
|-
|-
|'''1'''
|'''1'''
|Siapkan Conda Environment dan package Python yang akan digunakan untuk komputasi Python user
|
 
=====Membuka Job Composer dan Memilih Template Job=====
* Lihat subbab '''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Membuat_Conda_Environment_dan_Instalasi_Package_Python Membuat Conda Environment dan Instalasi Package Python]'''
*Buka menu '''<code>Jobs</code>''' > '''<code>Jobs Composer</code>''' pada dashboard EFIRO.
*Pilih '''<code>New Job</code>''' > '''<code>From Template</code>'''
[[Berkas:Efirojobcomposermenu.png|nir|jmpl|Menu '''<code>Jobs</code> > <code>Jobs Composer</code>''']][[Berkas:Jcnewjobmarked.png|al=|nir|jmpl|220x220px|Menu '''<code>New Jobs</code>''' > '''<code>From Template</code>''']]
|-
|-
| '''2'''
|'''2'''
| Buka menu dashboard EFIRO '''<code>Jobs</code> > <code>Jobs Composer</code>'''
|[[Berkas:Jcselecttemplate3.png|nirbing|600x600px]]
[[Berkas:Efirojobcomposermenu.png|nirbing|300x300px|al=]]
*PIlih template Anaconda Python yang diinginkan.
|-
*Isi atau ganti kolom '''<code>Job Name</code>''' sesuai keinginan user.
|'''3'''
*Apabila sudah selesai, klik '''<code>Create New Job</code>'''.
|Pilih '''<code>New Jobs</code> > <code>From Template</code>'''
[[Berkas:Jcnewjobmarked.png|al=|nirbing|180x180px]]
|-
|'''4'''
|[[Berkas:Jcselecttemplate3.png|al=|nir|jmpl|''Pilih template Anaconda Python yang diinginkan. Isi atau ganti <code>'''Job Name'''</code> sesuai keinginan user, kemudian klik <code>'''Create New Job'''</code>.''|400x400px]]
{| class="wikitable"
{| class="wikitable"
! colspan="2" |Template Anaconda Python yang tersedia
! colspan="2" |Template Anaconda Python yang tersedia
Baris 474: Baris 450:
|-
|-
|Anaconda Python (CPU)
|Anaconda Python (CPU)
|Menjalankan Python versi CPU
|Menjalankan Anaconda Python versi CPU
|-
|-
|Anaconda Python (GPU)
|Anaconda Python (GPU)
|Menjalankan Python versi GPU
|Menjalankan Anaconda Python versi GPU
|}
|}
|-
|-
|'''5'''
|'''3'''
|[[Berkas:Jcjoboption3.png|nirbing|600x600px]]
|
Gunakan menu '''<code>Edit Files</code>''' untuk upload file yang dibutuhkan'''.'''
=====Menyiapkan File Komputasi=====
*Laman Edit Files juga dapat melakukan view / download / edit / rename / delete file.
[[Berkas:Jcjoboption3.png|nirbing|600x600px]]
*''Fitur upload pada laman Edit Files '''mempunyai batasan ukuran upload 2GB per file'''.''
 
**''Gunakan [[Upload File dengan Aplikasi FTP|'''aplikasi FTP''']] apabila user hendak mengupload file tunggal diatas 2GB.''
Gunakan menu <code>'''Edit Files'''</code> untuk upload file komputasi yang dibutuhkan.
Gunakan menu '''<code>Open Terminal</code>''' untuk konfigurasi Conda Environment apabila dibutuhkan
*Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
*Lihat subbab '''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Membuat_Conda_Environment_dan_Instalasi_Package_Python Membuat Conda Environment dan Instalasi Package Python]'''
*Fitur upload pada Edit Files mempunyai limit kapasitas '''2GB per file'''.
**Gunakan [[Upload File dengan Aplikasi FTP|'''aplikasi FTP''']] untuk upload file tunggal diatas 2GB.
|-
|-
| rowspan="2" |'''6'''
| rowspan="2" |'''4'''
|[[Berkas:Jceditor3.png|al=|nirbing|300x300px]]
|
Melalui '''<code>Open Editor</code>''', lengkapi Submit Script dengan mengganti bagian yang di tandai 4 garis miring (////).
=====Melengkapi Submit Script=====
*Submit Script adalah 'formulir' untuk menjalankan job komputasi user.
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
*''Jangan lupa klik <code>'''Save'''</code> setiap sekali mengubah script.''
*Lengkapi Submit Script melalui menu '''<code>Open Editor</code>'''.
*Template ini bersifat referensi, user dapat mengubah bagian yang sekiranya perlu diubah.
*Ikuti petunjuk NOTES di dalamnya.
*Jangan lupa klik <code>'''Save'''</code> setiap sekali mengubah script.
[[Berkas:Jceditor3.png|al=|nirbing|500x500px]]
|-
|-
|
|
{| class="wikitable"
=====Panduan Nilai Maksimal SBATCH=====
! colspan="6" |Panduan nilai maksimal SBATCH''<sup>1</sup>'' untuk Anaconda Python
{| class="wikitable mw-collapsible mw-collapsed"
|-
! colspan="5" | Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
! rowspan="2" |Skenario Menjalankan
Anaconda Python
! rowspan="2" |Berjalan di
Compute Node
! colspan="4" | Nilai maksimal SBATCH
|-
|-
!Skenario Komputasi
!ntasks
!ntasks
(CPU)
(CPU)
!mem
!mem
(RAM)  
(RAM)
! gpus
!gpus
(GPU)
(GPU)
!time
!time
(time limit)
(time limit)
|-
|-
| colspan="2" | ''Fair policy usage untuk total akumulasi job<sup>2</sup>''
|Fair policy usage untuk akumulasi semua job<sup>''1''</sup>
|''128''
|128
|''128GB''
|128GB  
|''2''
|2
| rowspan="5" | 3-00:00:00
| rowspan="5" |3-00:00:00
atau 72:00:00
atau
 
72:00:00
|-
|-
|Python versi CPU
|Python versi CPU
|epyc (CPU)
|128
|128
| 240GB  
|240GB
| 0
|0
|-
|Python versi CPU di high-mem node
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
|128
|500GB
|0
|-
|-
|Python versi GPU
|Python versi GPU
|ampere (GPU)
|32
|32
|120GB
|120GB
|2
|2
|-
|-
|Python versi MPI (MPI4PY)''<sup>3</sup>''
|Python versi MPI (MPI4PY)''<sup>2</sup>''
|epyc (CPU)
|384
|384  
|240GB''<sup>2</sup>''
|240GB
|0
| 0
|-
| colspan="5" |'''''Keterangan:'''''
#Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
#MPI4PY mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
#*SLURM otomatis menjalankan job pada multi-node.
#*Parameter mem adalah alokasi memori RAM per-node.
#*Info detail buka laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
|-
|-
|Python CPU dan MPI4PY di high-mem node''<sup>4</sup>''
| colspan="5" |
|epyc (CPU)
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
|128
**SLURM akan menahan job apabila:***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
| 500GB
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
|0
**Cek sisa Kredit Core Hour melalui menu '''<code>Open Terminal</code>''' dan jalankan perintah:
$ '''sausage'''
[[Berkas:Jcjoboption4.png|nirbing|600x600px]]
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
|}
|}
'''''Keterangan:'''''
#Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
#Limitasi fair policy usage untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan membuka limitasi apabila job membutuhkan alokasi lebih.
#*Info lebih detail lihat laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
#Python versi MPI (MPI4PY) mendukung komputasi paralel MPI untuk berjalan ''multi-node'' :
#*Pada jumlah ntasks >128, SLURM otomatis menjalankan job secara multi-node.
#*Dalam kaitan ini, parameter mem adalah alokasi memori RAM per-node.
#*Info lebih detail lihat laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
# User dapat mengalokasikan RAM hingga 500GB di high-mem node epyc.
#* Tambahkan parameter <code>'''#SBATCH --nodelist=epyc001'''</code>
|-
|-
|'''7A'''  
|'''5'''
|Jalankan job dengan klik tombol '''<code>Submit</code>'''.
|===== Menjalankan Job Komputasi =====
Jalankan job dengan klik tombol '''<code>Submit</code>'''.
 
[[Berkas:Jcsubmit2.png|al=|nirbing|600x600px]]
[[Berkas:Jcsubmit2.png|al=|nirbing|600x600px]]
Berikut penjelasan kolom '''<code>Status</code>,''' pantau dengan refresh halaman job''':'''
{| class="wikitable"
{| class="wikitable"
!Status
|+''Penjelasan kolom '''<code>Status</code>,''' pantau dengan refresh halaman job''
! Status
!Arti
!Arti
|-
|-
|Not Submitted
|Not Submitted
|Job belum pernah dijalankan.
| Job belum pernah dijalankan.
|-
|-
|Running
|Running
|Job berjalan.
|Job berjalan.
* Sistem mulai menghitung Core Hour saat job komputasi user berjalan.
|-
|-
|Queue
|Queue
|Job mengantri dan belum berjalan. Untuk melihat detail status antrian:
|Job mengantri dan belum berjalan.
*Buka <code>'''Jobs > Active Jobs'''</code> pada dashboard EFIRO.
*Ubah opsi ke <code>'''Your Jobs'''</code> sesuai gambar dibawah ini.
*Klik simbol '''>''' untuk melihat detail job submission.
*Lihat isi kolom '''Reason'''.
**Arti Reason lihat laman '''[[Daftar Reason NODELIST ALELEON Supercomputer]].'''
[[Berkas:Efiroqueueedit.png|al=|jmpl|''Halaman Active Jobs. Ubah opsi '''<code>Your jobs</code>''' untuk melihat status job user saja. Klik simbol '''>''' untuk melihat detail job submission.''|kiri]]
|-
|-
|Completed
|Completed
|Job selesai berjalan.
| Job selesai berjalan.
|-
|-
|Failed
|Failed
|Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|}
|}
|-
=====Menghentikan Job Komputasi=====
|'''7B'''
Untuk menghentikan job yang tengah berjalan, klik tombol '''<code>Stop</code>'''.
|Apabila ingin menghentikan job yang tengah berjalan, klik tombol '''<code>Stop</code>'''.
 
[[Berkas:Stop.png|nirbing|600x600px]]
[[Berkas:Stop.png|nirbing|600x600px]]
|-
|-
|'''8A'''
|'''6A'''
|Hasil output job dapat dilihat pada kolom '''<code>Folder Contents</code>''' atau membuka halaman '''<code>Edit Files</code>.'''[[Berkas:Jcfoldercontentsedit.png|al=|nir|jmpl|''User dapat melihat semua file output yang keluar di kolom '''<code>Folder Contents</code>'''.'']][[Berkas:Jcjoboption3.png|nir|jmpl|''atau dengan membuka menu '''<code>Edit Files</code>'''.'']]
|
=====Melihat Output Komputasi=====
User dapat melihat output file komputasi pada kolom '''<code>Folder Contents</code>'''
*Atau dengan membuka '''<code>Edit Files</code>'''
[[Berkas:Jcfoldercontentsedit.png|al=|nir|jmpl|Kolom '''<code>Folder Contents</code>'''.]]
|-
|-
|'''8B'''
|'''6B'''
|User dapat '''menjalankan ulang ruang job yang sama''' dengan mengklik kembali tombol '''<code>Submit</code>'''.
|User dapat '''menjalankan ulang ruang job yang sama''' dengan mengklik kembali tombol '''<code>Submit</code>'''.  
|}---
|}
==='''Notifikasi Status Jalannya Komputasi via email'''===
==='''Notifikasi Status Jalannya Komputasi via email'''===
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:<syntaxhighlight lang="bash">
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:<syntaxhighlight lang="bash">
Baris 624: Baris 602:
|'''0'''
|'''0'''
|Instalasi package dilakukan melalui '''terminal'''.
|Instalasi package dilakukan melalui '''terminal'''.
*Bagi user yang login ke web EFIRO, buka menu '''<code>Clusters</code> > <code>Aleleon Shell Access</code>'''.
 
* Bagi user yang login ke web EFIRO, buka menu '''<code>Clusters</code> > <code>Aleleon Shell Access</code>'''.
[[Berkas:Shellaccess.png|nirbing|200x200px]]
[[Berkas:Shellaccess.png|nirbing|200x200px]]
|-
|-
Baris 642: Baris 621:
Berikut adalah langkah untuk memulai sesi Jupyter dengan Conda Environment yang dibuat user:
Berikut adalah langkah untuk memulai sesi Jupyter dengan Conda Environment yang dibuat user:
{| class="wikitable"
{| class="wikitable"
! colspan="2" |Memulai Sesi Interaktif Jupyter dengan Conda Environment User
! colspan="2" |Langkah Memulai Sesi Interaktif Jupyter
|-
|-
| rowspan="2" |'''0'''
|'''0'''
|Sebelum login, [[Koneksi VPN ALELEON Supercomputer|'''user harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
|
|-
===== Login Web EFIRO=====
|Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>''' kemudian masukkan username dan password user.
*[[Koneksi VPN ALELEON Supercomputer|'''User harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
*Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
*Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>''' lalu masukkan username dan password user.**Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
|-
|-
|'''1'''
|'''1'''
|Bagi akun perseorangan, disarankan untuk mengecek sisa CPU Core Hour sebelum memulai sesi Jupyter ini.
[[Berkas:Shellaccess.png|nirbing|200x200px]]
*Buka terminal melalui menu '''<code>Clusters</code> > <code>Aleleon Shell Access</code>'''.
*Jalankan perintah
$ '''sausage'''
|-
|'''2'''
|Buka menu '''<code>Interactive Apps</code>'''
|Buka menu '''<code>Interactive Apps</code>'''
* Silahkan pilih Jupyter Notebook atau Lab sesuai referensi pribadi user.
* Silahkan pilih Jupyter Notebook atau Lab sesuai referensi pribadi user.
Baris 664: Baris 636:
|-
|-
|'''3'''
|'''3'''
|Isi formulir untuk memulai sesi Jupyter sesuai pilihan panduan berikut ''(klik expand atau kembangkan)'':  
|
==== Mengisi Formulir Sesi Interaktif Jupyter ====
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:  
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
!Panduan Formulir Menggunakan Torti (Interactive Node CPU)
!Panduan Formulir Menggunakan Torti (Interactive Node CPU)
|-
|-
|
|
*'''Partition'''
*'''Partition''' -> '''torti'''
**Pilih '''torti'''
*'''Number of CPU Cores''' -> Min: '''1''', maks: '''32'''
*'''Number of CPU Cores'''
*'''Number of GPUs''' -> ''kosongkan''
**Alokasi jumlah core CPU yang akan digunakan
*'''Number of hours''' ''(Durasi sesi interaktif)'' -> Min: '''1''', maks: '''72'''
**Minimal: '''1''', maksimal: '''32'''
*'''Anaconda Selection''' -> ''Pilih versi terbaru''
*'''Number of GPUs'''
**''kosongkan''
*'''Number of hours'''
**Durasi sesi Jupyter dalam satuan jam
**Minimal: '''1''', maksimal: '''72'''
*'''Anaconda Selection'''
**''Pilih versi terbaru''
*'''Conda Environment Directory'''  
*'''Conda Environment Directory'''  
**Isi dengan alamat direktori Conda Environment user yang akan digunakan dengan format:
**Alamat direktori Conda Environment user, isi dengan format:
  <code>$CONDA/'''''<nama-conda-environment>'''''</code>
  '''''<code>$CONDA/<nama-conda-environment></code>'''''
*'''Software Modules'''
*'''Software Modules''' -> ''kosongkan''
**''kosongkan''
 
*'''Environment Setup'''
*'''Environment Setup''' -> ''kosongkan''
**''kosongkan''
*'''Email Address'''  
*'''Email Address'''  
**Sistem akan mengirim notifikasi ke email user saat sesi Jupyter sudah siap diakses.
**Sistem mengirim notifikasi ke email user ketika sesi Jupyter siap diakses.
**Apabila membutuhkan, ''isi dengan email user''
**Apabila butuh, ''isi dengan email user''
|}
|}
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
Baris 696: Baris 662:
|-
|-
|
|
*'''Partition'''
*'''Partition''' -> '''tilla'''
**Pilih '''tilla'''
*'''Number of CPU Cores''' -> Min: '''1''', maks: '''32'''
*'''Number of CPU Cores'''
*'''Number of GPUs''' -> '''1'''
**Alokasi jumlah core CPU yang akan digunakan
*'''Number of hours''' ''(Durasi sesi interaktif)'' -> Min: '''1''', maks: '''72'''
**Minimal: '''1''', maksimal: '''32'''
*'''Anaconda Selection''' -> ''Pilih versi terbaru''
*'''Number of GPUs'''
*'''Conda Environment Directory'''  
**Isi: '''1'''
**Alamat direktori Conda Environment user, isi dengan format:
*'''Number of hours'''
**Durasi sesi Jupyter dalam satuan jam
**Minimal: '''1''', maksimal: '''72'''
*'''Anaconda Selection'''
**''Pilih versi terbaru''
*'''Conda Environment Directory'''
**Isi dengan alamat direktori Conda Environment user yang akan digunakan dengan format:
  '''''<code>$CONDA/<nama-conda-environment></code>'''''
  '''''<code>$CONDA/<nama-conda-environment></code>'''''
*'''Software Modules'''
*'''Software Modules'''
**Pada bagian ini user memasukkan nama modul NVIDIA CUDA. Terdapat dua alternatif:  
**Masukkan nama modul NVIDIA CUDA. Terdapat dua alternatif:  
***Mengisi nama modul CUDA versi terbaru yaitu '''<code>cuda</code>'''
***Menggunakan modul CUDA versi terbaru: '''<code>cuda</code>'''
***Memilih modul CUDA versi lainnya apabila dibutuhkan oleh package Python user.
***Memilih modul CUDA lainnya. lihat '''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Modul_NVIDIA_CUDA_Toolkit Daftar Modul NVIDIA CUDA Toolkit]'''.
****Daftar modul CUDA lihat subbab '''[https://wiki.efisonlt.com/wiki/Anaconda_Python#Modul_NVIDIA_CUDA_Toolkit Daftar Modul NVIDIA CUDA Toolkit]'''.


*'''Environment Setup'''
*'''Environment Setup''' -> ''kosongkan''
**''kosongkan''
*'''Email Address'''  
*'''Email Address'''  
**Sistem akan mengirim notifikasi ke email user saat sesi Jupyter sudah siap diakses.
**Sistem mengirim notifikasi ke email user ketika sesi Jupyter siap diakses.
**Apabila membutuhkan, ''isi dengan email user''
**Apabila butuh, ''isi dengan email user''
|-
|}
|
{| class="wikitable"
|'''''Perhatian:''''' Sesi Jupyter tidak akan berjalan apabila:
*Number of CPU cores * Number of Hour lebih besar dari sisa CPU Core Hour user.
*Number of GPUs * Number of Hour lebih besar dari sisa GPU Hour user.
Cek sisa Kredit Core Hour user dengan langkah:
 
* Buka '''<code>Clusters</code>''' > '''<code>Aleleon Shell Access</code>''' pada dasboard EFIRO.
 
* Jalankan perintah:
 
$ '''sausage'''
[[Berkas:Shellaccess.png|nirbing|200x200px]]
|}
|}
|-
|-
|'''4'''
|'''4'''
|Apabila formulir sudah terisi, klik tombol '''<code>Launch</code>''' untuk memulai sesi Jupyter.
|
==== Memulai Sesi Interaktif Jupyter ====
Apabila formulir sudah terisi, klik tombol '''<code>Launch</code>''' untuk memulai sesi Jupyter.
*User akan diarahkan ke halaman '''<code>My Interactive Sessions</code>'''.
*User akan diarahkan ke halaman '''<code>My Interactive Sessions</code>'''.
*Tunggu hingga sesi Jupyter siap diakses.
*Tunggu hingga sesi Jupyter siap diakses.
[[Berkas:JNqueue.png|nir|jmpl|''Status sesi Jupyter mengantri menunggu alokasi hardware'']]
[[Berkas:JNqueue.png|nir|jmpl|''Status sesi Jupyter mengantri menunggu alokasi hardware'']]
{| class="wikitable"
|'''Perhatian:''' Sesi akan tertahan di antrian apabila:
*Number of CPU cores * Number of Hour yang dialokasikan lebih besar dari sisa CPU Core Hour user.
*Number of GPUs * Number of Hour yang dialokasikan lebih besar dari sisa GPU Hour user.
|}
|-
|-
|'''5'''
|'''5'''
|Apabila status menunjukkan '''Running''' atau kolom berwarna hijau, klik <code>'''Connect to Jupyter'''</code>.[[Berkas:JNrun.png|nir|jmpl|''Sesi Jupyter siap diakses.'']]
|Apabila status menunjukkan '''Running''' atau kolom berwarna hijau, klik <code>'''Connect to Jupyter'''</code>.
{| class="wikitable"
 
|'''''Perhatian:'''''
* ''Sistem mulai menghitung Core Hour saat status sesi Jupyter menunjukkan running.''
*Sistem mulai menghitung Core Hour saat status sesi Jupyter menunjukkan running.
 
|}
[[Berkas:JNrun.png|nir|jmpl|''Sesi Jupyter siap diakses.'']]
|-
|-
|'''6'''
|'''6'''
Baris 748: Baris 713:
|-
|-
|'''7A'''
|'''7A'''
|User dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombol '''<code>Delete</code>'''[[Berkas:JNrun.png|nir|jmpl|''Klik tombol '''<code>Delete</code>''' untuk menghentikan sesi Jupyter yang sedang berjalan'']]
|
==== Mengakses Kembali Sesi Interaktif Jupyter yang Berjalan ====
User dapat mengunjungi sesi Jupyter yang sedang berjalan di '''<code>My Interactive Sessions</code>'''  
[[Berkas:Interactivesession.png|nirbing|500x500px]]
|-
|-
|'''7B'''
|'''7B'''
|User dapat kembali mengunjungi halaman  '''<code>My Interactive Sessions</code>''' melalui dasboard EFIRO.
|
[[Berkas:Interactivesession.png|nirbing|500x500px]]
==== Menghentikan Sesi Interaktif Jupyter ====
User dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombol '''<code>Delete</code>'''[[Berkas:JNrun.png|nir|jmpl|''Klik tombol '''<code>Delete</code>''' untuk menghentikan sesi Jupyter yang sedang berjalan'']]
|}
|}
== '''Pelaporan Kendala dan Support'''==
== '''Pelaporan Kendala dan Support'''==
Apabila menjumpai masalah teknis dalam menjalankan komputasi R, silahkan lapor dengan klik gambar berikut ini.
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.


[[Berkas:Wiki-pelaporankendala.jpg|1000x1000px|link=https://efisonlt.com/aleleonbugreport]]
[[Berkas:Wiki-pelaporankendala.jpg|1000x1000px|link=https://efisonlt.com/aleleonbugreport]]

Revisi per 11 Januari 2024 05.11

Anaconda adalah suite katalog packages Python dan R untuk komputasi data science dan machine learning.

Modul Anaconda Python

Berikut adalah detail versi Anaconda yang tersedia secara global di ALELEON Supercomputer dimana menggunakan Python 3 sebagai standar.

Modul Anaconda
Versi Nama modul Versi Python

default

Dukungan hardware
CPU GPU OMP

Threading

MPI

multi-node

Anaconda 3 2020.11 Anaconda3/2020.11 3.8.5 V V V1 V2
Anaconda 3 2021.05 Anaconda3/2021.05 3.8.8
Anaconda 3 2022.05 Anaconda3/2022.05

atau Anaconda3

3.9.12

Keterangan:

  1. Melalui package Python yang mendukung OpenMP seperti Cython, Numba, Pythran, PyPy, dll.
  2. Melalui MPI for Python (MPI4PY)

Modul NVIDIA CUDA Toolkit

User membutuhkan modul NVIDIA CUDA Toolkit untuk menjalankan Python dengan akselerasi GPU NVIDIA. Berikut adalah detail versi NVIDIA CUDA Toolkit yang tersedia secara global di ALELEON Supercomputer.

Modul NVIDIA CUDA Toolkit
Nama dan Versi Nama Modul
CUDA 11.2 dengan cuDNN 8.1.1 cuda/11.2-cuDNN8.1.1
CUDA 11.6 dengan cuDNN 8.3.3 cuda/11.6-cuDNN8.3.3
CUDA 11.8 dengan cuDNN 8.6.0 cuda/11.8-cuDNN8.6.0
CUDA 12.0 dengan cuDNN 8.7.0 cuda/12.0-cuDNN8.7.0
CUDA 12.1 dengan cuDNN 8.8.1 cuda/12.1-cuDNN8.8.1

atau cuda

Apabila user membutuhkan CUDA versi spesifik yang belum ada di atas, hubungi tim admin melalui support@efisonlt.com untuk permintaan instalasi. Layanan ini bebas biaya dan akan dilakukan pada hari dan jam kerja EFISON.

Membuat Conda Environment dan Instalasi Package Python

ALELEON Supercomputer mensyaratkan user membuat Conda Environment untuk menjalankan komputasi Python via Anaconda.

  • Conda Environment adalah 'ruang isolasi' untuk menampung instalasi package Python masing-masing user.
  • User membuat Conda Environment dan melakukan instalasi package Python secara mandiri.
  • Kegiatan membuat Conda Env dan instalasi dilakukan pada Login Node sehingga tidak mengurangi Kredit Core Hour user.

Berikut adalah langkah membuat Conda Environment di ALELEON Supercomputer (klik expand atau kembangkan):

Membuat Conda Environment
0 Instalasi package dilakukan melalui terminal.
  • Bagi user yang login ke web EFIRO, buka menu Clusters > Aleleon Shell Access.

Shellaccess.png

1 Aktifkan modul Anaconda, disarankan menggunakan Anaconda terbaru:
$ module load Anaconda3

Apabila ingin menggunakan versi Anaconda lainnya, lihat subbab Modul Anaconda.

2

Membuat Conda Environment

Buat Conda Environment secara default di direktori HOME dengan format perintah:

$ conda create --name <nama-conda-environment> pip

Contoh:
$ conda create --name kerjaanskripsi pip
3

Mengaktifkan Conda Environment dan Instalasi Package Python

Aktifkan Conda Environment dengan format berikut:

 $ source activate $CONDA/<nama-conda-environment

Contoh:
$ source activate $CONDA/kerjaanskripsi

Conda Environment aktif ditandai dengan tulisan nama env pada bash terminal seperti ini:

(kerjaanskripsi) [wololo@login ~]$

Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan pip

(kerjaanskripsi) $ pip install <nama-package-Python>

Instal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter

(kerjaanskripsi) $ pip install jupyter
(kerjaanskripsi) $ pip install jupyterlab

Menonaktifkan Conda Environment

User dapat menonaktifkan Conda Environment yang sedang aktif dengan perintah:

$ conda deactivate

Mengaktifkan Kembali Conda Environment User

User dapat kembali mengaktifkan Conda Environment yang dibuat dengan langkah 1 dan 3 diatas:

$ module load Anaconda3
$ source activate $CONDA/<nama-conda-environment>

User dapat melihat daftar nama Conda Environment yang sebelumnya dibuat dengan perintah

$ conda-env list

Menghapus Conda Environment

User dapat menghapus Conda Environment dengan format perintah:

$ conda remove -n <nama-conda-environment> --all

Alternatif Menjalankan Anaconda Python di ALELEON Supercomputer

ALELEON Supercomputer menawarkan user untuk menjalankan Anaconda Python dengan pilihan skema:

Efirojobcomposer3.png
---

Menjalankan Anaconda Python melalui Job Submission

  • Menjalankan file Python siap jalan melalui scheduler SLURM.
  • Tidak dapat menjalankan file ipynb dimana harus dikonversi ke file Python.
  • Berjalan di Compute Node:
    • CPU epyc dengan spesifikasi hingga CPU 128 core dan RAM 500GB
      • Python versi MPI (MPI4PY) dapat berjalan paralel hingga CPU 384 core.
    • GPU ampere dengan spesifikasi CPU 32 core, RAM 120GB, dan 2 GPU.
Rjupyterlab.png
---

Menjalankan Anaconda Python dengan sesi interaktif Jupyter

  • Menjalankan Anaconda Python melalui sesi interaktif via Jupyter Notebook / Lab.
  • Berjalan di Interactive Node:
    • Torti dengan spesifikasi CPU 32 core dan RAM 64GB.
    • Tilla dengan spesifikasi CPU 32 core, RAM 64GB, dan 1 GPU.

Menjalankan Anaconda Python Melalui Job Submission

User dapat menjalankan komputasi dengan pilihan cara melalui tampilan terminal atau GUI web EFIRO (klik expand atau kembangkan).

Menggunakan terminal - SLURM sbatch

Langkah Menjalankan Anaconda Python di Terminal melalui SLURM sbatch

Sbatch Terminal.png

0
Login SSH

Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.

1
Menyiapkan File Komputasi

Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:

  • File input dan data komputasi.
    • User dapat upload / download file ke ALELEON dengan software FTP.
  • Membuat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.**Nama script bebas dengan format file .sh (bash), contoh my_job_submission.sh
$ mkdir kerjaanskripsi
$ cd kerjaanskripsi
$ touch my_job_submission.sh

... upload / menyiapkan data input komputasi dll ...
2
Template SLURM Submit Script Anaconda Python

Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.

Template SLURM Submit Script untuk Anaconda Python versi CPU
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# Anaconda Python (CPU)
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Pastikan user sudah membuat Conda Environment.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH dan file input
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Nama Conda Environment yang digunakan
CONDA_NAME=////

# Nama program Python yang dijalankan
INPUT_FILE=////.py

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Mengaktifkan Conda Environment 
module load Anaconda3
source activate ${CONDA}/${CONDA_NAME}

# Menjalankan file Python
python3 ${INPUT_FILE}
Template SLURM Submit Script untuk Anaconda Python versi GPU
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# Anaconda Python (GPU)
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Pastikan user sudah membuat Conda Environment.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH dan file input
# -----------------------------------------------------

# Menggunakan partisi compute node GPU
#SBATCH --partition=ampere

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah GPU
#SBATCH --gpus=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job 
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Nama Conda Environment yang digunakan
CONDA_NAME=////

# Nama program Python yang dijalankan
INPUT_FILE=////.py

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Memuat modul NVIDIA CUDA default 
module load cuda

# Mengaktifkan Conda Environment 
module load Anaconda3
source activate ${CONDA}/${CONDA_NAME}

# Menjalankan file Python
python3 ${INPUT_FILE}
=====Panduan Nilai Maksimal SBATCH=====
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi ntasks

(CPU)

mem

(RAM)

gpus

(GPU)

time

(time limit)

Fair policy usage untuk akumulasi semua job1 128 128GB 2 3-00:00:00

atau

72:00:00

Python versi CPU 128 240GB 0
Python versi CPU di high-mem node
  • Tambahkan #SBATCH --nodelist=epyc001
128 500GB 0
Python versi GPU 32 120GB 2
Python versi MPI (MPI4PY)2 384 240GB2 0
Keterangan:
  1. Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
  2. MPI4PY mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
    • SLURM otomatis menjalankan job pada multi-node.
    • Parameter mem adalah alokasi memori RAM per-node.
    • Info detail buka laman MPI ALELEON Supercomputer.
Keterangan tambahan
  • Untuk akun perseorangan dengan Kredit Core Hour:
    • SLURM akan menahan job apabila:
      • ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
      • gpus * time (jam) lebih besar dari sisa GPU Hour user.
    • Cek sisa Kredit Core Hour melalui perintah:
$ sausage
3
Menjalankan Job Komputasi

Jalankan job dengan perintah sbatch.

$ sbatch <nama-SLURM-Submit-script>

Contoh menjalankan nama script my_job_submission.sh.

$ sbatch my_job_submission.sh
4A User dapat melihat status jalannya job dengan perintah squeue berikut.
  • Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ squeue -ul $USER

Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:

Daftar STATE squeue SLURM
STATE Kepanjangan Penjelasan
R RUN Job berjalan
PD PENDING Job tertahan, lihat keterangan NODELIST(REASON)
CG COMPLETING Job selesai dan dalam proses clean-up SLURM
CA CANCELED Job dibatalkan oleh user
PR PREEMPETED Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
S SUSPENDED Job ditahan oleh admin EFISON
4B
Menghentikan Job Komputasi

Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.

  • Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
  • User hanya bisa membatalkan job submission milik user sendiri.
$ scancel <job-ID-submission-user>

Contoh user membatalkan job submission milik user dengan ID 231.

$ scancel 231

Menggunakan Web EFIRO - EFIRO Job Composer

Langkah Menjalankan Anaconda Python via EFIRO Job Composer

Efirojobcomposer3.png

0
Login Web EFIRO
1
Membuka Job Composer dan Memilih Template Job
  • Buka menu Jobs > Jobs Composer pada dashboard EFIRO.
  • Pilih New Job > From Template
Menu Jobs > Jobs Composer
Menu New Jobs > From Template
2 Jcselecttemplate3.png
  • PIlih template Anaconda Python yang diinginkan.
  • Isi atau ganti kolom Job Name sesuai keinginan user.
  • Apabila sudah selesai, klik Create New Job.
Template Anaconda Python yang tersedia
Nama Template Penjelasan
Anaconda Python (CPU) Menjalankan Anaconda Python versi CPU
Anaconda Python (GPU) Menjalankan Anaconda Python versi GPU
3
Menyiapkan File Komputasi

Jcjoboption3.png

Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.

  • Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
  • Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
4
Melengkapi Submit Script

Submit Script adalah "formulir" untuk menjalankan job komputasi user.

  • Lengkapi Submit Script melalui menu Open Editor.
  • Ikuti petunjuk NOTES di dalamnya.
  • Jangan lupa klik Save setiap sekali mengubah script.

Panduan Nilai Maksimal SBATCH
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi ntasks

(CPU)

mem

(RAM)

gpus

(GPU)

time

(time limit)

Fair policy usage untuk akumulasi semua job1 128 128GB 2 3-00:00:00

atau

72:00:00

Python versi CPU 128 240GB 0
Python versi CPU di high-mem node
  • Tambahkan #SBATCH --nodelist=epyc001
128 500GB 0
Python versi GPU 32 120GB 2
Python versi MPI (MPI4PY)2 384 240GB2 0
Keterangan:
  1. Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
  2. MPI4PY mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
    • SLURM otomatis menjalankan job pada multi-node.
    • Parameter mem adalah alokasi memori RAM per-node.
    • Info detail buka laman MPI ALELEON Supercomputer.
  • Untuk akun perseorangan dengan Kredit Core Hour:
    • SLURM akan menahan job apabila:***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
      • gpus * time (jam) lebih besar dari sisa GPU Hour user.
    • Cek sisa Kredit Core Hour melalui menu Open Terminal dan jalankan perintah:
$ sausage

Jcjoboption4.png

5 ===== Menjalankan Job Komputasi =====

Jalankan job dengan klik tombol Submit.

Penjelasan kolom Status, pantau dengan refresh halaman job
Status Arti
Not Submitted Job belum pernah dijalankan.
Running Job berjalan.
Queue Job mengantri dan belum berjalan.
Completed Job selesai berjalan.
Failed Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
Menghentikan Job Komputasi

Untuk menghentikan job yang tengah berjalan, klik tombol Stop.

Stop.png

6A
Melihat Output Komputasi

User dapat melihat output file komputasi pada kolom Folder Contents

  • Atau dengan membuka Edit Files
Kolom Folder Contents.
6B User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit.

Notifikasi Status Jalannya Komputasi via email

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:

#SBATCH --mail-user=<alamat-email-user> 
#SBATCH --mail-type=BEGIN,END,FAIL

SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:

  • BEGIN -> notifikasi job sudah mulai
  • END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
  • FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
  • TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
  • TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.

Menjalankan Anaconda Python dengan Sesi Interaktif Jupyter

Terdapat 2 langkah untuk menjalankan sesi interaktif Jupyter dengan Conda Environment User yaitu:

  1. Melakukan instalasi pip Jupyter pada Conda Environment yang akan digunakan untuk sesi Jupyter.
  2. Memulai sesi interaktif Jupyter Notebook atau Lab pada web EFIRO.

---

Instalasi pip Jupyter pada Conda Environment

Berikut adalah langkah instalasi pip Jupyter pada Conda Environment user (klik expand atau kembangkan).

Langkah Instalasi pip Jupyter pada Conda Environment User
0 Instalasi package dilakukan melalui terminal.
  • Bagi user yang login ke web EFIRO, buka menu Clusters > Aleleon Shell Access.

Shellaccess.png

1 Aktifkan Conda Environment yang akan digunakan untuk sesi Jupyter
$ module load Anaconda3
$ source activate $CONDA/<nama-conda-environment>
2 Lakukan pip install jupyter dan jupyterlab
$ pip install jupyter
$ pip install jupyterlab

---

Memulai Sesi Jupyter

Berikut adalah langkah untuk memulai sesi Jupyter dengan Conda Environment yang dibuat user:

Langkah Memulai Sesi Interaktif Jupyter
0
Login Web EFIRO
1 Buka menu Interactive Apps
  • Silahkan pilih Jupyter Notebook atau Lab sesuai referensi pribadi user.

Efirojupyternotebooklab.png

3

Mengisi Formulir Sesi Interaktif Jupyter

Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:

Panduan Formulir Menggunakan Torti (Interactive Node CPU)
  • Partition -> torti
  • Number of CPU Cores -> Min: 1, maks: 32
  • Number of GPUs -> kosongkan
  • Number of hours (Durasi sesi interaktif) -> Min: 1, maks: 72
  • Anaconda Selection -> Pilih versi terbaru
  • Conda Environment Directory
    • Alamat direktori Conda Environment user, isi dengan format:
$CONDA/<nama-conda-environment>
  • Software Modules -> kosongkan
  • Environment Setup -> kosongkan
  • Email Address
    • Sistem mengirim notifikasi ke email user ketika sesi Jupyter siap diakses.
    • Apabila butuh, isi dengan email user
Panduan Formulir Menggunakan Tilla (Interactive Node GPU)
  • Partition -> tilla
  • Number of CPU Cores -> Min: 1, maks: 32
  • Number of GPUs -> 1
  • Number of hours (Durasi sesi interaktif) -> Min: 1, maks: 72
  • Anaconda Selection -> Pilih versi terbaru
  • Conda Environment Directory
    • Alamat direktori Conda Environment user, isi dengan format:
$CONDA/<nama-conda-environment>
  • Software Modules
    • Masukkan nama modul NVIDIA CUDA. Terdapat dua alternatif:
  • Environment Setup -> kosongkan
  • Email Address
    • Sistem mengirim notifikasi ke email user ketika sesi Jupyter siap diakses.
    • Apabila butuh, isi dengan email user
Perhatian: Sesi Jupyter tidak akan berjalan apabila:
  • Number of CPU cores * Number of Hour lebih besar dari sisa CPU Core Hour user.
  • Number of GPUs * Number of Hour lebih besar dari sisa GPU Hour user.

Cek sisa Kredit Core Hour user dengan langkah:

  • Buka Clusters > Aleleon Shell Access pada dasboard EFIRO.
  • Jalankan perintah:
$ sausage

Shellaccess.png

4

Memulai Sesi Interaktif Jupyter

Apabila formulir sudah terisi, klik tombol Launch untuk memulai sesi Jupyter.

  • User akan diarahkan ke halaman My Interactive Sessions.
  • Tunggu hingga sesi Jupyter siap diakses.
Status sesi Jupyter mengantri menunggu alokasi hardware
5 Apabila status menunjukkan Running atau kolom berwarna hijau, klik Connect to Jupyter.
  • Sistem mulai menghitung Core Hour saat status sesi Jupyter menunjukkan running.
Sesi Jupyter siap diakses.
6 Pilih Notebook Python 3 untuk memulai sesi notebook Python 3 baik di Jupyter Notebook dan Lab.
Gunakan Notebook Python 3 untuk menjalankan kernel Conda Environment user di Jupyter Notebook
Gunakan Notebook Python 3 untuk menjalankan kernel Conda Environment user di Jupyter Lab
7A

Mengakses Kembali Sesi Interaktif Jupyter yang Berjalan

User dapat mengunjungi sesi Jupyter yang sedang berjalan di My Interactive Sessions Interactivesession.png

7B

Menghentikan Sesi Interaktif Jupyter

User dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombol Delete
Klik tombol Delete untuk menghentikan sesi Jupyter yang sedang berjalan

Pelaporan Kendala dan Support

Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.

Wiki-pelaporankendala.jpg

---

Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:

support@efisonlt.com