FLACS-CFD: Perbedaan antara revisi

Dari ALELEON by EFISON
(paraphrasing)
(overhaul wiki FLACS 120124)
Baris 32: Baris 32:
|X
|X
|}
|}
{| class="wikitable"
|+Program non-MPI!
!FLACS-CFD tidak menggunakan MPI sehingga tidak bisa berjalan paralel multi-node atau hanya dapat berjalan pada 1 Compute Node.
|}
== '''Skema Menjalankan FLACS-CFD''' ==
== '''Skema Menjalankan FLACS-CFD''' ==
Terdapat dua cara dalam menjalankan FLACS-CFD:  
Terdapat dua cara dalam menjalankan FLACS-CFD:  
Baris 64: Baris 59:


== '''Menjalankan FLACS-CFD''' ==
== '''Menjalankan FLACS-CFD''' ==
User dapat menjalankan FLACS-CFD dengan pilihan cara menjalankan komputasi:
User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO ''(klik expand atau kembangkan)''.
 
=== Opsi Menggunakan terminal (SLURM sbatch) ===
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan FLACS-CFD di Terminal
[[Berkas:Sbatch Terminal.png|nirbing|500x500px]]
|-
|'''0'''
|===== Login SSH=====
Tatacara login SSH lihat laman [https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#1_|_Login_SSH '''Login SSH ALELEON Supercomputer'''].
|-
|'''1'''
|
=====Menyiapkan File Komputasi=====
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
*File input dan data komputasi.
**User dapat upload / download file ke ALELEON dengan [[Upload File dengan Aplikasi FTP|'''software FTP''']].
*Membuat '''SLURM Submit Script''' yaitu 'formulir' untuk menjalankan job komputasi.
**Nama script bebas dengan format file .sh (bash), contoh ''<code>my_job_submission.sh</code>''
$ mkdir kerjaanskripsi
$ cd kerjaanskripsi
$ nano my_job_submission.sh
''... upload / menyiapkan / edit input dan data komputasi ...''
|-
| rowspan="2" |'''2'''
|
=====Template SLURM Submit Script FLACS-CFD=====
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
{| class="wikitable mw-collapsible mw-collapsed"
!Template SLURM Submit Script untuk FLACS-CFD
|-
|<syntaxhighlight lang="bash" line="1">
#!/bin/bash
 
# -----------------------------------------------------
# Template SLURM Submit Script
# FLACS-CFD | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------
 
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
 
# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////
 
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
 
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
 
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
 
# Definisi file untuk menampung output error log   
#SBATCH --error=error-%j.txt
 
# Memuat modul software FLACS-CFD
# Daftar modul lihat subbab "Modul FLACS-CFD" di atas
module load flacs-cfd////
 
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
 
fgc - ////
run_flacscfd_omp ////
</syntaxhighlight>
|}
{| class="wikitable mw-collapsible mw-collapsed"
!Template SLURM Submit Script untuk FLACS-CFD dengan skema Array
|-
|<syntaxhighlight lang="bash" line="1">
#!/bin/bash
 
# -----------------------------------------------------
# Template SLURM Submit Script
# FLACS-CFD Array | rev.080124
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------
 
# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------
 
# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////
 
# Jumlah job array, contoh: 1-128
#SBATCH --array=////
 
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
 
# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
 
# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt
 
# Definisi file untuk menampung output error log   
#SBATCH --error=error-%j.txt
 
# FLACS CS INPUT FILES WITH WILDCARD. Example: cs??????.dat3
INPUT_FILE="cs////.dat3"
 
# Memuat modul software FLACS-CFD
# Daftar modul lihat subbab "Modul FLACS-CFD" di atas
module load flacs-cfd////
 
# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------
 
# Abbreviate some SLURM variables for brevity/readability
TASK_MIN=${SLURM_ARRAY_TASK_MIN}
TASK_MAX=${SLURM_ARRAY_TASK_MAX}
TASK_ID=${SLURM_ARRAY_TASK_ID}
TASK_COUNT=${SLURM_ARRAY_TASK_COUNT}
 
# Form a list of relevant files, and check the number of array elements
# matches the number of cases with 6-digit identifiers.
CS_FILES=(`ls -1 ${INPUT_FILE}`)
 
if test "${#CS_FILES[@]}" -ne "${TASK_COUNT}";
then
  printf "Number of files is:      %s\n" "${#CS_FILES[@]}"
  printf "Number of array tasks is: %s\n" "${TASK_COUNT}"
  printf "Do not match!\n"
fi
 
# All tasks loop through the entire list to find their specific case.
 
for (( jid = $((${TASK_MIN})); jid <= $((${TASK_MAX})); jid++ ));
do
  if test "${TASK_ID}" -eq "${jid}";
  then
      # File list index with offset zero
      file_id=$((${jid} - ${TASK_MIN}))
      # Form the substring file_id (recall syntax is :offset:length)
      my_file=${CS_FILES[${file_id}]}
      my_file_id=${my_file:2:6}
  fi
done
 
printf "Task %d has file %s id %s\n" "${TASK_ID}" "${my_file}" "${my_file_id}"
 
# Running fgc and FLACS CFD
fgc - ${my_file_id}
run_flacscfd_omp ${my_file_id}
</syntaxhighlight>
|}
|-
|
=====Panduan Nilai Maksimal SBATCH untuk FLACS-CFD=====
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|-
!Skenario Komputasi
!(CPU)''<sup>1</sup>''
!(RAM)''<sup>1</sup>''
! gpus
(GPU)
! time
(time limit)
|-
|Fair policy usage untuk akumulasi semua job<sup>''2''</sup>
| 128
|128GB
|2
| rowspan="3" |3-00:00:00
atau
 
72:00:00
|-
| FLACS-CFD
|128
|240GB
|0
|-
| FLACS-CFD di high-mem node
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
|128
|500GB
|0
|-
| colspan="5" |'''''Keterangan:'''''#Apabila menggunakan skema array:
#*CPU = ntasks * total array
#*RAM = ntasks * total array
# Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
|-
! colspan="5" |Keterangan tambahan
|-
| colspan="5" |
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
**SLURM akan menahan job apabila:
***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
**Cek sisa Kredit Core Hour melalui perintah:
$ '''sausage'''
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']] 
|}
|-
| '''3'''
|=====Menjalankan Job Komputasi =====
Jalankan job dengan perintah sbatch.
$ '''sbatch''' '''''<nama-SLURM-Submit-script>'''''
Contoh menjalankan nama script <code>my_job_submission.sh</code>.
$ sbatch my_job_submission.sh
|-
|'''4A'''
|User dapat melihat status jalannya job dengan perintah squeue berikut.
* Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ '''squeue -ul $USER'''
Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
{| class="wikitable"
|+Daftar STATE squeue SLURM
!STATE
!Kepanjangan
!Penjelasan
|-
| R
|RUN
|Job berjalan
|-
|PD
|PENDING
| Job tertahan, lihat keterangan [[Daftar Reason NODELIST ALELEON Supercomputer|'''NODELIST(REASON)''']]
|-
| CG
| COMPLETING
|Job selesai dan dalam proses clean-up SLURM
|-
|CA
|CANCELED
|Job dibatalkan oleh user
|-
|PR
|PREEMPETED
|Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|-
|S
| SUSPENDED
|Job ditahan oleh admin EFISON
|}
|-
|'''4B'''
|=====Menghentikan Job Komputasi=====
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.*Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
*User hanya bisa membatalkan job submission milik user sendiri.
$ '''scancel <''job-ID-submission-user''>'''
Contoh user membatalkan job submission milik user dengan ID 231.
$ scancel 231
|}


=== [https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_EFIRO#3_-_Menjalankan_Komputasi_ke_Compute_Node_via_Job_Composer EFIRO Job Composer] ===
=== Opsi Menggunakan Web EFIRO (EFIRO Job Composer) ===
Menjalankan komputasi dengan tampilan grafis pada formulir job submission EFIRO Job Composer. Berikut adalah pilihan template FLACS-CFD yang tersedia:
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan FLACS-CFD di Web EFIRO
[[Berkas:Efirojobcomposer3.png|nirbing|500x500px]]
|-
|'''0'''
|
=====Login Web EFIRO =====
*[[Koneksi VPN ALELEON Supercomputer|'''User harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
*Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>'''  lalu masukkan username dan password user.
**Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
|-
|'''1'''
|
=====Membuka Job Composer dan Memilih Template Job=====
*Buka menu '''<code>Jobs</code>''' > '''<code>Jobs Composer</code>''' pada dashboard EFIRO.
*Pilih '''<code>New Job</code>''' > '''<code>From Template</code>'''
[[Berkas:Efirojobcomposermenu.png|nir|jmpl|Menu '''<code>Jobs</code> > <code>Jobs Composer</code>''']][[Berkas:Jcnewjobmarked.png|al=|nir|jmpl|220x220px|Menu '''<code>New Jobs</code>''' > '''<code>From Template</code>''']]
|-
|'''2'''
|[[Berkas:Jcselecttemplate3.png|nirbing|600x600px]]
*PIlih template FLACS-CFD yang diinginkan.
*Isi atau ganti kolom '''<code>Job Name</code>''' sesuai keinginan user.
*Apabila sudah selesai, klik '''<code>Create New Job</code>'''.
{| class="wikitable"
{| class="wikitable"
|+Template Job Composer FLACS-CFD
! colspan="2" |Template FLACS-CFD yang tersedia
|-
!Nama Template
!Nama Template
!Penjelasan
!Penjelasan
Baris 77: Baris 363:
|-
|-
|FLACS-CFD 21.3 Array
|FLACS-CFD 21.3 Array
|Menjalankan FLACS-CFD 21.3 dalam skema SLURM array untuk banyak simulasi sekaligus
|Menjalankan FLACS-CFD 21.3 dengan skema array
|-
|-
|FLACS-CFD 22.1
|FLACS-CFD 22.1
Baris 83: Baris 369:
|-
|-
|FLACS-CFD 22.1 Array
|FLACS-CFD 22.1 Array
|Menjalankan FLACS-CFD 22.1 dalam skema SLURM array untuk banyak simulasi sekaligus
|Menjalankan FLACS-CFD 22.1 dengan skema array
|}
|}
|-
|'''3'''
|
=====Menyiapkan File Komputasi=====
[[Berkas:Jcjoboption3.png|nirbing|600x600px]]


=== [https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#4_-_Menjalankan_Komputasi_ke_Compute_Node_via_SLURM_sbatch SLURM sbatch via Terminal] ===
Gunakan menu <code>'''Edit Files'''</code> untuk upload file komputasi yang dibutuhkan.
Menjalankan komputasi pada terminal melalui job submission SLURM sbatch.
*Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
*Fitur upload pada Edit Files mempunyai limit kapasitas '''2GB per file'''.
**Gunakan [[Upload File dengan Aplikasi FTP|'''aplikasi FTP''']] untuk upload file tunggal diatas 2GB.
|-
| rowspan="2" |'''4'''
|
=====Melengkapi Submit Script=====
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
*Lengkapi Submit Script melalui menu '''<code>Open Editor</code>'''.
*Ikuti petunjuk NOTES di dalamnya.
*Jangan lupa klik <code>'''Save'''</code> setiap sekali mengubah script.
[[Berkas:Jceditor3.png|al=|nirbing|500x500px]]
|-
|
=====Panduan Nilai Maksimal SBATCH=====
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|-
!Skenario Komputasi
!(CPU)''<sup>1</sup>''
!(RAM)''<sup>1</sup>''
!gpus
(GPU)
!time
(time limit)
|-
|Fair policy usage untuk akumulasi semua job<sup>''2''</sup>
|128
|128GB
|2
| rowspan="3" |3-00:00:00
atau


Berikut adalah contoh referensi Submit Script untuk menjalankan FLACS-CFD dengan satu simulasi saja. Perhatikan nama modul mengacu versi FLACS-CFD yang akan digunakan.
72:00:00
{| class="wikitable mw-collapsible"
|-
!Contoh SLURM Submit Script FLACS-CFD untuk satu simulasi
|FLACS-CFD  
|128
|240GB
|0
|-
|FLACS-CFD di high-mem node
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
|128
|500GB
|0
|-
|-
| colspan="5" |'''''Keterangan:'''''#Apabila menggunakan skema array:
#*CPU = ntasks * total array
#*RAM = ntasks * total array
# Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
|-
! colspan="5" |Keterangan tambahan
|-
| colspan="5" |
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
**SLURM akan menahan job apabila:
***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
**Cek sisa Kredit Core Hour melalui menu '''<code>Open Terminal</code>''' dan jalankan perintah:
$ '''sausage'''
[[Berkas:Jcjoboption4.png|nirbing|600x600px]]
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
|}
|-
|'''5'''
|
|
#!/bin/bash
=====Menjalankan Job Komputasi=====
Jalankan job dengan klik tombol '''<code>Submit</code>'''.
# ------------------------------------------------------------------------
 
# | Template SLURM Submit Script
[[Berkas:Jcsubmit2.png|al=|nirbing|600x600px]]
# | Software        : FLACS-CFD
{| class="wikitable"
# | Versi          : tergantung input user
|+''Penjelasan kolom '''<code>Status</code>,''' pantau dengan refresh halaman job''
# | Update script  r: 13/03/2023
!Status
# |
!Arti
# | NOTES:  
|-
# | 1. Isi bagian yang ditandai 4 garing (////).
|Not Submitted
# | 2. Template ini adalah referensi - user dapat mengubah bagian yang
|Job belum pernah dijalankan.
# |   sekiranya perlu diubah.
|-
# | 3. Panduan mengisi alokasi komputasi (SBATCH) menurut spesifikasi
|Running
# |   ALELEON Supercomputer lihat:
|Job berjalan.
# |   <nowiki>https://wiki.efisonlt.com/wiki/Submit_Script_ALELEON_Supercomputer</nowiki>
|-
# ------------------------------------------------------------------------
|Queue
|Job mengantri dan belum berjalan.
# --------------------------------------------------
{| class="wikitable mw-collapsible mw-collapsed"
# Alokasi komputasi, modul software, dan file input
!Langkah melihat status job ketika queue
# --------------------------------------------------
|-
|Buka <code>'''Jobs > Active Jobs'''</code> pada dashboard EFIRO.
# Alokasi jumlah compute node
*Lakukan langkah sesuai gambar dibawah ini
#SBATCH --nodes=1
[[Berkas:Efiroqueueedit.png|al=|jmpl|''Halaman Active Jobs. Ubah opsi '''<code>Your jobs</code>''' untuk melihat status job user saja. Klik simbol '''>''' untuk melihat status job pending pada kolom '''Reason'''. Arti reason lihat laman '''[[Daftar Reason NODELIST ALELEON Supercomputer]].'''''|kiri]]
|}
# Alokasi jumlah core thread CPU (maks 128)
|-
#SBATCH --ntasks=////
|Completed
|Job selesai berjalan.
# Alokasi jumlah memori RAM (satuan GB)
|-
#SBATCH --mem=////GB
|Failed
|Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
# Alokasi limit waktu menjalankan job, format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log   
#SBATCH --error=error-%j.txt
# Memuat modul software FLACS-CFD
module load flacs-cfd////
# DAFTAR MODUL FLACS-CFD:  
# ----------------------------------------
# | Nama modul        | Versi FLACS-CFD  |
  # ----------------------------------------
# | flacs-cfd/21.3    | 21.3            |
# | flacs-cfd/22.1    | 22.1            |
# ----------------------------------------
# -------------------------------------------------
# RUN SCRIPT
# -------------------------------------------------
# Run command
fgc - ////
run_flacscfd_omp ////
|}
|}
Berikut adalah contoh referensi Submit Script untuk menjalankan FLACS-CFD dengan SLURM array untuk menjalankan banyak simulasi sekaligus. Perhatikan nama modul mengacu versi FLACS-CFD yang akan digunakan.
=====Menghentikan Job Komputasi=====
{| class="wikitable mw-collapsible"
Untuk menghentikan job yang tengah berjalan, klik tombol '''<code>Stop</code>'''.
!Contoh SLURM Submit Script FLACS-CFD Array
 
[[Berkas:Stop.png|nirbing|600x600px]]
|-
|-
|'''6A'''
|
|
#!/bin/bash
=====Melihat Output Komputasi=====
User dapat melihat output file komputasi pada kolom '''<code>Folder Contents</code>'''
# ------------------------------------------------------------------------
*Atau dengan membuka '''<code>Edit Files</code>'''
# | Template SLURM Submit Script
[[Berkas:Jcfoldercontentsedit.png|al=|nir|jmpl|Kolom '''<code>Folder Contents</code>'''.]]
# | Software        : FLACS-CFD (Array)
|-
# | Versi          : tergantung input user
|'''6B'''
# | Update script  r: 13/03/2023
|User dapat '''menjalankan ulang ruang job yang sama''' dengan mengklik kembali tombol '''<code>Submit</code>'''.
# |
# | NOTES:
# | 1. Isi bagian yang ditandai 4 garing (////).
# | 2. Template ini adalah referensi - user dapat mengubah bagian yang
# |    sekiranya perlu diubah.
# | 3. Panduan mengisi alokasi komputasi (SBATCH) menurut spesifikasi
# |    ALELEON Supercomputer lihat:
# |    <nowiki>https://wiki.efisonlt.com/wiki/Submit_Script_ALELEON_Supercomputer</nowiki>
# ------------------------------------------------------------------------
# --------------------------------------------------
# Alokasi komputasi, modul software, dan file input
# --------------------------------------------------
# Alokasi jumlah compute node
#SBATCH --nodes=1
# Alokasi jumlah core thread CPU (maks 128)
#SBATCH --ntasks=////
# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB
# Alokasi limit waktu menjalankan job, format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////
# Definisi file untuk menampung output terminal
#SBATCH --output=result-%j.txt
# Definisi file untuk menampung output error log   
#SBATCH --error=error-%j.txt
# Memuat modul software FLACS-CFD
module load flacs-cfd////
# DAFTAR MODUL FLACS-CFD:
# ----------------------------------------
# | Nama modul        | Versi FLACS-CFD  |
# ----------------------------------------
# | flacs-cfd/21.3    | 21.3            |
# | flacs-cfd/22.1    | 22.1            |
# ----------------------------------------
# FLACS CS INPUT FILES WITH WILDCARD. Example: cs??????.dat3
INPUT_FILE='cs////.dat3'
# -------------------------------------------------
# RUN SCRIPT
# -------------------------------------------------
# Abbreviate some SLURM variables for brevity/readability
TASK_MIN=${SLURM_ARRAY_TASK_MIN}
TASK_MAX=${SLURM_ARRAY_TASK_MAX}
TASK_ID=${SLURM_ARRAY_TASK_ID}
TASK_COUNT=${SLURM_ARRAY_TASK_COUNT}
# Form a list of relevant files, and check the number of array elements
# matches the number of cases with 6-digit identifiers.
CS_FILES=(`ls -1 ${INPUT_FILE}`)
if test "${#CS_FILES[@]}" -ne "${TASK_COUNT}";
then
  printf "Number of files is:      %s\n" "${#CS_FILES[@]}"
  printf "Number of array tasks is: %s\n" "${TASK_COUNT}"
  printf "Do not match!\n"
fi
# All tasks loop through the entire list to find their specific case.
for (( jid = $((${TASK_MIN})); jid <= $((${TASK_MAX})); jid++ ));
do
  if test "${TASK_ID}" -eq "${jid}";
  then
      # File list index with offset zero
      file_id=$((${jid} - ${TASK_MIN}))
      # Form the substring file_id (recall syntax is :offset:length)
      my_file=${CS_FILES[${file_id}]}
      my_file_id=${my_file:2:6}
  fi
done
printf "Task %d has file %s id %s\n" "${TASK_ID}" "${my_file}" "${my_file_id}"
# Load FLACS module
module load flacs-cfd
# Running fgc and FLACS CFD
fgc - ${my_file_id}
run_flacscfd_omp ${my_file_id}
|}
|}
=='''Notifikasi Status Jalannya Job Submission via email'''==
=='''Notifikasi Status Jalannya Komputasi via email'''==
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user '''untuk mengabarkan apabila job user sudah berjalan atau selesai'''. SLURM ALELEON Supercomputer menggunakan nama email '''Jojo''' untuk mengirim notifikasi email.
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:<syntaxhighlight lang="bash">
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
</syntaxhighlight>SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
*BEGIN -> notifikasi job sudah mulai
*END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
*FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
*TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
*TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
=='''Pelaporan Kendala dan Support'''==
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
 
[[Berkas:Wiki-pelaporankendala.jpg|1000x1000px|link=https://efisonlt.com/aleleonbugreport]]
 
---


Silahkan tambahan SBATCH berikut pada SLURM Submit Script (dapat ditambahkan setelah SBATCH error) apabila user ingin menerima notifikasi email dari SLURM:
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
  #SBATCH --mail-user=<''alamat-email-user''>
  '''support@efisonlt.com'''
#SBATCH --mail-type=begin
#SBATCH --mail-type=end
*'''mail-user'''
**Alamat email user untuk menerima notifikasi SLURM
* '''mail-type=begin'''
**Notifikasi email yang menginfokan job sudah berjalan.
*'''mail-type=end'''
**Notifikasi email yang menginfokan job sudah selesai.
** Sekaligus memberikan cuplikan 20 baris terakhir dari file output SBATCH output dan error job user.

Revisi per 12 Januari 2024 04.46

FLACS-CFD adalah software industri CFD buatan Gexcon (in-house software) untuk pemodelan ledakan dan keamanan desain konstruksi pabrik khususnya dari sisi simulasi persebaran api, asap, dan gas beracun ketika terjadi kecelakaan.

LICENSED SOFTWARE!
Software ini berjalan di ALELEON Supercomputer melalui FLACS License Manager dengan izin lisensi yang dikelola oleh PT. Gexcon Indonesia.

Versi yang Tersedia

Berikut adalah detail versi FLACS-CFD yang tersedia secara global di ALELEON Supercomputer:

Modul FLACS-CFD
Versi Nama Modul Dukungan Hardware
CPU GPU OMP Threading MPI Multi-Node
21.3 flacs-cfd/21.3 V X V X
22.1 flacs-cfd/22.1 V X V X

Skema Menjalankan FLACS-CFD

Terdapat dua cara dalam menjalankan FLACS-CFD:

  1. Menjalankan satu simulasi per job submission.
  2. Menjalankan banyak simulasi sekaligus dalam satu job submission dengan metode SLURM Array.

Menjalankan FLACS-CFD dengan SLURM Array

Metode ini memungkinkan user untuk menjalankan banyak simulasi sekaligus dalam satu job submission. Terdapat beberapa hal yang perlu diperhatikan:

  • Menggunakan parameter SBATCH SLURM dengan rumus:
#SBATCH --array=1-<jumlah-job-simulasi>

Contoh user menjalankan 8 job simulasi, maka parameter array menjadi: 
#SBATCH --array=1-8
  • Nama file input menggunakan metode wildcard.
  • Ketika menjalankan array, alokasi SBATCH ntasks (core thread CPU) dan mem (memori RAM) digunakan oleh setiap array job.
Contoh user mengalokasikan ntasks 2 dan mem 4GB untuk 8 job array
#SBATCH --array=1-8
#SBATCH --ntasks=2
#SBATCH --mem=4GB 

Maka total alokasi adalah CPU 8*2 = 16 core dan memori RAM 8*4GB = 32GB

Menjalankan FLACS-CFD

User dapat menjalankan komputasi dengan pilihan cara melalui terminal atau website EFIRO (klik expand atau kembangkan).

Opsi Menggunakan terminal (SLURM sbatch)

Langkah Menjalankan FLACS-CFD di Terminal

Sbatch Terminal.png

0 ===== Login SSH=====

Tatacara login SSH lihat laman Login SSH ALELEON Supercomputer.

1
Menyiapkan File Komputasi

Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:

  • File input dan data komputasi.
    • User dapat upload / download file ke ALELEON dengan software FTP.
  • Membuat SLURM Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
    • Nama script bebas dengan format file .sh (bash), contoh my_job_submission.sh
$ mkdir kerjaanskripsi
$ cd kerjaanskripsi
$ nano my_job_submission.sh

... upload / menyiapkan / edit input dan data komputasi ...
2
Template SLURM Submit Script FLACS-CFD

Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.

Template SLURM Submit Script untuk FLACS-CFD 
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# FLACS-CFD | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Memuat modul software FLACS-CFD
# Daftar modul lihat subbab "Modul FLACS-CFD" di atas 
module load flacs-cfd////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

fgc - ////
run_flacscfd_omp ////
Template SLURM Submit Script untuk FLACS-CFD dengan skema Array 
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# FLACS-CFD Array | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Jumlah job array, contoh: 1-128
#SBATCH --array=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# FLACS CS INPUT FILES WITH WILDCARD. Example: cs??????.dat3
INPUT_FILE="cs////.dat3"

# Memuat modul software FLACS-CFD
# Daftar modul lihat subbab "Modul FLACS-CFD" di atas 
module load flacs-cfd////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Abbreviate some SLURM variables for brevity/readability
TASK_MIN=${SLURM_ARRAY_TASK_MIN}
TASK_MAX=${SLURM_ARRAY_TASK_MAX}
TASK_ID=${SLURM_ARRAY_TASK_ID}
TASK_COUNT=${SLURM_ARRAY_TASK_COUNT}

# Form a list of relevant files, and check the number of array elements
# matches the number of cases with 6-digit identifiers.
CS_FILES=(`ls -1 ${INPUT_FILE}`)

if test "${#CS_FILES[@]}" -ne "${TASK_COUNT}";
then
  printf "Number of files is:       %s\n" "${#CS_FILES[@]}"
  printf "Number of array tasks is: %s\n" "${TASK_COUNT}"
  printf "Do not match!\n"
fi

# All tasks loop through the entire list to find their specific case.

for (( jid = $((${TASK_MIN})); jid <= $((${TASK_MAX})); jid++ ));
do
  if test "${TASK_ID}" -eq "${jid}";
  then
      # File list index with offset zero
      file_id=$((${jid} - ${TASK_MIN}))
      # Form the substring file_id (recall syntax is :offset:length)
      my_file=${CS_FILES[${file_id}]}
      my_file_id=${my_file:2:6}
  fi
done

printf "Task %d has file %s id %s\n" "${TASK_ID}" "${my_file}" "${my_file_id}"

# Running fgc and FLACS CFD
fgc - ${my_file_id}
run_flacscfd_omp ${my_file_id}
Panduan Nilai Maksimal SBATCH untuk FLACS-CFD
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi (CPU)1 (RAM)1 gpus

(GPU)

time

(time limit)

Fair policy usage untuk akumulasi semua job2 128 128GB 2 3-00:00:00

atau

72:00:00

FLACS-CFD 128 240GB 0
FLACS-CFD di high-mem node
  • Tambahkan #SBATCH --nodelist=epyc001
 128 500GB 0
Keterangan:#Apabila menggunakan skema array:
    • CPU = ntasks * total array
    • RAM = ntasks * total array
  2. Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
Keterangan tambahan
  • Untuk akun perseorangan dengan Kredit Core Hour:
    • SLURM akan menahan job apabila:
      • ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
      • gpus * time (jam) lebih besar dari sisa GPU Hour user.
    • Cek sisa Kredit Core Hour melalui perintah:
$ sausage
3 =====Menjalankan Job Komputasi =====

Jalankan job dengan perintah sbatch. 

$ sbatch <nama-SLURM-Submit-script>

Contoh menjalankan nama script my_job_submission.sh. 

$ sbatch my_job_submission.sh
4A User dapat melihat status jalannya job dengan perintah squeue berikut.
  • Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ squeue -ul $USER

Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:

Daftar STATE squeue SLURM
STATE Kepanjangan Penjelasan
R RUN Job berjalan
PD PENDING Job tertahan, lihat keterangan NODELIST(REASON)
CG COMPLETING Job selesai dan dalam proses clean-up SLURM
CA CANCELED Job dibatalkan oleh user
PR PREEMPETED Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
S SUSPENDED Job ditahan oleh admin EFISON
4B =====Menghentikan Job Komputasi=====

Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.*Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.

  • User hanya bisa membatalkan job submission milik user sendiri.
$ scancel <job-ID-submission-user>

Contoh user membatalkan job submission milik user dengan ID 231. 

$ scancel 231

Opsi Menggunakan Web EFIRO (EFIRO Job Composer)

Langkah Menjalankan FLACS-CFD di Web EFIRO

Efirojobcomposer3.png

0
Login Web EFIRO
1
Membuka Job Composer dan Memilih Template Job
  • Buka menu Jobs > Jobs Composer pada dashboard EFIRO.
  • Pilih New Job > From Template
Menu Jobs > Jobs Composer
Menu New Jobs > From Template
2 Jcselecttemplate3.png
  • PIlih template FLACS-CFD yang diinginkan.
  • Isi atau ganti kolom Job Name sesuai keinginan user.
  • Apabila sudah selesai, klik Create New Job.
Template FLACS-CFD yang tersedia
Nama Template Penjelasan
FLACS-CFD 21.3 Menjalankan FLACS-CFD 21.3 untuk satu simulasi
FLACS-CFD 21.3 Array Menjalankan FLACS-CFD 21.3 dengan skema array
FLACS-CFD 22.1 Menjalankan FLACS-CFD 22.1 untuk satu simulasi
FLACS-CFD 22.1 Array Menjalankan FLACS-CFD 22.1 dengan skema array
3
Menyiapkan File Komputasi

Jcjoboption3.png

Gunakan menu Edit Files untuk upload file komputasi yang dibutuhkan.

  • Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
  • Fitur upload pada Edit Files mempunyai limit kapasitas 2GB per file.
4
Melengkapi Submit Script

Submit Script adalah "formulir" untuk menjalankan job komputasi user.

  • Lengkapi Submit Script melalui menu Open Editor.
  • Ikuti petunjuk NOTES di dalamnya.
  • Jangan lupa klik Save setiap sekali mengubah script.

Panduan Nilai Maksimal SBATCH
Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
Skenario Komputasi (CPU)1 (RAM)1 gpus

(GPU)

time

(time limit)

Fair policy usage untuk akumulasi semua job2 128 128GB 2 3-00:00:00

atau

72:00:00

FLACS-CFD 128 240GB 0
FLACS-CFD di high-mem node
  • Tambahkan #SBATCH --nodelist=epyc001
 128 500GB 0
Keterangan:#Apabila menggunakan skema array:
    • CPU = ntasks * total array
    • RAM = ntasks * total array
  2. Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
Keterangan tambahan
  • Untuk akun perseorangan dengan Kredit Core Hour:
    • SLURM akan menahan job apabila:
      • ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
      • gpus * time (jam) lebih besar dari sisa GPU Hour user.
    • Cek sisa Kredit Core Hour melalui menu Open Terminal dan jalankan perintah:
$ sausage

Jcjoboption4.png

5
Menjalankan Job Komputasi

Jalankan job dengan klik tombol Submit.

Penjelasan kolom Status, pantau dengan refresh halaman job
Status Arti
Not Submitted Job belum pernah dijalankan.
Running Job berjalan.
Queue Job mengantri dan belum berjalan.
Langkah melihat status job ketika queue
Buka Jobs > Active Jobs pada dashboard EFIRO.
  • Lakukan langkah sesuai gambar dibawah ini
Halaman Active Jobs. Ubah opsi Your jobs untuk melihat status job user saja. Klik simbol > untuk melihat status job pending pada kolom Reason. Arti reason lihat laman Daftar Reason NODELIST ALELEON Supercomputer.
Completed Job selesai berjalan.
Failed Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
Menghentikan Job Komputasi

Untuk menghentikan job yang tengah berjalan, klik tombol Stop.

Stop.png

6A
Melihat Output Komputasi

User dapat melihat output file komputasi pada kolom Folder Contents

  • Atau dengan membuka Edit Files
Kolom Folder Contents.
6B User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit.

Notifikasi Status Jalannya Komputasi via email

SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:

#SBATCH --mail-user=<alamat-email-user> 
#SBATCH --mail-type=BEGIN,END,FAIL

SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:

  • BEGIN -> notifikasi job sudah mulai
  • END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
  • FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
  • TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
  • TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.

Pelaporan Kendala dan Support

Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.

Wiki-pelaporankendala.jpg

---

Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email: 

support@efisonlt.com
Diperoleh dari "https://wiki.efisonlt.com/index.php?title=FLACS-CFD&oldid=1323"