R: Perbedaan antara revisi

Dari ALELEON by EFISON
(formatting pt 1)
(formatting menyesuaikan EOD baru)
Baris 87: Baris 87:
**''Sesi IDE Jupyter Lab atau Notebook.''
**''Sesi IDE Jupyter Lab atau Notebook.''
**''Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Interactive_Node interactive node].''
**''Berjalan di [https://wiki.efisonlt.com/wiki/Spesifikasi_ALELEON_Supercomputer#Spesifikasi_Interactive_Node interactive node].''
== '''Menjalankan R Melalui Job Submission''' ==
 
User dapat menjalankan komputasi dengan pilihan cara melalui tampilan terminal atau website EFIRO ''(klik expand atau kembangkan)''.
=== '''Job Submission Terminal''' ===
===Opsi menggunakan terminal (SLURM sbatch)===
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan R di Terminal
!Langkah Job Submission Terminal
[[Berkas:Sbatch Terminal.png|nirbing|500x500px]]
[[Berkas:Sbatch Terminal.png|nirbing|500x500px]]
|-
|-
|'''0'''
!1
|
|-
=====Login SSH=====
|'''[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#Login_SSH Login SSH]''' ke ALELEON Supercomputer.
Tatacara login SSH lihat laman [https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#1_|_Login_SSH '''Login SSH ALELEON Supercomputer'''].
|-
!2
|-
|Siapkan file komputasi dan instalasi package R yang dibutuhkan.
*User dapat upload / download file dengan [[Upload File dengan Aplikasi FTP|'''software FTP''']].
|-
!3A
|-
|Buat '''Submit Script''' yaitu 'formulir' untuk menjalankan job komputasi.
* Nama file bebas dengan format .sh, contoh '''<code>submit.sh</code>'''
|-
|-
|'''1'''
!
|
=====Menyiapkan File Komputasi dan Library Package R=====
Siapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
*File input dan data komputasi.
**User dapat upload / download file ke ALELEON dengan [[Upload File dengan Aplikasi FTP|'''software FTP''']].
*Membuat '''SLURM Submit Script''' yaitu 'formulir' untuk menjalankan job komputasi.
**Nama script bebas dengan format file .sh (bash), contoh ''<code>my_job_submission.sh</code>''
*Lakukan instalasi library package R yang dibutuhkan job komputasi user
**Langkah lihat subbab [https://wiki.efisonlt.com/wiki/R#Instalasi_Library_Package_R '''Instalasi Library Package R'''] di atas.
|-
|-
| rowspan="2" |'''2'''
|
|
=====Template SLURM Submit Script R=====
Contoh template Submit Script, ikuti petunjuk NOTES di dalamnya.
Ikuti panduan template berikut dan petunjuk NOTES di dalamnya.
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
!Template SLURM Submit Script untuk R  
!Template R  
|-
|-
|<syntaxhighlight lang="bash" line="1">
|<syntaxhighlight lang="bash" line="1">
Baris 166: Baris 163:
|}
|}
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
!Template SLURM Submit Script untuk R versi MPI (RMPI)
!Template R versi MPI (RMPI)
|-
|-
|<syntaxhighlight lang="bash" line="1">
|<syntaxhighlight lang="bash" line="1">
Baris 219: Baris 216:
</syntaxhighlight>
</syntaxhighlight>
|}
|}
|-
!
|-
|-
|
|
=====Panduan Nilai Maksimal SBATCH untuk R=====
*''Info script lebih detail lihat [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']].''
{| class="wikitable mw-collapsible mw-collapsed"
*''Untuk SBATCH notifikasi email status jalannya job lihat [https://wiki.efisonlt.com/wiki/Submit_Script_ALELEON_Supercomputer#SBATCH_untuk_notifikasi_email_SLURM '''Slurm Jojo'''].''
! colspan="5" | Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|-
|-
!Skenario Komputasi
!3B
! ntasks
(CPU)
!mem
(RAM)
!gpus
(GPU)
!time
(time limit)
|-
|-
|Fair policy usage untuk akumulasi semua job<sup>''1''</sup>
|'''SBATCH komputasi (ntasks, mem, time, dll) mempunyai limit''' berdasarkan:
|128
*Sisa Core Hour user dan [[Limitasi Fair Usage ALELEON Supercomputer|'''Fair Usage Limit''']].
|128GB
*Spesifikasi sistem dan software komputasi.
|2
Untuk melihat limit, jalankan perintah berikut:
| rowspan="4" |3-00:00:00
'''$ slimit-r'''
atau
 
72:00:00
|-
|-
|R biasa
!4
|128
|240GB
|0
|-
|-
|R biasa di high-mem node
|Jalankan job komputasi dengan perintah:
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
$ '''sbatch ''[nama-submit-script]'''''
|128
|500GB
''Contoh:''
|0
$ sbatch submit.sh
|-
|-
|R versi MPI (RMPI)''<sup>2</sup>''
!5
|384
|240GB''<sup>2</sup>''
| 0
|-
|-
| colspan="5" |'''''Keterangan:'''''
|User dapat melihat status jalannya job dengan perintah:
#Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
'''<code>$ squeue -ul $USER</code>'''
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
{| class="wikitable mw-collapsible mw-collapsed"
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
! colspan="2" |Daftar ST (STATE) menunjukkan status jalannya job:
#RMPI mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
#* SLURM otomatis menjalankan job pada multi-node.
#*Parameter mem adalah alokasi memori RAM per-node.
#*Info detail buka laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
|-
! colspan="5" |Keterangan tambahan
|-
| colspan="5" |
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
**SLURM akan menahan job apabila:
***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
**Cek sisa Kredit Core Hour melalui perintah:
$ '''sausage'''
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
|}
|-
|'''3'''
|
=====Menjalankan Job Komputasi=====
Jalankan job dengan perintah sbatch.
$ '''sbatch''' '''''<nama-SLURM-Submit-script>'''''
Contoh menjalankan nama script <code>my_job_submission.sh</code>.
$ sbatch my_job_submission.sh
|-
|-
|'''4A'''
! STATE
|User dapat melihat status jalannya job dengan perintah squeue berikut.
*Apabila tidak ada output artinya tidak ada job user yang berjalan / antri pada waktu itu.
$ '''squeue -ul $USER'''
Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
{| class="wikitable"
|+Daftar STATE squeue SLURM
!STATE
!Kepanjangan
!Penjelasan
!Penjelasan
|-
|-
|R
|R (RUN)
|RUN
|Job berjalan
|Job berjalan
|-
|-
|PD
|PD (PENDING)
|PENDING
|Job tertahan, lihat [[Daftar Reason NODELIST ALELEON Supercomputer|'''NODELIST(REASON)''']]
|Job tertahan, lihat keterangan [[Daftar Reason NODELIST ALELEON Supercomputer|'''NODELIST(REASON)''']]
|-
|-
|CG
| CG (COMPLETING)
|COMPLETING
|Job selesai dan dalam proses clean-up
|Job selesai dan dalam proses clean-up SLURM
|-
|-
|CA
|CA (CANCELED)
|CANCELED
|Job dibatalkan user
|Job dibatalkan oleh user
|-
|-
|PR
|PR (PREEMPETED)
|PREEMPETED
|Job dibatalkan admin, alasan dikabarkan via email
| Job dibatalkan oleh admin EFISON, alasan dikabarkan melalui email
|-
|-
|S
|S (SUSPENDED)
|SUSPENDED
|Job ditahan admin, alasan dikabarkan via email
|Job ditahan oleh admin EFISON
|}
|}
|-
|-
|'''4B'''
!
|
|-
=====Menghentikan Job Komputasi=====
|Apabila user ingin menghentikan job yang berjalan, jalankan perintah:
Apabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
  '''$ scancel ''[job-ID]'''''
 
* Job ID dapat dilihat melalui perintah squeue pada kolom JOBID.
''Job ID ada pada squeue diatas.''
 
contoh membatalkan job ID 231:
*User hanya bisa membatalkan job submission milik user sendiri.
  $ '''scancel <''job-ID-submission-user''>'''
Contoh user membatalkan job submission milik user dengan ID 231.
  $ scancel 231
  $ scancel 231
|-
|-
|'''4C'''
!Tips
|'''''Tips:''''' Apabila program R gagal berjalan karena ada package R yang belum terinstal:
|-
* File output dari SBATCH error dapat merekap package R apa saja yang belum terinstal.
|Apabila program R gagal selesai karena package R yang belum terinstal:
* File output SBATCH error merekap package R yang belum terinstal.
* Berdasarkan info tersebut, lakukan instalasi package R.
* Berdasarkan info tersebut, lakukan instalasi package R.
|}
|}
===Opsi menggunakan Web EFIRO (FIRO Job Composer)===
===Job Submission Web EFIRO===
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah Menjalankan R di Web EFIRO
!Langkah Job Submission Web EFIRO
[[Berkas:Efirojobcomposer3.png|nirbing|500x500px]]
[[Berkas:Efirojobcomposer3.png|nirbing|400x400px]]
|-
!1
|-
|-
|'''0'''
| [https: / wiki.efisonlt.com wiki Menggunakan_ALELEON_Supercomputer_via_EFIRO#1_ |'''[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_EFIRO#Login_Web_EFIRO Login ke web EFIRO]''' ALELEON Supercomputer.
|
=====Login Web EFIRO=====
*[[Koneksi VPN ALELEON Supercomputer|'''User harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
*Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>'''  lalu masukkan username dan password user.
**Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
|-
|-
|'''1'''
!2
|
=====Membuka Job Composer dan Memilih Template Job=====
*Buka menu '''<code>Jobs</code>''' > '''<code>Jobs Composer</code>''' pada dashboard EFIRO.
*Pilih '''<code>New Job</code>''' > '''<code>From Template</code>'''
[[Berkas:Efirojobcomposermenu.png|nir|jmpl|''Menu '''<code>Jobs</code> > <code>Jobs Composer</code>''''']][[Berkas:Jcnewjobmarked.png|al=|nir|jmpl|220x220px|''Menu '''<code>New Jobs</code>''' > '''<code>From Template</code>''''']]
|-
|-
|'''2'''
|Buka pinned apps '''Job Composer''' [[Berkas:New Pinnedapps jc.png|nirbing|128x128px]] di homepage EFIRO.
|[[Berkas:Jcselecttemplate3.png|nirbing|600x600px]]
Pilih menu '''<code>New Job</code>''' -> '''<code>From Template</code>'''


* PIlih template R yang diinginkan.
[[Berkas:Jcnewjobmarked.png|nirbing|180x180px]]
 
|-
*Isi atau ganti kolom '''<code>Job Name</code>''' sesuai keinginan user.
!3
*Apabila sudah selesai, klik '''<code>Create New Job</code>'''.
|-
|
{| class="wikitable"
{| class="wikitable"
! colspan="2" |Template R yang tersedia
! colspan="2" |Pilih template Ryang diinginkan
|-
|-
!Nama Template
!Nama Template
!Penjelasan
!Penjelasan
|-
|-
|R 4.3.0 "Already Tomorrow"
|R 4.3.0 "Already Tomorrow"  
|Menjalankan R versi 4.3.0
|Menjalankan R versi 4.3.0
|-
|-
|RMPI 4.3.0 "Already Tomorrow"
|RMPI 4.3.0 "Already Tomorrow"
|Menjalankan R versi 4.3.0 dengan MPI
|Menjalankan R versi 4.3.0 dengan MPI
|}
|}Kemudian Isi '''<code>Job Name</code>''' dan klik '''<code>Create New Job</code>'''
 
[[Berkas:Jctemplate-2.png|nirbing]]
|-
|-
|'''3'''
!4
|
=====Menyiapkan File Komputasi dan Library Package R =====
[[Berkas:Jcjoboption3.png|nirbing|600x600px]]
 
Gunakan menu <code>'''Edit Files'''</code> untuk upload file komputasi yang dibutuhkan.
*Laman Edit Files juga dapat melakukan download / edit / rename / delete file.
*Fitur upload pada Edit Files mempunyai limit kapasitas '''2GB per file'''.
**Gunakan [[Upload File dengan Aplikasi FTP|'''aplikasi FTP''']] untuk upload file tunggal diatas 2GB.
Gunakan menu Open Terminal untuk melakukan instalasi library package R yang dibutuhkan.
 
* Langkah lihat subbab [https://wiki.efisonlt.com/wiki/R#Instalasi_Library_Package_R '''Instalasi Library Package R di atas'''].
|-
|-
| rowspan="2" |'''4'''
|Upload dan edit file untuk job komputasi pada '''<code>Edit Files</code>'''
|
[[Berkas:Jcjoboption.png|nirbing|400x400px]]
=====Melengkapi Submit Script=====
*Untuk upload file tunggal diatas 2GB gunakan [[Upload File dengan Aplikasi FTP|'''software FTP''']].
Submit Script adalah "formulir" untuk menjalankan job komputasi user.
*Apabila butuh akses terminal buka <code>'''Open Terminal'''</code>.
* Lengkapi Submit Script melalui menu '''<code>Open Editor</code>'''.
*Ikuti petunjuk NOTES di dalamnya.
*Jangan lupa klik <code>'''Save'''</code> setiap sekali mengubah script.
[[Berkas:Jceditor3.png|al=|nirbing|500x500px]]
|-
|-
|
!5A
=====Panduan Nilai Maksimal SBATCH untuk R=====
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time
|-
|-
!Skenario Komputasi
|Lengkapi '''Submit Script''' melalui tombol '''<code>Open Editor</code>'''.
!ntasks
[[Berkas:Jceditor3.png|al=|nirbing|400x400px]]
(CPU)
* Submit script adalah 'formulir' untuk menjalankan job komputasi.
!mem
*Ikuti petunjuk NOTES didalamnya
(RAM)
*Klik '''<code>Save</code>''' setiap kali mengubah script.
!gpus
(GPU)
!time
(time limit)
|-
|-
|Fair policy usage untuk akumulasi semua job<sup>''1''</sup>
!
|128
|128GB
|2
| rowspan="4" |3-00:00:00
atau
 
72:00:00
|-
|-
|R biasa
|
|128
*''Info script lebih detail lihat [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']].''
|240GB
*''Untuk SBATCH notifikasi email status jalannya job lihat [https://wiki.efisonlt.com/wiki/Submit_Script_ALELEON_Supercomputer#SBATCH_untuk_notifikasi_email_SLURM '''Slurm Jojo'''].''
|0
|-
|-
|R biasa di high-mem node
! 5B
*Tambahkan <code>#SBATCH --nodelist=epyc001</code>
|128
|500GB
|0
|-
|-
|R versi MPI (RMPI)''<sup>2</sup>''
| '''SBATCH komputasi (ntasks, mem, time, dll) mempunyai limit''' berdasarkan:
|384
* Sisa Core Hour user dan [[Limitasi Fair Usage ALELEON Supercomputer|'''Fair Usage Limit''']].
|240GB''<sup>2</sup>''
*Spesifikasi sistem dan software komputasi.
|0
Untuk melihat limit, jalankan perintah berikut pada terminal:
'''$ slimit-python'''
|-
|-
| colspan="5" | '''''Keterangan:'''''
!6
#Limitasi untuk menjaga kualitas layanan ALELEON Supercomputer.
#*User dapat mengajukan permintaan buka limitasi apabila butuh alokasi lebih.
#*Info detail buka laman [[Limitasi Fair Usage ALELEON Supercomputer|'''Limitasi Fair Usage ALELEON Supercomputer''']]
#RMPI mendukung komputasi paralel MPI. Ketika jumlah ntasks lebih dari 128:
#* SLURM otomatis menjalankan job pada multi-node.
#*Parameter mem adalah alokasi memori RAM per-node.
#*Info detail buka laman [[MPI ALELEON Supercomputer|'''MPI ALELEON Supercomputer''']].
|-
|-
| colspan="5" |
|Jalankan job dengan klik tombol '''<code>Submit</code>'''.
*'''Untuk akun perseorangan dengan Kredit Core Hour:'''
[[Berkas:Jcsubmit2.png|al=|nirbing|400x400px]]
**SLURM akan menahan job apabila:
*Pantau kolom status yang menjelaskan status jalannya job.
***ntasks * time (jam) lebih besar dari sisa CPU Core Hour user.
* Apabila ingin membatalkan job yang berjalan, klik '''<code>Stop</code>'''.
***gpus * time (jam) lebih besar dari sisa GPU Hour user.
*Job completed dapat dijalankan kembali dengan '''<code>Submit</code>'''.
**Cek sisa Kredit Core Hour melalui menu '''<code>Open Terminal</code>''' dan jalankan perintah:
{| class="wikitable mw-collapsible mw-collapsed"
$ '''sausage'''
! colspan="2" | Daftar status job:
[[Berkas:Jcjoboption4.png|nirbing|600x600px]]
*Info SBATCH lebih detail lihat laman [[Submit Script ALELEON Supercomputer|'''Submit Script ALELEON Supercomputer''']]
|}
|-
|-
|'''5'''
|
==== Menjalankan Job Komputasi ====
Jalankan job dengan klik tombol '''<code>Submit</code>'''.
[[Berkas:Jcsubmit2.png|al=|nirbing|600x600px]]
{| class="wikitable"
|+''Arti kolom <code>Status</code>, pantau perubahan dengan refresh halaman web''
!Status
!Status
!Arti
!Arti  
|-
|-
|Not Submitted
|Not Submitted
|Job belum pernah dijalankan.
|Job belum pernah dijalankan.
|-
|-
|Running
|Running  
| Job berjalan.
|Job berjalan.
|-
|-
|Queue
|Queue
|Job mengantri dan belum berjalan.
|Job mengantri dan belum berjalan.
{| class="wikitable mw-collapsible mw-collapsed"
!Langkah melihat status job ketika queue
|-
|Buka <code>'''Jobs > Active Jobs'''</code> pada dashboard EFIRO.
* Lakukan langkah sesuai gambar dibawah ini
[[Berkas:Efiroqueueedit.png|al=|jmpl|''Halaman Active Jobs. Ubah opsi '''<code>Your jobs</code>''' untuk melihat status job user saja. Klik simbol '''>''' untuk melihat status  job pending pada kolom '''Reason'''. Arti reason lihat laman '''[[Daftar Reason NODELIST ALELEON Supercomputer]].'''''|kiri]]
|}
|-
|-
|Completed
|Completed
|Job selesai berjalan.
| Job selesai berjalan.
|-
|-
|Failed
|Failed
|Job berhenti di tengah jalan, bisa karena di Stop atau Delete oleh user.
|Job berhenti di tengah jalan, antara error atau di stop user
|-
| colspan="2" |'''Untuk melihat alasan queue:'''
#Buka app '''<code>Active Jobs</code>''' [[Berkas:Pinnedapps activejobs.png|nirbing|127x127px]]di homepage EFIRO.
#[[Berkas:Efiroqueueedit.png|nir|jmpl|''Ubah opsi '''<code>Your jobs</code>''' untuk melihat status job user saja. Klik simbol '''>''' untuk melihat status  job pending pada kolom '''Reason'''. Arti reason lihat laman '''[[Daftar Reason NODELIST ALELEON Supercomputer]].''''']]
|}
|}
=====Menghentikan Job Komputasi=====
Untuk menghentikan job yang tengah berjalan, klik tombol '''<code>Stop</code>'''.
[[Berkas:Stop.png|nirbing|600x600px]]
|-
|-
|'''6A'''
!7
|
|-
=====Melihat Output Komputasi=====
| Lihat output file komputasi pada kolom '''<code>Folder Contents</code>'''
User dapat melihat output file komputasi pada kolom '''<code>Folder Contents</code>'''
*Atau dengan membuka '''<code>Edit Files</code>'''
*Atau dengan membuka '''<code>Edit Files</code>'''  
[[Berkas:Jcfoldercontentsedit.png|al=|nir|jmpl|''Kolom '''<code>Folder Contents</code>'''.'']]
[[Berkas:Jcfoldercontentsedit.png|al=|nir|jmpl|''Kolom '''<code>Folder Contents</code>'''.'']]
|-
|-
|'''6B'''
!Tips
|'''''Tips:''''' Apabila program R gagal berjalan karena ada package R yang belum terinstal:
|-
* File output dari SBATCH error dapat merekap package R apa saja yang belum terinstal.
|Apabila program R gagal selesai karena package R yang belum terinstal:
* File output SBATCH error merekap package R yang belum terinstal.
* Berdasarkan info tersebut, lakukan instalasi package R.
* Berdasarkan info tersebut, lakukan instalasi package R.
|-
|'''6C'''
|User dapat '''menjalankan ulang ruang job yang sama''' dengan mengklik kembali tombol '''<code>Submit</code>'''.
|}
|}
=== '''Notifikasi Status Jalannya Komputasi via email''' ===
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:<syntaxhighlight lang="bash">
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
</syntaxhighlight>SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
*BEGIN -> notifikasi job sudah mulai
*END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
*FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
*TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
*TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
== '''Menjalankan R dengan Sesi Interaktif Jupyter''' ==
Terdapat 2 langkah untuk menjalankan R melalui sesi interaktif Jupyter yaitu:


# Melakukan '''instalasi package IRKernel''' ketika pertama kali menggunakan Jupyter untuk R.
=== '''Interactive Job Jupyter''' ===
# Memulai sesi interaktif Jupyter Notebook atau Lab pada web EFIRO.
{| class="wikitable"
---
!Langkah Interactive Job Sesi Jupyter
 
[[Berkas:Efirojupyterlab.png|nirbing|400x400px]]
=== Instalasi Package IRkernel pertama kali ===
|-
Berikut adalah langkah untuk instalasi package IRKernel ''(klik expand atau kembangkan)'':
!0
|-
|'''Install package IRKernel apabila pertama kali menggunakan Jupyter untuk R'''
{| class="wikitable mw-collapsible mw-collapsed"
{| class="wikitable mw-collapsible mw-collapsed"
! colspan="2" |Langkah instalasi package IRkernel R untuk masing-masing user
!Langkah instalasi package IRkernel R
|-
!1
|-
|Masuk ke terminal melalui:
*[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_Terminal#1_|_Login_SSH '''Login SSH'''], atau
*[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_EFIRO#Login_Web_EFIRO '''Login ke web EFIRO'''] dan buka pinned apps '''<code>Aleleon Shell Access</code>'''
Kegiatan ini tidak mengurangi Core Hour user.
|-
!2
|-
|-
|'''0'''
|Aktifkan R dengan memuat modul versi R yang akan digunakan:
|Instalasi package dilakukan melalui '''terminal'''.
<code>'''$ module load ''[nama-modul-R]'''''</code>
 
* Bagi user yang login ke web EFIRO, buka menu '''<code>Clusters</code> > <code>Aleleon Shell Access</code>'''.


[[Berkas:Shellaccess.png|nirbing|200x200px]]
* ''Lihat subbab Modul R di atas.''
|-
|-
|'''1'''
!3
|Aktifkan R dengan memuat modul versi R yang akan digunakan.
{| class="wikitable"
!Versi
!Perintah Terminal
|-
|-
|4.3.0
|<code>$ module load R/4.3.0-GCC11.3-MKL</code>
|}
|-
|'''2'''
|Aktifkan modul Anaconda terbaru:
|Aktifkan modul Anaconda terbaru:
$ module load Anaconda3
<code>'''$ module load Anaconda3'''</code>
 
|-
!4
|-
|-
|'''2'''
|Jalankan R dan lakukan instalasi package dengan format perintah standar:
|Jalankan R dan lakukan instalasi package dengan format perintah standar:
  $ R  
  $ R  
Baris 568: Baris 430:
  > q()  
  > q()  
|-
|-
|'''3'''
!5
|-
|Buat file R profile di direktori HOME user:
|Buat file R profile di direktori HOME user:
  $ cd
  $ cd
Baris 574: Baris 437:
  $ echo "options(bitmapType='cairo')" >> ~/.Rprofile
  $ echo "options(bitmapType='cairo')" >> ~/.Rprofile
|}
|}
---
|-
 
!1
=== Memulai Sesi Jupyter ===
|-
Berikut adalah langkah untuk memulai sesi Jupyter dengan kernel R:  
|'''[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_EFIRO#Login_Web_EFIRO Login ke web EFIRO]''' ALELEON Supercomputer.
|-
!2
|-
|Buka pinned apps '''Jupyter''' [[Berkas:New Pinnedapps jupyter.png|nirbing|116x116px]] di homepage EFIRO.
|-
!3
|-
|Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:
* '''Choose Jupyter version'''
**''pilih sesuai preferensi user, Jupyter Lab atau Notebook''
*'''Partition''' -> Torti
{| class="wikitable"
{| class="wikitable"
! colspan="2" |Langkah Memulai Sesi Interaktif Jupyter
!Alokasi komputasi
[[Berkas:Efirojupyterlab.png|nirbing|400x400px]]
!torti
|-
|-
|'''0'''
|Number of CPU core(s)
|
|1 - 32
=====Login Web EFIRO=====
*[[Koneksi VPN ALELEON Supercomputer|'''User harus terhubung ke jaringan VPN ALELEON Supercomputer''']].
*Buka alamat web '''<code><nowiki>http://aleleon.ood</nowiki></code>'''  lalu masukkan username dan password user.
**Bagi user Linux, buka alamat <code>'''<nowiki>http://10.192.50.11</nowiki>'''</code>
|-
|-
|'''1'''
| Amount of memory/RAM
|Buka menu '''<code>Interactive Apps</code>'''
| 1 - 64
* Silahkan pilih Jupyter Notebook atau Lab sesuai referensi pribadi user.
 
[[Berkas:Efirojupyternotebooklab.png|nirbing|238x238px]]
|-
|-
|'''2'''
|Number of GPUs
|
| -
==== Mengisi Formulir Sesi Interaktif Jupyter ====
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:
{| class="wikitable"
!Panduan Formulir Menggunakan Torti (Interactive Node CPU)
|-
|-
|
|Number of hours
*'''Partition''' -> '''torti'''
|1 - 72
*'''Number of CPU Cores''' -> Min: '''1''', maks: '''32'''
*'''Number of GPUs''' -> ''kosongkan''
*'''Number of hours''' ''(Durasi sesi interaktif)'' -> Min: '''1''', maks: '''72'''
*'''Anaconda Selection''' -> ''Pilih versi terbaru''
*'''Conda Environment Directory''' -> ''kosongkan''
 
*'''Software Modules'''
**Isi dengan versi R yang akan digunakan
{| class="wikitable"
! Versi
!Nama software modules
|-
|-
|4.3.0
| colspan="2" |'''Pada akun perseorangan, sesi Jupyter tidak akan berjalan apabila:'''
|<code>R/4.3.0-GCC11.3-MKL</code>  
*Alokasi CPU * hours > sisa CPU Core Hour
* Alokasi GPU * hours > sisa GPU Hour
Cek sisa Core Hour dengan:
#Buka app [[Berkas:Pinnedapps terminal.png|nirbing|116x116px]]  di homepage EFIRO
# Jalankan perintah '''<code>sausage</code>'''
|}
|}
*'''Environment Setup''' -> ''kosongkan''
*'''Choose how to launch Jupyter''' -> Anaconda
*'''Email Address'''
*'''Choose Anaconda version''' -> ''Pilih versi terbaru''
**Sistem mengirim notifikasi ke email user ketika sesi Jupyter siap diakses.
*'''Conda environment directory''' -> ''Kosongkan''
**Apabila butuh, ''isi dengan email user''
*'''Software modules''' -> ''Masukkan nama modul R yang digunakan''
|}
 
{| class="wikitable"
* '''Environment setup''' -> ''Kosongkan''
!''Perhatikan sisa Kredit Core Hour user!''
*'''Additional Jupyter arguments''' -> ''Kosongkan''
* '''Email address'''
**''Notifikasi email untuk status mulai dan selesainya sesi Jupyter.''
**''Isi apabila berkenan.''
|-
|-
| Bagi akun perseorangan, sesi Jupyter tidak akan berjalan apabila:
!4
*Number of CPU cores * Number of Hour lebih besar dari sisa CPU Core Hour user.
*Number of GPUs * Number of Hour lebih besar dari sisa GPU Hour user.
Cek sisa Kredit Core Hour user dengan langkah:
*Buka '''<code>Clusters</code>''' > '''<code>Aleleon Shell Access</code>''' pada dasboard EFIRO.
 
*Jalankan perintah:
$ '''sausage'''
[[Berkas:Shellaccess.png|nirbing|200x200px]]
|}
|-
|-
|'''4'''
|Klik tombol '''<code>Launch</code>''' untuk memulai sesi Jupyter.
|
*User akan diarahkan ke halaman '''<code>My Interactive Sessions</code>'''.
====Memulai Sesi Interaktif Jupyter====
Apabila formulir sudah terisi, klik tombol '''<code>Launch</code>''' untuk memulai sesi Jupyter.
* User akan diarahkan ke halaman '''<code>My Interactive Sessions</code>'''.
*Tunggu hingga sesi Jupyter siap diakses.
*Tunggu hingga sesi Jupyter siap diakses.
[[Berkas:Jupyternotebookqueue.png|nir|jmpl|''Status sesi Jupyter mengantri menunggu alokasi hardware'']]
[[Berkas:Jupyternotebookqueue.png|nir|jmpl|''Status sesi Jupyter mengantri menunggu alokasi hardware'']]
|-
|-
|'''5'''
!5
|Apabila status menunjukkan '''Running''' atau kolom berwarna hijau, klik <code>'''Connect to Jupyter'''</code>.
|-
*''Sistem mulai menghitung Core Hour saat status sesi Jupyter menunjukkan running.''
|Apabila status '''Running''', klik tombol '''<code>Connect to Jupyter</code>'''.
[[Berkas:Newjupyter120124.png|nir|jmpl|''Sesi Jupyter siap diakses.'']]
*Sistem mulai menghitung Core Hour!
[[Berkas:Newjupyter120124.png|nir|jmpl|''Sesi Jupyter siap diakses.'']]Untuk menghentikan sesi, klik tombol '''<code>Cancel</code>'''.
|-
!6
|-
|-
|'''6'''
|Pilih Notebook R untuk memulai sesi notebook R baik di Jupyter Notebook dan Lab.[[Berkas:JNkernel.png|nir|jmpl|''Gunakan Notebook R untuk menjalankan kernel R di Jupyter Notebook''|al=|281x281px]][[Berkas:Rjupyterlab.png|nir|jmpl|225x225px|''Gunakan Notebook R untuk menjalankan kernel R di Jupyter Lab'']]
|Pilih Notebook R untuk memulai sesi notebook R baik di Jupyter Notebook dan Lab.[[Berkas:JNkernel.png|nir|jmpl|''Gunakan Notebook R untuk menjalankan kernel R di Jupyter Notebook''|al=|281x281px]][[Berkas:Rjupyterlab.png|nir|jmpl|225x225px|''Gunakan Notebook R untuk menjalankan kernel R di Jupyter Lab'']]
|-
|-
|'''7A'''
!7
|
====Mengakses Kembali Sesi Interaktif Jupyter yang Berjalan====
User dapat mengunjungi sesi Jupyter yang sedang berjalan di '''<code>My Interactive Sessions</code>'''
 
[[Berkas:Interactivesession.png|nirbing|500x500px]]
|-
|-
|'''7B'''
|User dapat mengunjungi sesi Jupyter yang sedang berjalan pada:
|
*Menu '''<code>My Interactive Sessions</code>''' pada homepage EFIRO.
====Menghentikan Sesi Interaktif Jupyter====
*Kolom '''<code>Active interactive sessions</code>''' pada homepage EFIRO.
User dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombol '''<code>Delete</code>'''[[Berkas:Newjupyter120124.png|nir|jmpl|''Klik tombol '''<code>Delete</code>''' untuk menghentikan sesi Jupyter yang sedang berjalan'']]
|}
|}
=='''Pelaporan Kendala dan Support'''==
=='''Pelaporan Kendala dan Support'''==

Revisi per 30 Mei 2024 06.16

R.png

R adalah bahasa interpreter yang didesain untuk mengerjakan komputasi statistika. Pada perkembangannya, bahasa R digunakan untuk pengolahan data di bidang data science. Software R didukung oleh The R Foundation for Statistical Computing.

Modul R

Berikut adalah detail versi R yang tersedia secara global di ALELEON Supercomputer:

Versi Nama modul R Dukungan hardware
CPU GPU OMP

threading

MPI

multi-node

4.3.0 "Already Tomorrow" R/4.3.0-GCC11.3-MKL V - - V melalui RMPI1

Keterangan:

  1. RMPI dapat dicapai dengan pemrograman R dari pihak user menggunakan wrapper Rmpi.

Langkah Menjalankan Komputasi

Terdapat 2 langkah utama:

  1. Memlilih modul R yang akan digunakan dan instalasi library package R apabila dibutuhkan.
  2. Memilih metode menjalankan komputasi -> job submission atau sesi interaktif Jupyter.

Instalasi Library Package R

Instalasi library R pada ALELEON Supercomputer dapat dilakukan dengan dua alternatif cara:

  1. Melayangkan permintaan instalasi package ke admin melalui email support@efisonlt.com; atau
  2. Melakukan instalasi mandiri di Login Node dengan langkah berikut:
Langkah instalasi mandiri Library Package R di Login Node
1
Masuk ke terminal melalui:

Kegiatan ini tidak mengurangi Core Hour user.

2
Aktifkan R dengan memuat modul versi R yang akan digunakan:

$ module load [nama-modul-R]

  • Lihat subbab Modul R di atas.
3
Jalankan R dan lakukan instalasi package dengan format perintah standar:
$ R 
> install.packages('nama-package-yang-akan-diinstal')

Package akan terinstal di direktori HOME user.

Bagi user yang pertama kali melakukan instalasi package R:
Akan ada prompt untuk mengarahkan instalasi ke personal library, jawab yes.
Warning in install.packages("benchmarkme") :
  'lib = "/comp/R/4.1.2-GCC10-MKL/lib64/R/library"' is not writable
Would you like to use a personal library instead? (yes/No/cancel) yes

Kemudian R akan meminta izin untuk membuat personal library di HOME user. Jawab yes.

Would you like to create a personal library
‘~/R/x86_64-pc-linux-gnu-library/4.1’
to install packages into? (yes/No/cancel) yes

Metode Menjalankan Komputasi

User dapat memilih metode menjalankan komputasi sesuai keinginan:

  • Job submission terminal
    • Berjalan di compute node melalui manajemen Slurm.
    • Hanya untuk file R, file ipynb harus diubah ke R.
  • Job submission web EFIRO
    • Berjalan di compute node melalui manajemen Slurm via web EFIRO.
    • Hanya untuk file R, file ipynb harus diubah ke R.
  • Interactive job Jupyter

Job Submission Terminal

Langkah Job Submission Terminal

Sbatch Terminal.png

1
Login SSH ke ALELEON Supercomputer.
2
Siapkan file komputasi dan instalasi package R yang dibutuhkan.
3A
Buat Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
  • Nama file bebas dengan format .sh, contoh submit.sh

Contoh template Submit Script, ikuti petunjuk NOTES di dalamnya.

Template R
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# R | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Nama input file R yang dijalankan
INPUT_FILE="////.R"

# Memuat modul software R
# Daftar modul lihat subbab "Modul R" di atas 
module load R////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Perintah menjakankan R
Rscript ${INPUT_FILE}
Template R versi MPI (RMPI)
#!/bin/bash

# -----------------------------------------------------
# Template SLURM Submit Script
# R versi MPI (RMPI) | rev.080124
# 
# NOTES: 
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH, input, dan module
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS
#SBATCH --time=////

# Definisi file untuk menampung output terminal program
#SBATCH --output=result-%j.txt

# Definisi file untuk menampung output error log    
#SBATCH --error=error-%j.txt 

# Nama input file R yang dijalankan
INPUT_FILE="////.R"

# Memuat modul software R
# Daftar modul lihat subbab "Modul R" di atas 
module load R////

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Memuat modul OpenMPI default
module load OpenMPI

# Perintah menjakankan R
mpirun -np ${SLURM_NTASKS} Rscript ${INPUT_FILE}
3B
SBATCH komputasi (ntasks, mem, time, dll) mempunyai limit berdasarkan:
  • Sisa Core Hour user dan Fair Usage Limit.
  • Spesifikasi sistem dan software komputasi.

Untuk melihat limit, jalankan perintah berikut:

$ slimit-r
4
Jalankan job komputasi dengan perintah:
$ sbatch [nama-submit-script]

Contoh:
$ sbatch submit.sh 
5
User dapat melihat status jalannya job dengan perintah:

$ squeue -ul $USER

Daftar ST (STATE) menunjukkan status jalannya job:
STATE Penjelasan
R (RUN) Job berjalan
PD (PENDING) Job tertahan, lihat NODELIST(REASON)
CG (COMPLETING) Job selesai dan dalam proses clean-up
CA (CANCELED) Job dibatalkan user
PR (PREEMPETED) Job dibatalkan admin, alasan dikabarkan via email
S (SUSPENDED) Job ditahan admin, alasan dikabarkan via email
Apabila user ingin menghentikan job yang berjalan, jalankan perintah:
$ scancel [job-ID]

Job ID ada pada squeue diatas.
contoh membatalkan job ID 231:
$ scancel 231
Tips
Apabila program R gagal selesai karena package R yang belum terinstal:
  • File output SBATCH error merekap package R yang belum terinstal.
  • Berdasarkan info tersebut, lakukan instalasi package R.

Job Submission Web EFIRO

Langkah Job Submission Web EFIRO

Efirojobcomposer3.png

1
Login ke web EFIRO ALELEON Supercomputer.
2
Buka pinned apps Job Composer New Pinnedapps jc.png di homepage EFIRO.

Pilih menu New Job -> From Template

Jcnewjobmarked.png

3
Pilih template Ryang diinginkan
Nama Template Penjelasan
R 4.3.0 "Already Tomorrow" Menjalankan R versi 4.3.0
RMPI 4.3.0 "Already Tomorrow" Menjalankan R versi 4.3.0 dengan MPI
Kemudian Isi Job Name dan klik Create New Job

Jctemplate-2.png

4
Upload dan edit file untuk job komputasi pada Edit Files

Jcjoboption.png

  • Untuk upload file tunggal diatas 2GB gunakan software FTP.
  • Apabila butuh akses terminal buka Open Terminal.
5A
Lengkapi Submit Script melalui tombol Open Editor.

  • Submit script adalah 'formulir' untuk menjalankan job komputasi.
  • Ikuti petunjuk NOTES didalamnya
  • Klik Save setiap kali mengubah script.
5B
SBATCH komputasi (ntasks, mem, time, dll) mempunyai limit berdasarkan:
  • Sisa Core Hour user dan Fair Usage Limit.
  • Spesifikasi sistem dan software komputasi.

Untuk melihat limit, jalankan perintah berikut pada terminal:

$ slimit-python
6
Jalankan job dengan klik tombol Submit.

  • Pantau kolom status yang menjelaskan status jalannya job.
  • Apabila ingin membatalkan job yang berjalan, klik Stop.
  • Job completed dapat dijalankan kembali dengan Submit.
Daftar status job:
Status Arti
Not Submitted Job belum pernah dijalankan.
Running Job berjalan.
Queue Job mengantri dan belum berjalan.
Completed Job selesai berjalan.
Failed Job berhenti di tengah jalan, antara error atau di stop user
Untuk melihat alasan queue:
  1. Buka app Active Jobs Pinnedapps activejobs.pngdi homepage EFIRO.
  2. Ubah opsi Your jobs untuk melihat status job user saja. Klik simbol > untuk melihat status job pending pada kolom Reason. Arti reason lihat laman Daftar Reason NODELIST ALELEON Supercomputer.
7
Lihat output file komputasi pada kolom Folder Contents
  • Atau dengan membuka Edit Files
Kolom Folder Contents.
Tips
Apabila program R gagal selesai karena package R yang belum terinstal:
  • File output SBATCH error merekap package R yang belum terinstal.
  • Berdasarkan info tersebut, lakukan instalasi package R.

Interactive Job Jupyter

Langkah Interactive Job Sesi Jupyter

Efirojupyterlab.png

0
Install package IRKernel apabila pertama kali menggunakan Jupyter untuk R
Langkah instalasi package IRkernel R
1
Masuk ke terminal melalui:

Kegiatan ini tidak mengurangi Core Hour user.

2
Aktifkan R dengan memuat modul versi R yang akan digunakan:

$ module load [nama-modul-R]

  • Lihat subbab Modul R di atas.
3
Aktifkan modul Anaconda terbaru:

$ module load Anaconda3

4
Jalankan R dan lakukan instalasi package dengan format perintah standar:
$ R 
> install.packages('IRkernel')
> IRkernel::installspec()
> q() 
5
Buat file R profile di direktori HOME user:
$ cd
$ touch ~/.Rprofile
$ echo "options(bitmapType='cairo')" >> ~/.Rprofile
1
Login ke web EFIRO ALELEON Supercomputer.
2
Buka pinned apps Jupyter New Pinnedapps jupyter.png di homepage EFIRO.
3
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:
  • Choose Jupyter version
    • pilih sesuai preferensi user, Jupyter Lab atau Notebook
  • Partition -> Torti
Alokasi komputasi torti
Number of CPU core(s) 1 - 32
Amount of memory/RAM 1 - 64
Number of GPUs -
Number of hours 1 - 72
Pada akun perseorangan, sesi Jupyter tidak akan berjalan apabila:
  • Alokasi CPU * hours > sisa CPU Core Hour
  • Alokasi GPU * hours > sisa GPU Hour

Cek sisa Core Hour dengan:

  1. Buka app Pinnedapps terminal.png di homepage EFIRO
  2. Jalankan perintah sausage
  • Choose how to launch Jupyter -> Anaconda
  • Choose Anaconda version -> Pilih versi terbaru
  • Conda environment directory -> Kosongkan
  • Software modules -> Masukkan nama modul R yang digunakan
  • Environment setup -> Kosongkan
  • Additional Jupyter arguments -> Kosongkan
  • Email address
    • Notifikasi email untuk status mulai dan selesainya sesi Jupyter.
    • Isi apabila berkenan.
4
Klik tombol Launch untuk memulai sesi Jupyter.
  • User akan diarahkan ke halaman My Interactive Sessions.
  • Tunggu hingga sesi Jupyter siap diakses.
Status sesi Jupyter mengantri menunggu alokasi hardware
5
Apabila status Running, klik tombol Connect to Jupyter.
  • Sistem mulai menghitung Core Hour!
Sesi Jupyter siap diakses.
Untuk menghentikan sesi, klik tombol Cancel.
6
Pilih Notebook R untuk memulai sesi notebook R baik di Jupyter Notebook dan Lab.
Gunakan Notebook R untuk menjalankan kernel R di Jupyter Notebook
Gunakan Notebook R untuk menjalankan kernel R di Jupyter Lab
7
User dapat mengunjungi sesi Jupyter yang sedang berjalan pada:
  • Menu My Interactive Sessions pada homepage EFIRO.
  • Kolom Active interactive sessions pada homepage EFIRO.

Pelaporan Kendala dan Support

Apabila menjumpai masalah teknis dalam menjalankan komputasi R, silahkan lapor dengan klik gambar berikut ini.

Wiki-pelaporankendala.jpg

---

Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:

support@efisonlt.com

Kontributor

EFISON mengucapkan terima kasih kepada para kontributor untuk pengujian R di ALELEON Supercomputer yang kemudian menjadi dasar penulisan tutorial di halaman ini: