Komputasi Python dengan Conda Environment (Siap Pakai): Perbedaan antara revisi
Dari ALELEON by EFISON
WilsonLisan (bicara | kontrib) (menambah subbab melengkapi conda env) |
WilsonLisan (bicara | kontrib) (melengkali job komputasi) |
||
Baris 52: | Baris 52: | ||
User dapat melayangkan permintaan pembuatan conda env ke tim admin melalui '''support@efisonlt.com'''. | User dapat melayangkan permintaan pembuatan conda env ke tim admin melalui '''support@efisonlt.com'''. | ||
{| class="wikitable" | {| class="wikitable" | ||
! colspan="9" |- - | |||
|- | |||
! rowspan="2" |Package Utama | ! rowspan="2" |Package Utama | ||
dan terinstal | dan terinstal | ||
Baris 636: | Baris 638: | ||
'''Dimana user melakukan instalasi package?''' | '''Dimana user melakukan instalasi package?''' | ||
# User sesi Jupyter dapat melakukan instalasi di dalam sesi notebook. | # User '''sesi Jupyter''' dapat melakukan instalasi '''di dalam sesi notebook.''' | ||
# User yang akan menjalankan komputasi | # User yang akan menjalankan komputasi '''batch job''' menginstal package '''di Login Node''' melalui langkah berikut: | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
Baris 659: | Baris 661: | ||
|- | |- | ||
|Lakukan instalasi package Python yang dibutuhkan: | |Lakukan instalasi package Python yang dibutuhkan: | ||
*Lihat | *Lihat '''[[https://wiki.efisonlt.com/wiki/Daftar_Instalasi_Package_Python#Instalasi_Package_Umum_dengan_pip_/_conda Instalasi Package Umum dengan pip / conda]]''' | ||
|- | |||
!<big><code>-/ 3 /-</code></big> | |||
|- | |||
|Jika sudah selesai, praktik baik menonaktifkan conda env: | |||
$ '''conda deactivate''' | |||
$ '''ml unload Anaconda3''' | |||
|} | |||
== '''''4. Pilihan Menjalankan Komputasi''''' == | |||
Berikut opsi menjalankan komputasi Python dengan conda env, pilih sesuai kebutuhan: | |||
*'''<big>[ 4.1 - Berjalan di Login Node ]</big>''' | |||
**'''Dalam taraf tertentu, user dapat mengaktifkan dan menggunakan conda env di login node.''' | |||
***Tidak mengkonsumsi Kredit Core Hour. | |||
***Perhatikan login node mempunyai spesifikasi terbatas. | |||
**'''Hanya untuk menjalankan kegiatan non-komputasi, contoh ''pre-processing input''.''' | |||
***Keperluan komputasi lakukan metode batch job / sesi Jupyter dibawah ini. | |||
***Tim admin berhak menginterupsi dan mematikan kegiatan user yang memberatkan login node. | |||
*'''<big>[ 4.2 - Batch Job ]</big>'''**'''Menjalankan script Python siap jalan tanpa interaksi user di [<nowiki/>[[Spesifikasi ALELEON Supercomputer#Spesifikasi%20Compute%20Node|Compute node]]].''' | |||
***[[Berkas:GMB warning wololo.png|nirbing|40x40px]] ''Perhatikan '''file <code>.ipynb</code>''' harus dikonversi ke '''file <code>.py</code>'''.'' | |||
***''Job dijalankan oleh manajemen Slurm, user menunggu hingga selesai.'' | |||
**'''Batch job akan berhenti ketika:''' | |||
***''Program komputasi selesai berjalan.'' | |||
***''Program komputasi menyentuh limit waktu yang ditentukan user.'' | |||
***''Program menjumpai error sehingga selesai prematur.'' | |||
**'''Koneksi user tidak mempengaruhi jalannya batch job:''' | |||
***''Job tidak akan berhenti ketika koneksi user terputus, atau'' | |||
***''user keluar (log out) dari ALELEON.'' | |||
*'''<big>[ 4.3 - Sesi Jupyter ]</big>''' | |||
**'''Menjalankan sesi interaktif Jupyter Lab atau Notebook di [<nowiki/>[[Spesifikasi ALELEON Supercomputer#Spesifikasi%20Interactive%20Node|interactive node]]].''' | |||
**'''Sesi Jupyter akan berhenti ketika:''' | |||
*** ''Waktu sesi habis.'' | |||
***''Sesi dihentikan secara manual oleh user.'' | |||
***''Sesi menjumpai error sehingga selesai prematur.'' | |||
**'''Koneksi user tidak mempengaruhi jalannya sesi Jupyter, contoh:''' | |||
***''Sesi tidak akan berhenti ketika koneksi user terputus, atau'' | |||
***''user keluar (log out) dari ALELEON.'' | |||
**'''Ketika user keluar dari sesi Jupyter saat cell berjalan dan kembali masuk:''' | |||
***''Bisa jadi cell tsb. tidak menampilkan proses jalannya komputasi.'' | |||
***''Lihat cell berikutnya apakah belum / sedang / sudah selesai berjalan.'' | |||
--- | |||
=== 4.1. Berjalan di Login Node === | |||
{| class="wikitable mw-collapsible mw-collapsed" | |||
!- Langkah Menjalankan Conda Env di login node - | |||
[[Berkas:Sbatch terminal display rev2.png|tepi|400x400px]] | |||
|- | |||
|[[Berkas:EOD Apps Shell full.png|kiri|nirbing|101x101px]]'''''Menggunakan terminal!''''' | |||
*''User EFIRO klik app '''<code>Aleleon Shell Access</code>''''' | |||
*''atau menu '''<code>Apps > Aleleon Shell Access</code>''''' | |||
|- | |||
!<big><code>-/ 1 /-</code></big> | |||
|- | |||
| Pilih dan aktifkan conda env tersedia yang akan dipakai: | |||
$ '''ml ''[Py Package Manager]''''' | |||
$ '''source activate ''[Nama Conda Env]''''' | |||
''<small>- Contoh mengaktifkan conda env PyTorch 2.7.1:</small>'' | |||
<small>$ ml Anaconda3/2024.02-1 | |||
$ source activate $CENV/pytorch-2.7.1cuda</small> | |||
|- | |||
!<big><code>-/ 2 /-</code></big> | |||
|- | |||
|Lakukan kegiatan user dengan conda env ini. | |||
|- | |- | ||
!<big><code>-/ 3 /-</code></big> | !<big><code>-/ 3 /-</code></big> | ||
|- | |- | ||
|Jika sudah selesai, | |Jika sudah selesai, praktik baik menonaktifkan conda env: | ||
$ '''conda deactivate''' | $ '''conda deactivate''' | ||
$ '''ml unload Anaconda3''' | $ '''ml unload Anaconda3''' | ||
|} | |} |
Revisi per 4 Juli 2025 10.15
Halaman ini menjelaskan menjalankan komputasi / aplikasi Python dengan conda environment (conda env) yang tersedia atau siap pakai di ALELEON Supercomputer.
Laman ini merupakan bagian laman [Komputasi Python] |
---|
0. Spesifikasi
Conda env siap pakai ini dibuat oleh tim admin ALELEON Supercomputer dengan spesifikasi:
- Setiap conda env spesifik menjalankan 1 package utama (contoh TensorFlow, PyTorch, BoltzTraP, dll).
- User dapat menambah instalasi package (apabila dibutuhkan) - lihat [ Subbab 3 ].
$
|
Perintah ketika conda env tidak aktif |
---|---|
(env)$
|
Perintah ketika conda env aktif |
1. Langkah Menjalanlan Komputasi
Subbab | Langkah |
---|---|
[ 2 ] | Lihat conda env tersedia dan spesifikasinya.
|
[ 3 ] | Apabila dibutuhkan, user dapat menambah instalasi package. |
[ 4 ] | Menjalankan komputasi dengan pilihan:
|
[ 5 ] | Support apabila menemui masalah. |
2. Daftar Conda Env Siap Pakai
Berikut adalah daftar conda env siap pakai yang tersedia.
- Cek kelengkapan conda env dengan expand / kembangkan tabel "Package terinstal".
- Apabila ada package yang kurang, user dapat melakukan instalasi dengan detail [ Subbab 3 ].
User dapat melayangkan permintaan pembuatan conda env ke tim admin melalui support@efisonlt.com.
- - | ||||||||
---|---|---|---|---|---|---|---|---|
Package Utama
dan terinstal |
Nama Conda Env | Py Package Manager | Versi
Python |
Dukungan Komputasi | ||||
CPU | GPU | MPI | Batch
Job |
Sesi
Jupyter | ||||
Bidang AI / Machine Learning / Deep Learning | ||||||||
PyTorch 2.7.1 (CUDA 12.6) | $CENV/pytorch-2.7.1cuda
|
Anaconda3/2024.02-1
|
3.12 | V | V | V | V | V |
| ||||||||
TensorFlow 2.19 (CUDA 12.5) | $CENV/tensorflow-2.19cuda
|
Anaconda3/2024.02-1
|
3.11 | V | V | V | V | V |
| ||||||||
Bidang Komputasi Saintifik | ||||||||
BoltzTrap2 25.3.1 | $CENV/boltztrap2-25.3.1
|
Anaconda3/2024.02-1
|
3.11 | V | - | - | V | V |
|
3. (Apabila dibutuhkan) Melengkapi Conda Env
Terdapat dua opsi:
- Melalui bantuan / diskusi dengan tim admin, atau
- Melakukan instalasi sendiri.
Perhatikan instalasi package ini bersifat global:
- Package terinstal di HOME user.
- Contoh user menginstal package di conda env dengan versi Python 3.11 (perhatikan kolom Versi Python di atas):
Dimana user melakukan instalasi package?
- User sesi Jupyter dapat melakukan instalasi di dalam sesi notebook.
- User yang akan menjalankan komputasi batch job menginstal package di Login Node melalui langkah berikut:
- Langkah instalasi package di Login Node - |
---|
Menggunakan terminal!
|
-/ 1 /-
|
Pilih dan aktifkan conda env tersedia yang akan dipakai:
$ ml [Py Package Manager] $ source activate [Nama Conda Env] - Contoh mengaktifkan conda env PyTorch 2.7.1: $ ml Anaconda3/2024.02-1 $ source activate $CENV/pytorch-2.7.1cuda |
-/ 2 /-
|
Lakukan instalasi package Python yang dibutuhkan: |
-/ 3 /-
|
Jika sudah selesai, praktik baik menonaktifkan conda env:
$ conda deactivate $ ml unload Anaconda3 |
4. Pilihan Menjalankan Komputasi
Berikut opsi menjalankan komputasi Python dengan conda env, pilih sesuai kebutuhan:
- [ 4.1 - Berjalan di Login Node ]
- Dalam taraf tertentu, user dapat mengaktifkan dan menggunakan conda env di login node.
- Tidak mengkonsumsi Kredit Core Hour.
- Perhatikan login node mempunyai spesifikasi terbatas.
- Hanya untuk menjalankan kegiatan non-komputasi, contoh pre-processing input.
- Keperluan komputasi lakukan metode batch job / sesi Jupyter dibawah ini.
- Tim admin berhak menginterupsi dan mematikan kegiatan user yang memberatkan login node.
- Dalam taraf tertentu, user dapat mengaktifkan dan menggunakan conda env di login node.
- [ 4.2 - Batch Job ]**Menjalankan script Python siap jalan tanpa interaksi user di [Compute node].
- Batch job akan berhenti ketika:
- Program komputasi selesai berjalan.
- Program komputasi menyentuh limit waktu yang ditentukan user.
- Program menjumpai error sehingga selesai prematur.
- Koneksi user tidak mempengaruhi jalannya batch job:
- Job tidak akan berhenti ketika koneksi user terputus, atau
- user keluar (log out) dari ALELEON.
- [ 4.3 - Sesi Jupyter ]
- Menjalankan sesi interaktif Jupyter Lab atau Notebook di [interactive node].
- Sesi Jupyter akan berhenti ketika:
- Waktu sesi habis.
- Sesi dihentikan secara manual oleh user.
- Sesi menjumpai error sehingga selesai prematur.
- Koneksi user tidak mempengaruhi jalannya sesi Jupyter, contoh:
- Sesi tidak akan berhenti ketika koneksi user terputus, atau
- user keluar (log out) dari ALELEON.
- Ketika user keluar dari sesi Jupyter saat cell berjalan dan kembali masuk:
- Bisa jadi cell tsb. tidak menampilkan proses jalannya komputasi.
- Lihat cell berikutnya apakah belum / sedang / sudah selesai berjalan.
---
4.1. Berjalan di Login Node
- Langkah Menjalankan Conda Env di login node - |
---|
Menggunakan terminal!
|
-/ 1 /-
|
Pilih dan aktifkan conda env tersedia yang akan dipakai:
$ ml [Py Package Manager] $ source activate [Nama Conda Env] - Contoh mengaktifkan conda env PyTorch 2.7.1: $ ml Anaconda3/2024.02-1 $ source activate $CENV/pytorch-2.7.1cuda |
-/ 2 /-
|
Lakukan kegiatan user dengan conda env ini. |
-/ 3 /-
|
Jika sudah selesai, praktik baik menonaktifkan conda env:
$ conda deactivate $ ml unload Anaconda3 |