Komputasi Python dengan Anaconda: Perbedaan antara revisi
WilsonLisan (bicara | kontrib) (→Membuat Conda Environment: test) |
WilsonLisan (bicara | kontrib) (→Interactive Job Jupyter: test) |
||
(4 revisi perantara oleh pengguna yang sama tidak ditampilkan) | |||
Baris 83: | Baris 83: | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
!Manajemen Conda Environment | !Manajemen Conda Environment | ||
Deactivate conda env untuk melakukan manajemen ini | |- | ||
|Deactivate conda env untuk melakukan manajemen ini | |||
|- | |- | ||
!a | !a | ||
Baris 345: | Baris 346: | ||
'''<code>$ squeue -ul $USER</code>''' | '''<code>$ squeue -ul $USER</code>''' | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
! colspan="2" |Daftar ST (STATE) | ! colspan="2" |Daftar ST (STATE) menunjukkan status jalannya job: | ||
|- | |- | ||
!STATE | !STATE | ||
Baris 518: | Baris 519: | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
! colspan="2" |Daftar status job | ! colspan="2" |Daftar status job: | ||
|- | |- | ||
!Status | !Status | ||
Baris 565: | Baris 566: | ||
!2 | !2 | ||
|- | |- | ||
|Buka app '''<code>Jupyter</code>''' di Pinned Apps. | |[[Berkas:Pinnedapps jupyter.png|nir|jmpl|141x141px|Buka app '''<code>Jupyter</code>''' di Pinned Apps pada homepage EFIRO.]] | ||
|- | |- | ||
!3 | !3 | ||
Baris 596: | Baris 597: | ||
|- | |- | ||
| colspan="3" |'''Pada akun perseorangan, sesi Jupyter tidak akan berjalan apabila:''' | | colspan="3" |'''Pada akun perseorangan, sesi Jupyter tidak akan berjalan apabila:''' | ||
* Alokasi CPU * hours | * Alokasi CPU * hours > sisa CPU Core Hour | ||
* Alokasi GPU * hours | * Alokasi GPU * hours > sisa GPU Hour | ||
Cek sisa Core Hour dengan: | Cek sisa Core Hour dengan: | ||
Baris 613: | Baris 614: | ||
** ''Membuat modul software, isi sesuai kebutuhan user'' | ** ''Membuat modul software, isi sesuai kebutuhan user'' | ||
** ''Apabila menggunakan tilla, isi modul '''NVIDIA CUDA''' yang sesuai'' | ** ''Apabila menggunakan tilla, isi modul '''NVIDIA CUDA''' yang sesuai'' | ||
* '''Environment setup''' | {| class="wikitable mw-collapsible mw-collapsed" | ||
|- | |||
! colspan="2" |Daftar Software Modules NVIDIA CUDA | |||
|- | |||
!Nama Software Modules | |||
!Versi | |||
|- | |||
|cuda/11.2-cuDNN8.1.1 | |||
|CUDA 11.2 + cuDNN 8.1.1 | |||
|- | |||
|cuda/11.6-cuDNN8.3.3 | |||
|CUDA 11.6 + cuDNN 8.3.3 | |||
|- | |||
|cuda/11.8-cuDNN8.6.0 | |||
|CUDA 11.8 + cuDNN 8.6.0 | |||
|- | |||
|cuda/12.0-cuDNN8.7.0 | |||
|CUDA 12.0 + cuDNN 8.7.0 | |||
|- | |||
|cuda/12.1-cuDNN8.8.1 | |||
|CUDA 12.1 + cuDNN 8.8.1 | |||
|- | |||
|cuda/12.3-cuDNN8.9.6 | |||
|CUDA 12.3 + cuDNN 8.9.6 | |||
|} | |||
*'''Environment setup''' | |||
** ''Memuat environment variable, isi apabila ada'' | ** ''Memuat environment variable, isi apabila ada'' | ||
* '''Additional Jupyter arguments''' | * '''Additional Jupyter arguments''' |
Revisi per 5 April 2024 09.04
Halaman ini menjelaskan menjalankan komputasi Python dengan environment Anaconda di ALELEON Supercomputer.
Langkah Menjalankan Komputasi
Terdapat dua langkah utama:
- Membuat dan menyiapkan conda environment untuk komputasi user.
- Memilih metode menjalankan komputasi.
Membuat Conda Environment
Kegiatan ini dilakukan pada terminal:
- Diakses melalui login SSH, atau
- Pada web EFIRO, buka menu Clusters -> Aleleon Shell Access
Membuat Conda Environment | ||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ||||||||||||
Pilih dan aktifkan modul Anaconda yang akan digunakan.
| ||||||||||||
2 | ||||||||||||
Buat conda env di direktori HOME dan aktifkan dengan perintah:
$ conda create --name [nama-conda-env] pip Contoh nama 'skripsi' $ conda create --name skripsi pip |
Mengaktifkan Conda Environment dan Instalasi Package |
---|
0 |
Aktifkan modul Anaconda yang digunakan untuk membuat conda env user. |
1 |
Aktifkan conda env dengan perintah:
$ source activate [nama-conda-env] Contoh mengaktifkan conda env 'skripsi' $ source activate skripsi |
2 |
User dapat melihat daftar conda env yang dibuat sebelumnya dengan:
|
3 |
Lakukan instalasi package Python yang dibutuhkan dengan pip
|
4 |
Untuk menonaktifkan conda env jalankan perintah:
|
Manajemen Conda Environment |
---|
Deactivate conda env untuk melakukan manajemen ini |
a |
Untuk mengubah nama conda env:
$ conda rename -n [nama-saat-ini] [nama-baru] Contoh mengubah nama env skripsi ke tesis $ conda rename -n skripsi tesis |
b |
Untuk menghapus conda env:
|
Metode Menjalankan Komputasi
User dapat memilih metode menjalankan komputasi sesuai keinginan:
- Job submission di terminal
- Job submission di web EFIRO
- Interactive job Jupyter Lab / Notebook
Job Submission Terminal
Ketentuan:
- Menjalankan file Python di terminal dengan scheduler SLURM.
- File ipynb harus dikonversi ke file Python.
- Berjalan di Compute Node.
- Tutorial ini mengasumsikan user familiar dengan terminal Linux.
Langkah Job Submission Terminal | ||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ||||||||||||||||||||||||||||||||||||||||
Login SSH ke ALELEON Supercomputer. | ||||||||||||||||||||||||||||||||||||||||
2 | ||||||||||||||||||||||||||||||||||||||||
Siapkan conda env dan file komputasi yang dibutuhkan.
| ||||||||||||||||||||||||||||||||||||||||
3 | ||||||||||||||||||||||||||||||||||||||||
Buat Submit Script yaitu 'formulir' untuk menjalankan job komputasi.
| ||||||||||||||||||||||||||||||||||||||||
Contoh template Submit Script, ikuti petunjuk NOTES didalamnya.
Info script lebih detail lihat Submit Script ALELEON Supercomputer. | ||||||||||||||||||||||||||||||||||||||||
| ||||||||||||||||||||||||||||||||||||||||
4 | ||||||||||||||||||||||||||||||||||||||||
Jalankan job komputasi dengan perintah:
$ sbatch [nama-submit-script] Contoh: $ sbatch submit.sh | ||||||||||||||||||||||||||||||||||||||||
5 | ||||||||||||||||||||||||||||||||||||||||
User dapat melihat status jalannya job dengan perintah:
| ||||||||||||||||||||||||||||||||||||||||
Apabila user ingin menghentikan job yang berjalan, jalankan perintah:
$ scancel [job-ID] Job ID ada pada squeue diatas. contoh membatalkan job ID 231: $ scancel 231 |
Job Submission Web EFIRO
Ketentuan:
- Menjalankan file Python di web EFIRO Job Composer dengan scheduler SLURM.
- File ipynb harus dikonversi ke file Python.
- Berjalan di Compute Node.
Langkah Job Submission Web EFIRO | ||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ||||||||||||||||||||||||||||||||||||||||
Login ke web EFIRO ALELEON Supercomputer. | ||||||||||||||||||||||||||||||||||||||||
2 | ||||||||||||||||||||||||||||||||||||||||
3 | ||||||||||||||||||||||||||||||||||||||||
Kemudian Isi | ||||||||||||||||||||||||||||||||||||||||
4 | ||||||||||||||||||||||||||||||||||||||||
Upload dan edit file untuk menjalankan komputasi pada Edit Files
| ||||||||||||||||||||||||||||||||||||||||
5 | ||||||||||||||||||||||||||||||||||||||||
Lengkapi Submit Script melalui tombol Open Editor .
| ||||||||||||||||||||||||||||||||||||||||
| ||||||||||||||||||||||||||||||||||||||||
6 | ||||||||||||||||||||||||||||||||||||||||
Jalankan job dengan klik tombol Submit .
| ||||||||||||||||||||||||||||||||||||||||
7 | ||||||||||||||||||||||||||||||||||||||||
Lihat output file komputasi pada kolom Folder Contents
|
Interactive Job Jupyter
Ketentuan:
- Menjalankan sesi interaktif Jupyter Lab atau Notebook.
- Berjalan di Interactive Node.
Langkah Interactive Job Sesi Jupyter | ||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ||||||||||||||||||||||||||||||||||
Login ke web EFIRO ALELEON Supercomputer. | ||||||||||||||||||||||||||||||||||
2 | ||||||||||||||||||||||||||||||||||
3 | ||||||||||||||||||||||||||||||||||
Isi formulir untuk memulai sesi Jupyter dengan panduan berikut:
| ||||||||||||||||||||||||||||||||||
4 | ||||||||||||||||||||||||||||||||||
Klik tombol Launch untuk memulai sesi Jupyter.
| ||||||||||||||||||||||||||||||||||
5 | ||||||||||||||||||||||||||||||||||
Apabila status Running, klik tombol Connect to Jupyter .
Cancel .
| ||||||||||||||||||||||||||||||||||
6 | ||||||||||||||||||||||||||||||||||
Pilih Notebook Python 3 untuk memulai sesi notebook Python 3. | ||||||||||||||||||||||||||||||||||
7 | ||||||||||||||||||||||||||||||||||
User dapat mengunjungi sesi Jupyter yang sedang berjalan pada:
|