Anaconda Python (depreciated): Perbedaan antara revisi
WilsonLisan (bicara | kontrib) (fix typo) |
WilsonLisan (bicara | kontrib) (menambah formatting) |
||
Baris 178: | Baris 178: | ||
$ mkdir kerjaanskripsi | $ mkdir kerjaanskripsi | ||
$ cd kerjaanskripsi | $ cd kerjaanskripsi | ||
$ | $ vim my_job_submission.sh | ||
''... upload / menyiapkan data | ''... upload / menyiapkan / edit input dan data komputasi ...'' | ||
|- | |- | ||
| rowspan="2" |'''2''' | | rowspan="2" |'''2''' | ||
Baris 307: | Baris 307: | ||
|- | |- | ||
| | | | ||
===== Panduan Nilai Maksimal SBATCH ===== | ===== Panduan Nilai Maksimal SBATCH untuk Anaconda Python ===== | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time | ! colspan="5" |Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time | ||
Baris 483: | Baris 483: | ||
|- | |- | ||
| | | | ||
=====Panduan Nilai Maksimal SBATCH===== | =====Panduan Nilai Maksimal SBATCH untuk Anaconda Python===== | ||
{| class="wikitable mw-collapsible mw-collapsed" | {| class="wikitable mw-collapsible mw-collapsed" | ||
! colspan="5" | Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time | ! colspan="5" | Panduan Nilai Maksimal SBATCH ntasks, mem, gpus, time |
Revisi per 12 Januari 2024 04.29
Anaconda adalah suite katalog packages Python dan R untuk komputasi data science dan machine learning.
Modul Anaconda Python
Berikut adalah detail versi Anaconda yang tersedia secara global di ALELEON Supercomputer dimana menggunakan Python 3 sebagai standar.
Versi | Nama modul | Versi Python
default |
Dukungan hardware | |||
---|---|---|---|---|---|---|
CPU | GPU | OMP
Threading |
MPI
multi-node | |||
Anaconda 3 2020.11 | Anaconda3/2020.11 | 3.8.5 | V | V | V1 | V2 |
Anaconda 3 2021.05 | Anaconda3/2021.05 | 3.8.8 | ||||
Anaconda 3 2022.05 | Anaconda3/2022.05
atau Anaconda3 |
3.9.12 |
Keterangan:
- Melalui package Python yang mendukung OpenMP seperti Cython, Numba, Pythran, PyPy, dll.
- Melalui MPI for Python (MPI4PY)
Modul NVIDIA CUDA Toolkit
User membutuhkan modul NVIDIA CUDA Toolkit untuk menjalankan Python dengan akselerasi GPU NVIDIA. Berikut adalah detail versi NVIDIA CUDA Toolkit yang tersedia secara global di ALELEON Supercomputer.
Nama dan Versi | Nama Modul |
---|---|
CUDA 11.2 dengan cuDNN 8.1.1 | cuda/11.2-cuDNN8.1.1 |
CUDA 11.6 dengan cuDNN 8.3.3 | cuda/11.6-cuDNN8.3.3 |
CUDA 11.8 dengan cuDNN 8.6.0 | cuda/11.8-cuDNN8.6.0 |
CUDA 12.0 dengan cuDNN 8.7.0 | cuda/12.0-cuDNN8.7.0 |
CUDA 12.1 dengan cuDNN 8.8.1 | cuda/12.1-cuDNN8.8.1
atau cuda |
Apabila user membutuhkan CUDA versi spesifik yang belum ada di atas, hubungi tim admin melalui support@efisonlt.com untuk permintaan instalasi. Layanan ini bebas biaya dan akan dilakukan pada hari dan jam kerja EFISON.
Membuat Conda Environment dan Instalasi Package Python
ALELEON Supercomputer mensyaratkan user membuat Conda Environment untuk menjalankan komputasi Python via Anaconda.
- Conda Environment adalah 'ruang isolasi' untuk instalasi package Python masing-masing user.
- User membuat Conda Environment dan melakukan instalasi package Python secara mandiri.
- Kegiatan ini tidak mengkonsumsi Kredit Core Hour.
Berikut adalah langkah membuat Conda Environment di ALELEON Supercomputer:
Membuat Conda Environment | |
---|---|
0 | Instalasi package dilakukan melalui terminal.
|
1 | Aktifkan modul Anaconda, disarankan menggunakan Anaconda terbaru:
$ module load Anaconda3 Apabila ingin menggunakan versi Anaconda lainnya, lihat subbab Modul Anaconda. |
2 |
Membuat Conda EnvironmentBuat Conda Environment secara default di direktori HOME dengan format perintah: $ conda create --name <nama-conda-environment> pip Contoh: $ conda create --name kerjaanskripsi pip |
3A |
Mengaktifkan Conda Environment dan Instalasi Package PythonAktifkan Conda Environment dengan format berikut: $ source activate $CONDA/<nama-conda-environment Contoh: $ source activate $CONDA/kerjaanskripsi Conda Environment aktif ditandai dengan tulisan nama env pada bash terminal seperti ini: (kerjaanskripsi) [wololo@login ~]$ Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan (kerjaanskripsi) $ pip install <nama-package-Python> |
3B |
Instalasi Package JupyterInstal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter (kerjaanskripsi) $ pip install jupyter (kerjaanskripsi) $ pip install jupyterlab |
Menonaktifkan Conda EnvironmentUser dapat menonaktifkan Conda Environment yang sedang aktif dengan perintah: $ conda deactivate Mengaktifkan Kembali Conda Environment UserUser dapat kembali mengaktifkan Conda Environment yang dibuat dengan langkah 1 dan 3 diatas: $ module load Anaconda3 $ source activate $CONDA/<nama-conda-environment> User dapat melihat daftar nama Conda Environment yang sebelumnya dibuat dengan perintah $ conda-env list Menghapus Conda EnvironmentUser dapat menghapus Conda Environment dengan format perintah: $ conda remove -n <nama-conda-environment> --all |
Alternatif Menjalankan Anaconda Python di ALELEON Supercomputer
ALELEON Supercomputer menawarkan user untuk menjalankan Anaconda Python dengan pilihan skema:
--- |
---|
|
|
Menjalankan Anaconda Python Melalui Job Submission
User dapat menjalankan komputasi dengan pilihan cara melalui tampilan terminal atau website EFIRO (klik expand atau kembangkan).
Opsi Menggunakan terminal (SLURM sbatch)
Langkah Menjalankan Anaconda Python di Terminal | ||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
0 |
Login SSHTatacara login SSH lihat laman Login SSH ALELEON Supercomputer. | |||||||||||||||||||||||||||||||||||||||||||||
1 |
Menyiapkan File KomputasiSiapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
$ mkdir kerjaanskripsi $ cd kerjaanskripsi $ vim my_job_submission.sh ... upload / menyiapkan / edit input dan data komputasi ... | |||||||||||||||||||||||||||||||||||||||||||||
2 |
Template SLURM Submit Script Anaconda PythonIkuti panduan template berikut dan petunjuk NOTES di dalamnya.
| |||||||||||||||||||||||||||||||||||||||||||||
Panduan Nilai Maksimal SBATCH untuk Anaconda Python
| ||||||||||||||||||||||||||||||||||||||||||||||
3 |
Menjalankan Job KomputasiJalankan job dengan perintah sbatch. $ sbatch <nama-SLURM-Submit-script> Contoh menjalankan nama script $ sbatch my_job_submission.sh | |||||||||||||||||||||||||||||||||||||||||||||
4A | User dapat melihat status jalannya job dengan perintah squeue berikut.
$ squeue -ul $USER Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
| |||||||||||||||||||||||||||||||||||||||||||||
4B |
Menghentikan Job KomputasiApabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
$ scancel <job-ID-submission-user> Contoh user membatalkan job submission milik user dengan ID 231. $ scancel 231 |
Opsi Menggunakan Web EFIRO (EFIRO Job Composer)
Langkah Menjalankan Anaconda Python di Web EFIRO | |||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
0 |
Login Web EFIRO
| ||||||||||||||||||||||||||||||||||||||||
1 |
Membuka Job Composer dan Memilih Template Job
| ||||||||||||||||||||||||||||||||||||||||
2 |
| ||||||||||||||||||||||||||||||||||||||||
3 |
Menyiapkan File KomputasiGunakan menu
| ||||||||||||||||||||||||||||||||||||||||
4 |
Melengkapi Submit ScriptSubmit Script adalah "formulir" untuk menjalankan job komputasi user.
| ||||||||||||||||||||||||||||||||||||||||
Panduan Nilai Maksimal SBATCH untuk Anaconda Python
| |||||||||||||||||||||||||||||||||||||||||
5 |
Menjalankan Job KomputasiJalankan job dengan klik tombol
Menghentikan Job KomputasiUntuk menghentikan job yang tengah berjalan, klik tombol | ||||||||||||||||||||||||||||||||||||||||
6A |
Melihat Output KomputasiUser dapat melihat output file komputasi pada kolom
| ||||||||||||||||||||||||||||||||||||||||
6B | User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit .
|
Notifikasi Status Jalannya Komputasi via email
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
- BEGIN -> notifikasi job sudah mulai
- END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
- FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
- TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
- TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
Menjalankan Anaconda Python dengan Sesi Interaktif Jupyter
Berikut adalah langkah untuk memulai sesi Jupyter dengan Conda Environment yang dibuat user (klik expand atau kembangkan):
Langkah Memulai Sesi Interaktif Jupyter | |||||||
---|---|---|---|---|---|---|---|
0 |
Login Web EFIRO
| ||||||
1 | Pastikan Conda Environment yang akan dipakai sudah terinstal package Jupyter.
| ||||||
2 | Buka menu Interactive Apps
| ||||||
3 |
Mengisi Formulir Sesi Interaktif JupyterIsi formulir untuk memulai sesi Jupyter dengan panduan berikut:
| ||||||
4 |
Memulai Sesi Interaktif JupyterApabila formulir sudah terisi, klik tombol
| ||||||
5 | Apabila status menunjukkan Running atau kolom berwarna hijau, klik Connect to Jupyter .
| ||||||
6 | Pilih Notebook Python 3 untuk memulai sesi notebook Python 3 baik di Jupyter Notebook dan Lab. | ||||||
7A |
Mengakses Kembali Sesi Interaktif Jupyter yang BerjalanUser dapat mengunjungi sesi Jupyter yang sedang berjalan di | ||||||
7B |
Menghentikan Sesi Interaktif JupyterUser dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombolDelete
|
Pelaporan Kendala dan Support
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
---
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
support@efisonlt.com