Anaconda Python (depreciated): Perbedaan antara revisi
WilsonLisan (bicara | kontrib) (paraphrasing) |
WilsonLisan (bicara | kontrib) (→Membuat Conda Environment dan Instalasi Package Python: memisah instalasi jupyter ke subbab sendiri) |
||
Baris 96: | Baris 96: | ||
''$ conda create --name'' ''kerjaanskripsi pip'' | ''$ conda create --name'' ''kerjaanskripsi pip'' | ||
|- | |- | ||
|''' | |'''3A''' | ||
| | | | ||
=== Mengaktifkan Conda Environment dan Instalasi Package Python === | === Mengaktifkan Conda Environment dan Instalasi Package Python === | ||
Baris 108: | Baris 108: | ||
Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan '''<code>pip</code>''' | Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan '''<code>pip</code>''' | ||
''(kerjaanskripsi)'' $ pip install '''''<nama-package-Python>''''' | ''(kerjaanskripsi)'' $ pip install '''''<nama-package-Python>''''' | ||
Instal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter | |- | ||
|'''3B''' | |||
| | |||
==== Instalasi Package Jupyter ==== | |||
Instal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter | |||
''(kerjaanskripsi)'' $ pip install jupyter | ''(kerjaanskripsi)'' $ pip install jupyter | ||
''(kerjaanskripsi)'' $ pip install jupyterlab | ''(kerjaanskripsi)'' $ pip install jupyterlab |
Revisi per 11 Januari 2024 10.14
Anaconda adalah suite katalog packages Python dan R untuk komputasi data science dan machine learning.
Modul Anaconda Python
Berikut adalah detail versi Anaconda yang tersedia secara global di ALELEON Supercomputer dimana menggunakan Python 3 sebagai standar.
Versi | Nama modul | Versi Python
default |
Dukungan hardware | |||
---|---|---|---|---|---|---|
CPU | GPU | OMP
Threading |
MPI
multi-node | |||
Anaconda 3 2020.11 | Anaconda3/2020.11 | 3.8.5 | V | V | V1 | V2 |
Anaconda 3 2021.05 | Anaconda3/2021.05 | 3.8.8 | ||||
Anaconda 3 2022.05 | Anaconda3/2022.05
atau Anaconda3 |
3.9.12 |
Keterangan:
- Melalui package Python yang mendukung OpenMP seperti Cython, Numba, Pythran, PyPy, dll.
- Melalui MPI for Python (MPI4PY)
Modul NVIDIA CUDA Toolkit
User membutuhkan modul NVIDIA CUDA Toolkit untuk menjalankan Python dengan akselerasi GPU NVIDIA. Berikut adalah detail versi NVIDIA CUDA Toolkit yang tersedia secara global di ALELEON Supercomputer.
Nama dan Versi | Nama Modul |
---|---|
CUDA 11.2 dengan cuDNN 8.1.1 | cuda/11.2-cuDNN8.1.1 |
CUDA 11.6 dengan cuDNN 8.3.3 | cuda/11.6-cuDNN8.3.3 |
CUDA 11.8 dengan cuDNN 8.6.0 | cuda/11.8-cuDNN8.6.0 |
CUDA 12.0 dengan cuDNN 8.7.0 | cuda/12.0-cuDNN8.7.0 |
CUDA 12.1 dengan cuDNN 8.8.1 | cuda/12.1-cuDNN8.8.1
atau cuda |
Apabila user membutuhkan CUDA versi spesifik yang belum ada di atas, hubungi tim admin melalui support@efisonlt.com untuk permintaan instalasi. Layanan ini bebas biaya dan akan dilakukan pada hari dan jam kerja EFISON.
Membuat Conda Environment dan Instalasi Package Python
ALELEON Supercomputer mensyaratkan user membuat Conda Environment untuk menjalankan komputasi Python via Anaconda.
- Conda Environment adalah 'ruang isolasi' untuk instalasi package Python masing-masing user.
- User membuat Conda Environment dan melakukan instalasi package Python secara mandiri.
- Kegiatan ini tidak mengkonsumsi Kredit Core Hour.
Berikut adalah langkah membuat Conda Environment di ALELEON Supercomputer:
Membuat Conda Environment | |
---|---|
0 | Instalasi package dilakukan melalui terminal.
|
1 | Aktifkan modul Anaconda, disarankan menggunakan Anaconda terbaru:
$ module load Anaconda3 Apabila ingin menggunakan versi Anaconda lainnya, lihat subbab Modul Anaconda. |
2 |
Membuat Conda EnvironmentBuat Conda Environment secara default di direktori HOME dengan format perintah: $ conda create --name <nama-conda-environment> pip Contoh: $ conda create --name kerjaanskripsi pip |
3A |
Mengaktifkan Conda Environment dan Instalasi Package PythonAktifkan Conda Environment dengan format berikut: $ source activate $CONDA/<nama-conda-environment Contoh: $ source activate $CONDA/kerjaanskripsi Conda Environment aktif ditandai dengan tulisan nama env pada bash terminal seperti ini: (kerjaanskripsi) [wololo@login ~]$ Lakukan instalasi package Python (contoh Tensorflow, PyTorch) yang dibutuhkan dengan (kerjaanskripsi) $ pip install <nama-package-Python> |
3B |
Instalasi Package JupyterInstal package jupyter bagi user yang ingin menggunakan sesi interaktif Jupyter (kerjaanskripsi) $ pip install jupyter (kerjaanskripsi) $ pip install jupyterlab |
Menonaktifkan Conda EnvironmentUser dapat menonaktifkan Conda Environment yang sedang aktif dengan perintah: $ conda deactivate Mengaktifkan Kembali Conda Environment UserUser dapat kembali mengaktifkan Conda Environment yang dibuat dengan langkah 1 dan 3 diatas: $ module load Anaconda3 $ source activate $CONDA/<nama-conda-environment> User dapat melihat daftar nama Conda Environment yang sebelumnya dibuat dengan perintah $ conda-env list Menghapus Conda EnvironmentUser dapat menghapus Conda Environment dengan format perintah: $ conda remove -n <nama-conda-environment> --all |
Alternatif Menjalankan Anaconda Python di ALELEON Supercomputer
ALELEON Supercomputer menawarkan user untuk menjalankan Anaconda Python dengan pilihan skema:
--- |
---|
|
|
Menjalankan Anaconda Python Melalui Job Submission
User dapat menjalankan komputasi dengan pilihan cara melalui tampilan terminal atau website EFIRO (klik expand atau kembangkan).
Menggunakan terminal (SLURM sbatch)
Langkah Menjalankan Anaconda Python di Terminal | ||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
0 |
Login SSHTatacara login SSH lihat laman Login SSH ALELEON Supercomputer. | |||||||||||||||||||||||||||||||||||||||||||||
1 |
Menyiapkan File KomputasiSiapkan file yang dibutuhkan untuk komputasi user, rekomendasi dalam satu folder per job:
$ mkdir kerjaanskripsi $ cd kerjaanskripsi $ touch my_job_submission.sh ... upload / menyiapkan data input komputasi dll ... | |||||||||||||||||||||||||||||||||||||||||||||
2 |
Template SLURM Submit Script Anaconda PythonIkuti panduan template berikut dan petunjuk NOTES di dalamnya.
| |||||||||||||||||||||||||||||||||||||||||||||
=====Panduan Nilai Maksimal SBATCH=====
| ||||||||||||||||||||||||||||||||||||||||||||||
3 |
Menjalankan Job KomputasiJalankan job dengan perintah sbatch. $ sbatch <nama-SLURM-Submit-script> Contoh menjalankan nama script $ sbatch my_job_submission.sh | |||||||||||||||||||||||||||||||||||||||||||||
4A | User dapat melihat status jalannya job dengan perintah squeue berikut.
$ squeue -ul $USER Berikut adalah daftar STATE (ST) dari squeue yang menunjukkan status berjalannya job:
| |||||||||||||||||||||||||||||||||||||||||||||
4B |
Menghentikan Job KomputasiApabila user ingin membatalkan job, gunakan perintah scancel berdasarkan job ID.
$ scancel <job-ID-submission-user> Contoh user membatalkan job submission milik user dengan ID 231. $ scancel 231 |
Menggunakan Web EFIRO (EFIRO Job Composer)
Langkah Menjalankan Anaconda Python di Web EFIRO | |||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
0 |
Login Web EFIRO
| ||||||||||||||||||||||||||||||||||||||||
1 |
Membuka Job Composer dan Memilih Template Job
| ||||||||||||||||||||||||||||||||||||||||
2 |
| ||||||||||||||||||||||||||||||||||||||||
3 |
Menyiapkan File KomputasiGunakan menu
| ||||||||||||||||||||||||||||||||||||||||
4 |
Melengkapi Submit ScriptSubmit Script adalah "formulir" untuk menjalankan job komputasi user.
| ||||||||||||||||||||||||||||||||||||||||
Panduan Nilai Maksimal SBATCH
| |||||||||||||||||||||||||||||||||||||||||
5 | ===== Menjalankan Job Komputasi =====
Jalankan job dengan klik tombol
Menghentikan Job KomputasiUntuk menghentikan job yang tengah berjalan, klik tombol | ||||||||||||||||||||||||||||||||||||||||
6A |
Melihat Output KomputasiUser dapat melihat output file komputasi pada kolom
| ||||||||||||||||||||||||||||||||||||||||
6B | User dapat menjalankan ulang ruang job yang sama dengan mengklik kembali tombol Submit .
|
Notifikasi Status Jalannya Komputasi via email
SLURM ALELEON Supercomputer dapat mengirim notifikasi email kepada user dengan nama "Jojo" untuk mengabarkan status berjalannya job komputasi user. Silahkan tambahan SBATCH berikut pada Submit Script apabila user ingin menerima notifikasi email dari SLURM:
#SBATCH --mail-user=<alamat-email-user>
#SBATCH --mail-type=BEGIN,END,FAIL
SBATCH mail-type mengatur konten email notifikasi SLURM dengan pilihan opsi yang sekiranya berguna untuk user:
- BEGIN -> notifikasi job sudah mulai
- END -> notifikasi job sudah selesai beserta cuplikan 20 baris terakhir dari file SBATCH output dan error.
- FAIL -> notifikasi apabila job gagal berjalan atau berhenti tidak sewajarnya.
- TIME_LIMIT_50 -> job telah berjalan dengan durasi waktu 50% time limit.
- TIME_LIMIT_80 -> job telah berjalan dengan durasi waktu 80% time limit.
Menjalankan Anaconda Python dengan Sesi Interaktif Jupyter
Terdapat 2 langkah untuk menjalankan sesi interaktif Jupyter dengan Conda Environment User yaitu:
- Melakukan instalasi pip Jupyter pada Conda Environment yang akan digunakan untuk sesi Jupyter.
- Memulai sesi interaktif Jupyter Notebook atau Lab pada web EFIRO.
---
Instalasi pip Jupyter pada Conda Environment
Berikut adalah langkah instalasi pip Jupyter pada Conda Environment user (klik expand atau kembangkan):
Langkah Instalasi pip Jupyter pada Conda Environment User | |
---|---|
0 | Instalasi package dilakukan melalui terminal.
|
1 | Aktifkan Conda Environment yang akan digunakan untuk sesi Jupyter
$ module load Anaconda3 $ source activate $CONDA/<nama-conda-environment> |
2 | Lakukan pip install jupyter dan jupyterlab
$ pip install jupyter $ pip install jupyterlab |
---
Memulai Sesi Jupyter
Berikut adalah langkah untuk memulai sesi Jupyter dengan Conda Environment yang dibuat user (klik expand atau kembangkan):
Langkah Memulai Sesi Interaktif Jupyter | ||||||
---|---|---|---|---|---|---|
0 |
Login Web EFIRO
| |||||
1 | Buka menu Interactive Apps
| |||||
3 |
Mengisi Formulir Sesi Interaktif JupyterIsi formulir untuk memulai sesi Jupyter dengan panduan berikut:
| |||||
4 |
Memulai Sesi Interaktif JupyterApabila formulir sudah terisi, klik tombol
| |||||
5 | Apabila status menunjukkan Running atau kolom berwarna hijau, klik Connect to Jupyter .
| |||||
6 | Pilih Notebook Python 3 untuk memulai sesi notebook Python 3 baik di Jupyter Notebook dan Lab. | |||||
7A |
Mengakses Kembali Sesi Interaktif Jupyter yang BerjalanUser dapat mengunjungi sesi Jupyter yang sedang berjalan di | |||||
7B |
Menghentikan Sesi Interaktif JupyterUser dapat menghentikan sesi Jupyter yang sedang berjalan dengan klik tombolDelete
|
Pelaporan Kendala dan Support
Apabila menjumpai masalah teknis dalam menjalankan komputasi, silahkan lapor dengan klik gambar berikut ini.
---
Bila terdapat pertanyaan lainnya, silahkan hubungi admin EFISON melalui email:
support@efisonlt.com