Komputasi Python dengan Conda Environment (Siap Pakai)

Dari ALELEON by EFISON

Revisi sejak 5 Juli 2025 13.46 oleh WilsonLisan (bicara | kontrib) (melengkapi menjalankan komputasi)

Logo Python Anaconda Mamba ALELEON tp.png

Halaman ini menjelaskan menjalankan komputasi / aplikasi Python dengan conda environment (conda env) di ALELEON Supercomputer yang:

Laman ini merupakan bagian dari:
1 [Komputasi Python]

1. Spesifikasi

Spesifikasi conda env siap pakai:

  • Dibuat oleh tim admin ALELEON Supercomputer.
  • Setiap conda env spesifik menjalankan 1 package utama (contoh: TensorFlow).

2. Langkah Menjalanlan Komputasi

Subbab Langkah
[ 3 ] Lihat ketersediaan conda env tersedia:
  • Cek kelengkapan package dan dukungan komputasi.
[ 4 ] Apabila butuh, user dapat melengkapi instalasi package.
[ 5 ] Menjalankan komputasi dengan pilihan:

3. Daftar Conda Env Tersedia

Berikut adalah daftar conda env siap pakai.

  • Cek kelengkapan package dengan expand / kembangkan tabel Package terinstal.
  • Bila ada kekurangan package, lihat subbab [ 4 ].
- Daftar Conda Env Tersedia -
Permintaan pembuatan conda env ke tim admin hubungi support@efisonlt.com.
Package Utama

dan terinstal

Nama Conda Env Py Package Manager Versi

Python

Dukungan Komputasi
CPU GPU MPI Batch

Job

Sesi

Jupyter

PyTorch 2.7.1 (ver CUDA 12.6)
  • feat. CUDA, MPI, Accelerate, Transformers
$CENV/pytorch-2.7.1cuda Anaconda3/2024.02-1 3.12 V V V V V
Package terinstal
_libgcc_mutex 0.1
_openmp_mutex 5.1
absl-py 2.3.1
accelerate 1.8.1
anyio 4.9.0
argon2-cffi 25.1.0
argon2-cffi-bindings 21.2.0
arrow 1.3.0
asttokens 3.0.0
async-lru 2.0.5
attrs 25.3.0
babel 2.17.0
beautifulsoup4 4.13.4
bleach 6.2.0
bzip2 1.0.8
ca-certificates 2025.2.25
certifi 2025.6.15
cffi 1.17.1
charset-normalizer 3.4.2
comm 0.2.2
contourpy 1.3.2
cycler 0.12.1
debugpy 1.8.14
decorator 5.2.1
defusedxml 0.7.1
executing 2.2.0
expat 2.7.1
fastjsonschema 2.21.1
filelock 3.18.0
fonttools 4.58.4
fqdn 1.5.1
fsspec 2025.5.1
h11 0.16.0
h5py 3.14.0
hf-xet 1.1.5
httpcore 1.0.9
httpx 0.28.1
huggingface-hub 0.33.2
idna 3.10
ipykernel 6.29.5
ipython 9.4.0
ipython-pygments-lexers 1.1.1
ipywidgets 8.1.7
isoduration 20.11.0
jedi 0.19.2
jinja2 3.1.6
joblib 1.5.1
json5 0.12.0
jsonpointer 3.0.0
jsonschema 4.24.0
jsonschema-specifications 2025.4.1
jupyter 1.1.1
jupyter-client 8.6.3
jupyter-console 6.6.3
jupyter-core 5.8.1
jupyter-events 0.12.0
jupyter-lsp 2.2.5
jupyter-server 2.16.0
jupyter-server-terminals 0.5.3
jupyterlab 4.4.4
jupyterlab-pygments 0.3.0
jupyterlab-server 2.27.3
jupyterlab-widgets 3.0.15
keras 3.10.0
kiwisolver 1.4.8
ld_impl_linux-64 2.40
libffi 3.4.4
libgcc-ng 11.2.0
libgomp 11.2.0
libstdcxx-ng 11.2.0
libuuid 1.41.5
libxcb 1.17.0
markdown-it-py 3.0.0
markupsafe 3.0.2
matplotlib 3.10.3
matplotlib-inline 0.1.7
mdurl 0.1.2
mistune 3.1.3
ml-dtypes 0.5.1
mpi4py 4.1.0
mpmath 1.3.0
namex 0.1.0
nbclient 0.10.2
nbconvert 7.16.6
nbformat 5.10.4
ncurses 6.4
nest-asyncio 1.6.0
networkx 3.5
notebook 7.4.4
notebook-shim 0.2.4
numpy 2.3.1
nvidia-cublas-cu12 12.6.4.1
nvidia-cuda-cupti-cu12 12.6.80
nvidia-cuda-nvrtc-cu12 12.6.77
nvidia-cuda-runtime-cu12 12.6.77
nvidia-cudnn-cu12 9.5.1.17
nvidia-cufft-cu12 11.3.0.4
nvidia-cufile-cu12 1.11.1.6
nvidia-curand-cu12 10.3.7.77
nvidia-cusolver-cu12 11.7.1.2
nvidia-cusparse-cu12 12.5.4.2
nvidia-cusparselt-cu12 0.6.3
nvidia-nccl-cu12 2.26.2
nvidia-nvjitlink-cu12 12.6.85
nvidia-nvtx-cu12 12.6.77
openmpi 5.0.8
openssl 3.0.16
optree 0.16.0
overrides 7.7.0
packaging 25.0
pandas 2.3.0
pandocfilters 1.5.1
parso 0.8.4
pexpect 4.9.0
pillow 11.3.0
pip 25.1
platformdirs 4.3.8
prometheus-client 0.22.1
prompt-toolkit 3.0.51
psutil 7.0.0
pthread-stubs 0.3
ptyprocess 0.7.0
pure-eval 0.2.3
pycparser 2.22
pygments 2.19.2
pyparsing 3.2.3
python 3.12.11
python-dateutil 2.9.0.post0
python-json-logger 3.3.0
pytz 2025.2
pyyaml 6.0.2
pyzmq 27.0.0
readline 8.2
referencing 0.36.2
regex 2024.11.6
requests 2.32.4
rfc3339-validator 0.1.4
rfc3986-validator 0.1.1
rich 14.0.0
rpds-py 0.26.0
safetensors 0.5.3
scikit-learn 1.7.0
scipy 1.16.0
send2trash 1.8.3
setuptools 78.1.1
six 1.17.0
sniffio 1.3.1
soupsieve 2.7
sqlite 3.45.3
stack-data 0.6.3
sympy 1.14.0
terminado 0.18.1
threadpoolctl 3.6.0
tinycss2 1.4.0
tk 8.6.14
tokenizers 0.21.2
torch 2.7.1
torchaudio 2.7.1
torchvision 0.22.1
tornado 6.5.1
tqdm 4.67.1
traitlets 5.14.3
transformers 4.53.1
triton 3.3.1
types-python-dateutil 2.9.0.20250516
typing-extensions 4.14.0
tzdata 2025.2
uri-template 1.3.0
urllib3 2.5.0
wcwidth 0.2.13
webcolors 24.11.1
webencodings 0.5.1
websocket-client 1.8.0
wheel 0.45.1
widgetsnbextension 4.0.14
xorg-libx11 1.8.12
xorg-libxau 1.0.12
xorg-libxdmcp 1.1.5
xorg-xorgproto 2024.1
xz 5.6.4
zlib 1.2.13
TensorFlow 2.19 (ver CUDA 12.5)
  • feat. CUDA, MPI, Transformers
$CENV/tensorflow-2.19cuda Anaconda3/2024.02-1 3.11 V V V V V
Package terinstal
_libgcc_mutex 0.1
_openmp_mutex 5.1
absl-py 2.3.1
anyio 4.9.0
argon2-cffi 25.1.0
argon2-cffi-bindings 21.2.0
arrow 1.3.0
asttokens 3.0.0
astunparse 1.6.3
async-lru 2.0.5
attrs 25.3.0
babel 2.17.0
beautifulsoup4 4.13.4
bleach 6.2.0
bzip2 1.0.8
ca-certificates 2025.2.25
certifi 2025.6.15
cffi 1.17.1
charset-normalizer 3.4.2
comm 0.2.2
contourpy 1.3.2
cycler 0.12.1
debugpy 1.8.14
decorator 5.2.1
defusedxml 0.7.1
executing 2.2.0
expat 2.7.1
fastjsonschema 2.21.1
filelock 3.18.0
flatbuffers 25.2.10
fonttools 4.58.5
fqdn 1.5.1
fsspec 2025.5.1
gast 0.6.0
google-pasta 0.2.0
grpcio 1.73.1
h11 0.16.0
h5py 3.14.0
hf-xet 1.1.5
httpcore 1.0.9
httpx 0.28.1
huggingface-hub 0.33.2
idna 3.10
ipykernel 6.29.5
ipython 9.4.0
ipython-pygments-lexers 1.1.1
ipywidgets 8.1.7
isoduration 20.11.0
jedi 0.19.2
jinja2 3.1.6
joblib 1.5.1
json5 0.12.0
jsonpointer 3.0.0
jsonschema 4.24.0
jsonschema-specifications 2025.4.1
jupyter 1.1.1
jupyter-client 8.6.3
jupyter-console 6.6.3
jupyter-core 5.8.1
jupyter-events 0.12.0
jupyter-lsp 2.2.5
jupyter-server 2.16.0
jupyter-server-terminals 0.5.3
jupyterlab 4.4.4
jupyterlab-pygments 0.3.0
jupyterlab-server 2.27.3
jupyterlab-widgets 3.0.15
keras 3.10.0
kiwisolver 1.4.8
ld_impl_linux-64 2.40
libclang 18.1.1
libffi 3.4.4
libgcc-ng 11.2.0
libgomp 11.2.0
libstdcxx-ng 11.2.0
libuuid 1.41.5
libxcb 1.17.0
markdown 3.8.2
markdown-it-py 3.0.0
markupsafe 3.0.2
matplotlib 3.10.3
matplotlib-inline 0.1.7
mdurl 0.1.2
mistune 3.1.3
ml-dtypes 0.5.1
mpi4py 4.1.0
namex 0.1.0
nbclient 0.10.2
nbconvert 7.16.6
nbformat 5.10.4
ncurses 6.4
nest-asyncio 1.6.0
notebook 7.4.4
notebook-shim 0.2.4
numpy 2.1.3
nvidia-cublas-cu12 12.5.3.2
nvidia-cuda-cupti-cu12 12.5.82
nvidia-cuda-nvcc-cu12 12.5.82
nvidia-cuda-nvrtc-cu12 12.5.82
nvidia-cuda-runtime-cu12 12.5.82
nvidia-cudnn-cu12 9.3.0.75
nvidia-cufft-cu12 11.2.3.61
nvidia-curand-cu12 10.3.6.82
nvidia-cusolver-cu12 11.6.3.83
nvidia-cusparse-cu12 12.5.1.3
nvidia-nccl-cu12 2.23.4
nvidia-nvjitlink-cu12 12.5.82
openmpi 5.0.8
openssl 3.0.16
opt-einsum 3.4.0
optree 0.16.0
overrides 7.7.0
packaging 25.0
pandas 2.3.0
pandocfilters 1.5.1
parso 0.8.4
pexpect 4.9.0
pillow 11.3.0
pip 25.1
platformdirs 4.3.8
prometheus-client 0.22.1
prompt-toolkit 3.0.51
protobuf 5.29.5
psutil 7.0.0
pthread-stubs 0.3
ptyprocess 0.7.0
pure-eval 0.2.3
pycparser 2.22
pygments 2.19.2
pyparsing 3.2.3
python 3.11.13
python-dateutil 2.9.0.post0
python-json-logger 3.3.0
pytz 2025.2
pyyaml 6.0.2
pyzmq 27.0.0
readline 8.2
referencing 0.36.2
regex 2024.11.6
requests 2.32.4
rfc3339-validator 0.1.4
rfc3986-validator 0.1.1
rich 14.0.0
rpds-py 0.26.0
safetensors 0.5.3
scikit-learn 1.7.0
scipy 1.16.0
send2trash 1.8.3
setuptools 78.1.1
six 1.17.0
sniffio 1.3.1
soupsieve 2.7
sqlite 3.45.3
stack-data 0.6.3
tensorboard 2.19.0
tensorboard-data-server 0.7.2
tensorflow 2.19.0
tensorflow-io-gcs-filesystem 0.37.1
termcolor 3.1.0
terminado 0.18.1
threadpoolctl 3.6.0
tinycss2 1.4.0
tk 8.6.14
tokenizers 0.21.2
tornado 6.5.1
tqdm 4.67.1
traitlets 5.14.3
transformers 4.53.1
types-python-dateutil 2.9.0.20250516
typing-extensions 4.14.1
tzdata 2025.2
uri-template 1.3.0
urllib3 2.5.0
wcwidth 0.2.13
webcolors 24.11.1
webencodings 0.5.1
websocket-client 1.8.0
werkzeug 3.1.3
wheel 0.45.1
widgetsnbextension 4.0.14
wrapt 1.17.2
xorg-libx11 1.8.12
xorg-libxau 1.0.12
xorg-libxdmcp 1.1.5
xorg-xorgproto 2024.1
xz 5.6.4
zlib 1.2.13
Jax 0.6.2 (ver CUDA 12.9)
  • feat. Flax, mpi4jax, Transformers
$CENV/jax-0.6.2cuda Anaconda3/2024.02-1 3.12 V V V V V
Package terinstal
_libgcc_mutex 0.1
_openmp_mutex 5.1
absl-py 2.3.1
anyio 4.9.0
argon2-cffi 25.1.0
argon2-cffi-bindings 21.2.0
arrow 1.3.0
asttokens 3.0.0
async-lru 2.0.5
attrs 25.3.0
babel 2.17.0
beautifulsoup4 4.13.4
bleach 6.2.0
bzip2 1.0.8
ca-certificates 2025.2.25
certifi 2025.6.15
cffi 1.17.1
charset-normalizer 3.4.2
chex 0.1.89
comm 0.2.2
contourpy 1.3.2
cycler 0.12.1
debugpy 1.8.14
decorator 5.2.1
defusedxml 0.7.1
etils 1.12.2
executing 2.2.0
expat 2.7.1
fastjsonschema 2.21.1
filelock 3.18.0
flax 0.10.7
fonttools 4.58.5
fqdn 1.5.1
fsspec 2025.5.1
h11 0.16.0
h5py 3.14.0
hf-xet 1.1.5
httpcore 1.0.9
httpx 0.28.1
huggingface-hub 0.33.2
humanize 4.12.3
idna 3.10
importlib-resources 6.5.2
ipykernel 6.29.5
ipython 9.4.0
ipython-pygments-lexers 1.1.1
ipywidgets 8.1.7
isoduration 20.11.0
jax 0.6.2
jax-cuda12-pjrt 0.6.2
jax-cuda12-plugin 0.6.2
jaxlib 0.6.2
jedi 0.19.2
jinja2 3.1.6
joblib 1.5.1
json5 0.12.0
jsonpointer 3.0.0
jsonschema 4.24.0
jsonschema-specifications 2025.4.1
jupyter 1.1.1
jupyter-client 8.6.3
jupyter-console 6.6.3
jupyter-core 5.8.1
jupyter-events 0.12.0
jupyter-lsp 2.2.5
jupyter-server 2.16.0
jupyter-server-terminals 0.5.3
jupyterlab 4.4.4
jupyterlab-pygments 0.3.0
jupyterlab-server 2.27.3
jupyterlab-widgets 3.0.15
keras 3.10.0
kiwisolver 1.4.8
ld_impl_linux-64 2.40
libffi 3.4.4
libgcc-ng 11.2.0
libgomp 11.2.0
libstdcxx-ng 11.2.0
libuuid 1.41.5
libxcb 1.17.0
markdown-it-py 3.0.0
markupsafe 3.0.2
matplotlib 3.10.3
matplotlib-inline 0.1.7
mdurl 0.1.2
mistune 3.1.3
ml-dtypes 0.5.1
mpi4jax 0.7.2
mpi4py 4.1.0
msgpack 1.1.1
namex 0.1.0
nbclient 0.10.2
nbconvert 7.16.6
nbformat 5.10.4
ncurses 6.4
nest-asyncio 1.6.0
notebook 7.4.4
notebook-shim 0.2.4
numpy 2.3.1
nvidia-cublas-cu12 12.9.1.4
nvidia-cuda-cupti-cu12 12.9.79
nvidia-cuda-nvcc-cu12 12.9.86
nvidia-cuda-nvrtc-cu12 12.9.86
nvidia-cuda-runtime-cu12 12.9.79
nvidia-cudnn-cu12 9.10.2.21
nvidia-cufft-cu12 11.4.1.4
nvidia-cusolver-cu12 11.7.5.82
nvidia-cusparse-cu12 12.5.10.65
nvidia-nccl-cu12 2.27.5
nvidia-nvjitlink-cu12 12.9.86
nvidia-nvshmem-cu12 3.3.9
openmpi 5.0.8
openssl 3.0.16
opt-einsum 3.4.0
optax 0.2.5
optree 0.16.0
orbax-checkpoint 0.11.18
overrides 7.7.0
packaging 25.0
pandas 2.3.0
pandocfilters 1.5.1
parso 0.8.4
pexpect 4.9.0
pillow 11.3.0
pip 25.1
platformdirs 4.3.8
prometheus-client 0.22.1
prompt-toolkit 3.0.51
protobuf 6.31.1
psutil 7.0.0
pthread-stubs 0.3
ptyprocess 0.7.0
pure-eval 0.2.3
pycparser 2.22
pygments 2.19.2
pyparsing 3.2.3
python 3.12.11
python-dateutil 2.9.0.post0
python-json-logger 3.3.0
pytz 2025.2
pyyaml 6.0.2
pyzmq 27.0.0
readline 8.2
referencing 0.36.2
regex 2024.11.6
requests 2.32.4
rfc3339-validator 0.1.4
rfc3986-validator 0.1.1
rich 14.0.0
rpds-py 0.26.0
safetensors 0.5.3
scikit-learn 1.7.0
scipy 1.16.0
send2trash 1.8.3
setuptools 78.1.1
simplejson 3.20.1
six 1.17.0
sniffio 1.3.1
soupsieve 2.7
sqlite 3.45.3
stack-data 0.6.3
tensorstore 0.1.76
terminado 0.18.1
threadpoolctl 3.6.0
tinycss2 1.4.0
tk 8.6.14
tokenizers 0.21.2
toolz 1.0.0
tornado 6.5.1
tqdm 4.67.1
traitlets 5.14.3
transformers 4.53.1
treescope 0.1.9
types-python-dateutil 2.9.0.20250516
typing-extensions 4.14.1
tzdata 2025.2
uri-template 1.3.0
urllib3 2.5.0
wcwidth 0.2.13
webcolors 24.11.1
webencodings 0.5.1
websocket-client 1.8.0
wheel 0.45.1
widgetsnbextension 4.0.14
xorg-libx11 1.8.12
xorg-libxau 1.0.12
xorg-libxdmcp 1.1.5
xorg-xorgproto 2024.1
xz 5.6.4
zipp 3.23.0
zlib 1.2.13
BoltzTrap2 25.3.1 $CENV/boltztrap2-25.3.1 Anaconda3/2024.02-1 3.11 V - - V V
Package terinstal
_libgcc_mutex 0.1
_openmp_mutex 5.1
anyio 4.9.0
argon2-cffi 25.1.0
argon2-cffi-bindings 21.2.0
arrow 1.3.0
ase 3.25.0
asttokens 3.0.0
async-lru 2.0.5
attrs 25.3.0
babel 2.17.0
beautifulsoup4 4.13.4
bleach 6.2.0
boltztrap2 25.3.1
bzip2 1.0.8
ca-certificates 2025.2.25
certifi 2025.6.15
cffi 1.17.1
cftime 1.6.4.post1
charset-normalizer 3.4.2
comm 0.2.2
contourpy 1.3.2
cycler 0.12.1
cython 3.1.2
debugpy 1.8.14
decorator 5.2.1
defusedxml 0.7.1
executing 2.2.0
expat 2.7.1
fastjsonschema 2.21.1
fonttools 4.58.4
fqdn 1.5.1
h11 0.16.0
httpcore 1.0.9
httpx 0.28.1
idna 3.10
ipykernel 6.29.5
ipython 9.3.0
ipython-pygments-lexers 1.1.1
ipywidgets 8.1.7
isoduration 20.11.0
jedi 0.19.2
jinja2 3.1.6
json5 0.12.0
jsonpointer 3.0.0
jsonschema 4.24.0
jsonschema-specifications 2025.4.1
jupyter 1.1.1
jupyter-client 8.6.3
jupyter-console 6.6.3
jupyter-core 5.8.1
jupyter-events 0.12.0
jupyter-lsp 2.2.5
jupyter-server 2.16.0
jupyter-server-terminals 0.5.3
jupyterlab 4.4.3
jupyterlab-pygments 0.3.0
jupyterlab-server 2.27.3
jupyterlab-widgets 3.0.15
kiwisolver 1.4.8
ld_impl_linux-64 2.40
libffi 3.4.4
libgcc-ng 11.2.0
libgomp 11.2.0
libstdcxx-ng 11.2.0
libuuid 1.41.5
libxcb 1.17.0
markupsafe 3.0.2
matplotlib 3.10.3
matplotlib-inline 0.1.7
mistune 3.1.3
nbclient 0.10.2
nbconvert 7.16.6
nbformat 5.10.4
ncurses 6.4
nest-asyncio 1.6.0
netcdf4 1.7.2
notebook 7.4.3
notebook-shim 0.2.4
numpy 2.3.1
openssl 3.0.16
overrides 7.7.0
packaging 25.0
pandocfilters 1.5.1
parso 0.8.4
pexpect 4.9.0
pillow 11.2.1
pip 25.1
platformdirs 4.3.8
prometheus-client 0.22.1
prompt-toolkit 3.0.51
psutil 7.0.0
pthread-stubs 0.3
ptyprocess 0.7.0
pure-eval 0.2.3
pycparser 2.22
pygments 2.19.2
pyparsing 3.2.3
python 3.11.13
python-dateutil 2.9.0.post0
python-json-logger 3.3.0
pyyaml 6.0.2
pyzmq 27.0.0
readline 8.2
referencing 0.36.2
requests 2.32.4
rfc3339-validator 0.1.4
rfc3986-validator 0.1.1
rpds-py 0.25.1
scipy 1.16.0
send2trash 1.8.3
setuptools 78.1.1
six 1.17.0
sniffio 1.3.1
soupsieve 2.7
spglib 2.6.0
sqlite 3.45.3
stack-data 0.6.3
terminado 0.18.1
tinycss2 1.4.0
tk 8.6.14
tornado 6.5.1
traitlets 5.14.3
types-python-dateutil 2.9.0.20250516
typing-extensions 4.14.0
tzdata 2025b
uri-template 1.3.0
urllib3 2.5.0
wcwidth 0.2.13
webcolors 24.11.1
webencodings 0.5.1
websocket-client 1.8.0
wheel 0.45.1
widgetsnbextension 4.0.14
xorg-libx11 1.8.12
xorg-libxau 1.0.12
xorg-libxdmcp 1.1.5
xorg-xorgproto 2024.1
xz 5.6.4
zlib 1.2.13

4. (Apabila butuh) Melengkapi Conda Env Siap Pakai

Aturan terkait instalasi dan menghapus package tambahan:

  1. Instalasi package tambahan bersifat HOME global:
    • Package terinstal di HOME user.
    • Perhatikan versi Python conda env di [Daftar Conda Env Tersedia].
    • Contoh instalasi package pada conda env yang memakai Python 3.11:
      • Package tsb akan aktif di conda env lain dengan versi Python sama.
  2. Lakukan instalasi dengan bijak.
    • Ada potensi package tidak cocok pada conda env bersangkutan.
    • ... atau pada conda env lainnya.
    • User dapat diskusi / meminta bantuan admin via support@efisonlt.com
  3. User hanya bisa menghapus (uninstall) package yang diinstal sendiri.
    • User tidak dapat menghapus package bawaan conda env.

4.1. Langkah Melengkapi Conda Env

Langkah membedakan user yang menjalankan komputasi pada sesi Jupyter dan batch job ( subbab [ 5 ] ).

(klik expand / kembangkan)

- Opsi Langkah Instalasi Package -
4.1.1 - User Sesi Jupyter
-/ 1 /-
User dapat melakukan instalasi pada sesi notebook.
---
4.1.2 - Batch Job
EOD Apps Shell full.png
Menggunakan terminal!
  • User EFIRO klik app Aleleon Shell Access
  • atau menu Apps > Aleleon Shell Access
-/ 1 /-
Pilih dan aktifkan conda env tersedia:
  • Lihat [Daftar Conda Env Tersedia].
$ ml [Py Package Manager]
$ source activate [Nama Conda Env]

- Contoh mengaktifkan conda env PyTorch 2.7.1:
$ ml Anaconda3/2024.02-1
$ source activate $CENV/pytorch-2.7.1cuda
-/ 2 /-
Lakukan instalasi package Python yang dibutuhkan:
-/ 3 /-
Jika sudah selesai, praktik baik menonaktifkan conda env:
$ conda deactivate
$ ml unload Anaconda3
---

5. Pilihan Menjalankan Komputasi

Berikut opsi menjalankan komputasi, pilih sesuai kebutuhan:

  • [ 5.1 ] - Berjalan di Login Node
    • Hanya untuk kegiatan non-komputasi, contoh pre-processing input.
      • Tidak mengkonsumsi Core Hour
      • Login node mempunyai spesifikasi terbatas.
      • Tim admin berhak interupsi kegiatan user yang memberatkan login node.
  • [ 5.2 ] - Batch Job di Compute Node
    • Menjalankan script Python siap jalan di [Compute Node].
      • GMB warning wololo.png Perhatikan file .ipynb harus dikonversi ke file .py.
      • Job dijalankan oleh manajemen Slurm, user menunggu hingga selesai.
  • [ 5.3 ] - Sesi Jupyter di Interactive Node
- Detail batch job dan sesi Jupyter lebih lanjut -
Batch Job
  • Batch job berhenti ketika:
    • Program komputasi selesai berjalan.
    • Job menyentuh limit waktu yang ditentukan user.
    • Job terkena error sehingga selesai prematur.
  • Koneksi user tidak mempengaruhi jalannya batch job:
    • Job tidak akan berhenti ketika koneksi user terputus, atau
    • user keluar (log out) dari ALELEON.
Sesi Jupyter
  • Sesi Jupyter berhenti ketika:
    • Waktu sesi habis.
    • User menghentikan sesi.
    • Sesi terkena error sehingga selesai prematur.
  • Koneksi user tidak mempengaruhi jalannya sesi Jupyter:
    • Sesi tidak akan berhenti ketika koneksi user terputus, atau
    • user keluar (log out) dari ALELEON.
  • Ketika user keluar dari sesi Jupyter saat cell berjalan dan kembali masuk:
    • Bisa jadi cell tsb. tidak menampilkan aktivitas cell.
    • Lihat status cell / output lainnya.

(klik expand / kembangkan)

5.1. Berjalan di Login Node

- Langkah Menjalankan Conda Env di login node -

Sbatch terminal display rev2.png

EOD Apps Shell full.png
Menggunakan terminal!
  • User EFIRO klik app Aleleon Shell Access
  • atau menu Apps > Aleleon Shell Access
-/ 1 /-
Pilih dan aktifkan conda env tersedia:
  • Lihat tabel [Daftar Conda Env Tersedia].
$ ml [Py Package Manager]
$ source activate [Nama Conda Env]

- Contoh mengaktifkan conda env PyTorch 2.7.1:
$ ml Anaconda3/2024.02-1
$ source activate $CENV/pytorch-2.7.1cuda
-/ 2 /-
Lakukan kegiatan user dengan conda env ini.
-/ 3 /-
Jika sudah selesai, praktik baik menonaktifkan conda env:
$ conda deactivate
$ ml unload Anaconda3

5.2. Batch Job di Compute Node

Tersedia pilihan tampilan yang dapat dipilih sesuai preferensi user:

- Langkah Batch Job di Terminal -

Sbatch terminal display rev2.png

Tutorial ini mengasumsikan user familiar dengan terminal Linux
EOD Apps Shell full.png
Menggunakan terminal!
  • User EFIRO klik app Aleleon Shell Access
  • atau menu Apps > Aleleon Shell Access
-/ 1 /-
Lakukan persiapan:
1A - Cek kelengkapan package conda env yang akan digunakan:
  • Package tidak lengkap akan membuat job gagal berjalan.

1B - Siapkan file yang dibutuhkan:

1C -GMB warning wololo.png Nonaktifkan conda env dan Py Package Manager:

  • Supaya job memuat conda env dengan benar.
1 - Apabila conda env aktif:
(env)$ conda deactivate
 
2 - Nonaktifkan modul PPM:
$ ml unload Anaconda3 Mamba

Apabila ada pesan ini, abaikan:
 the module ... cannot be unloaded because it was not loaded
-/ 2 /-
Buat Submit Script yaitu 'formulir' menjalankan batch job:
  • Nama file bebas dengan format .sh, contoh submit.sh
  • Biasanya submit script berada satu folder dengan file komputasi.
$ nano submit.sh
atau vim
Contoh template Submit Script:
  • Ikuti petunjuk NOTES dan alur script.
Klik expand / kembangkan
- Template submit script conda environment versi CPU -

GMB CPU icon.png

#!/bin/bash

# -----------------------------------------------------
# Template Slurm Submit Script
# Python - Conda Env Siap Pakai (CPU) | rev.040725
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Pastikan user sudah melengkapi conda environment.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH dan file input
# -----------------------------------------------------

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS, ex: 10 jam -> 10:00:00
#SBATCH --time=////

# File (sesuai job ID) untuk output terminal job
#SBATCH --output=result-%j.txt

# File (sesuai job ID) untuk log status dan error job 
#SBATCH --error=error-%j.txt

# Pilih conda env siap pakai
# Lihat tabel "Daftar Conda Env Siap Pakai" di subbab 3

# Input nama conda env
Nama_Conda_Env="////"
# Input nama Py Package Manager
Py_Package_Manager="////"

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Memuat modul dan mengaktifkan conda env
ml ${Py_Package_Manager}
source activate ${Nama_Conda_Env}

# Input perintah komputasi Python user
////
- Template submit script conda environment versi GPU -

GMB GPU icon.png

#!/bin/bash

# -----------------------------------------------------
# Template Slurm Submit Script
# Python - Conda Env Siap Pakai (GPU) | rev.040725
#
# NOTES:
# 1. Isi bagian yang ditandai 4 garing (////).
# 2. Template ini bersifat referensi.
#    User dapat mengubah bagian yang perlu diubah.
# 3. Pastikan user sudah melengkapi conda environment.
# -----------------------------------------------------

# -----------------------------------------------------
# Alokasi komputasi SBATCH dan file input
# -----------------------------------------------------

# Menggunakan partisi GPU
#SBATCH --partition=ampere

# Alokasi jumlah core thread CPU
#SBATCH --ntasks=////

# Alokasi jumlah GPU
#SBATCH --gpus=////

# Alokasi jumlah memori RAM (satuan GB)
#SBATCH --mem=////GB

# Alokasi limit waktu menjalankan job
# Format HH:MM:SS atau D-HH:MM:SS, ex: 10 jam -> 10:00:00
#SBATCH --time=////

# File (sesuai job ID) untuk output terminal job
#SBATCH --output=result-%j.txt

# File (sesuai job ID) untuk log status dan error job 
#SBATCH --error=error-%j.txt

# Pilih conda env siap pakai
# Lihat tabel "Daftar Conda Env Siap Pakai" di subbab 3

# Input nama conda env
Nama_Conda_Env="////"
# Input nama Py Package Manager
Py_Package_Manager="////"

# ----------------------------------------------------
# Script jalannya program
# ----------------------------------------------------

# Memuat modul dan mengaktifkan conda env
ml ${Py_Package_Manager}
source activate ${Nama_Conda_Env}

# Input perintah komputasi Python user
////
-/ 3 /-
Jalankan job dengan perintah:
$ sbatch [nama-submit-script]

Contoh:
$ sbatch submit.sh
-/ 4 /-
User dapat melihat status jalannya job dengan perintah:
$ squeue -ul $USER
  • Apabila tidak ada di squeue artinya job tsb. telah selesai.
  • Job berakhir ketika:
    • Komputasi selesai atau terkena error.
    • Job berjalan melebihi SBATCH time submit script user.
- Daftar status job (ST / STATE) -
STATE Penjelasan
R (RUN) Job berjalan
PD (PENDING) Job tertahan
CG (COMPLETING) Job selesai dan dalam proses clean-up
CA (CANCELED) Job dibatalkan user
PR (PREEMPETED) Job dibatalkan admin, alasan dikirim via email
S (SUSPENDED) Job ditahan admin, alasan dikirim via email
---
Apabila user merasa job gagal berjalan:
  • Job tertahan (state PENDING) dalam waktu lama.
  • Komputasi error atau berjalan tidak semestinya.

Lihat laman [ Troubleshooting dan Support ]

-/ 5 /-
User dapat memantau file output dengan perintah Unix seperti:
  • ls, cat, more, tail, dll
-/ 6 /-
Apabila user ingin menghentikan job yang berjalan, jalankan perintah:
$ scancel [job-ID]

Job ID ada pada squeue diatas.
contoh membatalkan job ID 231:
$ scancel 231
---
- Langkah Batch Job di web EFIRO -

Efiro jobcomposer display.png

-/ 1 /-
[Login ke web EFIRO] ALELEON Supercomputer.
-/ 2 /-
EOD Apps Job Composer full.png Klik app Job Composer di homepage EFIRO.
  • atau menu Apps > Job Composer
Jcnewjobmarked.png Pilih menu New Job > From Template
-/ 3 /-
Buat ruang job untuk menjalankan komputasi:
Pilih template yang diinginkan:
Nama Template Penjelasan
Python / Conda Env Siap Pakai (CPU) Run conda env di CN CPU
Python / Conda Env Siap Pakai (GPU) Run conda env di CN GPU
*CN = Compute Node
Kemudian Isi Job Name dan klik Create New Job

Jctemplate-2.png

-/ 4 /-
Lakukan persiapan:
4A - Cek kelengkapan package conda env yang akan digunakan:
  • Package tidak lengkap akan membuat job gagal berjalan.
  • Bila butuh akses terminal buka Open Terminal

4B - Siapkan file yang dibutuhkan di ruang job:

  • Pastikan ruang job yang dipilih adalah yang akan digunakan.
  • Upload / download / edit file via menu Edit Files

JC job menu.png

-/ 5 /-
Lengkapi Submit Script melalui tombol Open Editor
  • Submit script adalah 'formulir' menjalankan batch job.
  • Ikuti petunjuk NOTES dan alur script.

GMB warning wololo.png Klik Save setiap kali mengubah script.

-/ 6 /-
Jalankan job dengan klik tombol Submit
  • dan sebaliknya untuk menghentikan job klik Stop

  • Job berakhir (Status completed) ketika:
    • Komputasi selesai atau ada error.
    • Job berjalan melebihi SBATCH time submit script user.
- Daftar kolom Status job -
Status Arti
Not Submitted Job belum pernah dijalankan.
Running Job berjalan.
Queue Job mengantri dan belum berjalan.
Completed Job selesai berjalan.
Failed Job berhenti karena error atau di stop user.
---
Apabila user merasa job gagal berjalan:
  • Job tertahan (status Queue) dalam waktu lama.
  • Komputasi error atau berjalan tidak semestinya.

Lihat laman [ Troubleshooting dan Support ]

-/ 7 /-
Lihat output job pada kolom Folder Contents
  • Atau dengan membuka menu Edit Files
Kolom Folder Contents
-/ 8 /-
Untuk menghapus ruang job dan datanya:
  • Pilih ruang job yang akan dihapus.
  • Perhatikan opsi ini juga menghapus data di ruang job tersebut.
  • Klik menu Delete

JC delete menu.png

---

5.3. Sesi Jupyter di Interactive Node

- Langkah Sesi Jupyter -

Efiro jupyter display.png

-/ 1 /-
[Login ke web EFIRO] ALELEON Supercomputer.
-/ 2 /-
Lakukan persiapan sebelum sesi Jupyter:
1A - GMB warning wololo.png Pastikan conda env user terinstal package Jupyter.

1B - Untuk efisiensi sesi Jupyter:

  • Lengkapi instalasi package di conda env yang akan dipakai.
  • Siapkan file komputasi yang dibutuhkan:
-/ 3 /-
New Pinnedapps jupyter.png Klik app Jupyter di homepage EFIRO.
  • atau menu Apps > Jupyter
-/ 4 /-
Isi formulir sesi Jupyter dengan panduan berikut:
- Choose Jupyter version -
Pilih sesuai preferensi user, Jupyter Lab atau Notebook
- Partition -
Pilih sesuai kebutuhan:
  • torti -> interactive node CPU GMB CPU icon.png
  • tilla -> interactive node GPU GMB GPU icon.png
- Number of CPU thread(s) -
Alokasi core CPU, range 2 - 32
- Amount of memory/RAM (GB) -
Alokasi RAM dalam satuan GB, range 1 - 55
- Number of GPUs -
(apabila pilih partition tilla) - Jumlah GPU, isi angka 1
- Number of hours -
Waktu maksimal sesi Jupyter, range 1 - 72
GMB warning wololo.png Form CPU, GPU, dan hours punya limit berdasarkan:

Untuk melihat limit:

  • Buka menu Apps > Aleleon Shell Access
  • Jalankan perintah:
$ sausage
  • Ketentuan sesi Jupyter dapat berjalan:
sisa CCH > number of CPU threads X number of hours
sisa GH > number of GPU X number of hours
- Choose how to launch Jupyter -
Pilih Anaconda/Mamba
- Pilih conda env siap pakai di [Daftar Conda Env Tersedia] -
  • Choose Anaconda/Mamba version -> Py Package Manager
  • Conda/Mamba environment directory -> Nama Conda Env
- Software Modules -
Secara umum dikosongkan
  • kecuali user ada kebutuhan khusus, contoh OpenMPI.
- Environment setup -
Memuat environment variable, isi apabila ada.
- Additional Jupyter arguments -
Memuat argumen tambahan Jupyter, isi apabila ada.
- Email address -
Notifikasi email untuk status mulai dan selesainya Jupyter.
  • Isi apabila berkenan.
---
-/ 5 /-
Klik tombol Launch untuk memulai sesi Jupyter:
  • User diarahkan ke halaman My Interactive Sessions
  • Tunggu hingga sesi Jupyter siap diakses.

Jupyternotebookqueue.png

Apabila sesi tidak kunjung atau gagal berjalan:
  • Sesi mengantri (status Queued atau Starting) terlalu lama.
  • Sesi langsung Completed walau belum mulai.

Lihat laman [ Troubleshooting dan Support ]

-/ 6 /-
Apabila status Running, klik tombol Connect to Jupyter
  • GMB warning wololo.png Sistem mulai menghitung Core Hour!
  • Sesi akan terus berjalan selama waktu sesi masih ada.
  • Untuk menghentikan sesi yang running, klik Cancel

Newjupyter120124.png

-/ 7 /-
Gunakan kernel Python 3 (ipykernel) untuk sesi Jupyter.
Opsi Python 3 ipykernel pada Jupyter Lab
-/ 8a /-
Apabila ada masalah pada sesi Jupyter seperti:
  • Sesi terputus.
  • Tidak memuat package dengan benar.

Lihat laman [ Troubleshooting dan Support ]

-/ 8b /-
Sesi Jupyter tidak terputus ketika:
  • Koneksi user terputus saat sesi Jupyter.
  • User keluar / log out dari sesi Jupyter dan web EFIRO.

User dapat mengunjungi sesi Jupyter yang sedang berjalan pada:

  • Menu My Interactive Sessions
  • Kolom Active interactive sessions di homepage EFIRO.

Ketika user keluar saat ada cell berjalan dan kembali masuk:

  • Bisa jadi cell tsb. tidak menampilkan aktivitas cell.
  • Lihat status cell / output lainnya.
---