Spesifikasi ALELEON Supercomputer: Perbedaan antara revisi

Dari ALELEON by EFISON
(→‎Spesifikasi Software Sistem: update menyesuaikan maintenance 120124)
 
(19 revisi perantara oleh pengguna yang sama tidak ditampilkan)
Baris 1: Baris 1:
ALELEON Supercomputer saat ini menggunakan '''HPC ALELEON Mk.III''' - superkomputer ''custom'' EFISON generasi ketiga '''yang akan beroperasi pada April 2022''' untuk menjalankan arsitektur EFIRO.
ALELEON Supercomputer saat ini menggunakan '''HPC ALELEON Mk.III''' - superkomputer ''custom'' EFISON generasi ketiga menyesuaikan arsitektur EFIRO.


== '''Spesifikasi Hardware: Compute Node''' ==
== '''Spesifikasi Compute Node''' ==
Compute Node adalah bagian bagian server komputasi ALELEON Supercomputer utama untuk menjalankan berbagai level komputasi dari kecil hingga besar.
Compute Node menjalankan komputasi user via job submission SLURM (sbatch terminal atau Job Composer EFIRO).
{| class="wikitable"
! colspan="2" |Spesifikasi Compute Node CPU


* Komputasi berjalan di Compute Node apabila dibuat melalui [https://wiki.efisonlt.com/wiki/Tutorial_Menggunakan_ALELEON_Supercomputer#3B._Job_Composer_dan_Interactive_Apps '''Job Composer'''].
=== Partisi epyc ===
* Melalui [[SLURM Script ALELEON Supercomputer|'''Submit Script''']] (bagian dari Job Composer), user bebas dalam mengalokasikan jumlah resources job misalnya menggunakan 32 core CPU + RAM 64GB atau 96 core CPU + RAM 128GB, 16 core CPU + 2 GPU, dst.
|-
{| class="wikitable"
|Nodes
|3
 
* epyc001 -> high memory
* epyc[002-003] -> normal
|-
|CPU per node
|1x AMD EPYC 7702P, 64 core / 128 thread, 2.0Ghz
|-
|RAM per node
|
|
=== Partisi epyc / Compute Node CPU ===
* high memory -> 500GB efektif
*'''Total CPU 192 cores / 384 threads, RAM 768GB'''
* normal -> 240GB efektif
** Terdiri dari '''3 node''' dengan spesifikasi masing-masing:
|-
*** CPU AMD EPYC 7702P 64 cores / 128 threads
|Interkoneksi
*** RAM 256GB
|Mellanox RoCE 100Gbps
|-
! colspan="2" |Spesifikasi Compute Node GPU
 
=== Partisi ampere ===
|-
|-
|
|Nodes
=== Partisi gpu_ampere / Compute Node GPU ===
|1
*'''1 Node'''
|-
** CPU AMD Threadripper Pro 3955WX 16 cores / 32 threads
|CPU
** GPU 3x NVIDIA RTX 3090 24GB
|1x AMD Threadripper 3955WX, 16 core / 32 thread, 3.9Ghz
** RAM 128GB
|-
|RAM
|128GB
|-
|GPU
|2x NVIDIA RTX 3090 24GB NVLink
|-
|Interkoneksi
|Mellanox RoCE 25Gbps
|}
|}


== '''Spesifikasi Hardware: Interactive Node''' ==
== '''Spesifikasi Interactive Node''' ==
Interactive node adalah bagian server komputasi ALELEON Supercomputer untuk menjalankan [https://wiki.efisonlt.com/wiki/Tutorial_Menggunakan_ALELEON_Supercomputer#3B._Job_Composer_dan_Interactive_Apps '''Interactive Apps'''] seperti Jupyter Notebook, Aleleon Desktop, dll.
Interactive Node menjalankan sesi interaktif pada web service EFIRO seperti Jupyter dan ALELEON Virtual Desktop.
{| class="wikitable"
! colspan="2" |Spesifikasi Interactive Node CPU


* Satu sesi Interactive Apps menggunakan satu node penuh.
=== Partisi torti ===
* User dapat mengalokasikan jumlah core CPU dibawah spesifikasi per node.
|-
|Nodes
|2
|-
|CPU per node
|AMD Threadripper 3990X, 32 v-core, 2.9Ghz
|-
|RAM per node
|64GB
|-
! colspan="2" |Spesifikasi Interactive Node GPU


{| class="wikitable"
=== Partisi tilla ===
|
|-
=== Partisi torti / Interactive Node CPU ===
|Nodes
*'''8 Node atau 8 sesi Interactive Apps'''
|2
** Spesifikasi masing-masing
|-
*** CPU AMD Threadripper 3990X 16 v-core
|CPU per node
*** RAM 32GB
|AMD Threadripper 3990X, 32 v-core, 2.9Ghz
|-
|RAM per node
|64GB
|-
|-
|
|GPU per node
=== Partisi tilla / Interactive Node GPU ===
|1x NVIDIA RTX 3090 24GB
*'''1 Node atau 1 sesi Interactive Apps'''
** CPU AMD Ryzen 5600X 6 cores / 12 threads
** GPU 1x NVIDIA RTX 3090 24GB
** RAM 64GB
|}
|}


== '''Spesifikasi Hardware: Network dan Storage''' ==
== '''Spesifikasi Storage''' ==
Sistem melakukan checkpoint snapshot storage per 24 jam.
 
* '''User dapat melayangkan permintaan ke email support untuk recovery data apabila tidak sengaja menghapus data.'''


* '''Network:'''
{| class="wikitable"
** High speed network untuk data dan komputasi paralel: '''100 GbE RoCE QSFP28 Mellanox'''
! colspan="2" |Spesifikasi Stoarge Node
** Internet bandwidth: '''100Mbps'''
|-
* '''Storage:'''
|Jenis storage
** Data terpusat: '''20TB RAID10'''
|Block-storage, protokol NFS
** Caching scratch: '''1TB SSD NVMe PCIe 4.0'''
|-
|HOME and workdir
|HDD SAS 83TiB efektif
|-
|SCRATCH caching
|SSD 1TB NVMe 4.0
|-
|Interkoneksi
|Mellanox RoCE 100Gbps
|}
{{DISPLAYTITLE:Spesifikasi ALELEON Supercomputer}}
{{DISPLAYTITLE:Spesifikasi ALELEON Supercomputer}}
__TOC__
__TOC__
== '''Spesifikasi Sistem Operasi''' ==
 
== '''Spesifikasi Software Sistem''' ==


* '''Sistem Operasi'''
* '''Sistem Operasi'''
** Linux CentOS 7.9 dengan kernel 5.4.100-1el7.elrepo.x86_64
** Rocky Linux 8 (Red-hat based) dengan kernel 5.4.266-1.el8.elrepo.x86_64
* '''Autentikasi Login'''
* '''Autentikasi Login'''
** OpenVPN dan PAM
** OpenVPN dan PAM
* '''Akses Konsol'''
*'''Manajemen Job (job scheduler)'''
** Custom [[Tutorial Menggunakan ALELEON Supercomputer|'''EFIRO OnDemand''']], diakses melalui web browser
** SLURM 23.11.1-1 dengan protokol PMIX, UCX, CUDA, dan auto load-balancing menyesuaikan spesifikasi ALELEON Supercomputer.
* '''GCC default OS'''
*'''[https://wiki.efisonlt.com/wiki/Menggunakan_ALELEON_Supercomputer_via_EFIRO EFIRO Web Service] untuk login web dengan tampilan grafis (GUI)'''
** GNU RHEL 10.2.0  
**Berbasiskan '''Open OnDemand 3.0''' dengan modifikasi oleh tim engineering EFISON menyesuaikan arsitektur dan fitur ALELEON Supercomputer
* '''Manajemen Job'''  
***''MIT License, maintained by Ohio Supercomputing Center (OSC), a member of the Ohio Technology Consortium, the technology and information division of the Ohio Department of High Education.''
** SLURM 20.11.5 dengan protokol PMIX, UCX, CUDA, dan auto load-balancing menyesuaikan arsitektur AMD Zen2.
* '''Manajemen modul software (Module Environment)'''
** EFIRO Job Composer dan Interactive Apps
** Lmod 8.7.32
* '''Modul instalasi dan software untuk user'''
*'''Manajemen instalasi software (Package Manager)'''
** EasyBuild 4.4.2
**EasyBuild 4.8.0
** Lmod 8.1.18
**Anaconda
* '''Katalog lengkap software'''
**Spack 0.19.1
** '''[[Katalog Software ALELEON Supercomputer]]'''
*'''Manajemen compiling otomatis'''
__PAKSADAFTARISI__
**GNU Make 4.2.1
**CMake 3.26.3
* '''Manajemen container'''
** Singularity 3.10
* '''Profiler sistem'''
** CPU -> AMD μProf
* '''Library I/O sistem'''
** HDF5 1.14.1
** NetCDF 4.9.2
* '''Katalog lengkap software compiler, library, dan framework untuk penggunaan global'''  
** Lihat laman '''[[Katalog Software ALELEON Supercomputer]]'''
__TANPADAFTARISI__

Revisi terkini sejak 18 Januari 2024 06.40

ALELEON Supercomputer saat ini menggunakan HPC ALELEON Mk.III - superkomputer custom EFISON generasi ketiga menyesuaikan arsitektur EFIRO.

Spesifikasi Compute Node

Compute Node menjalankan komputasi user via job submission SLURM (sbatch terminal atau Job Composer EFIRO).

Spesifikasi Compute Node CPU

Partisi epyc

Nodes 3
  • epyc001 -> high memory
  • epyc[002-003] -> normal
CPU per node 1x AMD EPYC 7702P, 64 core / 128 thread, 2.0Ghz
RAM per node
  • high memory -> 500GB efektif
  • normal -> 240GB efektif
Interkoneksi Mellanox RoCE 100Gbps
Spesifikasi Compute Node GPU

Partisi ampere

Nodes 1
CPU 1x AMD Threadripper 3955WX, 16 core / 32 thread, 3.9Ghz
RAM 128GB
GPU 2x NVIDIA RTX 3090 24GB NVLink
Interkoneksi Mellanox RoCE 25Gbps

Spesifikasi Interactive Node

Interactive Node menjalankan sesi interaktif pada web service EFIRO seperti Jupyter dan ALELEON Virtual Desktop.

Spesifikasi Interactive Node CPU

Partisi torti

Nodes 2
CPU per node AMD Threadripper 3990X, 32 v-core, 2.9Ghz
RAM per node 64GB
Spesifikasi Interactive Node GPU

Partisi tilla

Nodes 2
CPU per node AMD Threadripper 3990X, 32 v-core, 2.9Ghz
RAM per node 64GB
GPU per node 1x NVIDIA RTX 3090 24GB

Spesifikasi Storage

Sistem melakukan checkpoint snapshot storage per 24 jam.

  • User dapat melayangkan permintaan ke email support untuk recovery data apabila tidak sengaja menghapus data.
Spesifikasi Stoarge Node
Jenis storage Block-storage, protokol NFS
HOME and workdir HDD SAS 83TiB efektif
SCRATCH caching SSD 1TB NVMe 4.0
Interkoneksi Mellanox RoCE 100Gbps

Spesifikasi Software Sistem

  • Sistem Operasi
    • Rocky Linux 8 (Red-hat based) dengan kernel 5.4.266-1.el8.elrepo.x86_64
  • Autentikasi Login
    • OpenVPN dan PAM
  • Manajemen Job (job scheduler)
    • SLURM 23.11.1-1 dengan protokol PMIX, UCX, CUDA, dan auto load-balancing menyesuaikan spesifikasi ALELEON Supercomputer.
  • EFIRO Web Service untuk login web dengan tampilan grafis (GUI)
    • Berbasiskan Open OnDemand 3.0 dengan modifikasi oleh tim engineering EFISON menyesuaikan arsitektur dan fitur ALELEON Supercomputer
      • MIT License, maintained by Ohio Supercomputing Center (OSC), a member of the Ohio Technology Consortium, the technology and information division of the Ohio Department of High Education.
  • Manajemen modul software (Module Environment)
    • Lmod 8.7.32
  • Manajemen instalasi software (Package Manager)
    • EasyBuild 4.8.0
    • Anaconda
    • Spack 0.19.1
  • Manajemen compiling otomatis
    • GNU Make 4.2.1
    • CMake 3.26.3
  • Manajemen container
    • Singularity 3.10
  • Profiler sistem
    • CPU -> AMD μProf
  • Library I/O sistem
    • HDF5 1.14.1
    • NetCDF 4.9.2
  • Katalog lengkap software compiler, library, dan framework untuk penggunaan global
Diperoleh dari "https://wiki.efisonlt.com/index.php?title=Spesifikasi_ALELEON_Supercomputer&oldid=1384"