E.D.A.T.A. / EST. 2017
Hardware/HIGH-END/Studio Capacity
Rig AI Studio Capacity — asamblat și testat în-house
EDT-RIG-06 — STUDIO CAPACITY / ASAMBLAT ÎN-HOUSE
— BUILD / EDT-RIG-06

Studio Capacity

192 GB
VRAM · CAPACITATE 2×

Studio dus la capătul de capacitate: 64 de nuclee, 512 GB RAM ECC și 24 TB stocare în RAID, pentru dataset-uri mari, context foarte lung și mulți utilizatori intensivi simultan. Când limita devine memoria de sistem și stocarea, nu GPU-ul.

Modele: până la ~120B (4-bit)HIGH-END
Platformă
NVIDIAAMD
Prețla cerere

Dimensionat pe workload · Instalare inclusă · Datele rămân la tine

— FIȘĂ TEHNICĂ

Din ce e făcut build-ul.

Componentele alese pentru acest workload. Fiecare piesă e dimensionată pe cel mai mare model pe care vrei să-l rulezi.

GPU
2 × NVIDIA RTX 6000 Pro
CPU
Threadripper 9980X · 64c
PLACĂ DE BAZĂ
TRX50
MEMORIE
512 GB DDR5 ECC
STOCARE
24 TB NVMe SSD (RAID)
RĂCIRE
Răcire lichidă 360 mm (TR)
SURSĂ
2200 W
CARCASĂ
Șasiu server AI
Ce are în plus

Față de Studio: 2× nuclee (64c), 2× memorie (512 GB), 2× stocare (24 TB) — pentru dataset-uri mari, context lung și mulți utilizatori simultan.

ASAMBLARE ÎN-HOUSE/TESTARE PE WORKLOAD REAL/BURN-IN 48H/INSTALARE LA SEDIU/SUPORT & OPERARE
— CAZURI DE FOLOSIRE

Unde își face treaba Studio Capacity.

Nu specificații în abstract, ci situații concrete în care această configurație e alegerea potrivită — cu modelele și volumele care contează.

01CAZ 01

Dataset-uri ținute în memorie

512 GB RAM permit ținerea în memorie a unor corpusuri și feature store-uri mari, eliminând citirile lente de pe disc în timpul training-ului. Pentru date tabelare de zeci de milioane de rânduri, e o diferență de ore per rulare.

02CAZ 02

Context foarte lung pe RAG

Aplicații care trimit contexte de sute de mii de tokeni au nevoie de memorie pe măsură. Capacity susține ferestre de context mari și indexuri vectoriale uriașe fără să se sufoce la vârf.

03CAZ 03

Multi-user intensiv, non-stop

Zeci de utilizatori care lovesc simultan mai multe modele, plus job-uri de batch în fundal. Cele 64 de nuclee și RAID-ul de 24 TB țin totul alimentat, fără gâtuiri de I/O care să blocheze GPU-urile.

04CAZ 04

Pipeline complet de date pe o mașină

Ingestie, curățare, vectorizare, training și inferență pe același rig, cu stocare RAID pentru throughput. Pentru o echipă care vrea tot pipeline-ul de date on-premise, într-un singur șasiu.

Cazul tău nu e pe listă? Pornim de la workload-ul tău concret și dimensionăm configurația exact pe el.

Cere o evaluare
— PASUL URMĂTOR

Spune-ne ce vrei să rulezi.

Studio Capacity e un punct de plecare, nu un produs de raft. Pornim de la workload-ul tău și îl ajustăm exact pe modelul pe care vrei să-l rulezi.

Fără cost · Fără angajament · Datele rămân la tine