E.D.A.T.A. / EST. 2017
Hardware/HIGH-END/Studio
Rig AI Studio — asamblat și testat în-house
EDT-RIG-05 — STUDIO / ASAMBLAT ÎN-HOUSE
— BUILD / EDT-RIG-05

Studio

192 GB
VRAM · 2× GPU

Nucleul de calcul al unei echipe care trăiește din AI. Două RTX 6000 Pro adună 192 GB VRAM — suficient pentru modele până la ~120B (4-bit) sau pentru mai multe modele rulate în paralel, pe Threadripper cu 256 GB ECC și răcire lichidă.

Modele: până la ~120B (4-bit)HIGH-END
Platformă
NVIDIAAMD
Preț213.000 lei

Dimensionat pe workload · Instalare inclusă · Datele rămân la tine

— FIȘĂ TEHNICĂ

Din ce e făcut build-ul.

Componentele alese pentru acest workload. Fiecare piesă e dimensionată pe cel mai mare model pe care vrei să-l rulezi.

GPU
2 × NVIDIA RTX 6000 Pro
CPU
Threadripper 9970X · 32c
PLACĂ DE BAZĂ
TRX50
MEMORIE
256 GB DDR5 ECC
STOCARE
12 TB NVMe SSD
RĂCIRE
Răcire lichidă 360 mm (TR)
SURSĂ
2200 W
CARCASĂ
Șasiu server AI
ASAMBLARE ÎN-HOUSE/TESTARE PE WORKLOAD REAL/BURN-IN 48H/INSTALARE LA SEDIU/SUPORT & OPERARE
— CAZURI DE FOLOSIRE

Unde își face treaba Studio.

Nu specificații în abstract, ci situații concrete în care această configurație e alegerea potrivită — cu modelele și volumele care contează.

01CAZ 01

Fine-tuning de modele mari, în-house

Adaptarea unui model de 70B pe datele firmei devine fezabilă local: 192 GB VRAM țin modelul și starea de antrenare. Ce ar cere ore scumpe de cloud rulează pe rig-ul tău, cu datele rămase în sediu.

02CAZ 02

Mai multe modele, în paralel

Un model mare pentru RAG, unul de clasificare și unul de embeddings rulează simultan pe cele două plăci, fără să se calce reciproc. Un studio de data science servește mai multe produse de pe un singur rig.

03CAZ 03

Inferență la scară pentru un produs

Un produs cu utilizatori reali cere throughput constant. Cu 2× GPU și batching, Studio servește un model de 32–70B către zeci de cereri simultane, cu latență mică și predictibilă la vârf.

04CAZ 04

Cercetare și distilare de modele

Echipa compară arhitecturi, rulează evaluări și distilează modele mari în variante mici de producție — toate pe un rig care nu obligă la compromisuri de memorie între experimente.

Cazul tău nu e pe listă? Pornim de la workload-ul tău concret și dimensionăm configurația exact pe el.

Cere o evaluare
— PASUL URMĂTOR

Spune-ne ce vrei să rulezi.

Studio e un punct de plecare, nu un produs de raft. Pornim de la workload-ul tău și îl ajustăm exact pe modelul pe care vrei să-l rulezi.

Fără cost · Fără angajament · Datele rămân la tine