GIGABYTE T181-G20 Server med 4x V100 SXM2 NV-Link GPU – Perfekt för AI/LLM-träning/inferens

Säljer en GIGABYTE T181-G20 server, utrustad med:
• 2x Intel Xeon Gold 6140 (18 kärnor/styck)
• 4x NVIDIA Tesla V100 16GB SXM2
• Full NV-Link mesh (alla-till-alla) --> Perfekt arkitektur för tensor parallelism (se t.ex. "tensor-parallel-size" för vLLM)
• 96GB DDR4 RAM
• 4x U.2 NVMe-caddies
• 64GB totalt VRAM (enkelt uppgraderbart till 128GB)

? Idealisk för körning och träning av AI-modeller som Llama, Mistral, DeepSeek, Falcon, m.fl.
? Testad med Ubuntu Server 22.04 LTS, PyTorch 2.x, ollama, etc.

?

Prestanda och Arkitektur
• NV-Link (SXM2) ger ~300 GB/s bandbredd per GPU – ungefär 10x snabbare än PCIe-lösningar.
• Lägre latency gör att tensor-parallelism och multi-GPU-lösningar fungerar mycket effektivt.
• Utformad för klusterdrift, med 2x PCIe Gen3 x16-slots (lågprofil) för t.ex. InfiniBand eller höghastighetsnätverk.

?

Kylning & Strömförsörjning
• 2x CPU-kylare (CPUer med kylare monterade)
• 4x GPU-kylare (GPUer med kylare monterade)
• Strömmatning via 12V DC (OpenRack-standard):
• Inkluderar HPE 1500W PSU + breakout board (GPU mining-style).
• Du kan få med kablage jag använt om du vill, men du ansvarar för korrekt dimensionering för ditt system.

?

Övrigt
• Servern är nyinköpt och har endast använts kort av mig för AI-kurser och agentiska AI-system.
• Se bilder för detaljer om konfiguration, portar och chassi.
• OBS! Vissa bilder är typbilder, men allt i denna server är redan monterat och redo att köra!