Nextron leverer nå B300-servere

Lasse Melsæter tester og klargjør HGX B300-system for kunde — Lasse Melsæter klargjør HGX B300-system for kunde *Bilde: Nextron AS*

De første B300-systemene fra NVIDIA og Supermicro er levert til våre kunder. Med NVIDIA Blackwell Ultra får virksomheter mer GPU-minne og økt kapasitet til å trene, tilpasse og kjøre krevende AI-modeller.

På bildene klargjøres en B300-server for kunde hos Nextron. Det er kraftig maskinvare som skal inn i et større miljø, der GPU-er, nettverk, lagring og kjøling må fungere sammen for å gi ønsket ytelse. Med B300 er neste steg i NVIDIA Blackwell-familien på plass i våre leveranser. Plattformen er særlig interessant for store språkmodeller, AI som kombinerer tekst, bilder og video, og resonnerende modeller som bruker flere beregningstrinn for å løse komplekse oppgaver.

8U serveren veier ca 119kg utstyrt med 8x NVIDIA HGX B300 GPU-er og måler 356x449x950mm (HxBxD) *Bilde: Nextron AS*

Mer plass til modeller og kontekst

Et B300-system med åtte GPU-er har over 2 TB HBM3e GPU-minne. Den økte kapasiteten gir mer rom for modellene og dataene de trenger under kjøring. For kundene kan dette bety plass til større modeller, lengre dokumenter og samtaler, eller flere samtidige forespørsler. Når mer av arbeidslasten får plass i GPU-minnet, kan behovet for å flytte data til tregere minne eller fordele modellen over flere servere reduseres.

B300 system med åtte NVIDIA HGX B300 GPUer *Bilde: Nextron AS*

Økt regnekraft for krevende AI

Sammenlignet med DGX B200 oppgir NVIDIA at DGX B300 gir 1,5 ganger ytelsen ved tette FP4-beregninger og dobbelt så høy ytelse i attention-beregninger - en sentral del av hvordan språkmodeller behandler sammenhenger i informasjon. FP4 gjør det mulig å utføre AI-beregninger med lavere tallpresisjon og høy kapasitet når modellen og programvaren er tilpasset dette. Forbedringene i attention er særlig relevante for lange kontekster og resonnerende modeller. Den faktiske gevinsten avhenger av modellen, programvaren og hvordan systemet brukes. B300 gir likevel et sterkere utgangspunkt for virksomheter som trenger å håndtere større og mer krevende AI-arbeidslaster.

2x Intel Xeon 6700 CPU-er, 32x DDR5 minnebrikker, 2x PCIe switch og 4 vifter — 2x Intel Xeon 6700 CPU-er, opptil 32x DDR5 minnebrikker, 2x PCIe switch og 4 vifter *Bilde: Nextron AS*

Bygget for å arbeide sammen

De åtte GPU-ene er koblet sammen med femte generasjon NVIDIA NVLink og NVSwitch. Dette gir rask kommunikasjon når modellene og beregningene fordeles mellom GPU-ene. Med NVIDIA ConnectX-8 og nettverk på opptil 800 Gb/s per adapter er plattformen også tilrettelagt for å koble flere servere sammen i større AI-miljøer.

Flere systemvalg - hjelp til å velge riktig

Nextron tilbyr NVIDIA DGX B300 og servere basert på NVIDIA HGX B300 fra Supermicro og ASUS. De første leveransene er gjennomført med systemer fra NVIDIA og Supermicro. Valg av system handler både om AI-arbeidslasten og om infrastrukturen det skal inngå i. Vi hjelper med å vurdere GPU-kapasitet, nettverk, lagring, strøm og kjøling som en helhet. Planlegger dere å utvide AI-kapasiteten? Ta kontakt med Nextron for å diskutere B300 og hvilket system som passer deres behov.