AI/KI

Datasenter eller desktop?

Hardwarelandskapet har endret seg betraktelig de siste årene. Det er mye snakk om datasentre med skyhøyt strøm- og vannforbruk som skal drive AI utviklingen. Men for bedrifter som ønsker å benytte lokal AI på utstyr man selv kontrollerer, finnes det gode alternativer innen både standard rack- og desktop formater. 

 

AI sluker videominne

De fleste med selv en gjennomsnittlig interesse for AI har nok fått med seg at GPU'er (skjermkort) er drivkraften bak ytelsen. Dette fordi AI modellene "lever" i VRAM (videominne). VRAM er betydelig mye raskere enn vanlig systemminne, og man trenger nok av det til at hele modellen man skal bruke får plass. Nå har vi rett nok fått modeller som er kraftig destillert ned til relativt små datastørrelser, men fortsatt er det ønskelig å kunne kjøre større modeller da man får tilgang til lengre kontekst, noe som øker kvaliteten på resultatene.

Våre systemer rettet mot AI benytter GPU'er fra Nvidias RTX 5000 serie, samt RTX Pro 6000 Blackwell. Her kan man få opptil 96GB VRAM på ett enkelt kort. Vi leverer også multi GPU løsninger i både desktop og rack.

 

OS

De fleste kundene våre bruker Linux som operativsystem ved AI arbeid. Vi leverer maskiner med Ubuntu og GPU drivere installert, og full AI stack etter ønske. De som foretrekker Windows kan selvfølgelig få det også.

 

En løsning tilpasset dine behov

Vi jobber med deg for å utarbeide en konfigurasjon som oppfyller akkurat dine behov. Er du usikker på nøyaktig hva du trenger? Ikke nøl med å ta kontakt; vi har lang erfaring i å hjelpe kundene våre i mål!