Nvidia DGX Spark: een AI-supercomputer voor op het bureau

De snelle opkomst van kunstmatige intelligentie zorgt voor een groeiende vraag naar krachtige systemen die AI-modellen lokaal kunnen draaien. Waar dergelijke rekenkracht traditioneel vooral in datacenters te vinden was, probeert Nvidia met de DGX Spark een deel daarvan naar het bureau van ontwikkelaars te brengen. De compacte AI-pc, waarvan ASUS de variant Ascent GX10 levert, richt zich op ontwikkelaars, onderzoekers en bedrijven die met grote AI-modellen willen experimenteren zonder afhankelijk te zijn van cloudinfrastructuur.

Hardware: Arm-cpu en Blackwell-gpu met enorm geheugen

GB10-superchip als hart van het systeem

De DGX Spark draait op Nvidia’s GB10-superchip, geproduceerd op TSMC’s geavanceerde N3-proces. Het cpu-gedeelte bestaat uit twintig Arm-cores: tien krachtige Cortex-X925-kernen en tien energiezuinige Cortex-A725-kernen. De chip is ontwikkeld in samenwerking met MediaTek.

Het grafische deel gebruikt een GPU op basis van Nvidia’s Blackwell-architectuur met 6144 cores. Dat is vergelijkbaar met de configuratie van de GeForce RTX 5070.

128GB gedeeld geheugen

Waar een RTX 5070 slechts 12GB videogeheugen heeft, beschikt de DGX Spark over een gedeelde geheugenpool van 128GB LPDDR5X. Dat geheugen is weliswaar ongeveer 60 procent langzamer dan het GDDR7-geheugen van een desktop-gpu, maar de capaciteit is ruim tien keer zo groot.

Juist dat grote geheugen maakt het mogelijk om omvangrijke AI-modellen lokaal te draaien. Sommige modellen passen zelfs niet in de 32GB videogeheugen van een high-end kaart zoals een RTX 5090, maar wel in het gedeelde geheugen van de DGX Spark.

Twee systemen koppelen voor extra rekenkracht

De cpu- en gpu-chips communiceren via NVLink-C2C, een interconnect met snelheden tot 600GB per seconde. Daarnaast beschikt het systeem over een ConnectX-7-poort waarmee twee DGX Spark-pc’s gekoppeld kunnen worden met een snelheid van 200Gbit/s.

Wanneer twee systemen worden verbonden, worden hun geheugen en rekenkracht gecombineerd. Daardoor kunnen nog grotere AI-modellen worden geladen, een aanpak die enigszins doet denken aan de vroegere SLI-opstellingen bij grafische kaarten.

Voor netwerkverbindingen heeft de Spark naast de ConnectX-7-poort ook een 10Gbit-ethernetpoort en ondersteuning voor Wi-Fi 7. Nvidia adviseert voor maximale prestaties een bekabelde verbinding te gebruiken.

Als desktopcomputer is de mini-pc uitgerust met HDMI 2.1 en vier USB-C-poorten. Eén daarvan wordt gebruikt door de meegeleverde USB-C-adapter die tot 240 watt vermogen kan leveren.

Prijzen: duizenden euro’s voor een AI-werkstation

Nvidia verkoopt een eigen Founders Edition van de DGX Spark, met een prijs vanaf ongeveer 4399 euro inclusief een 4TB-ssd. De fabrikant heeft inmiddels aangekondigd dat de adviesprijs zal stijgen.

Partners zoals ASUS bieden varianten met kleinere opslagcapaciteiten. De ASUS Ascent GX10 kost ongeveer:

• circa €3400 voor de 1TB-versie

• ongeveer €3800 voor de 2TB-variant

• rond €4300 voor de uitvoering met 4TB opslag

Daarmee positioneert ASUS zich momenteel als een van de goedkopere leveranciers van DGX Spark-systemen, al zijn de prijzen de afgelopen weken merkbaar gestegen.

Voor wie is de DGX Spark bedoeld?

Grotere AI-modellen lokaal draaien

Op papier levert de GPU van de DGX Spark vergelijkbare AI-prestaties als een RTX 5070. De theoretische prestaties liggen rond de 500 teraflops voor dense FP4-berekeningen en bijna 1 petaflop wanneer sparsity wordt toegepast.

Toch is het prijsverschil met een gewone pc aanzienlijk. Een desktop met RTX 5070 kost grofweg de helft. De belangrijkste reden om voor de DGX Spark te kiezen is daarom het enorme geheugen, waardoor aanzienlijk grotere AI-modellen lokaal kunnen draaien.

Offloaden van AI-taken

Een ander belangrijk gebruiksscenario is het ‘offloaden’ van AI-werk. Ontwikkelaars kunnen blijven werken op hun eigen pc of laptop, terwijl prompts via het netwerk naar de DGX Spark worden gestuurd. De mini-pc voert vervolgens de zware AI-berekeningen uit.

Zo blijft de hoofdcomputer beschikbaar voor andere taken.

Experimenteren of gevoelige data lokaal verwerken

Omdat de architectuur sterk lijkt op Nvidia’s serverhardware, kan de Spark ook worden gebruikt om AI-toepassingen te ontwikkelen voordat ze worden opgeschaald naar een datacenteromgeving.

Daarnaast kan lokale verwerking interessant zijn voor organisaties die met gevoelige data werken. Denk aan onderzoeksinstellingen, medische toepassingen of bedrijven die privacy-gevoelige informatie niet naar de cloud willen sturen.

In dat opzicht concurreert de DGX Spark met systemen zoals Apple’s Mac Studio of krachtige pc’s met AMD Ryzen AI Max+-processoren en grote hoeveelheden geheugen.

DGX OS: Nvidia’s eigen Linux-omgeving

Gebaseerd op Ubuntu

De DGX Spark ondersteunt geen Windows, omdat Nvidia’s Arm-soc daar geen ondersteuning voor biedt. In plaats daarvan levert het bedrijf een eigen Linux-distributie: DGX OS.

Dit besturingssysteem is gebaseerd op Ubuntu 24.04 LTS en gebruikt de bekende GNOME-desktopomgeving. Voor gebruikers voelt het grotendeels als een standaard Ubuntu-installatie, inclusief browser, e-mailclient, officesoftware en een appstore met Linux-applicaties.

Dashboard en webapps

Nvidia heeft wel enkele aanpassingen gedaan. Zo bevat het systeem een webdashboard waarin gebruikers via de browser inzicht krijgen in gpu-belasting, geheugenverbruik en systeemupdates.

Ook is er directe toegang tot Nvidia Build, een platform met handleidingen voor het installeren van AI-tools.

Nvidia Build en AI-apps installeren

Via Nvidia Build kunnen ontwikkelaars stap voor stap AI-applicaties installeren. Voorbeelden zijn ComfyUI of Open WebUI, inclusief de benodigde AI-modellen.

Hoewel sommige stappen via de Linux-terminal verlopen, is het proces relatief eenvoudig. In veel gevallen hoeven gebruikers slechts commando’s te kopiëren en in de terminal te plakken, waarna de installatie automatisch verloopt.

De installatietijd varieert sterk, vooral afhankelijk van de internetverbinding, omdat veel grote bestanden worden gedownload.

Werken via Windows-pc of MacBook

De DGX Spark kan ook op afstand worden gebruikt. Met de Nvidia Sync-app voor Windows, macOS en Linux kan een gebruiker via het netwerk verbinding maken met het systeem.

Na het invoeren van het IP-adres en de accountgegevens is het mogelijk om toepassingen zoals ComfyUI, Visual Studio Code of de terminal op afstand te bedienen. In de praktijk betekent dit dat de Spark in een netwerk kan draaien terwijl de gebruiker gewoon blijft werken op zijn eigen laptop of desktop.

Conclusie

Met de DGX Spark probeert Nvidia een brug te slaan tussen datacenter-hardware en lokale ontwikkelomgevingen. Dankzij het enorme gedeelde geheugen en de AI-gerichte architectuur kan het systeem modellen draaien die op een gewone desktop-gpu niet passen.

Voor ontwikkelaars, onderzoekers en organisaties die lokaal met grote AI-modellen willen werken, kan de mini-supercomputer een interessante optie zijn. Tegelijkertijd blijft de hoge prijs een belangrijke drempel, waardoor het systeem voorlopig vooral aantrekkelijk is voor professionele toepassingen en gespecialiseerde AI-ontwikkeling.