Digits: Das ist Nvidias KI-Supercomputer für zu Hause

Mit dem Project Digits legt Nvidia den Grundstein, um seine Vormachtposition im KI-Business zu festigen. Alle mit dem System erstellten und getesteten KI-Modelle sollen anschließend in KI-Cloud-Systemen von Nvidia laufen.

Viel Rechenkraft auf dem Schreibtisch

Im Project Digits befindet sich der Grace-Blackwell-Superchip, oder kurz GB10, von Nvidia. Die Blackwell-GPU schafft bei KI-Berechnungen bis zu einem Petaflop. Das sind 1000 Teraflops. Zum Vergleich: Die aktuellen Copilot+ PCs mit Snapdragon-Chips haben 45 Teraflops. Zum System gehören außerdem die neueste Generation an CUDA-Rechenkernen sowie die fünfte Generation der Tensor-Rechenkern. Diese sind via NVLink-C2C mit den 20-ARM-Rechenkernen der Grace-CPU verbunden.

Das Digits-System verarbeitet bis zu 200 Milliarden Parameter. Ist das KI-Modell größer, lassen sich zwei der Desktop-Rechner verbinden, um bis zu 405 Milliarden Parameter zu verarbeiten. Das entspricht dem Umfang von Llama 3.1, dem aktuell größten KI-Modell von Meta.

126 Gigabyte Arbeitsspeicher und vier Terabyte SSD-Speicher (NVMe) gehören zur Standardausstattung von Digits. Das System läuft auf dem linuxbasierten Nvidia DGX OS und bietet Zugriff auf die KI-Software-Bibliothek von Nvidia. Es unterstützt zudem Frameworks wie PyTorch, Python oder Jupyter Notebook.

Arbeit an KI-Modellen soll erleichtert werden

Nvidias CEO Jensen Huang zeigt sich in der Pressemitteilung des Unternehmens ambitioniert. Er will mit dem Project Digits den Grace Blackwell Superchip Millionen von Entwicklern und Entwicklerinnen zur Verfügung stellen. «Placing an AI supercomputer on the desks of every data scientist, AI researcher and student empowers them to engage and shape the age of AI.»

Ab Mai 2025 will Nvidia sein Project Digits verkaufen. Kostenpunkt 3000 Dollar. Nicht günstig, dürfte aber schwer werden, einen anderen Rechner mit so viel Rechenkraft pro Dollar zu finden.