KI-Infrastruktur: Intel kratzt mit Gaudi 3 am Nvidia-Monopol

Im Markt für KI-Beschleuniger gibt es seit Jahren eigentlich nur eine Frage: Wie viele Nvidia-GPUs kann man bekommen - und zu welchem Preis? Mit dem Gaudi 3 versucht Intel, diese Frage zu verschieben. Nicht mit einem Frontalangriff, sondern mit einem gezielten Preisargument. Ob das reicht, ist eine andere Sache.

Nvidias Griff um den Markt ist fest - aber nicht unerschütterlich

Die Zahlen sprechen eine klare Sprache. Im KI-Beschleuniger-Segment liegt Nvidias Marktanteil nach Branchenschätzungen bei über 80 Prozent. Wer KI-Infrastruktur aufbaut, kommt an den Chips aus Santa Clara kaum vorbei - nicht wegen der Hardware allein, sondern wegen des Software-Ökosystems dahinter.

CUDA, Nvidias proprietäre Programmierumgebung, ist seit über 15 Jahren der De-facto-Standard für KI-Entwickler. Millionen von Modellen, Bibliotheken und Frameworks sind darauf ausgelegt. Dieser Burggraben ist das eigentliche Fundament der Marktmacht - nicht die Chip-Architektur.

Dass Nvidia diesen Vorsprung aktiv verteidigt, zeigen auch die Umsatzzahlen: Im zweiten Quartal des Fiskaljahres 2026 erzielte Nvidia einen Gesamtumsatz von 46,7 Milliarden US-Dollar, davon entfielen 41,1 Milliarden auf das Rechenzentrumsgeschäft - ein Plus von 56 Prozent gegenüber dem Vorjahr. Zum Vergleich: Intel rechnet für Gaudi 3 mit rund 500 Millionen Dollar Umsatz - ein Bruchteil davon.

Was Gaudi 3 tatsächlich kann

Intel hat mit Gaudi 3 einen Chip entwickelt, der auf dem 5-Nanometer-Prozess von TSMC basiert - derselbe Fertigungsknoten wie beim Nvidia H100. Gaudi 3 setzt auf eine Dual-Die-Architektur mit 64 Tensor Processing Cores, acht Matrix Multiply Engines und 128 GB HBM2e-Speicher mit einer Bandbreite von 3,67 TB/s.

Das ist mehr Speicher als beim H100 (80 GB), was für bestimmte Inferenz-Workloads ein echter Vorteil ist: Große Sprachmodelle lassen sich vollständig auf einer einzigen Karte halten, ohne dass aufwendiges Tensor-Parallelismus-Splitting nötig wird.

Beim Preis ist der Abstand noch deutlicher. Ein Gaudi-3-Beschleuniger kostet rund 15.625 US-Dollar pro Chip (als Achter-Paket für 125.000 US-Dollar), während ein Nvidia H100 mit etwa 30.678 US-Dollar gehandelt wird. Wer also ein Budget hat und keine CUDA-abhängigen Workloads betreibt, bekommt mit Gaudi 3 rechnerisch doppelte Chip-Kapazität für dasselbe Geld.

Wo Intel punktet - und wo nicht

Die Leistungsvergleiche sind differenziert. In LLM-Inferenz-Tests lieferte Gaudi 3 je nach Szenario zwischen 95 und 170 Prozent der Leistung des H100 - beim Falcon-180B-Modell sogar das Vierfache. Beim Training großer Sprachmodelle beansprucht Intel einen Vorsprung von bis zu 40 Prozent gegenüber dem H100 für GPT-3-ähnliche Architekturen.

Für Unternehmen, die KI-Inferenz in großem Maßstab betreiben - etwa für Qualitätskontrolle, prädiktive Wartung oder Sprachverarbeitung -, kann Gaudi 3 in bestimmten Szenarien eine wirtschaftlich attraktive Alternative sein. Unabhängige Benchmarks bestätigen Kosteneinsparungen von 30 bis 50 Prozent für gut unterstützte Modellarchitekturen gegenüber dem H100.

Doch es gibt klare Grenzen. Bei Workloads, die auf stark optimierten CUDA-Bibliotheken wie cuBLAS oder FlashAttention aufbauen, verliert Gaudi 3 deutlich. FP64-Berechnungen für wissenschaftliche Anwendungen erreichen nur etwa 30 Prozent des H100-Durchsatzes. Und: Grafik-Workloads werden gar nicht unterstützt.

Das eigentliche Problem: Software schlägt Hardware

Intels größte Herausforderung ist nicht die Chip-Architektur - es ist das Ökosystem. Nvidias CUDA-Plattform hat über 15 Jahre Vorsprung. Nahezu jedes KI-Framework, jede Bibliothek, jedes Optimierungstool ist primär für CUDA entwickelt. Wer auf Gaudi 3 wechselt, muss Entwickler umschulen, Workflows anpassen und mit Kompatibilitätslücken leben.

Intel setzt dagegen auf offene Standards: Die Gaudi-Architektur nutzt Standard-Ethernet statt Nvidias proprietärem NVLink, was die Netzwerkkosten senkt. Gaudi 3 integriert 24 RoCE-Ports mit je 200 Gbit/s direkt im Chip - das eliminiert externe InfiniBand-Adapter und spart laut Intel bis zu 50.000 US-Dollar pro 8-GPU-Knoten. Das ist ein konkreter Kostenvorteil für Unternehmen, die skalierbare KI-Cluster aufbauen wollen.

Doch die Marktdurchdringung bleibt bescheiden. Intel hat die Lieferziele für Gaudi 3 im Jahr 2025 um über 30 Prozent nach unten korrigiert - von ursprünglich 300.000 bis 350.000 auf 200.000 bis 250.000 Einheiten. Zum Vergleich: Nvidia liefert allein im Rechenzentrumsgeschäft Quartalsumsätze von über 40 Milliarden Dollar.

Photo: Umberto / Unsplash

Was das für Industrieunternehmen bedeutet

Für produzierende Unternehmen, die KI-Infrastruktur aufbauen oder erweitern, ergibt sich daraus eine nüchterne Entscheidungsmatrix:

• Wer bereits tief in CUDA-basierten Workflows steckt, sollte den Wechsel zu Gaudi 3 nicht unterschätzen. Die Migrationskosten - Entwicklerzeit, Tooling, Testaufwand - können den Preisvorteil schnell aufzehren.
• Wer neu aufbaut und auf Standard-Inferenz-Workloads mit großen Sprachmodellen setzt, sollte Gaudi 3 ernsthaft in die Evaluation einbeziehen. Der Preisunterschied von rund 50 Prozent ist bei größeren Cluster-Investitionen erheblich.
• Wer Energieeffizienz priorisiert, findet in Gaudi 3 einen Chip mit 600 Watt TDP gegenüber 700 Watt beim H100 - ein Unterschied, der bei Tausenden von Beschleunigern in der Jahresbilanz spürbar wird.

Nvidia bleibt das Maß aller Dinge - nicht weil die Konkurrenz schläft, sondern weil das Ökosystem einen Vorsprung hat, den man nicht in einem Chip-Zyklus aufholt. Intel kratzt am Monopol. Aber kratzen ist nicht brechen.

Die nächste Generation von Intel-KI-Beschleunigern - intern als Falcon Shores bekannt - soll den Abstand weiter verringern. Ob das gelingt, hängt weniger von der Siliziumarchitektur ab als davon, ob Intel das Software-Ökosystem schnell genug schließen kann.