Die Kosten der IT, die zur Förderung der aktuellen KI-Revolution benötigt wird, können nur als schwindelerregend bezeichnet werden. Die Finanzierung der wichtigsten KI-Supercomputer – jener Rechner, die Unternehmen wie OpenAI und Anthropic antreiben– hat sich seit ihrer Errichtung etwa jedes Jahr verdoppelt . Allein der GPT-4-Cluster kostete Hunderte von Millionen Dollar, während der Colossus-Supercomputer von xAI mit 10 Milliarden Dollar zu Buche schlug. Und wir befinden uns noch in der Anfangsphase, wobei die stetig steigende Nachfrage nach KI weitere Investitionen in die Infrastruktur nach sich zieht. Für diejenigen unter uns, die viel Zeit damit verbringen, darüber nachzudenken, wo in der Technologie dauerhafter Wert geschaffen wird, ist diese Entwicklung schwer zu ignorieren – und noch schwerer zu überschätzen.

Bei KI erleben wir nicht einfach nur die Entstehung einer neuen Softwarekategorie. Wir erleben eher so etwas wie einen industriellen Ausbau. Und dies bestärkt uns in unserer Überzeugung, dass ein Großteil des mit KI zu schaffenden Wertes nicht nur in der Software, sondern in mehreren Schichten eines neuen, entstehenden KI-Infrastruktur-Stacks liegen wird.

KI stellt eine grundlegend andere Art von Arbeitslast dar.

Traditionelle Software besteht aus Code, CPUs und Speicherplatz. Es ist relativ leicht, schnell einsatzbereit und einfach auszutauschen. KI-Systeme sind etwas ganz anderes: Daten, Beschleuniger, Energie, Vernetzung und Orchestrierung arbeiten alle zusammen. Eine hilfreiche Analogie: Das Training eines KI-Modells ist wie der Bau einer Fabrik. Inferenzanalysen durchzuführen ist wie der Betrieb einer solchen Fabrik im großen Maßstab, rund um die Uhr und unter hohem Druck.

Dieser Wandel von Software-Workloads zu industriellen Workloads hat enorme Auswirkungen darauf, wo im Bereich der KI Wertschöpfung entsteht und welche Unternehmen diese Wertschöpfung realisieren. In jeder vorangegangenen Computerwelle, von Client-Server über Internet bis hin zur Cloud, erwies sich die Infrastrukturschicht letztendlich als der Ort, an dem sich ein dauerhafter Wert anhäufte. Nicht immer die auffälligste Schicht. Nicht immer am einfachsten zu demonstrieren. Aber diejenige, von der alles andere abhing.

Bei der KI verhält es sich ähnlich, allerdings wird ihre Infrastrukturschicht schneller und mit größerem Kapitalaufwand aufgebaut als alles, was vorher da war.

Warum Infrastruktur sich im Laufe der Zeit durchsetzt

Es gibt drei Dynamiken, die Infrastrukturanbietern gegenüber Anbietern auf Anwendungsebene stets einen Vorteil verschaffen.

Kostenkurven sind wichtiger als Funktionszyklen: Die Unternehmen, die die Kosten pro Produktionseinheit kontinuierlich senken können, setzen sich langfristig durch, unabhängig davon, wer bei der Markteinführung das beeindruckendste Produkt hat.

Zuverlässigkeit schlägt Innovation: Wenn eine Arbeitslast geschäftskritisch wird, sind konstante Verfügbarkeit und vorhersehbare Latenz wichtiger als neue Funktionen.

Und Standardeinstellungen schlagen Differenzierung: Sobald eine Technologie zum ersten Mittel der Wahl für Entwickler wird, summieren sich die Wechselkosten still und leise und bilden einen echten Burggraben.

Infrastruktur ist der Ort, an dem Beständigkeit herrscht.

Der Moment der Größenveränderung enthüllt alles

Alle sehen gut aus, bevor sie mit dem Skalieren beginnen. Mit handelsüblicher Infrastruktur lässt sich eine einigermaßen funktionsfähige KI-Anwendung erstellen, und sie funktioniert auch einwandfrei – bis sie es nicht mehr tut. Der entscheidende Moment ist erreicht, wenn die GPU-Kosten sprunghaft ansteigen, wenn Latenzzeiten die Konversionsraten beeinträchtigen und wenn ein Ausfall zu Umsatzeinbußen führt. Dann zeigt sich, ob die vor sechs Monaten getroffenen Architekturentscheidungen Bestand haben oder scheitern.

Das ist auch der Grund, warum die besten Infrastrukturunternehmen anfangs so schwer zu erkennen sind. Ihr Wert ist in einer Demo nicht erkennbar. Niedrigere Inferenzkosten, höhere Auslastung und Verfügbarkeit, vorhersehbare Latenz unter Last – all das löst in einer Präsentation keinen Beifall aus. Aber sobald man in großem Umfang operiert, schlagen sie sich dramatisch in der Gewinn- und Verlustrechnung nieder.

Baseten* beispielsweise liefert eine mehr als 10-mal schnellere Transkription von AI Whisper-Sprache/Spracherkennung als die OpenAI-Baseline. So ein Leistungsvorsprung sieht auf einer Rutsche nicht gerade aufregend aus. Aber es sieht nach einem Überlebenskampf aus, wenn Ihre Inferenzkosten Ihre Gewinnmargen auffressen.

Der Stapel, den wir beobachten

Der KI-Infrastruktur-Stack umfasst fünf miteinander verbundene Schichten:

• Compute – die GPUs, Beschleuniger und kundenspezifischen Siliziumchips leisten die Hauptarbeit.
• Daten und Speicherung – wie Daten für Training und Inferenz bewegt und strukturiert werden.
• Netzwerktechnik und Systeme – die Latenz und Bandbreite, die bestimmen, wie effizient alles miteinander kommuniziert.
• Orchestrierung – Bereitstellung, Terminplanung, Kostenkontrolle und Sicherheit.
• Und schließlich die Modelle selbst, in denen der algorithmische Wert letztendlich liegt.

Auf jeder Ebene gibt es aufstrebende Führungskräfte. Die interessante Frage, mit der wir uns die meiste Zeit beschäftigen, ist, welcher dieser Anführer sich als wirklich unersetzlich erweisen wird. Unser Rahmen ist einfach: Beseitigt dieses Unternehmen einen echten Engpass, senkt es die Kosten pro Intelligenzeinheit spürbar oder ist es so tief im System verankert, dass ein Rauswurf nicht lohnenswert ist? Dünne Wrapper und undifferenzierte Middleware lassen Wert an die darüber und darunter liegenden Schichten durchsickern. Die Unternehmen, die sich an einer realen Engstelle im System orientieren, werden diese anhäufen.

Die nächste Grenze: Jenseits der irdischen Beschränkungen

Die Einschränkungen sind nicht mehr rein rechnerischer Natur. Stromversorgung, Kühlleistung, Netzwerklatenz und Datensouveränität entwickeln sich mit dem Wachstum der KI-Infrastruktur zu echten Engpässen. Wir beginnen zu erkennen, dass die Möglichkeiten traditioneller Rechenzentren begrenzt sind, und es entstehen neue Infrastrukturparadigmen für den Aufbau, die Kühlung, die Vernetzung und die Platzierung von Rechenkapazitäten, um die Kosten- und Ausfallsicherheitskurven neu zu gestalten.

Unsere These

Wir glauben, dass das nächste Jahrzehnt der KI weniger davon geprägt sein wird, welche Anwendung sich durchsetzt, als vielmehr davon, welche Infrastrukturschichten unverzichtbar werden. Unternehmen, die es wert sind, unterstützt zu werden, sind diejenigen, die Systeme entwickeln, die im großen Maßstab eine größere Bedeutung haben als in einer Demo – Systeme, bei denen sich frühe architektonische Entscheidungen zu dauerhaften technischen Wettbewerbsvorteilen, längeren Kundenbeziehungen und den Arten von Potenzgesetz-Ergebnissen ausweiten, die Infrastrukturunternehmen schon immer erzielt haben, wenn sie das richtige Timing treffen.

Der industrielle Ausbau ist im Gange. Wir investieren in die Technologie, die den Betrieb ermöglicht.