Als langjährige Technologieinvestoren haben wir gesehen, wie die Grenzen zwischen Anwendungen und Infrastruktur schneller verschwimmen als je zuvor seit der Cloud-Ära. Battery General Partner Dharmesh Thakker hat diesen Wandel kürzlich in seinem LinkedIn-Beitrag nachgezeichnet. Das Fazit: Das Cloud-Computing-Zeitalter war das goldene Zeitalter der Risikokapitalinvestoren, und die Gewinnerin war das "fette Mittel" – denken Sie an Datenbanken, Beobachtbarkeits- und Sicherheitstools zwischen Geschäftsanwendungen und der rohen Infrastruktur darunter. Die SaaS- und Dateninfrastrukturschicht lag bequem über Chips und Rechenleistungen, um die sich jemand anderes – nämlich die Hyperscaler – Sorgen machte. Doch heute, da KI-Anwendungen nun eng mit den Rechenzentren, Chips und deren Infrastruktur verknüpft sind, sind die Infrastrukturentscheidungen entscheidend geworden, um die Margen zu steigern und letztlich ein langlebiges Unternehmen aufzubauen.

Die Unternehmen, die derzeit in der KI gewinnen, stehen nicht einfach auf einer Seite dieser Linie; stattdessen besitzen sie den vollen Stapel, von Erde bis zu Tokens.

Nehmen wir Cursor als Beispiel. Cursor begann als KI-gestütztes Autovervollständigungstool, das vollständig von Drittanbieter-Foundation-Modellen angetrieben wurde – hauptsächlich von OpenAIs GPT-4 und Anthropics Opus. Aber es blieb nicht lange ein Code-Completion Plugin. Es entwickelte sich zu einer vollständig agentischen IDE (integrierter Entwicklungsumgebung) und begann unterwegs, Composer zu entwickeln, ein eigenes, maßgeschneidertes, spezialisiertes Modell, das darauf trainiert ist, wie Ingenieure tatsächlich in Cursor arbeiten.

Damit wurde Cursor zu einem vollständig vertikal integrierten KI-Unternehmen –Daten, Modell und Harness– das als ein System zusammenarbeitet. Mit der Übernahme von SpaceX wird nun sowohl für Training als auch für Schlussfolgerung Rechenleistung hinzugefügt. Und morgen, wenn Elon sich entscheidet, einen Chip zu kaufen oder zu bauen, wäre Cursor das erste Unternehmen außerhalb von Google, das den gesamten Stack besitzt – von Chips bis zu Tokens.

Der Weg des Cursors könnte als Referenzarchitektur für erfolgreiche Unternehmen für agentische KI-Anwendungen dienen. Um diese These unter Druck zu stellen, haben wir kürzlich VPs of Engineering von führenden KI-Anwendungsunternehmen zusammengebracht und sie mit Führungskräften der KI-Infrastruktur (Halbleiter, Inferenz und Modellbauer) bei gutem Wein und Essen zusammengebracht. Die Diskussionsthemen: Wie konvergieren diese einst getrennten Welten und was braucht es, um ein erfolgreicher Ingenieur im Zeitalter der KI zu sein?

Im Laufe des abendlichen Gesprächs traten drei Schichten auf.

1. Die Full-Stack-KI-These ist heute eine echte Debatte, nicht nur ein Slogan.

Ein Jahrzehnt lang hat uns das SaaS-Zeitalter gelehrt, dass Infrastruktur und Anwendungen als getrennte Schichten gedeihen können. Die provokante Frage auf dem Tisch: Zerstört KI das? Ein Lager argumentierte, dass der Aufbau eines dauerhaften KI-Unternehmens erfordert, die gesamte Kette zu besitzen: Modell, Inferenz und Workflow, weil das der einzige Ort ist, an dem dauerhafte Vorteile liegen.

Die Reise dorthin sieht ungefähr so aus. Beginnen Sie mit Spitzen-Closed-Source-Modellen von Anthropic oder OpenAI, um schnell voranzukommen und Produkt-Markt-Fit zu finden. Sobald du dort bist, wechselst du zu Open-Source- und Open-Weight-Modellen wie GLM, Kimi und führe deine eigenen Inferenzen für Kosten und Kontrolle durch. Der Haken ist, dass diese Migration schwieriger ist, als es klingt: Prompt Engineering ist sehr modellspezifisch, daher führt das Wechseln von Modellen dazu, dass Dinge auf nicht offensichtliche Weise kaputt gemacht werden. Die Teams, die dies gut machen, behandeln die Modellleistung als Disziplin, indem sie tiefgehende Bewertungen und Benchmarks erstellen, um ein Modell auszutauschen und zu messen, ob die Qualität hält. Wie ein Infrastrukturleiter beim Abendessen berichtete, verhält sich sein Modellleistungsteam wie quantitative Trader, die nach "Alpha" in der Kernel- und Matrixmultiplikationsoptimierung suchen. Allein eine architektonische Änderung machte die Schlussfolgerung eines Kunden über Nacht um ein Vielfaches günstiger – ein Beweis, dass kleine Ineffizienzen, die in großem Maßstab genutzt werden, echte Einsparungen bringen.

Die Gegenansicht besagte, dass SaaS-ähnliches Layering weiterhin funktioniert und nicht jedes Anwendungssoftwareunternehmen ein chip-bewusstes Modellgeschäft werden muss, um erfolgreich zu sein. Klar ist, dass die Antwort nicht mehr offensichtlich ist. Die Kluft zwischen leitenden Ingenieursführungskräften ist selbst ein Signal dafür, dass die alte Annahme – auf dem Modell eines anderen aufzubauen – nun infrage gestellt wird.

2. Inferenztechnik wird für jedes KI-Unternehmen zu einem neuen Muskel.

Inferenz war früher etwas, das man an einen Modellanbieter ausgelagert hat; Zunehmend ist es eine Fähigkeit, die man intern entwickelt. Da immer mehr Unternehmen Open-Source-Modelle übernehmen und ihre eigenen Inferenzen betreiben, wird das Know-how, dies effizient umzusetzen, schnell zu einem Kernbestandteil jeder Plattformorganisation. Der Grund ist einfache Ökonomie: Wie gut Sie ein Modell bedienen, bestimmt direkt Ihre Bruttomarge, sodass es zu einem erstklassigen technischen Problem wird, mehr aus jedem Token herauszuholen, und nicht nur eine nachträgliche Sorge.

Ein zweites, verwandtes Thema: Training und Inferenz sind grundsätzlich unterschiedliche Berufe und erfordern unterschiedliche Hardware, um die Token-Effizienz zu maximieren. Training ist ein massiver, einmaliger Versuch, ein Modell zu lehren; Inferenz ist die stetige, latenzempfindliche Arbeit, Anfragen in großem Maßstab zu beantworten. Die für das eine gebaute Cluster sind meist schlecht für das andere geeignet. Wir sehen bereits die ersten Anzeichen dieser Spaltung. Google hat kürzlich seine neueste Chipgeneration in zwei unterschiedliche Designs unterteilt, eines für Training und eines für Inferenz. Erwarten Sie mehr von dieser Spezialisierung, da die Agentenära die Diskrepanz zu teuer macht, um sie zu ignorieren.

3. Tokenomik und die Effekte zweiter Ordnung kodierender Agenten

Die Ökonomie der KI-nativen Entwicklung besteht nicht mehr aus Rundungsfehlern. Ein Unternehmen am Tisch gibt etwa 1.000 Dollar pro Ingenieur und Monat für Coding-Agenten aus und erwartet, dies mit leistungsfähigeren Modellen wie Fable leicht zu verdreifachen. In einer Organisation mit ~200 Ingenieuren entspricht das jährlich 5–7 Millionen Dollar an Token-Ausgaben. Das ist ein enormer Kostentreiber – einer, der exponentiell wächst, da die Agenten mehr Arbeit übernehmen.

Das zwingt die Ingenieurteams dazu, eigene interne Systeme zu entwickeln, um die Token-Ausgaben zu verwalten und zu optimieren. Am auffälligsten sind LLM-Gateways, die zwischen Ingenieuren und den zugrundeliegenden Modellen liegen, jede Anfrage an das kostengünstigste Modell für die Aufgabe routen und aggressiv cachen, um zu vermeiden, dass für dieselbe Arbeit doppelt bezahlt wird. Coinbase* ist ein gutes Beispiel. Indem Ingenieure standardmäßig auf günstigere Openweight-Modelle wie GLM 5.2 oder Kimi 2.7 über ein internes Gateway gesetzt und Smart Routing und Caching hinzugefügt wurden, halbierte es die KI-Kosten, obwohl die Token-Nutzung weiter stieg. Das übergeordnete Signal ist, dass Kostenmanagement zu einer erstklassigen Kennzahl für Ingenieurteams wird, die direkt neben Latenz und Zuverlässigkeit liegt.

Die nächste Grenze: Ingenieure, die beide Sprachen sprechen

Wenn der Stack in integrierte Systeme zusammenfällt, werden die wertvollsten Ingenieure nicht diejenigen sein, die nur Anwendungen bauen oder nur Infrastruktur optimieren. Sie werden diejenigen sein, die in beidem fließend sind, Feinabstimmung, Destillation und Inferenzökonomie genauso gut verstehen wie UX und Workflow-Design, und die wissen, wann der Besitz einer Schicht echten Vorteil bringt im Vergleich dazu, wann ihr Aufwand besser anderswo investiert wird.

Das verändert stillschweigend, wie sich die besten Unternehmen organisieren. Rollen werden zunehmend nicht mehr danach abgeordnet, welche Ebene des Stacks du besitzt, sondern nach dem Ergebnis, für das du verantwortlich bist. Es ist das organisatorische Äquivalent des Wechsels von der Sitz- zu ergebnisbasierten Preisgestaltung: Wert wird an dem gemessen, was geliefert wird, nicht daran, wo man im Stapel sitzt. Teams, die weiterhin Schicht für Schicht Rollen abdecken, lassen einen überproportionalen Vorteil.

Nirgendwo wird das deutlicher als in der Entwicklung der Einstellungsprofile. Das Model-Performance-Team existierte vor achtzehn Monaten kaum; heute ist es eine der begehrtesten Funktionen in der KI, und die darin gefüllten Profile hätten vor einem Jahr fehl am Platz gewirkt. Viele sind Quant-Trader und HFT-Ingenieure, die wegen ihrer Latenz-Obsession, ihrem Kosten-per-Zyklus-Instinkt und ihrer Eval-and-Backtest-Disziplin geschätzt werden, die fast perfekt auf die effiziente Bereitstellung von Modellen abgestimmt sind. Andere kommen aus einem quantitativen wissenschaftlichen Hintergrund, sind fließend in groß angelegten Daten, Signalextraktion und eingeschränkter Optimierung vertraut – genau das Werkzeug, um mehr aus Inferenz, Feinabstimmung, Kontext- und Workflow-Orchestrierung und sogar Sprachlatenz herauszuholen.

Die Billionen-Dollar-Frage, ob Apps und Infrastruktur letztlich fusionieren oder getrennt bleiben, ist noch offen. Aber die Ingenieure, die sich auf die verschmolzene Welt vorbereiten, sind die, auf die wir setzen würden.