Ein Unternehmen kauft teure Grafikprozessoren, um damit bereits trainierte KI-Modelle auszuführen – Inference-Aufgaben. GPUs sind für das Training optimiert, einer rechenintensiven Phase, die hohe Parallelleistung braucht. Für die Inference zählen Effizienz und niedrige Betriebskosten, nicht maximale Rohleistung. Das Startup General Compute hat jetzt einen 400-Millionen-Dollar-Kredit von der Investmentfirma Upper90 erhalten – besichert durch spezialisierte Inference-Chips. Es könnte der erste Kredit dieser Art sein.
Das Geschäftsmodell von General Compute
General Compute wurde von CEO Finn Puklowski und CTO Jason Goodison gegründet. Im Mai startete es mit einer 15-Millionen-Dollar-Startkapitalrunde. Das Unternehmen baut eine Neocloud – eine Cloud speziell für KI-Workloads, anders als die Infrastruktur von AWS oder Azure. Die Basis bilden SN50-Chips von SambaNova, unterstützt von Intel. Diese Chips sind für Inference entwickelt: stromsparend, keine teuren Wasserkühlungen, flexibler einsetzbar als GPUs. General Compute verspricht eine 16-mal schnellere Inference als vergleichbare GPU-Clouds.
Wie kommt ein neues Unternehmen an genug dieser Chips? Upper90 hilft. Mitgründer und CEO Billy Libby, ehemaliger quantitativer Trader bei Goldman Sachs, erprobte diesen Ansatz 2021. Damals vergab Upper90 einen Kredit an das Startup Crusoe – besichert durch GPUs. Es war der erste Kredit, der den Wert fortschrittlicher Chips als Sicherheit nutzte. Traditionelle Banken mieden solche Deals wegen der Unsicherheit über GPU-Werte. Nachdem CoreWeave chip-besicherte Kredite zu einem Geschäftsmodell und später zu einem Börsengang machte, ist diese Finanzierungsform heute üblich.
Chips als neue Kreditsicherheit
„Als wir als erste Gruppe Nvidia-GPUs finanziert haben, war der Markt ineffizient“, sagte Libby. „Wir konnten als frühe Teilnehmer etwas aufbauen und für das Risiko entschädigt werden.“ GPUs sind heute gut verstanden, vielleicht überkauft. Upper90 richtet den Blick auf Inference-Chips. „Wir glauben, dass Open-Source-Modelle wichtig werden. Wir suchten nach einem Player im Inference-Bereich. Nicht jeder braucht einen Supercomputer, aber jeder braucht Inference und KI.“
Diese These gewinnt an Fahrt. Unternehmen wie OpenRouter und Fireworks erzielten hohe Bewertungen. Neue Modelle wie Kimis K3 zeigen in Codierungs-Benchmarks, dass sie mit Anthropic und OpenAI mithalten können. Chip-Hersteller wie Groq und Cerebras ziehen Interesse auf sich. General Computes Zugang zu Chips außerhalb des Nvidia-Ökosystems ist bedeutsam. TensorWave, ein weiteres KI-Infrastruktur-Unternehmen, setzt mit AMD auf eine ähnliche Strategie.
Inference wird zum Massengeschäft
„Es gibt Chips, die skalieren und eine bessere Gesamtbetriebskosten oder höhere Geschwindigkeit als Nvidia bieten – aber noch wenige Abnehmer“, sagte Puklowski. „Durch die Zusammenarbeit mit Upper90 geht es nicht nur um ein Startup, das Geld für Rechenleistung bekommt. Das ist das erste Signal: Kapital organisiert sich, Nvidias Monopolstellung bröckelt.“
Der 400-Millionen-Dollar-Kredit von Upper90 an General Compute ist mehr als eine Finanzierungsrunde. Er zeigt, wohin die Reise in der KI-Infrastruktur geht. Das Training großer Modelle erfordert teure GPUs. Die Ausführung dieser Modelle – Inference – wird zum Massengeschäft. Kosten pro Anfrage, Energieeffizienz und Skalierbarkeit zählen. Spezialisierte Inference-Chips wie der SambaNova SN50 bieten einen Vorteil, vor allem kombiniert mit Open-Source-Modellen ohne Lizenzgebühren. Die Finanzierung auf Basis dieser Chips zeigt: Der Markt investiert in diese Richtung, GPU-Finanzierer positionieren sich neu.
Die Analogie zum Supersportwagen und zum Kleinwagen passt. Für das Training braucht es die Kraft eines Supersportwagens – GPUs für tausende parallele Berechnungen. Für die alltägliche Nutzung reicht ein sparsamer Kleinwagen. Diese Alltagstauglichkeit wird den Großteil der KI-Kosten ausmachen. Unternehmen, die früh gehen, sichern sich einen Vorteil.
Offene Fragen und Risiken
Skepsis bleibt angebracht. Die Behauptung von General Compute, eine 16-mal schnellere Inference zu bieten, muss sich im Praxiseinsatz beweisen. Die Skalierbarkeit der SambaNova-Chips ist nicht im großen Maßstab erprobt. Upper90 geht ein Risiko ein. Sollte der Markt langsamer wachsen, könnten die Sicherheiten an Wert verlieren. Genau dieses Risiko bestand auch bei GPU-Krediten – und sie wurden zur Goldgrube.
Für Entwickler bedeutet dieser Deal: Günstigere Inference-Dienste könnten bald verfügbar sein. Open-Source-Modelle wie Llama 3 oder Mistral lassen sich zu einem Bruchteil der Kosten betreiben. Das senkt die Hürde für KI-Startups und ermöglicht neue Geschäftsmodelle. Rechenzentren können flexibler auf verschiedene Chip-Architekturen setzen, statt an Nvidia gebunden zu sein. Für die Chip-Industrie ist es ein Signal: Der Kampf um den Inference-Markt beginnt.
Bleibt die Frage, ob dieser Deal den Wendepunkt markiert oder eine Randnotiz bleibt. GPU-Finanzierung belohnte frühe Moves. Crusoe bekam 2021 seinen GPU-Kredit, viele zweifelten. Heute ist Crusoe ein Milliardenunternehmen. General Compute und Upper90 setzen auf die gleiche Dynamik – mit einer neuen Chip-Generation. Die kommenden Monate zeigen, ob die Rechnung aufgeht. Klar ist: Die Dominanz von Nvidia bekommt Risse, Kapital strömt in die Lücken.
Quelle: techcrunch.com
