Neoclouds erklärt:Warum KI GPU-fokussiertes Cloud Computing braucht

KI-Workloads werden in praktisch jeder Branche zum Mainstream. Doch mit der steigenden Nachfrage nach KI steigt auch die Belastung der Infrastruktur. Leider sind die herkömmlichen Optionen für den Zugriff auf Hochleistungsrechner unzureichend, was Unternehmen dazu veranlasst, nach Alternativen zu suchen. Einige wenden sich an Neoclouds, eine neue Art von Rechendienstanbietern, die sich auf GPU-zentrierte Angebote konzentrieren.

Diese neuen Anbieter gewinnen aufgrund des Wandels in der Datenverarbeitung zunehmend an Interesse. eine, die durch eine wachsende Abhängigkeit von GPUs für KI gekennzeichnet ist. GPUs eignen sich zwar gut für die Parallelverarbeitungsanforderungen von KI-Training und -Inferenz, sie sind jedoch bekanntermaßen teuer und Mangelware. Eine High-End-GPU kann Zehntausende von Dollar kosten, und das nur, wenn ein Unternehmen eine finden kann. Beschaffungszyklen sind langwierig, Vorlaufzeiten unvorhersehbar und die IT-Teams von Unternehmen haben häufig Schwierigkeiten, ausreichende Kapazitäten zu beschaffen, um die Nachfrage zu decken.

Hyperscale-Cloud-Anbieter wie AWS, Google Cloud und Azure versuchen, diese Lücke zu schließen, indem sie GPU-Instanzen und GPUs als Service anbieten. Für viele Organisationen funktioniert dieses Modell, aber nur bis zu einem gewissen Grad.

Cloudbasierte GPU-Instanzen bieten Flexibilität, Skalierbarkeit und schnelle Bereitstellung. Doch mit zunehmender Nutzung steigt auch die Rechnung. Das Pay-as-you-go-Modell wird in großem Maßstab schnell zu kostenintensiv, insbesondere für anhaltende Arbeitslasten wie LLM-Training (Large Language Model), Feinabstimmung oder Echtzeit-Inferenz über Unternehmensanwendungen hinweg.

Infolgedessen befinden sich viele Unternehmen in einer Zwickmühle (knappe und teure Infrastruktur vor Ort) und einer schwierigen Lage (hohe GPU-Kosten für die öffentliche Cloud).

Betreten Sie Neoclouds

In diesem Umfeld entsteht eine neue Kategorie von Computing-Anbietern:der Neocloud-Anbieter. Neocloud-Infrastrukturanbieter bieten leistungsstarkes Computing, das sich stark auf GPUs konzentriert, zu günstigeren Preisen an (zumindest ihrer Meinung nach). Dies erreichen sie durch die Nutzung unkonventioneller Ursprünge, neuer Wirtschaftsmodelle und unterschiedlicher Infrastrukturstrategien.

Einige Neoclouds gehen beispielsweise auf das Mining von Kryptowährungen zurück. Während des Kryptowährungsbooms des letzten Jahrzehnts bauten Tausende von Minern weltweit Rechenzentren mit GPU-Servern, die für den Mining-Betrieb optimiert waren. Als sich der Markt für Kryptowährungen abkühlte und das Mining weniger profitabel wurde, standen diese Betreiber vor großen Mengen ungenutzter GPU-Kapazität. Anstatt diese Hardware in einem Lagerhaus verfallen zu lassen, haben einige ihre Geräte für KI-Workloads umfunktioniert und so war die Neocloud geboren.

Andere in diesem Bereich sind speziell gegründete Start-ups, die die Möglichkeit sahen, eine kostengünstigere Alternative zu den Hyperscalern anzubieten, indem sie das Preis-Leistungs-Verhältnis optimieren und den Overhead des Legacy-Cloud-Betriebs umgehen. Einige bauen auf Open-Source-Software-Stacks auf und befinden sich in kostengünstigen Rechenzentren. andere bündeln überschüssige GPU-Kapazität über dezentrale Netzwerke und bilden so eine Art „GPU-Spotmarkt“, den Unternehmen zu geringeren Kosten erschließen können.

Vorteile des Neoclouds-Modells

Für Unternehmen, die KI-Rechenleistung ohne die exorbitanten Kosten suchen, behaupten Neocloud-Anbieter, dass sie mehrere Vorteile bieten können, darunter:

Geringere Kosten pro GPU-Stunde :Neoclouds verlangen oft einen Bruchteil dessen, was Hyperscaler für vergleichbare GPU-Instanzen verlangen. Sie behaupten, dass ihre schlanken Betriebsmodelle und Hardware-Wiederverwendungsstrategien zu echten Einsparungen führen.

Dedizierter Zugriff :In vielen Fällen bieten Neocloud-Anbieter dedizierten Bare-Metal-Zugriff auf GPUs an, wodurch Konflikte reduziert und eine vorhersehbare Leistung gewährleistet werden.

Schnelle Verfügbarkeit :Mit flexiblen Beschaffungs- und Bereitstellungsprozessen können Neocloud-Anbieter nach eigenen Angaben oft Kapazitäten viel schneller bereitstellen als herkömmliche Anbieter und Teams dabei helfen, KI-Modelle ohne Verzögerung zu iterieren und bereitzustellen.

Dezentralisierung und Resilienz :Einige Neoclouds arbeiten mit verteilten Modellen und beziehen Rechenleistung aus geografisch verteilten Rechenzentren oder Netzwerken unabhängiger Betreiber.

Nachhaltigkeit :Die Wiederverwendung vorhandener Hardware, insbesondere aus der Kryptowährungsbranche, reduziert Elektroschrott und fördert nachhaltigere IT-Praktiken. Einige Neo-Clouds befinden sich auch in Einrichtungen, die mit erneuerbarer Energie betrieben werden, was den CO2-Fußabdruck weiter verringert.

Siehe auch: GPU-Marktverschiebung:Den Niedergang des Krypto-Mining nutzen

GPUs-as-a-Service, neu gedacht

Im Kern stellen Neoclouds eine neue Interpretation des GPU-as-a-Service-Modells dar. Zu den Unternehmen, die als Neocloud-Anbieter gelten, gehören CoreWeave, Crusoe, Lambda Labs, Nebius, Vast.ai und andere.

Sie konzentrieren sich weniger auf die Bündelung von GPUs mit proprietären Diensten und sind mehr daran interessiert, rohe, leistungsstarke Rechenleistung zu einem Preis bereitzustellen, der groß angelegte KI für mehr Unternehmen rentabel macht.

Durch die Demokratisierung des Zugangs zu erschwinglichen GPUs glauben Neocloud-Anbieter, dass sie die Eintrittsbarriere für Unternehmen senken können, die KI-Anwendungen erstellen oder skalieren möchten. Kleine Startups können benutzerdefinierte Modelle trainieren, ohne ihre Startkapitalfinanzierung zu verbrennen. Unternehmen können LLMs anhand ihrer proprietären Daten optimieren, ohne die Kontrolle abzugeben oder zu viel auszugeben. Und Forschungseinrichtungen können Simulationen und Experimente durchführen, ohne durch Budgetbeschränkungen eingeschränkt zu sein.

Trotz dieser Vorteile werden Neocloud-Anbieter in naher Zukunft wahrscheinlich mit Hyperscalern auf dem GPU-as-a-Service-Markt konkurrieren. Laut Fortune Business Insights wurde dieser Markt im Jahr 2023 auf 3,23 Milliarden US-Dollar geschätzt und soll bis 2032 auf 49,84 Milliarden US-Dollar anwachsen, was einer Wachstumsrate von 36 % entspricht. (Diese Schätzung umfasst sowohl Hyperscaler als auch Neoclouds.)

Abschließende Gedanken

Die Rechenanforderungen für KI steigen weiter. Neocloud-Anbieter sind KI-fokussierte Cloud-Infrastrukturanbieter der neuen Generation, die darauf abzielen, diese Anforderungen zu erfüllen. Sie unterscheiden sich von herkömmlichen Hyperscalern (wie AWS, Azure und GCP), indem sie sich unter anderem auf optimierte GPU-Verfügbarkeit, flexible Preise und spezielle Leistung für KI/ML-Workloads konzentrieren.