Künstliche Intelligenz erhält enormen Kubernetes-Boost

Carmine Rimi von Canonical

Laut einer Studie der Stanford University hat sich die Zahl der Start-ups mit künstlicher Intelligenz (KI) seit der Jahrhundertwende um das 14-Fache erhöht. Allein in Großbritannien, sagt Carmine Rimi, KI-Produktmanager bei Canonical – das Unternehmen hinter Ubuntu,  KI-Entwickler erlebten allein im vergangenen Jahr einen Anstieg der Risikokapitalfinanzierung um 200 %; da das transformative Potenzial der KI alle Grenzen sprengt.

Die Entwicklung von KI-Anwendungen, um Geschäftsabläufe und das Leben der Menschen zu verbessern, ist eine riesige Aufgabe. Diese Anwendungen sind kompliziert zu entwickeln und zu erstellen, da sie so unterschiedliche Arten von Daten beinhalten; die Portierung auf verschiedene Plattformen erschweren.

Abgesehen von diesen Herausforderungen sind in jeder Phase mehrere Schritte erforderlich, um selbst mit der Erstellung der grundlegendsten KI-Anwendung zu beginnen. Ein Spektrum von Fähigkeiten ist erforderlich, einschließlich der Merkmalsextraktion, der Verifizierung und Analyse der Datensammlung und des Maschinenressourcenmanagements, um eine vergleichsweise kleine Teilmenge des tatsächlichen ML-Codes zu unterstützen. Es muss viel Arbeit geleistet werden, bevor eine Position an der Startlinie eingenommen wird; neben einem großen ständigen Aufwand, die Anwendungen aktuell zu halten. Alle Entwickler suchen nach Wegen, diese großen Herausforderungen zu meistern.

Halten Sie sich zurück

Das Ergebnis dieser Suche, um Apps aktuell zu halten und Workloads in der App-Entwicklung auszugleichen, führt oft zu der gleichen Antwort – Kubernetes. Diese Open-Source-Plattform kann ein Vermittler sein, da sie die Bereitstellung und Verwaltung von containerisierten Anwendungen automatisieren kann, die komplizierte Workloads wie KI und maschinelles Lernen umfassen. Kubernetes hat etwas Spektakuläres erlebt, weil es zu diesen Dingen in der Lage ist, aber auch als Container-Orchestrierungsplattform.

Forrester erklärte kürzlich, dass „Kubernetes den Krieg um die Dominanz der Container-Orchestrierung gewonnen hat und im Mittelpunkt Ihrer Microservices-Pläne stehen sollte“. Container bieten eine kompakte Umgebung für den Betrieb von Prozessen. Sie sind einfach zu skalieren, portabel in einer Reihe von Umgebungen und ermöglichen daher die Aufteilung großer monolithischer Anwendungen in gezielte, einfacher zu wartende Microservices. Laut einer Umfrage der Cloud Native Computing Foundation gibt die Mehrheit der Entwickler an, Kubernetes in verschiedenen Entwicklungsphasen einzusetzen. 

Die meisten Unternehmen setzen Kubernetes als Plattform für Workloads ein oder planen dies zu starten. Natürlich ist KI eine Arbeitslast, die schnell an Bedeutung gewinnt. Kubernetes ist für diese Aufgabe ideal, denn KI-Algorithmen müssen skalierbar sein, um effektiv zu sein. Bestimmte Deep-Learning-Algorithmen und -Datensätze benötigen viel Rechenleistung. Kubernetes kann hier helfen, da es darauf ausgerichtet ist, den Bedarf zu skalieren.

Kubernetes kann auch eine Roadmap für die Bereitstellung von KI-fähigen Workloads auf mehreren Standardservern bereitstellen, die die Softwarepipeline umfasst und gleichzeitig den Verwaltungsaufwand abstrahiert. Nachdem die Modelle trainiert wurden, ist ihre Bereitstellung in unterschiedlichen Bereitstellungsszenarien, von Edge-Computing bis hin zu zentralen Rechenzentren, für nicht containerisierte Anwendungsformulare eine Herausforderung. Auch hier kann Kubernetes die notwendige Flexibilität für eine verteilte Bereitstellung von Inferenzagenten auf einer Vielzahl von Substraten freisetzen.

Fokus ändern

Da Unternehmen ihre Aufmerksamkeit auf KI richten, um Betriebskosten zu senken, die Entscheidungsfindung zu verbessern und Kunden auf neue Weise zu bedienen, werden Kubernetes-basierte Container schnell zur Technologie Nummer eins, um Unternehmen bei der Einführung von KI und maschinellem Lernen zu unterstützen. Im letzten Dezember wurde im Kubernetes-Projekt Kubeflow vorgestellt, das sich darauf konzentriert, die Bereitstellung von Machine Learning-Workflows auf Kubernetes einfach, portabel und skalierbar zu machen.

Während Kubernetes nur mit zustandslosen Diensten ins Leben gerufen wurde, stellte das Projekt fest, dass Kunden begonnen hatten, komplexe Workloads auf die Plattform zu verlagern und dabei die „reichen APIs, Zuverlässigkeit und Leistung“ von Kubernetes zu nutzen. Einer der am schnellsten wachsenden Anwendungsfälle für Kubernetes ist die bevorzugte Bereitstellungsplattform für maschinelles Lernen.

Anfang 2017 nur das Google Cloud Platform unterstützt Kubernetes mit seiner Google Kubernetes Engine. Zum Höhepunkt des Jahres waren alle großen Public-Cloud-Anbieter mit an Bord. Vor allem nach Microsoft Kubernetes-Unterstützung zum Azure Container Service und Amazon hinzugefügt hat den Amazon Elastic Container Service für Kubernetes vorgestellt.

Die Möglichkeiten, wie Kubernetes von Unternehmen eingeführt und genutzt wird, sind scheinbar grenzenlos. In einer relativ kurzen Lebensdauer hat Kubernetes viel erreicht. Dies unterstreicht das Ausmaß, in dem Technologieanbieter und ihre Kunden zu der Ansicht verfallen, dass Container enorme Vorteile bei der Entwicklung und Verwaltung der KI-Teile von Anwendungen bieten. Das Aufkommen von KI löst ein enormes Interesse an Containern aus, um Wiederholbarkeit und Fehlertoleranz bei diesen komplizierten Workloads zu gewährleisten.

Kubernetes wird zu einem de facto Standard und fantastisch für die Verwaltung von containerisierten KI-Anwendungen. Es hat sich bewährt und sollte für Unternehmen noch lange von großem Nutzen sein.

Der Autor ist Carmine Rimi, KI-Produktmanager bei Canonical.