Maschinelles Lernen einführen: wie MLOps dabei unterstützt

Maschinelles Lernen (Machine Learning, ML) ist in vielen Branchen angekommen – nicht erst seit dem Hype um ChatGPT. Unternehmen möchten ML nutzen, um die Qualität von Produkten zu steigern, effizientere Logistikketten zu planen oder um die Vorlieben ihrer Kunden zu verstehen. Erste technische Prototypen zeigen die Machbarkeit, jedoch bei der Umsetzung in betriebliche Prozesse tun sich viele Unternehmen noch schwer.

Dies liegt nicht nur an technischen Hürden. Was Unternehmen oft fehlt, ist ein Verständnis, welche Geschäftsprozesse zweckmäßig mit Machine Learning verbessert werden können und das Wissen, welche Voraussetzungen für den erfolgreichen Betrieb einer Machine-Learning-Anwendung notwendig sind. Weiterhin hapert es an organisatorischen Konzepten und deren Umsetzung in den betrieblichen Alltag.

Auf allen fachlichen und technischen Ebenen sollten die Potentiale, aber auch Grenzen und Herausforderungen von ML-Lösungen bekannt sein. Ein Beispiel ist die Abnahme der Modellqualität im Zeitverlauf. ML-Anwendungen arbeiten datengetrieben. In der Entwicklung werden ML-Programme (im Folgenden Modelle genannt) so trainiert, dass sie Muster in vorhandenen Daten algorithmisch erkennen und in neuen Daten wiedererkennen. Auf diese Weise werden Sachverhalte aus dem Anwendungsbereich modelliert­. Sachverhalte, und damit die Muster in den Daten, ändern sich aber mit der Zeit. Die Modelle müssen daher immer wieder an neue Daten angepasst, also weiterentwickelt werden.

Damit fachlich notwendige Änderungen ebenso wie Korrekturen und Verbesserungen verlässlich und schnell in der Anwendung verfügbar sind, gilt es Verfahren von der Entwicklung bis zur Inbetriebnahme eines Modells so weit als möglich zu automatisieren. Fachleute aus den Anwendungsbereichen müssen somit dauerhaft in die Entwicklung der Konzepte und Anwendungsfälle einbezogen werden.

Das erfordert ein ganzheitliches, agiles Vorgehen, welches die nachhaltige Entwicklung und verlässlichen Betrieb von ML-Anwendungen sicherstellt. Dies bietet der MLOps-Ansatz (Machine Learning Operations).

­Aber was unterscheidet MLOps von existierenden Ansätzen? Es gibt doch schon DevOps (Development Operations) und CRISP-DM (Cross Industry Standard Process for Data Mining). Beides sind bewährte Prozesse: DevOps für die Entwicklung und Betrieb eines Softwareprodukts und CRISP-DM für die Modellentwicklung in Data-Science-Projekten.

MLOps erweitert das von DevOps propagierte Prinzip der umfassenden Automatisierung und der Beschleunigung der Entwicklungszyklen um den im CRISP-DM beschriebenen Prozess der Modellentwicklung. Dadurch werden typischen Tätigkeiten der Datenvorbereitung, des Modelltrainings, der Modelloptimierung und Modellevaluation in den bewährten Entwicklungszyklus von DevOps übernommen und ein strukturiertes Entwickeln von Software mit ML-Komponenten ermöglicht.

„MLOps erweitert das von DevOps propagierte Prinzip der umfassenden Automatisierung und der Beschleunigung der Entwicklungszyklen um den im CRISP-DM beschriebenen Prozess der Modellentwicklung.“

Dennis Wegener, Fraunhofer IAIS

MLOps ist somit mehr als ein alleinstehender Entwicklungsprozess. Es bietet eine umfassende Sammlung aus Tools und organisatorischen Maßnahmen für die nachhaltige und effiziente Entwicklung und den Betrieb von ML-Anwendungen. Jedes Unternehmen, welches maschinelles Lernen in seine Geschäftsprozesse einbinden möchte, muss geeignete Strukturen aufbauen, um dies zu ermöglichen. MLOps ist dabei sowohl für Start-ups als auch für Konzerne geeignet. Das belegen zahlreiche Projekte, die wir mit diversen Unternehmen aus Handel, Industrie oder Dienstleistung durchgeführt haben. Unternehmen jeglicher Branche profitieren durch MLOps bei der Einführung von ML.

Die sechs Schritte des MLOps-Prozesses

Der erste Schritt des ML-Engineering-Prozesses nach MLOps startet daher immer mit einer Anforderungsanalyse und einer Planung. Insgesamt umfasst MLOps sechs Arbeitsschritte (siehe Abbildung 1). Es erweitert den DevOps-Prozessansatz um ML-spezifische Anteile, die auf dem CRISP-DM-Vorgehensmodell basieren. Diese Schritte ergeben einen kontinuierlichen Prozess, wobei die technisch geprägten Schritte (in der Grafik orange) weitgehend automatisiert ablaufen.

Der zentrale Projektdatenbereich steht für die Kommunikation, eine einheitliche Datenhaltung, für Projekt- und Prozessinformation sowie für die Informationsübergänge zwischen den sechs Schritten. Kommunikation spielt eine zentrale Rolle für die erfolgreiche Implementierung von ML-Lösungen. MLOps ist ein agiler Prozess mit einer starken und häufigen Rückkopplung zwischen Anwendern und Entwicklern.

Aufbau von Kompetenzen und Technikverständnis

Ebenfalls essenziell ist der Aufbau von Kompetenzen. MLOps lässt die Verantwortung nicht allein in den Händen von IT- und technikaffinen Mitarbeitenden. Alle, die im Unternehmen mit maschinellem Lernen zu tun haben – und das wird künftig große Teile der Belegschaft betreffen –, müssen ein Grundverständnis für den Nutzen und die Anforderungen entwickeln. Allen voran das Management, aber auch das Personal in der Verwaltung oder in der Produktion.

Dazu bietet das Fraunhofer IAIS unterschiedliche Schulungen an, von der Vermittlung von Basiswissen in Data Science, über Innovations-Briefings zu aktuellen Themen, wie große Sprachmodelle, bis hin zu mehrtägigen Kursen mit persönlichem Zertifikat.

Fazit

MLOps gibt Unternehmen ein umfassendes Prozessschema zur sicheren Entwicklung, Umsetzung und Pflege von ML-Anwendungen. Entsprechende Schulungen versetzen Unternehmen in die Lage, selbstbestimmt und nachhaltig die enormen Möglichkeiten von Machine Learning und künstlicher Intelligenz (KI) auszuschöpfen, zum Beispiel die Übernahme eines Open-Source-verfügbaren Sprachmodells und dessen Spezialisierung für unternehmenseigene Zwecke.

Über den Autor:

Dennis Wegener ist Gruppenleiter Machine Learning Operations am
Fraunhofer IAIS für den Fraunhofer Cluster of Excellence Cognitive Internet Technologies (CCIT)

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.