Darum sollten Sie sich mit Embedded-KI mehr beschäftigen

Embedded-KI: ein Wachstumstrend zur richtigen Zeit

Unabhängig davon existiert ein weiterer KI-Trend, der rasant an Fahrt gewinnt. Hierbei handelt es sich um Embedded-KI (eingebettete Künstliche Intelligenz). Das Marktpotenzial ist enorm – mitverursacht durch Mitläufertrends wie (I)IoT, entsprechende Connectivity, Security und Cloud Services. Allied Analytics schätzt den KI-Halbleitermarkt im Jahre 2030 auf über 190 Mrd. US-Dollar Volumen. Zum Vergleich: das Wachstum des AI-as-a-service-(Cloud-)Marktes wird auf fast 44 Mrd. US-Dollar im gleichen Zeitraum geschätzt. Die beliebtesten Sektoren sind das Gesundheitswesen, das Bank- und Finanzwesen, die Automobilindustrie, die Fertigung, die Cybersicherheit, intelligente Städte (Smart Cities) und die Unterhaltungselektronik.

Als Embedded-KI werden Elektroniksysteme bezeichnet, in denen Künstliche Intelligenz (KI) autark und lokal wirkt. Das System läuft lokal, beispielsweise an einem Sensor auf einer Platine und funktioniert ohne Netzwerk oder große Datenübertragungen und in Echtzeit vor Ort. Embedded-KI ist ein jüngeres KI-Feld als Fortsetzung von Edge-KI, aber mit vollständiger Autonomie. Das bringt ein neues Zeitalter der intelligenten Datenverarbeitung hervor. Dieser Trend der Dezentralisierung ermöglicht es, jedes Device – vom Haushalt über Industrie bis zur Mobilität – mit Künstlicher Intelligenz auszustatten. 

Die drei wesentlichen Einsatzfelder: funktionale Innovationen, User Interaction und Predictive/Preventive Maintenance

Bei den funktionalen Innovationen geht es um neuartige Funktionen, die den Zielnutzen eines Produkts oder Prozesses optimieren oder gar verändern. Hierbei findet man maßgeschneiderte Embedded-KI-Lösungen für spezifische Herausforderungen und Vorgaben der Hersteller. Ob ein Küchenherd den Inhalt mit einer integrierten Kamera erkennt und den Backprozess optimal steuert oder eine Prozessanlage aus der Chemie das Durchmischungsverhältnis indirekt durch wahrgenommene Rührgeräusche erkennt, sind einige Beispiele. 

Die User Interaction erstreckt sich von einfacher Sprachbefehlseingabe (KWS, Keyword Spotting) über Gestenerkennung bis hin zu komplexeren Mensch-Maschine-Kollaborationen wie Bedienertracking, Augentracking oder Werkstückerfassung. So kann die Embedded-KI mit einer kleinen Nahinfrarotkamera im Fahrzeug nicht nur die Müdigkeit des Fahrers, sondern auch seine Ablenkung, Emotionen und bald auch einen Herzinfarkt an der Mimik unter Echtzeitverarbeitung enormer Datenmengen erkennen. Das gleiche gilt auch für eine Duschsteuerung, wobei die Person von der Embedded-KI schon an Schrittgeräuschen identifiziert wird und je nach Körpertemperaturmuster zwecks Wasserregelung erkannt werden kann, ob sie beispielsweise vom Joggen kommt.

Bei Predictive/Preventive Maintenance geht es um intelligente, vorausschauende Wartung, die über einfaches Condition Monitoring hinausgeht und frühzeitig zuverlässige Vorhersagen über konkrete Fehlerbilder liefert. Egal, ob es um einen Verschleiß des Antriebs eines Fahrerlosen Transportsystems (FTS) handelt oder um eine Dichtung eines Industrie-Luftkompressors. Dies erkennt die KI zumeist aufgrund von Dehnungsmesstreifen (DMS), Vibrations- oder Schallsensorik sowie Strom-, Temperatur- und Druckverläufen oder indirekt durch einen Laserpunkt (ToF) ins Innere. 

Die Vorteile von Embedded-KI 

Embedded-KI ermöglicht die lokale Verarbeitung großer Datenmengen, sodass das Risiko des Abfangens oder Manipulierens von sensiblen Daten verringert wird. Das führt zu einer höheren Daten- und Systemsicherheit. Ein Gerät muss keine performante Netzwerkinfrastruktur vorhalten, um Daten verarbeiten zu können. Somit ist eine geringere Konnektivität erforderlich, was die Produktionskosten reduziert. Embedded-KI lebt auf beschränkten Ressourcen, was Stromversorgung (auch Batteriebetrieb), Rechen- und Speicherleistung angeht. Solche Komponenten erfassen und verarbeiten die Daten sofort, und können darauf in Millisekunden reagieren, was bei vielen Anwendungen ein Muss ist. Ebenso kann das Gerät Daten in Echtzeit analysieren und überträgt nur das, was für die weitere Analyse in der Cloudrelevant ist (Stichwort: Datenmengen reduzieren).

Embedded-KI – von Edge-AI zu unterscheiden – ist ein Game Changer und eine junge Technologie. Die Unternehmen müssen beim Produktdesign neu denken. Eine datengetriebene Entwicklung erfordert Langfristigkeit, mit einer für Optimierungen und Updates sowie Praxistests gerüsteter Organisation. Die effiziente Systemvalidierung geht bei solchen KIs auch nur mit Proof-of-Concepts.

Embedded-KI versus Cloud/Edge-KI

Die meisten zurzeit auf dem Markt befindlichen KI-Lösungen benötigen viel Rechenkapazität und sind auf eine kostspielige leistungsfähige Netzwerkinfrastruktur angewiesen. Die Sensordaten werden dabei über das Netzwerkübertragen, auf zentralen Servern oder in der Cloud ausgewertet und anschließend wird das Ergebnis zurückgesendet. Das kostet nicht nur Zeit, sondern wirft auch die Frage der Datensicherheit auf. Natürlich ist es ein verständliches Herstellerinteresse, auf diese Daten zuzugreifen – ob die Kunden, die die Produkte einsetzen, wollen, die möglicherweise sensiblen Prozessdaten über das Internet übertragen werden, davon überzeugt sind, sei dahingestellt.

Cloud-KI allein ist nur ein Übergang, die Zukunft liegt bei dezentraler Verarbeitung. Embedded-KI arbeitet am Sensor auf der Platine mit derart großen Datenmengen, dass sie gar nicht weiter übertragen werden könnten. Die KI muss sie direkt vor Ort weiterverarbeiten und verwerfen, um die gewollten, tiefgehenden Zusammenhänge aufzuspüren.

Wesentliche Merkmale Embedded-KI

• Gesamte echtzeitbezogene Datenverarbeitung liegt größtenteils auf dem Node
• Weitgehend ein autonomes, robustes und effizientes System
• Geringere Anforderungen an Interfaces, stärker im Design anpassbar
• Erfüllt oft per se gewisse Safety- und Security-Aspekte
• Benötigt entsprechende Rechenressourcen und Entwicklungsaufwand (unter anderem Effizienzdenken, Verkleinerung von Preprocessing-Algorithmen und Modellen)
• Durch das dezentrale System ist das Gesamtkonzept oft kostengünstiger, muss aber auch in sich abgestimmt sein

• Nur (einfache) Vorverarbeitung der Rohdaten geschieht am Edge, Rest zentral (Hauptrechner, Server, Cloud)
• Einfacher änderbar/aktualisierbar, da Verarbeitung im Wesentlichen von applikativer Natur (Software) ist
• Höhere Anforderungen an die Interfaces (Hardware, Übertragung, Kosten) und Echtzeitfähigkeiten des Gesamtsystems
• Komplexere beziehungsweise größere Modelle möglich (nahezu unbegrenzt)
• Mehr Entwicklungsaufwand in Datenverbindung und Sicherheit sowie gegebenenfalls laufende Kosten (zum Beispiel externe Speicher- und Rechenressourcen)

„Ein interessantes, bisher zu Unrecht, zu wenig beachtetes Feld ist Embedded-KI. Gerade in diesem Umfeld entstehen Innovationen, die Unternehmen vielfältig einsetzen können. Vor allem die Bereiche Verbraucher, Medizin, Automotive/Mobilität, Produktion/Industrie/Maschinenbau profitieren beim Produktdesign von KI-Integration in der Elektronik.“

 Viacheslav Gromov, AITAD

Fazit

Wie bereits angedeutet, sind Embedded-KI-Systeme äußerst genügsam. Das betrifft nicht nur den Energiebedarf, sondern auch Rechenleistung, Datentiefe, Herstellungskosten und Speicherkapazität. Zudem ist Embedded-KI auf vielen Chips von der Stange lauffähig und damit in geringerem Maße von den Lieferketten abhängig als große, rechenintensive Systeme, die aufgrund ihrer Cloud-Anbindung zudem weitere laufende Kosten nach sich ziehen. Damit wird Embedded-KI unabhängiger von geopolitischen Großwetterlagen, da die notwendigen Bausteine leicht alternativ beschafft werden können.

Über Autor: Viacheslav Gromov ist Gründer und Geschäftsführer vom deutschen Embedded-KI-Anbieter AITAD.