Edge Artificial Intelligence: Wann lohnt sie sich für Ihre IoT-Projekte?

Die sich ändernde digitale Umgebung bringt neue Herausforderungen mit sich, denen der neue Trend Edge AI viel besser gewachsen ist. Deswegen haben große Konzerne wie Google, Apple und Amazon bereits Millionen in Edge-Computing investiert, damit ihre Lösungen schnell auf eingehende Anfragen reagieren können. Im folgendem Beitrag werden folgende Fragen beantwortet: Wie funktioniert Edge-Computing in Verbindung mit KI? Welche Vorteile bringt diese Kombination für Unternehmen? Und: wann lohnt sich der Einsatz von Edge AI überhaupt?

Was bedeutet Edge Artificial Intelligence?

Im Grunde bedeutet Edge AI, dass KI-Algorithmen lokal – direkt auf dem Gerät oder auf dem Server in der Nähe des Geräts – ausgeführt werden. Diese KI-Algorithmen nutzen Daten, die direkt vom Gerät erfasst werden. Dabei können Geräte innerhalb von Millisekunden unabhängige Entscheidungen treffen, ohne eine Verbindung zum Internet oder zur Cloud herstellen zu müssen. Im Unterschied zu Cloud AI werden Daten auf Edge-AI-Geräten lokal verarbeitet. Und nur die Ergebnisse dieser Verarbeitung werden in die Cloud geschickt.

Edge AI: Was gehört dazu und wie funktioniert es?

Ein Edge AI-System beinhaltet folgende Komponenten:

• Sensoren, die Daten erfassen
• Prozessoren / Chips, die Datenanalysen mit KI durchführen
• Kommunikationsschnittstellen, um die ermittelten Metadaten an einen Server zu schicken

Ein Machine-Learning-Modell wird auf der Basis eines Datensatzes trainiert, bestimmte Aufgaben zu erfüllen. Dabei wird das Modell programmiert, Muster zu erkennen – zuerst im Trainingsdatensatz und dann in mehreren Trainingsmodellen mit ähnlichen Eigenschaften. Nun kann es für Inferenzen – Ableitung neuer Fakten aus einer bestehenden Datenbasis – in einem bestimmten Kontext verwendet werden, um Vorhersagen zu machen.

Sobald das Modell wie gewünscht funktioniert, kann es Erkenntnisse aus realen Sensordaten holen, die zur Verbesserung von Geschäftsprozessen eingesetzt werden. Normalerweise funktioniert das Modell über eine API. Das Modell-Output wird dann an eine andere Softwarekomponente übermittelt oder auf dem App-Frontend für den Enduser visualisiert.

Warum reicht die Cloud allein nicht mehr aus?

Einem Bericht von TechSci Research zufolge wird allein der Edge-AI-Softwaremarkt im Zeitraum von 2019-2024 durchschnittlich um über 25% pro Jahr wachsen. Industrie 4.0 erfordert Echtzeit-Computing-Funktionen. „Der Bedarf an Echtzeit-Einblicken und sofortigem Handeln, die aktuellen Netzwerkeinschränkungen, die hohen Mengen an Daten und die Geschwindigkeit, mit der diese Daten von Sensoren und Endpunkten generiert werden, zwingen die IT-Leiter, Edge-Computing-Lösungen einzusetzen, um die Daten näher an der Quelle ihrer Entstehung zu verarbeiten“, erklärt Santhosh Rao, Principal Research Analyst beim IT-Marktforschungsunternehmen Gartner

Die digitale Umgebung ändert sich schnell. Und die Cloud allein kann den neuen Bedarf nicht mehr decken, wie folgende Voraussetzungen zeigen:

• Kürzere Latenzzeiten: Beim Cloud Computing werden die Daten in die Cloud gesendet, bevor sie analysiert werden. Dies kann zu Verzögerungen führen. Diese Verzögerungen sind in einigen Fällen inakzeptabel. Wenn vernetzte Autos beispielsweise ein Hindernis erkennen und bremsen müssen, können Bruchteile von Sekunden entscheidend sein. Wenn ein Roboter am Montageband zu früh oder zu spät aktiviert wird, kann dies zu einem beschädigten Produkt führen. Wenn der Fehler unbemerkt bleibt, landet das fehlerhafte Produkt auf dem Markt oder verursacht Schäden in späteren Produktionsphasen.
• Unabhängigkeit von Verbindungsproblemen: Bei Edge AI sind intelligente Geräte nicht mehr auf die Kommunikation mit der Cloud angewiesen. Deswegen gibt es auch keine Probleme, wenn die Internetverbindung nicht stabil ist. Gerade in ländlichen Gebieten oder auch für Wetterstationen, die extremen Bedingungen ausgesetzt sind, kann Edge AI von Vorteil sein.
• Skalierbarkeit: Laut Prognosen von IDC wird es bis 2025 41.6 Milliarden IoT-Geräte weltweit geben, die 79,4 Zettabytes an Daten erzeugen. Diese Datenmenge erfordert neue Wege zur effizienten Datenanalyse und -verarbeitung. Wenn Sie Videodaten aus Hunderten oder Tausenden Quellen gleichzeitig verarbeiten müssen, ist die Datenübertragung auf einem Cloud-Service keine praktikable Lösung. Wenn der größte Teil der Datenverarbeitung allerdings am Edge erfolgt, wird es nicht zu Engpässen beim Datentransfer kommen.
• Kosteneinsparungen: Selbstverständlich erfordert Edge AI lokale Rechenleistung und Investitionen in Hardware. Trotzdem ist sie oft die kosteneffizienteste Lösung. Da der Bedarf an Datentransfer reduziert wird, kann durch Edge AI Bandbreite eingespart werden. Außerdem macht Edge AI Geräte auch energieeffizienter. Die Verbindung zur Cloud muss nicht permanent aufrechterhalten werden. Dadurch kann sich die Laufzeit der Geräte wesentlich verlängern.
• Datensicherheit: Je weniger Daten in die Cloud gesendet werden, desto geringer die Möglichkeiten für Online-Angriffe. Edge erschwert Informationsdiebstahl, da die Verarbeitung in einem geschlossenen Netzwerk vor Ort erfolgt. Nach der Analyse werden Daten gelöscht, wobei nur ausgewählte Metadaten in festgelegten Abständen in die Cloud weitergeleitet werden.

Intelligente Algorithmen mit Edge AI: Erfolgreiche Use Cases

Industrielle Fertigung: Fehler vorbeugen und Produktion vereinfachen

Fehler in der Produktion können zu Produktionsstillständen und zu erhöhten Kosten wegen der Fehlerbeseitigung führen. Sie können leicht übersehen werden, da sie so klein und unscheinbar ausfallen können, dass das menschliche Auge keine Chance hat, sie zu entdecken. Die theBlue.ai GmbH hat eine Edge-AI-Lösung entwickelt, die eine vollständige Automatisierung von Qualitätsmanagementprozessen ermöglicht. Durch spezielle Videokameras und Sensoren überprüft sie jedes Produkt in Echtzeit auf Abweichungen und Fehler. Außerdem übernimmt das System Klassifizierung und Zuordnung von Produkttypen. Dadurch wird das Produkt auf ein ausgewähltes und der Klassifizierung entsprechendes Laufband geleitet, um dort weiterverarbeitet zu werden.

Automotive: mehr Sicherheit und schnelles Reagieren

Vernetzte Autos produzieren während der Fahrt viele Daten. Bei einigen Entscheidungen kann man schlicht nicht warten, dass die Daten in die Cloud und zurück übertragen werden. Zum Beispiel in der Formel 1. Hier ist McLaren Racing, als Teil der McLaren Group, bei Grand-Prix-Rennen und Weltmeisterschaften involviert.

Jeder Formel-1-Rennwagen ist mit mehr als 200 Sensoren ausgestattet, die an einem Rennwochenende 100 Gigabyte an Daten produzieren und mehr als 100.000 Datenpunkte pro Sekunde übertragen. Ingenieure und Crew-Mitarbeiter von McLaren benötigten sofortigen Zugriff in Echtzeit auf die erfassten Daten, um zu entscheiden, wann ein Reifen gewechselt werden muss, und die Sicherheit der Strecke einzuschätzen.

McLaren hat Edge Computing mit der Edge-Core-Cloud-Strategie kombiniert. Während die Teammitglieder verwertbare Informationen in Echtzeit erhalten, werden dieselben Daten an das zentrale McLaren Technology Center gesendet. Dort werden sie analysiert und in einem ML-Rennsimulator verarbeitet, um die KI-Algorithmen zu optimieren.

Retail: Kunden-Flow analysieren

Shops können Edge AI in Videokameras integrieren, um Kundenfrequenz und Kaufverhalten zu analysieren, zum Beispiel mit einem Kamerasystem des finnischen Unternehmens Advian . Die Lösung zeigt auf, welche Bereiche des Shops die Kunden zu welchen Zeiten besuchen, welche Wege sie nehmen, was sie sich anschauen, wo sie innehalten, was sie kaufen und sogar in welcher Stimmung sie sind. Diese Erkenntnisse ermöglichen es Einzelhändlern, die Shop-Bereiche zu identifizieren, die wenig besucht sind, oder vorherzusehen, wann sich an den Kassen Schlangen bilden werden. Darüber hinaus können sie die Einrichtung optimieren und das Ladenpersonal dort einsetzen, wo es die größte Wirkung erzielen kann.

Ohne Edge AI wäre dieser Prozess zu langsam und teuer: Man müsste Videos von mehreren Kameras in die Cloud senden, sie dort mit einer Software bearbeiten und dann die Empfehlungen zurückschicken. Die Datenmenge wäre einfach zu groß und zentralisierte Computer wären mit der Verarbeitung dieser Datenmengen überfordert. Außerdem würde die Datenübertragung mehr Bandbreite erfordern, als wir jemals haben werden. Zusätzlich kann Edge AI auch Datenschutzrisiken minimieren – Videos werden lokal analysiert und nur die notwendigen Informationen werden an die Cloud übertragen,

Wann lohnt sich Edge AI?

Der Einsatz von Edge AI ist mit erhöhten Entwicklungskosten, Kompromissen zwischen Kosten und Leistung und der Komplexität der Ausführung von KI-Algorithmen auf Edge-Geräten verbunden. Um einschätzen zu können, ob sich Edge AI in Ihrem konkreten Fall lohnt, stellen Sie sich folgende Fragen. Lautet Ihre Antwort mehrmals “ja”, lohnt sich Edge AI für Sie mit großer Wahrscheinlichkeit.

Produzieren Sensoren am Edge mehr Daten, die zur Verarbeitung in der Cloud geschickt werden können?

Es gibt drei Hauptgründe, warum Daten nicht in die Cloud gesendet werden können:

• Kosten für die Datenübertragung in die Cloud sind zu hoch
• Leistung der Geräte reicht für die Datenübertragung nicht aus
• Konnektivität unterstützt nicht die Übertragung des erforderlichen Datenvolumens

Ist eine stabile Verbindung zur Cloud gesichert?

Wenn ein Gerät Aktionen auf der Basis von Sensordaten ausführt und die Verarbeitung in der Cloud läuft, wird eine stabile Internetverbindung erforderlich. In diesem Fall ist es empfehlenswert, einen Teil der Datenverarbeitung für Basisfunktionen auf das Gerät zu übertragen.

Sind schnelle Antwortzeiten kritisch für Ihre Lösung?

Entscheidend ist, ob für Ihre Anwendung die Zeitspanne akzeptabel ist, während der Sensordaten an die Cloud gesendet, verarbeitet und an das Gerät zurückgeschickt werden. Oder muss Ihre Lösungen in Sekundenbruchteilen Entscheidungen treffen? Wird die Latenzzeit die Benutzererfahrung negativ beeinflussen?

Verfügen Sie über vollständige Datensätze für das KI-Training?

Damit KI-Algorithmen gut funktionieren, benötigen sie für das Training des KI-Modells große Datenmengen. Diese Daten müssen vollständig und unvoreingenommen sein. Andernfalls werden Sie falsche und sinnlose Ergebnisse erhalten.

Ist eine stabile und flexible Lösungsarchitektur vorhanden?

Wenn Sie auf Edge AI wechseln wollen, brauchen Sie eine stabile Lösungsarchitektur, die Edge Computing in Verbindung mit einem Cloud-Backend nutzt. Erst dann kann KI integriert werden. Außerdem erfordert eine Edge AI-Architektur gewisse Flexibilität, so dass Sie Modelle im Laufe der Zeit implementieren und aktualisieren können. Die Architektur muss zusätzliche Geräte, neue Versionen von Chips und Betriebssystemen sowie die Migration zu anderen Cloud-Anbietern unterstützen.

Softeq hat viele solcher Anwendungsfälle bei seinen Kunden betreut. Als Experte für komplexe Edge- und IoT-Umgebungen steht der End-to-End-Dienstleister mit Deutschlandsitz in München für Beratung und Umsetzung Kunden aus dem Mittelstand, Start-Ups und Konzernen zur Seite.

Über die Autorinnen: Alex Makarevich, Anna Sidyuk und Anja Mutschler sind tätig bei Softeq.