TinyML

© Fraunhofer IIS / Gauthier
TinyML Demonstration

Tiny Machine Learning (TinyML) ist ein Forschungsgebiet im Bereich des maschinellen Lernens und beschreibt die Optimierung sowie Ausführung von KI-Modellen auf eingebetteten Systemen.  

Unsere embeddif.[ai] Technologie ist eine etablierte Marke für TinyML. Hier finden Sie verschiedene Use Cases zu embeddif.[ai].

Künstliche Intelligenz (KI) ist für uns nicht nur die Verwendung tiefer neuronaler Netze mit Millionen von Parametern, die schon während ihrer Entwicklung (Training), aber auch im Betrieb (Inferenz, Scoring) einen nicht unerheblichen Energiebedarf haben, sondern wir beziehen auch klassisches Machine Learning mit sehr effizienten KI-Modellen in den Lösungsraum mit ein.

Im ADA Lovelace Center entwickeln wir Vorhersagemodelle für den Energiebedarf von KI auf eingebetteten Hardwareplattformen, um in sehr schnellen Entwicklungszyklen den Trade-Off zwischen Performanz und Energiebedarf batteriebetriebener Sensorsysteme zu optimieren. Erst die schnelle Vorhersage des Energiebedarfs erlaubt die Integration in eine multikriterielle AutoML (automatisches maschinelles Lernen) Lösung.

In Industrieprojekten stellen wir unseren Kunden Automatisierungslösungen zur KI-Entwicklung für Ultra-Low-Power-Anwendungen bereit oder beraten Data-Science-Teams zu einem optimierten Workflow und verlässlichen Tests in Seminaren und Workshops.

 

Edge AI – klein, privat, energieeffizient

Sei es für die Automatisierung von Prozessen, sei es für die Analyse großer Datenmengen: Intelligente und selbstlernende Systeme werden in Unternehmensprozessen zunehmend wichtiger. Bisher müssen diese intelligenten Systeme stets in Verbindung mit einer Cloud stehen, da diese die große Rechenleistung für die mathematischen Algorithmen zur Verfügung stellt. Mit Edge AI, kurz für Edge Artificial Intelligence, kommt nun die nächste Generation von intelligenten Systemen ins Haus: Die Intelligenz wird dabei direkt in die Endgeräte verlagert.

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

Angebot

F&E-Dienstleistung

Wir bieten Ihnen Teil- oder komplette F&E-Dienstleistungen:

  • Beratung zur erfolgreichen Datenaufnahme und -planung
  • Bereitstellung oder Beratung zu benötigter Sensorik 
  • Entwicklung und Optimierung von KI-Pipelines für Ihre Anwendung
  • Unterstützung bei der Integration auf Ihrer Hardware (z.B. Auslieferung von C/C++ Code)

Beratung

Sie benötigen schnell eine konkrete Lösung für eine komplexe Anwendung?

Unser interdisziplinäres Team und das Netzwerk am IIS erlaubt die effiziente Bearbeitung Ihrer F&E Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Wir beraten Sie gerne in Ihrem individuellen Anliegen!

Lizenzierung

Eventuell haben wir bereits das richtige KI-Modell entwickelt und dies kann direkt bei Ihrem Anwendungsfall integriert oder von Ihnen lizenziert werden.

Wir optimieren Ihre Anwendung durch standardisierte Abläufe und weitestgehende Automatisierung zeitintensiver Arbeiten speziell an Ihren Anwendungsfall angepasst.

Durch Training und automatische Reduktion komplexer KI-Modelle mittels Entfernen von Redundanzen generieren wir optimale KI-Modelle hinsichtlich Genauigkeit und Effizienz.

Wir unterstützen Sie bei einer schnellen Integration!

Schulung

Sie oder Ihre Mitarbeiter benötigen eine Hands-On-Schulung zur Durchführung von ML-Projekten?

Werfen Sie einen Blick auf unsere Seminare.

Gerne nutzen wir Ihre Daten für ein maßgeschneidertes Seminar!

Kontaktieren Sie uns!

Unser interdisziplinäres Team und das Netzwerk am IIS erlaubt die effiziente Bearbeitung Ihrer F&E-Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Wir beraten Sie gerne in Ihrem individuellen Anliegen!

Sie wollen ein KI-basiertes Projekt durchführen und wissen bereits, dass die Ausführung auf eingebetteter Hardware stattfinden wird?   

Sie möchten bei der Ausführung Ihrer KI-Modelle Energie sparen und damit die Laufzeit Ihres Sensorsystems verlängern?

Sie haben eine Idee für ein batteriebetriebenes Sensorsystem mit KI-Funktionalität und brauchen Unterstützung?

Mittels unserer Angebote aus dem Produktportfolio embeddif.[ai] können wir Sie dabei unterstützen. 

Mehr Infos zu embeddif.[ai].

Vorteile durch TinyML

Energieeffizienz & Ressourcenschonung

Die TinyML braucht, um ML-Anwendungen auszuführen, bis zu tausendmal weniger Strom im Vergleich zu einer Standard-GPU. Der Grund hierfür ist unter anderem das lokale Ausführen der KI-Modelle, statt die Daten hin- und herzusenden. Aus diesem Grund können die TinyML-Geräte je nach Anwendungsfall teilweise jahrelang ohne Batterien betrieben werden.

Auch die Größe der benötigten Batterien und somit die Nutzung von wertvollen Ressourcen verringert sich durch die erhebliche Energieeinsparung.

Echtzeit

Da das KI-Modell lokal ausgeführt wird, müssen die Rohdaten, um die Inferenz durchzuführen, nicht erst an die Cloud gesendet und im verarbeiteten Zustand wieder zurückgesendet werden. Dadurch verringert sich die Latenzzeit der Ausgabe sowie der Bedarf an Kommunikationsbandbreite, was wiederum eine schnelle Reaktion ermöglicht.

Unabhängigkeit, Privatsphäre & Sicherheit

Der Anwender steht in keiner Abhängigkeit zu einem Cloud Service Anbieter. Da die Daten somit nicht mit Externen geteilt werden müssen, trägt dieser Punkt letztlich auch zum Schutz der Privatsphäre bei.

Außerdem besteht keine Abhängigkeit von einer Kommunikationsverbindung. Das Risiko möglicher Störungen bei der Übertragung zwischen dem eingebetteten System und der Cloud wird also beseitigt.

Mehr zum tinyML Demonstrator und seine technischen Daten.

Anwendungen

 

embeddif.[ai] Tools

Machinelles Lernen in eingebetteten Sensormodulen für kognitive Handwerkzeuge, um Montageprozesse zu erkennen und die Qualität sicherzustellen.

 

embeddif.[ai] Sports

Maschinelles Lernen in eingebetteten Systemen, z.B. Wearables für Sportanwendungen wie Fitness, Fußball, Boxen oder Basketball.

 

embeddif.[ai]
Condition Monitoring

Durch Maschinelles Lernen in eingebetteten Systemen Zustände von Anlagen und Maschinen überwachen, um frühzeitig reagieren zu können oder die Effizienz zu steigern.