{"id":1470,"date":"2021-01-19T14:06:56","date_gmt":"2021-01-19T13:06:56","guid":{"rendered":"https:\/\/cbrell.de\/blog\/?p=1470"},"modified":"2021-01-19T14:56:26","modified_gmt":"2021-01-19T13:56:26","slug":"edge-computing-und-kuenstliche-intelligenz-mit-raspberry-pi-und-nvidia-jetson-nano","status":"publish","type":"post","link":"https:\/\/cbrell.de\/blog\/edge-computing-und-kuenstliche-intelligenz-mit-raspberry-pi-und-nvidia-jetson-nano\/","title":{"rendered":"Edge Computing und k\u00fcnstliche Intelligenz mit Raspberry Pi und Nvidia Jetson nano"},"content":{"rendered":"
\n
\n
\n

Zwei Trends zeigen eine hohe Konvergenz: Edge Computing als Gegenentwurf zu Cloud Computing im Zuge der Internet-of-Things (IoT) Entwicklung und k\u00fcnstliche Intelligenz (KI, AI). Letztere ragt nunmehr in fast alle denkbaren Anwendungsbereiche hinein. Drei Gr\u00fcnde f\u00fcr die Konvergenz sind: 1. M\u00f6glichkeit, personenbeziehbare Daten weder zu speichern noch \u00fcber Netze zu \u00fcbertragen, 2. Daten vorzuverarbeiten, um die Datenmenge auf Netzen mit niedriger Bandbreite gering zu halten. 3. Ressourcen auf zentralen Servern zu sparen. Zwei Ger\u00e4teklassen in unterschiedlichen Leistungsstufen, der Raspberry Pi (35 \u20ac) und der Nvidia Jetson nano (120 \u20ac) sind f\u00fcr Edge Computing und k\u00fcnstliche Intelligenz einsetzbar. Beide sind grunds\u00e4tzlich f\u00fcr KI-Anwendungen geeignet und werden von „Makern“ und Hochschulen erprobt.<\/em><\/p>\n

Edge Computing<\/h2>\n<\/div>\n<\/div>\n
\n
\n

Definition von Edge Computing<\/h3>\n

Gartner definiert Edge Computing als: \u201e… part of a distributed computing topology where information processing is located close to the edge, where things and people produce or consume that information.\u201c (Gartner 2020). Das bedeutet frei \u00fcbersetzt: Edge Computing ist Teil einer verteilten Computer-Topologie,<\/a> bei der die Informationsverarbeitung nicht zentral, sondern in den Randzonen des Netzwerkes angesiedelt ist, dort, wo Ger\u00e4te oder Menschen diese Informationen erzeugen oder nutzen.<\/p>\n

Edge-Computing umfasst also Basistechnologien, die es ermo\u0308glichen, Berechnungen (inkl. deep learning) am Netzwerkrand durchzufu\u0308hren (vgl. Shi et al. 2016b, S. 638).<\/p>\n

Die Technologien basieren auf verschiedenen architektonische Ansa\u0308tzen wie z.B. OpenFog und Mobile Edge Computing. Seit 2010 gibt es den Begriff Edge Computing im Zusammenhang mit dem Begriff „IoT“ (Internet of Things). Bereits zu diesem Zeitpunkt \u00fcberholte die Anzahl an vernetzten Maschinen die Anzahl von Menschen. Dies fu\u0308hrt zu einer hohen Dazenmenge, die die Kapazita\u0308t von Kommunikationsnetzwerken und insbesondere Cloud-Computing-Leistung an die Grenzen bringen kann. Daher ist ein sta\u0308rker dezentralisiertes Modell wie Edge-Computing erforderlich, um Cloud-Computing zu erga\u0308nzen und zu entlasten.<\/p>\n

Charakterisierung von Edge Computing<\/h3>\n

Edge Computing hat die folgenden „Treiber“ (Wang 2018):<\/p>\n

    \n
  1. Daten: Die Anzahl der vernetzten Computer wa\u0308chst und die Kosten fu\u0308r Hardware fa\u0308llt. Die Datenmenge w\u00e4chst. Der Transfer der Daten und ihre Speicherung auf\u00a0 zentralisierten Strukturen ist teilweise schwierig und kostspielig.<\/li>\n
  2. Latenz: In Situationen, in denen eine schnelle Reaktion auf die\u00a0 Daten vor Ort beno\u0308tigt wird, kann die U\u0308bertragung u\u0308ber das Netzwerk zu langsam sein und die Reaktion soll direkt am Entstehungsort der Daten erfolgen. Ein typisches Beispiel w\u00e4re die digitale Unterst\u00fctzung klinischer Operationen.<\/li>\n
  3. Datenschutz: Den Inhalt und die Verarbeitung von Daten lokal zu halten oder gar nicht zu speichern, ist in der Regel ein wirksames Mittel, um Sicherheitslu\u0308cken proaktiv zu vermeiden. Gesetze, die eine U\u0308bertragung und Speicherung von Daten untersagen, werden zunehmend versch\u00e4rft.<\/li>\n<\/ol>\n

     <\/p>\n<\/div>\n<\/div>\n<\/div>\n

    \n
    \n
    \n

    Raspberry Pi<\/h2>\n<\/div>\n<\/div>\n
    \n
    \n

    Der Raspberry Pi (Abb. 1) ist ein Linx-Scheckkartencomputer und wird von der\u00a0 Raspberry Pi Foundation<\/a> vermarktet. Die\u00a0 Raspberry Pi Foundation ist eine wohlta\u0308tige Stiftung in Gro\u00dfbritannien. Zweck der Stiftung ist die F\u00f6rderung der Informatik-Ausbildung, insbesondere an Schulen. Damit verfolgt die Raspberry Pi Foundation ein vergleichbares Ziel wie die Calliope gGmbH<\/a> in Deutschland. Ziel ist, Menschen auf der ganzen Welt preiswerte, angemessen leistungsgerechte Computer zur Verfu\u0308gung zu stellen, damit sie in der Lage sind, die digitale Welt zu verstehen, zu erschaffen und zu modellieren (Priyadarshiny 2018). Stand 2020 haben u\u0308ber 30 Millionen Exemplare eines Raspberry Pis einen K\u00e4ufer gefunden (vgl. Tung 2019).<\/p>\n

    Technik des Raspberry<\/h3>\n

    Der Raspberry Pi 3b\u00a0 besitzt 4 ARM Cortex-A53 Kerne (1200 MHz) und eine Broadcom VideoCore IV GPU. Der Ram liegt bei 1024 MB DDR2 Speicher. Es ist ein Wlan-Chip auf der Platine verbaut und das Betriebssystem wird u\u0308blicherweise u\u0308ber eine SD-Karte gestartet. Weitere Anschlu\u0308sse sind ein HDMI-Ausgang, ein Lan-Anschluss, vier USB-Anschlu\u0308sse und GPIO Pins fu\u0308r das Anschlie\u00dfen weiterer Sensoren, Aktoren oder auch eine Kameras. (reichelt 2020)<\/p>\n

    – Abb. folgt<\/p>\n

    Abb. 1:\u00a0 Raspberry Pi 3b<\/p>\n

    Der Raspberry Pi 3 kann viele KI-Modelle nicht ausfu\u0308hren. Dazu za\u0308hlen derzeit beispielsweise alle MobileNetv2 SSD Modelle mit einer Auflo\u0308sung von u\u0308ber 300×300 Pixeln und alle ResNet SSD Modelle. YOLOv3 tiny ist mit dem Raspberry Pi kompatibel (NVIDIA 2019b).<\/p>\n

    Der Preis des Raspberry Pi 3 liegt bei etwa 35 Euro (vgl. Amazon 2020). Die Ma\u00dfe bleiben unter den verschiedenen Versionen der Raspberry Pis in der Regel identisch und betragen 85,6 \u00d7 56mm (Datenreise 2020).<\/p>\n

    Die aktuelle Version ist der Raspberry Pi 4. Sie ist in bestimmten Situationen teils um den Faktor vier schneller (The MagPi magazine 2020) als die Vorg\u00e4ngerversion Raspberry Pi 3. Gerade bei KI-Anwendungen ist der Leistungsschub merkbar: Bei der Ausfu\u0308hrung von MobileNet auf TensorFlow Basis liegt der Leistungszuwachs bei etwa 300% (Allan 2019).<\/p>\n

    Einsatz des Raspberry in „Edge Computing und k\u00fcnstliche Intelligenz“-Szenarien<\/h3>\n

    Auf dem Raspberry Pi haben studentische Arbeitsgruppen der Hochschule Niederrhein bereits KI-Modelle entworfen und implementiert die<\/p>\n