We're sorry but this page doesn't work properly without JavaScript enabled. Please enable it to continue.
Feedback

IoT Workflows: Apache Nifi mit MQTT/Cassandra (4)

00:00

Formale Metadaten

Titel
IoT Workflows: Apache Nifi mit MQTT/Cassandra (4)
Serientitel
Anzahl der Teile
8
Autor
Lizenz
CC-Namensnennung - Weitergabe unter gleichen Bedingungen 4.0 International:
Sie dürfen das Werk bzw. den Inhalt zu jedem legalen Zweck nutzen, verändern und in unveränderter oder veränderter Form vervielfältigen, verbreiten und öffentlich zugänglich machen, sofern Sie den Namen des Autors/Rechteinhabers in der von ihm festgelegten Weise nennen und das Werk bzw. diesen Inhalt auch in veränderter Form nur unter den Bedingungen dieser Lizenz weitergeben.
Identifikatoren
Herausgeber
Erscheinungsjahr
Sprache

Inhaltliche Metadaten

Fachgebiet
Genre
Abstract
Dieses Material ist Teil der Lehr-Lern-Materialien von "OER4EE - Technologien für die Energiewende" und zugleich Bestandteil der Lehrveranstaltung Energie 4.0, Kapitel 5. Inhalt dieses Screencasts: IoT Workflows: Apache Nifi mit MQTT/Cassandra: Installation und Start (1)
Schlagwörter
Computeranimation
Computeranimation
Computeranimation
Computeranimation
Computeranimation
Transkript: Deutsch(automatisch erzeugt)
Teil 2, Vorbereitung des Hands-on-Praktikums. Übersicht zu Teil 2, wir gehen kurz durch die offiziellen Installationen von NiFi und Moskito. Kafka habe ich mitgebracht und seinen Zookeeper zur Information, falls Sie selber irgendwann
damit fortsetzen wollen. Läuft natürlich analog. Danach gucken wir uns kurz NiFi und Q in der Installation fürs Praktikum an, Startsprozedur und bei Bedarf die Port-Freigabe. Das ist dann für die Windows-Nutzer unter Ihnen relevant.
Offizielle Installationen, NiFi in der offiziellen Variante, nicht so vorbereitet, wie wir das fürs Praktikum machen, wie müsste man das machen, hier ist die Webseite angegeben, ob die geht, man findet dort diesen Link zum Download-Bereich, da steht dann so etwas
wie Apache-NiFi-Downloads und als ich das letzte Mal gemacht habe, sah es so aus, dass es mit den Releases 1.12.1 begann, das ist also relativ frisch jetzt, dann sucht man sich hier natürlich nicht den Source Code, mit dem können wir jetzt nicht so viel anfangen,
Und je nach Rechner, für die Linux-Menschen würde ich sagen, ist das Bin-Target-Z eine gute Sache und für die Windows-Menschen, die nehmen direkt Bin-Punkt-ZIP, nehmen Sie eines der beiden nur natürlich und laden es mittels Klick- und passender Server-Auswahl herunter. Das ist ein relativ großes Paket, ich denke das ZIP hat etwa 1,5 GB und entpackt natürlich
größer. Moskito ist ein ganz leichtgewichtiges Tool, aber mit durchschlagender Wirkung, also das ist ein krasser Faktor, kleiner nur 1,4 MB, nicht 1 GB, heftig eigentlich, Hatze Hatze
hat natürlich auch nicht viele Konnektoren und ähnliches, anders als NiFi, das geht fix, das ist die Webseite hier, der Installationsbereich, den habe ich Ihnen ebenfalls direkt angegeben, Je nach Betriebssystem kann man das dann downloaden, man sollte die Hinweise hier beachten, die hier so stehen. Wer eine normale Linux-Distribution hat, wird Moskito im 2x2 schon haben und für Windows
habe ich Ihnen hier den passenden Link angegeben zu einer üblichen 64-Bit-Version, hier steht auch, wo es gebaut worden ist, das ist uns aber soweit erstmal egal, das kann man also herunterladen und installieren.
Und für Kafka säht das ähnlich aus, da ist es ein bisschen her, seit ich das letzte Mal hier diesen Snapshot gemacht habe, aber das ist auch nicht so entscheidend, läuft ausgleich heraus, wenn man das haben wollte, macht man hier wieder mittels Klick und Server-Ausfall einen Download. NiFi Anko, wie sieht die Installation fürs Praktikum aus, vorbereitet über Lea, Sie
brauchen für alle Installationen der Praktika insgesamt, wenigstens etwa 8 GB Speicherplatz, also für alle Kapitel zusammen, Sie können aber auch den ganzen Big Data Ordner auf eine externe Festplatte oder sogar einen USB-Stick schieben, die Skripte, die ich Ihnen für
den Windows-Fall jedenfalls vorbereitet habe, arbeiten von dem Ort aus, wo Sie starten, das ist also kein Problem, das kann auch ein USB-Stick sein. Für Präsenz- bzw. Sie nutzen fürs Praktikum oder später den auf den folgenden Folien beschriebenen Weg und nur für Windows-Nutzer und Präsenz-Semester könnte man eine Festplatte oder einen Stick
mit den ganzen nötigen Ordnern und Skripten ausleihen und dann kopieren, aber wir werden jetzt natürlich diesen Weg hier beschreiben, der jetzt in den Folien abgebildet ist. In Leer bzw. im Link zu dem passenden Server finden sich unter anderem folgende Archive,
Moskito-Zip und das NiFi-Bin.zip, also im Grunde die Windows-Varianten jeweils vorbereitet, weil diese Dateien sehr groß sind, liegen sie normalerweise auf einem separaten Server, wenn die Infrastruktur das an Ort und Stelle nicht direkt hergibt.
Die oben genannten Dateien aus dem entsprechenden System herunterladen und alle kommen in den schon aus dem vorherigen Praktikum genutzten Ordner, den Big Data Ordner. Dann werden sie dort entpackt und zwar ohne den Archivnamen nochmals als Unterordner einfügen zu lassen. Das ist wichtig, dass da also nicht dann drin steht ein Unterordner
Moskito und in dem drin ist ein Unterordner Moskito und dann erst die Dateien die da drin sind, wenn einfach genauso, sondern flach. Wenn Sie in Moskito reingucken, müssen da schon die inhaltlichen Verzeichnisse stehen. Wenn Sie in den NiFi-Ordner reinschauen, müssen da dann schon Bin und so weiter, die ganzen Archive stehen. Verzeichnisfade für alle drei Pakete nicht ändern, denn sonst müssen Sie die nachfolgenden
Skripte anpassen oder die nachfolgenden genannten Skripte. Ich habe sie hier nicht noch mal aufgelistet. Die sehen ähnlich aus wie im Falle von Cassandra. Es gibt Setup Moskito und Setup NiFi, zwei bzw. drei Dateien. Die oben genannten Dateien herunterladen, alle ebenfalls in den Ordner aus dem vorherigen Praktikum verschieben, in den Big Data Ordner
eben. Bei den Batch-Dateien muss man, weil etwas nervig ist, die Endung bud.sec umbenennen zu .bud. Dann kann man es auch wieder ausführen. Startprozedur für unseren Workflow nachher, den wir ja aufbauen wollen, MQ2T, NiFi und Cassandra. Wir brauchen also Moskito, NiFi
und Cassandra. Die Reihenfolge ist wichtig. In folgender Reihenfolge starten Sie das Setup Cassandra Server. Zum Beobachten können Sie zusätzlich Setup Cassandra CQLSH starten, damit Sie dann immer wieder mal Tabellenabfragen machen können und gucken, ob Dateien angekommen sind. Setup Moskito Server, also dann nach Cassandra wird Moskito gestartet und zwar
der Server. Zum Beobachten können Sie zusätzlich Setup Moskito Subscribe starten. Danach Setup NiFi Server, ein bisschen warten. Setup NiFi GUI, das braucht auch jedenfalls ein bisschen Zeit. Und zum Beobachten zusätzlich Setup NiFi log bud starten und das Kommando, was dann erscheint,
hinter dem REM kopieren und ausführen. Alle Fenster nicht schließen, einfach laufen lassen. Wie das Ganze ausschaut, führe ich Ihnen jetzt vor. Ich habe bei mir die Dateien in C
Doppelpunkt Big Data abgelegt, um Ihnen einmal die Verzeichnisstruktur zu zeigen, die bei Ihnen jetzt zumindest in größeren Teilen schon so ausschauen sollte. Apache Cassandra, wenn man das öffnet, sieht flach so aus. Bin, Conf und so weiter. Was haben wir noch? JDK muss mit dem
Bin wieder starten. Das meinte ich eben, damit das nicht noch mal der Ordner, so wie er heißt, als Ordner hier erscheint und dann erst die Dateien drin sind, sondern wenn ich Moskito öffne, dann muss da Devil und so weiter direkt zu sehen sein. Die NiFi Input, Output und so weiter Ordner kommen noch, aber das sollten Sie schon haben. Auch das hier muss das Bin direkt hier liegen haben,
so flach wie es geht. Portable Python liegt dann hier in meinem Falle noch. Und dann habe ich hier die SIPs und eine ganze Reihe von Startscripten. Ein, zwei Sachen, die vielleicht Sie noch gar nicht haben, was auch völlig in Ordnung ist. Von der Reihenfolge her, wir starten mit dem Cassandra
Server. Doppelklick, warten, dann beschwert er sich auch bei mir über alles mögliche. Das ist in Ordnung. Sie warten noch ein Weilchen, darum zeige ich Ihnen halt auch noch mal, wie das komplett ausschaut. Gut, wenn wir jetzt hier angekommen sind und hier etwa steht wie Use JMX or Node Tool to
start it völlig okay, dann versenken wir dieses Fenster und gucken erstmal nicht hin. Wir können zum Überwachen die Setup Cassandra CQLSH aufmachen. Braucht ein bisschen und dann gucken wir mal, ob wir Key Spaces haben. Ja, gibt es und dann können wir Use Lastprofile nutzen und so weiter.
Das gucken wir uns später wieder an. Als nächstes sollten wir ja den Moskito Server starten. Auch hierfür verwenden wir wieder ein Doppelklick und jetzt Achtung, bei mir sieht das so aus,
zeige ich Ihnen auch mal, dass er versucht hier loszulaufen im Verbose Mode, also im geschwätzigen Mode. Default Config, Opening, Listening, Socket und Port 1883, wie ich Ihnen vorhin gezeigt hatte. Und dann kommt ein Fehler, normalerweise darf jedes Socket Adresse Blablabla nur jeweils einmal
verwendet werden. Okay, denkt man sich, was soll das jetzt, was ist hier los? Hier ist die Erklärung ganz einfach, darum zeige ich es Ihnen mal, falls das bei Ihnen so ähnlich ist. Ich überwache jetzt mit Moskito Sub My Topic und schicke mit Moskito Publish, was ja bereits im Fahrt hier ist. Ich
habe ja den MQTT Home hinzugefügt zum Path, also kann ich das hier direkt benutzen. Ich schicke also aus Topic Path 1 eine Message namens einfach Hello und gucke mir an, ob mein Server nicht direkt
schon läuft. Wenn ich das hier so mache, dann und kein Host angebe, dann geht er davon aus, dass ich es über meinen lokalen Rechner schicke und oh Wunder, wir sind also schon da. Er reagiert instantan, also er läuft einfach schon. Gut, jetzt haben wir auch den entsprechenden Überwacher gestartet, den hier können wir uns jetzt nach unten wieder legen und dann fehlt als letztes Neifile.