Hi, mein Name ist, also erstmal vielen Dank für die Einladung an Netzpolitik und auch für euch alle, dass ihr hier seid, auch im Nachbar-Track ist es sehr, sehr spannend, also wenn jemand irgendwie zwischendurch noch rüber muss, kann ich das gut verstehen. Kurze Vorstellung, mein Name ist Peter Bier, ich beschäftige mich mit dem Einfluss

und den Möglichkeiten, die neue Technologien mit sich bringen, also insbesondere dieser Tage ist es viel Internet of Things, es ist ein bisschen Künstliche Intelligenz, solche Sachen und ich trage dabei zwei Hüte, einen kommerziellen und einen nicht kommerziellen. Der Kommerzielle ist, ich habe eine kleine Firma gegründet namens The Waving Cat,

die kleine Agentur hier in Berlin quasi, die sich auf kommerzieller Ebene mit digitaler Strategie beschäftigt, mit Forschung, mit Foresight, das heißt ich helfe Unternehmen und anderen Organisationen damit herauszufinden, wie verändert sich ihre Arbeit durch neue

Technologien, durch Internet of Things und ähnliche Sachen und es beinhaltet Sachen wie Forschung für die Bundesregierung zum Thema, was bedeuten Smart Cities aus Bürgersicht statt immer nur aus Konzernsicht, mal ist es irgendwie vernetzte Mobilität für Automobilfirmen, mal ist es IoT Policy mit größeren Techfirmen und die andere

Hälfte, die ich tue, sind selbst initiierte Projekte von Sachen, die mir einfach sehr am Herzen liegen, die oft nicht kommerziell verwertbar sind oder noch nicht kommerziell verwertbar sind, aber die interessant und wichtig sind und die beiden Teile greifen ganz gut ineinander. Das sind viele Community-Events, das sind viele Publikationen. Eine davon, okay hier ist noch wildes Gewühle, aber es macht

nichts, ich habe verpasst bisher nichts außer ein paar Logos, alles gut. Die wichtigste von diesen Nebeninitiativen ist ThinkCon, auf die ich ungefähr die Hälfte meiner Zeit verwende und ThinkCon hat angefangen hier in Berlin als Konferenz vor so was wie drei oder vier Jahren, ich bin mir gar nicht sicher und hat sich aber zu

einer globalen Community entwickelt von Leuten, die professionell im Bereich Internet of Things arbeiten und denen es sehr am Herzen liegt, dass es nicht nur darum geht, da schnell irgendwie Venture Capital einzusammeln und dann möglichst schnell zu skalieren und alles zu verkaufen, sondern die sagen, okay wir müssen die Menschen ins Zentrum stellen und wir müssen

einen verantwortungsvollen Umgang finden, was passiert, weil das sind hochkomplexe Sachen, die in alle Bereiche unseres Lebens gehen. Und das ist auch die offizielle Mission, die wir uns gegeben haben, we create a human centric and responsible Internet of Things und ich komme später noch mal darauf zurück, wie wir das konkret tun. Kleiner Hinweis auch, ich bin kein Rechtsanwalt, also wenn ich heute über Policy und Regulierung spreche,

tue ich das aus von der Background als Politikwissenschaftler und jemand, der in Technologie arbeitet, nicht als Rechtsanwalt, das heißt ich konzentriere mich auch stärker auf die Spannungsfelder als auf konkrete Policies.

Oh, das wäre auch was. Aha, USB-C auf VGA. Okay, die Adaptersammlung ist beeindruckend, die ist hier mit drauf.

Aber ist auch so oder so kein Problem, also die Folien sind auch auf dem Blog, die URL kann ich nachher mal noch teilen, also falls jemand Folien sehen will, kann er das nachher machen.

Okay, oder? Alles gut, vielen Dank.

Nee, USB. Ist irgendwie Vollbild. Control, ja.

Wo? Full Screen Mode, okay. Okay, okay, okay. Ich hole euch mal kurz ab. So, da waren wir gerade. Dann muss ich noch drüben wieder auf die Prison House. So, wie gesagt, Thingscon ist das Community, von der ich gerade geredet hat, aber worüber wir gereden wollten, was Internet

Dinge und Internet Dinge oder IOT ist leider ein riesiges Sammelbecken von einem Begriff und das hilft nicht gerade. Also deswegen nur mal ganz grob umrissen, ich würde es mal ganz pragmatisch schiffen als alles, wo das Internet in den physischen Raum verlängert wird, alle vernetzten und datengetriebenen Produkte, die auch in den physischen Raum

reinragen oder physische Komponente haben. Aber konkreter, es ist alles von selbstfahrenden Autos bis zu Lernelektronik, bis zu Fitness-Trackern, bis zu industrieller Fertigung. Es ist ein riesiges, riesiges Feld und es hilft diesem Diskurs überhaupt nicht. Deswegen würde ich, hier sieht man es noch ein bisschen

geordneter, würde ich mal vorschlagen, dass wir uns für den heutigen Vortrag sozusagen komplett, diese ganze industrielle Bereich einfach komplett rausnehmen, dass wir also sagen, alles, was mit Industrie zu tun hat, industrielle Fertigung, was in Deutschland sehr, sehr groß ist im Bereich IOT, lassen wir raus. Beschäftigung ist mehr mit Smart Home.

Smart City, allem, was man so im Verbraucherbereich mehr hat. Und es gibt uns mehr als genug Material, weil das Internet der Dinge nach und nach im Prinzip alle Bereiche unseres Lebens berührt. Und deswegen müssen wir sicherstellen, dass es auch für alle Menschen gleich gut funktioniert, was derzeit

überhaupt nicht gegeben ist, aus verschiedensten Gründen. Ich sehe im Prinzip vier ganz große Herausforderungen im Bereich Internet der Dinge. Und ich sage gleich dazu, manche sind Regulierungsfragen, manche sind Design-Fragen, manche sind Fragen von digitalen Fertigkeiten.

Die erste, ich habe sie direkt mit Null bezeichnet, ist Sicherheit. Das Internet der Dinge ist größtenteils unfassbar unsicher, geradezu lächerlich unsicher. Ich werde da nicht groß drauf eingehen heute, weil sich andere besser damit auskennen, weil das einfach so eine große Baustelle ist, dass sie uns sonst den restlichen Tag kosten würde.

Aber nur als Beispiel, wir waren kürzlich in China und haben mal in Shenzhen geschaut, wo ein Großteil der Elektronik der Welt gebaut wird, wie das also aussieht, ob Sicherheit mitgedacht wird in Produkten. Und wir haben unter anderem eine ganze Shopping-Mall gefunden, die Sicherheitsprodukte verkauft hat, also vor allem internetvernetzte Sicherheitskameras.

Diese Kameras kosten, wenn man eine kauft als Probe, ungefähr 12 Dollar, wenn man irgendwie eher 100 oder 1000 kauft, geht der Preis runter auf 8 oder teilweise 6 Dollar. Da kann man sich mal überlegen, also, dass die überhaupt hergestellt werden können zu dem Preis, ist schon eigentlich absurd, aber dass dann natürlich keiner auch nur einen Cent auf Sicherheit verschwendet. Und deswegen ist es kein Wunder, wenn wir dann große

weltweite Attacken sehen, so große Deluxe-Attacken, die größtenteils über Internet of Things-Produkte koordiniert werden und ablaufen. Und es ist übrigens nicht einfach, rauszufinden, ob das, falls jemand von euch irgendwie eine vernetzte Sicherheitskamera oder ein Thermostat zu Hause hat, es ist nicht einfach, rauszufinden, ob diese Geräte Teil von irgendeinem Bottenbergwerk sind.

Ich habe es mal versucht, rauszufinden. Also, ich bin relativ dran gescheitert. Die anderen drei Herausforderungen, die wir gleich der Reihe mal noch durchgehen, ist die Komplexität und damit einhergehend auch, dass es verschiedenste Zuständigkeiten gibt im Bereich internetter Dinge. Das Zweite sind Power Dynamics. Da ist der englische Ausdruck ein bisschen besser als der deutsche.

Kommen wir gleich noch mal zu. Also, alles rund um Machtfragen und wer kann Sachen kontrollieren, anschalten, abschalten, wer hat ein Recht darauf, sie zu verändern oder damit zu basteln. Und das Dritte und vielleicht größte Feld ist Transparenz oder Mangel an Transparenz.

Internetter Dinge hat automatisch und inherent einen ziemlich hohen Komplexitätsgrad. Wir haben es mit vernetzten Technologien zu tun, mit datengetriebenen Systemen zu tun, häufig mit Systemen, die mit anderen Systemen vernetzt sind und sich untereinander austauschen. Und so eine Art von Komplexität führt zu ziemlich unvorhersehbaren Konsequenzen.

Ich habe dieses Foto gesehen von Douglas Coupland. The unanticipated side effects of technology dictate the future. Also, die unerwarteten Folgen von Technologie bestimmen die Zukunft. Das ist relativ offensichtlich aus heutiger Sicht, dass wir tatsächlich mit den neuen Technologien raushauen, dass wir oft gar nicht wissen, was die später für Auswirkungen haben werden.

Und das wird zunehmend zu einem Problem, vor allem, wenn man diese riesigen Ketten von Vernetzung aneinander hängt und von Automatisierung aneinander hängt. Und deswegen finde ich es unsere Aufgabe, dafür zu sorgen, dass diese Konsequenzen so positiv sind wie möglich, dass wir Risiken beschränken und trotzdem gleichzeitig versuchen, die positiven Möglichkeiten weiterhin zu nutzen.

Das Internetter Dinge lebt so ein bisschen an der Schnittstelle verschiedenster Bereiche von Expertise und Regulierung. Das geht ja irgendwie Hand in Hand. Da fallen so Bereiche rein, wenn man in so einem Vendeeagramm denkt, wo sind die Schnittmengen von der Technologie mit drin, Wirtschaft, IT, Privatsphäre und Datenschutz, Künstliche Intelligenz und ganz, ganz viele andere Bereiche.

Je nachdem, in welchem Kontext man gerade spricht. Also ob das jetzt irgendwie so ein Fitness-Tracker ist, den man sich anschnallt, ist vielleicht noch egal. Den kann man auch jederzeit ablegen. Wenn die Smart City vernetzt wird, sieht es schon ganz anders aus, wenn man in einem Auto sitzt oder in einem Bus, der autonom fährt, der aber auch durch Sensornetzwerke mit gesteuert wird.

Da hängen schon relativ komplexe Fragestellungen hintendran und auch viel Infrastruktur. Also IoT wird zunehmend zu so einer horizontalen Technologie wie das Internet selber, die sich quer durch alles andere zieht. Und das macht die Sache relativ schwierig. In Deutschland ist dieser Diskurs extra speziell,

finde ich persönlich, weil hier IoT vor allem unter dem Banner von Wirtschaft und industrieller Fertigung diskutiert wird. Das ist, wo in Deutschland am meisten Geld ist, weil Deutschland eine Hightech Exportnation ist und die ganzen Fabriken digitalisiert werden und voller Sensoren sind. Aber alles, was in Deutschland von der Bundesregierung und von den ganzen Konzernen als Industrie 4.0 bezeichnet wird,

ist einfach nur der industrielle Teil von IoT. Und das ist ein sehr spezielles Ding für Deutschland. Das wird sonst nicht unbedingt so diskutiert. Das ist wirklich nur in Deutschland so, zu diesem Maß und bis zu einem gewissen Grad noch in Japan. Also in diesen ganz, ganz klassischen Hightech Manufacturing Nationen. In den USA, in Skandinavien, in Brasilien

wird es ganz, ganz anders diskutiert. Da ist das Framing auf diese Fragen ganz, ganz anderes. Und um es ganz plump zu sagen, uns fehlt so ein bisschen die Sprache und auch die Metaphern, um so komplexe datengetriebene Systeme vernünftig zu diskutieren. Das heißt, wir sind sehr schlecht darin, wirklich sehr, sehr schlecht darin, diese langfristigen Auswirkungen und Implikationen

von diesen datengetriebenen Systemen zu durchdringen. Und deswegen sieht man das auch direkt im Diskurs. Der schwankt die ganze Zeit zwischen so einer Utopie und so einer Panikmache. Und das hilft natürlich niemandem. Aber wir sind einfach schlecht darin zu sagen, was passiert in 10, 20, 30 Jahren mit Daten, die wir heute erheben.

Markus hat da vorhin schon darauf hingewiesen. Also bei der Überwacherungsgesetzgebung ist das ein ganz konkretes Problem. Was ist, wenn die Regierungsform wechselt oder die Regierung wechselt? Aber das fängt auch noch viel früher an. Also ganz konkrete selige Ziele bedenken und absehbare Herausforderungen sind zum Beispiel, dass selbst Datensätze, die heute anonymisiert erscheinen,

was schwierig genug ist, können schon in ein paar Jahren völlig problemlos wahrscheinlich deanonymisiert werden durch Machine Learning und künstliche Intelligenz. Und das setzt erst mal voraus, dass man Datensätze überhaupt anonymisieren kann, was wirklich schwer ist. Sobald man zum Beispiel mit irgendwelchen Mobilitätsdaten oder GPS-Daten arbeitet, ist es fast unmöglich,

irgendwas wirklich zu anonymisieren. Weil wenn du auch nur zwei Tage Bewegungsprofil hast, weißt du in der Regel, wer ist die Person, wo lebt sie, wo arbeitet sie. Also das geht wirklich sehr, sehr schnell, diese Sachen zu deanonymisieren. Und das Zweite, wie gesagt, die deutsche Übersetzung ist ein bisschen holprig, aber so Power Dynamics und alles, was rund um Machtfragen, Machtausübung

und Kontrolle zusammenkommt, klingt auf Deutsch immer erst mal sehr, sehr dramatisch und so ein bisschen nach Game of Thrones. Aber das sind wirklich Fragen, die bei allen vernetzten Technologien sehr schnell wichtig werden. Also konkret solche Sachen wie, wer kontrolliert Daten, wer kontrolliert den Datenfluss, den Datenfluss und wie die Daten genutzt werden können.

Wem gehören die Computer, auf dem diese Verarbeitung stattfindet? Bin ich das? Ja, das bin ich. Ich schlöpfe es mal kurz um. Okay, das steht heute technologisch.

Dankeschön. Wie gesagt, wem gehören die Computer, die die Daten verarbeiten? Wem gehören die Daten? Wer kann die Computer an- und abschalten? Wer hat Zugriff? Wer gewährt den Zugriff? Wer kann ihn verweigern? Wer kann Daten wieder löschen?

Das sind alles Fragen, die sollten erst mal einfach zu bearbeiten sein. Also zum Beispiel würde ich immer aus Instinkt sagen, die Nutzer, die die Daten schaffen, denen sollten die Daten gehören. Halte ich als Grundsatz richtig, ist aber in der Praxis extrem schwer, wenn man immer mit diesen kombinierten Datensätzen arbeitet. Und beim IoT,

ihr seht es in dieser wunderschönen Zeichnung, die ich vorhin noch schnell gemacht habe, kauft man halt in der Regel nicht nur ein Produkt in der Box und es funktioniert wie früher so ein Fernseher funktioniert hat oder ein Telefon, sondern man kauft sich immer quasi so ein ganzes Netzwerk, was da hinten dran hängt. Und diese Dinger sind super, also teilweise einfach super schwer zu durchdringen. Es ist schwer zu sagen, was da passiert.

Also, und nur mal so ein paar kürzliche Beispiele von so Missbrauchsfällen, die dann passieren, wenn man so eine Technologie hat, die nicht durchschaubar ist und die eindeutig ausgenutzt werden können oder einseitig ausgenutzt werden können. Samsung hatte letztes Jahr einen größeren Skandal, weil sie in Smart TVs

einfach das Mikrofon damit laufen lassen und auch aufgezeichnet haben, was geguckt wurde und haben diese Daten weiterverkauft, ohne dass es wirklich eine wirkliche Zustimmung von irgendwelchen Nutzern gab. Also, jeder hat am Anfang bestimmt mal irgendwo die Terminal Services durchgeklickt, aber wir wissen alle, wie das funktioniert oder nicht funktioniert. Ein zweites Beispiel ist diese vernetzte Puppe Kyla.

Die hat vielleicht der eine oder andere gehört. Die hat ein bisschen Presse bekommen Anfang des Jahres irgendwann. Es war eine Puppe, die war vernetzt. Man konnte per Bluetooth konnten Eltern Nachrichten in ihre Kinder schicken oder auch zuhören, was ihre Kinder so machen und konnten so miteinander sprechen. Leider war diese Puppe überhaupt nicht gesichert, also wirklich gar nicht gesichert.

Jeder in Bluetooth Reichweite konnte sich einfach damit verbinden, konnte das Mikrofon anschalten und dem Kind zuhören oder konnte auch einfach das Kind zu Tode erschrecken, indem er einfach Nachrichten geschickt hat. Diesen Zwischen in Deutschland verboten. Auch der Besitz ist, glaube ich, inzwischen verboten, weil es quasi als Verstoß gegen das Überwachungsgesetz galt, wenn ich es noch richtig weiß,

weil es einfach quasi ein verstecktes Überwachungsgerät war. Als normales Elternteil konnte man nicht wirklich schnallen oder, wenn man die Puppe einfach sieht, erahnen, dass sie ein Mikrofon hat, was jederzeit aktiviert werden kann. Und das ist ganz spannend, weil Deutschland war das erste Land, das die verboten hat. Und das habe ich sonst auch weltweit noch nirgends gesehen.

Und ich finde, diese ganzen Fragen, diese ganzen Fragen nach Kontrolle und wer kontrolliert wen werden besonders greifbar in zwei Bereichen, wo die sich ganz besonders deutlich manifestieren. Das eine sind Smart Homes oder Connected Homes, also alles, was so mit Amazon Echo, Google Home.

Soll ich irgendwas ausdrehen bei dir? Ja, wo denn? Entschuldigung, gibt es irgendwie so einen Hard Switch für Wi-Fi?

Einer von den F-Knöpfen. Flugmodus, zack. Geht aber auch an. Welcher Knopf ist rechts?

Zu viele. Ei, ei, ei. Ja, okay. Visibility habe ich mal von gehört. Also, wie gesagt, Smart Homes sind von daher ganz spannend. Alles, wenn es so geht, Thermostates, Smart TVs,

ein Google Home, Amazon Echo, all diese Sachen, die man so sich ins Haus holt als vernetzte Geräte, sind derzeit noch nicht so ein Problem, weil bisher ist es wirklich was für Early Adopter. Das heißt, bisher kann man sich noch so ein bisschen denken, dass wenn man sich so was ins Haus holt, auf was man sich einlässt. Aber das wird zunehmend verschwinden, weil einfach immer mehr Geräte vernetzt sind.

Und das Zuhause war, zumindest wenn man weltweit mal so in den Westen guckt, sozusagen war das Zuhause immer ein ganz, ganz traditionell privater und geschützter Raum. Es war klar, was da passiert, irgendwie bleibt da und das hört auch niemand zu. Zumindest für einen großen Teil der Zeit.

Das ist jetzt einfach nicht mehr gegeben. Das müssen wir wissen. Also das hat angefangen damit, dass wir natürlich immer ein Mikrofon und einen Computer in der Hosentasche haben. Aber es gibt auch einfach immer mehr Mikrofone rund um uns herum, die jederzeit irgendwie an- oder ausgeschaltet sein können. Und der zweite Bereich, den ich ganz spannend finde, ist die Smart City.

Also das ist was, was weltweit gerade diskutiert wird, dass man häufig unter so einer Effizienzsteigerung geht und Energieeffizienz und so, also aus durchaus guten Impulsen raus diskutiert wird. Dass man so Sensorennetzwerke hat, die in der Stadt die Bewegung messen und so weiter und so fort. Und Regierungen aller Städte stehen eigentlich so relativ stark auf dieses Thema,

weil es leichter wird, die Stadt zu verwalten. Aber im öffentlichen Raum gibt es halt kein Opt-out. Alles, was da passiert, dem kann man sich nicht entziehen. Und das ist erst mal so aus demokratietheoretischer Sicht nicht unproblematisch. Also es gab so ein paar Fälle, die eher noch so ein bisschen fast schon lustig sind,

wo man schon mal andeuten oder so ein bisschen ein Gefühl dafür kriegen kann, was so alles passieren wird. Also zum Beispiel, ich glaube Atlanta oder Kansas City, ich bin mir nicht ganz sicher, wollten Strom sparen und haben gesagt, wir schalten die Straßenlaternen ab, wenn niemand auf der Straße ist. Ist an sich nicht blöd. Blöd war, dass sie festgestellt haben, ob jemand auf der Straße ist,

indem sie geguckt haben, wie viele Handys sind gerade eingeloggt im nächsten Telefonmasken. Wenn du abends nach Hause kamst und die Batterie von deinem Handy war alle, warst du alleine auf der Straße oder hast für die Stadt einfach nicht existiert, wandel ich da wieder aus. Und es ist noch so, da kann man sagen, okay, ist jetzt nicht die Welt, das wird schon jetzt niemanden umgebracht haben.

Aber es gibt so einen kleinen Vorgeschmack dafür, wie viele Komponenten wir damit bedenken müssen. Und die Spannungen gehen aber auch weit darüber hinaus. Also zum Beispiel, auch darauf hat Markus vorhin schon mal kurz hingewiesen, wer darf zugreifen auf vernetzte Geräte und Services?

Wer darf das Gerät öffnen? Wer darf es hacken? Wer darf es reparieren? Dürfen das Regierungen? Dürfen das Hersteller? Dürfen das Nutzer? Was steht in dem Nutzungsvertrag, den wir alle einmal durchklicken müssen, bevor man so ein Gerät heute benutzt? Und das ist natürlich ein fürchterliches Machtungleichgewicht. In den USA bekämpft die Electronic Frontier Foundation das relativ gut

unter dem Namen Defend Your Right to Repair. Hier läuft es mehr unter Right to Tinker oder auch Recht zum Haken. Also quasi sollte es okay sein, dass Firmen, wenn sie pleite sind oder wenn sie verkauft werden oder wenn sie keine Lust mehr haben, euren vernetzten Toasters unterstützen,

dass sie dann einfach das Ding abdrehen. Ich glaube nicht. Aber wenn man es gleichzeitig nicht legal reparieren kann, ist es ein Problem. In Schweden gab es gerade Diskussionen, ich weiß gar nicht, ob es fertig eingeführt war, und zwar die Idee, dass Steuernachlasse für Reparaturen eingeführt werden, um Reparieren und Langlebigkeit zu fördern.

Das ist eigentlich ganz schön. Da gibt es dann so einen Mehrwertsteuernachlass, glaube ich. In London gibt es das ganz großartige Restart Project, die sich auch mit einem möglichst langen Lebenszyklus von digitalen Geräten beschäftigen. Also die sagen dann, dein Handy kann locker drei Jahre länger laufen, wenn man es leichter reparieren kann. Aber die haben auch festgestellt und starten gerade eine große Initiative dazu,

dass eben auch Software-Komponenten mit einbezogen werden sollten, weil häufig einfach Geräte heute auch durch ein Software-Update abgestaltet werden können. Und schließlich, weil wir gerade von Smart Cities gesprochen haben, Barcelona ist die erste Smart City, die, glaube ich, eine wirklich smarte Strategie zu dem Thema entwickelt hat. Die fokussieren nämlich ganz stark auf Grassroots

und auf Open Source und auf Empowerment ihrer Nutzer und ihrer Bürger. Und das ist cool. Und das größte Problem ist, glaube ich, aber eigentlich wirklich Transparenz oder dass es eigentlich das Internet der Dinge ziemlich intransparent ist. Du kaufst im Prinzip immer so eine Black Box. Und es ist wirklich schwer zu sagen, was tut das Gerät?

Was kann es? Welche Daten werden gesammelt? Wofür werden die genutzt? Mit welchen Datensätzen werden die kombiniert? Wer hat Zugriff? Wer darf die Nutzungsrechte ändern? Oder wer kann was löschen? Und ganz problematisch, was verändert sich beim nächsten Software-Update? Software-Updates von Ferne sind im Prinzip die größte Stärke vom Internet der Dinge,

weil man Produkte weiterentwickeln kann. Du merkst, es ist etwas noch nicht so gut, wie es sein könnte. Beim nächsten Update wird es besser. Gleichzeitig ist es aber auch die größte Schwäche, weil es total intransparent ist, was dann passiert. So ein Software-Update kann im Prinzip bei einem Hardware-Gerät komplett die Funktionalität verändern. Es kann einfach alles abschalten. Es kann neue Features anschalten. Es kann Defaults ändern.

Von das Mikrofon und die Kameras sind immer aus, zu sie sind immer an. Es kann teilweise ganz neue Sensoren aktivieren. Also ganz, ganz viel vernetzte Hardware. Heutzutage werden wir Sensoren gebaut und ausgeliefert, die sie beim Bau nie vorhaben zu nutzen. Einfach weil es billiger ist, Boards zu kaufen, die schon Sensoren eingebaut haben. Also oft ist es billiger, was mit einem Mikrofon

oder mit einem Bewegungsmelder zu kaufen, weil einfach diese großen Industrieketten es billiger machen, diese Dinger zu kaufen, als wenn man sie ohne extra Sensoren kaufen würde. Und selbst wenn am Anfang keiner vorhat, die anzuschalten, kann es gut sein, dass der nächste Produktmanager das quasi einschalten will, weil es spannende Daten gibt. Und ich finde, es gibt so vier Testfragen,

mit denen man gucken kann, ob die eigene Erwartung und das Vertrauen in Geräte wirklich gerechtfertigt sind. Die erste ist eine ganz simple. Es tut das Produkt, was ich davon erwarte. Das ist schon mal gut, weil wenn es das nicht tut, dann hat man was irgendwie missgekauft. Aber auch tut es irgendwas, was ich nicht so richtig erwarten würde.

Normalerweise wird es spannender. Also zum Beispiel erwarte ich, dass das Gerät immer zuhört und auf Keywords wartet oder nicht. Aber es geht noch weiter. Und es ist die Frage, ist die Organisation dahinter und sind die Prozesse vertrauenswürdig? Haben sie Privacy by Design, Security by Design und solche Sachen? Wie vertrauenswürdig sind die? Und die Fragen werden derzeit nicht beantwortet

und sind häufig auch erstaunlich schwer zu beantworten. Aber es ist super wichtig, das zu können, weil anders können Verbraucher einfach nicht wirklich eine echte Wahl haben und keine guten, formierten Entscheidungen treffen. Und nur so als Fußnote, algorithmische Entscheidungsfindung und künstliche Intelligenz sind bei Internet der Dinge auch wirklich zentrale Themen.

Also die Transparenz bei dieser Entscheidungsfindung ist wirklich spannend und wichtig und derzeit kaum verstanden. Es ist kaum möglich, derzeit einen Algorithmus transparent zu machen bei Machine Learning, weil wir einfach nicht die richtigen Visualisierungstools haben und spannenderweise hat die DARPA, die amerikanische Militärforschungsagentur, eines der spannendsten Forschungsprojekte zum Thema Explainable Artificial Intelligence.

Was sie sagen bisher, sagt der Algorithmus, wenn er lang genug die Katze angeschaut hat, das ist eine Katze, aber man weiß nicht, warum. Und es sollte zumindest so ein bisschen erklärt werden. Okay, es hat vielleicht Fell und wir haben irgendwie keine Ahnung, Füße und Ohren und dementsprechend glaube ich, dass das eine Katze ist.

Bei so Bilderkennungssachen ist es noch einfach. Bei allem, was mehr Dimensionen hat, ist es derzeit quasi unmöglich. Und das müssen wir verstehen, weil sonst kann man diese Algorithmen natürlich auch nicht demokratisch überwachen in irgendeiner Form. Was kann man also tun? Also das Gute ist, das Feld ist groß und dynamisch genug, dass es für jeden von uns mehr als genug zu tun gibt.

Und ich wollte nur ganz kurz darüber reden, was wir bei Thinkscan tun, was ich am Anfang kurz vorgestellt habe. Da gebe ich mir zweigleisig vor. Das eine ist einfach so eine Vernetzungs- und Wissenstransferstrategie. Wir versuchen Expertise aufzubauen, durch Wissensaustausch unter Experten und Expertinnen, die sich unter einer gemeinsamen Mission damit beschäftigen, nämlich um verantwortungsvolle Gestaltung von Internet der Dinge zu fördern.

Und das zweite sind sogenannte Trust Marks für IoT, also Vertrauenssiegel fürs Internet der Dinge. Wir glauben bei Thinkscan, dass die Experten und Expertinnen die Produkte gestalten, einen überproportionalen Einfluss haben, weil ihre Produkte, wenn sie erstmal auf dem Markt sind,

tendenziell von Millionen von Menschen genutzt werden können. Und wir glauben, dass man diesen Einfluss, diesen Hebel nutzen kann. Und den wollen wir nutzen. Das heißt, wir arbeiten quasi an der Quelle bei den Leuten, die diese Sachen gestalten. Und wir glauben, dass das so ein bisschen funktioniert wie Zinssistens. Wenn man früh genug im Prozess irgendwie einsteigt, bringt einem das über lange Zeit eine stärkere Hebelwirkung.

Und das Ganze wird zusammengehalten durch Konferenzen und Meetups, die nennen wir internen Salons, die in ganz Europa stattfinden inzwischen und auch in vielen anderen Regionen. Also gerade jetzt dieses Jahr kommen wohl noch drei neue Chapter dazu in Nairobi und in Pakistan, in den Philippinen,

was ich super aufregend finde. Das sind also alles von lokalen Community getriebene Events, die sich alle mit dieser Mission beschäftigen. Wir haben auch Ende September noch mal einen kleinen Salon hier in Berlin. Und die nächste große Konferenz ist in Amsterdam Ende November. Und außerdem publizieren wir auch und unterstützen wo immer und wir können andere mit Expertise.

Also wir suchen deswegen immer noch Verbündeten und Kollaborationen weltweit. Wir suchen aber auch ganz gezielt den Dialog mit Gesetzgebern, weil wir selber zwar keine Anwälte sind, aber wir haben doch einiges an Expertise in diesem Netzwerk, das wir gerne zur Verfügung stellen, weil es uns einfach wichtig ist. Und ich sollte dazusagen, das ist alles unbezahlte Arbeit. Es ist alles komplett volunteerbasiert.

Wir forschen und publizieren auch und reisen auch, um Sachen besser zu verstehen. Zwei Sachen, die jetzt kürzlich gerade rausgekommen sind, ist eine kleine Sammlung von Essays zum Thema, was ist der Stand der Dinge beim verantwortungsvollen Internet der Dinge? Das ist auf Englisch verfügbar unter dieser Domain. Und wir sind nach China gefahren, um mal zu gucken, wo in Shenzhen,

wo absolut der größte Teil der Elektronik weltweit hergestellt wird, wie das funktioniert und wie man auch mit den Herstellern dort arbeiten kann, um sicherzustellen, dass diese Sachen vernünftig gebaut werden. Und die zweite Initiative, an der wir gerade dran sind, machen wir zusammen mit Mozilla. Und es kommt hoffentlich noch diesen Monat raus, wenn nicht nächsten Monat.

Es ist Forschung zum Bereich Trust Marks fürs Internet der Dinge. Also wir glauben, dass es möglich sein muss, dass Benutzer in der Lage sind, einfach, bevor sie was kaufen, kurz draufzuschauen und sagen, okay, dieses Ding ist vertrauenswürdiger als das eine. Wenn ich das kaufe, lasse ich mich auf diese Sachen ein und auf diese nicht, sodass man wirklich eine bewusste Entscheidung treffen kann.

Und ich glaube, dass wir damit oder ich hoffe, dass wir einen wichtigen weltweiten Beitrag zur Transparenz und Empowerment für Nutzerinnen und Nutzer weltweit leisten können. Ich hoffe mal, das erste Feedback auf Internetentwürfe war relativ vielversprechend. Wir haben zumindest schon vorab gehört, als wir so ein paar Leute für Feedback rausgeschickt haben, dass zumindest eine nationale Regierung direkt Ideen aus diesem Entwurf aufgreifen wird

für ihre nationale IoT-Strategie, was ich super spannend finde. Es ist nicht in Europa, leider. Ich glaube allerdings, dass Datenschutz und Verbraucherschutz tatsächlich was ist, was speziell für Europa und auch für Deutschland, also eine Riesenchance ist, so wie Silicon Valley sozusagen so eine Führungsrolle versucht einzunehmen für alles rund um Disruption, Innovation.

Und in Shenzhen, in China wird irgendwie weltweit alles hergestellt. Also die ganze Hardware kommt von dort. Also auch das, was in den USA designt wird zum Beispiel. Und ich glaube, Europa kann ein ganz gutes Gegengewicht dazu bilden. Und so der weltweite Hub werden für Datenschutz und Verbraucherschutz. Die EU-Datenschutz-Grundverordnung, GDPR ist ein erster wichtiger Schritt, glaube ich.

Aber es gibt noch mehr zu tun. Und ich glaube und ich finde, also ich bin wirklich überzeugt, dass Deutschland und die EU können und sollten das weiter stärken. Ich glaube, es ist ein wirklicher eine Stärke, die wir hier haben, die es sonst nirgends gibt. Es wird es sonst weltweit niemand tun, wenn wir es nicht tun. Und so gesehen würde ich mich freuen, wenn wir die Gespräche auch noch

weiter nach weiter fortführen können. Wenn ihr an ähnlichen Themen arbeitet, sagt bitte kurz Bescheid. Also wir sitzen hier in Berlin und haben aber auch Freunde irgendwie in ganz Europa, die lokal auch Verstärkung suchen. Und wie gesagt, wenn ihr im Internet der Dinge arbeitet und es auch gerne ein bisschen verantwortungsvoll mitgestalten wolltet,

sodass es für alle funktioniert, sagt bitte Bescheid, meldet euch. Wir sind alle gut ansprechbar. Vielen Dank.