Ich helfe gerne auf diesen Chaos-Veranstaltungen. Ich rede auch sehr, sehr gerne darüber.

Vor ein paar Jahren sagte darauf mal jemand, CCC, das sind doch die Guten. Zu solch einer Wahrnehmung tragen auch unsere beiden nächsten Sprecher bei, indem sie mit Journalismus, Engagement und Talks wie dem folgenden Aufklärung betreiben.

Bitte begrüßen wir die beiden Netzpolitik.org-Redakteure Constanze Kurz und Ingo Dachwitz zu ihrem Talk Microtargeting und Manipulation von Cambridge Analytica zur EU-Wahl.

Herzlichen Dank. Ein etwas pathetischer Anfang. Guten Morgen. Wir freuen uns, dass ihr schon so zahlreich alle wach seid. Wir haben uns vorgenommen, über den Cambridge Analytica-Skandal zu reden, aber nicht im Kern, sondern ihn nur als Anlass zu nehmen, über die Frage der politischen Manipulation des öffentlichen Diskurses und der politischen öffentlichen Meinung zu sprechen.

Wir wollen ein bisschen zurückblicken auf das Jahr 2018, wo diese Debatte erstmals aus meiner Sicht auch international geführt wurde. Und wir wollen so ein paar Ideen, die vor allen Dingen aus Brüssel und Straßburg derzeit kommen, denn die anstehende EU-Wahl bringt so ein bisschen politischen Druck auf.

Darüber wollen wir sprechen und wir haben natürlich, wie es sich gehört, ein paar Forderungen, von denen wir meinen, dass sie sinnvoll wären, um Desaster, wie wir sie quasi in der Vergangenheit in den letzten zwei Jahren erlebt haben, möglichst zu verhindern oder zumindest nicht unerkannt zu lassen.

Wir erinnern uns dran, der Skandal, über den wir ja gleich sprechen, der ist ja eigentlich schon mehrere Jahre lang oder jedenfalls liegt einige Jahre zurück. Und ich glaube, sich Methoden zu überlegen, wie man in Zukunft diese Form der Hinterrücksmanipulation zumindest erkennen kann, scheint wichtig zu sein. Genau. Und wir steigen ein, würde ich mal sagen, mit einer kleinen Begriffserklärung,

einfach noch mal zur Vergegenwärtigung, weil der Cambridge Analytica Skandal jetzt ja auch schon ein paar Monate her ist und irgendwie dieses Wort Microtargeting schwirrt manchmal so rum im politischen Diskurs. Wir wollen es noch mal kurz klären. Worüber reden wir eigentlich, wenn wir über Microtargeting sprechen?

Gemeint ist die gezielte Ansprache von kleinen und Kleinstgruppen bis hin zu wirklich individuellen Größen mit zugeschnittenen Botschaften grundsätzlich eigentlich politischer und kommerzieller Art. Wir wollen uns heute auf den politischen Bereich ein bisschen fokussieren. Die Grundlage, die Basis für diese gezielte Ansprache beim sogenannten Microtargeting

sind Datenprofile. Also zum Microtargeting gehören immer zwei Dinge. Es ist nicht nur das Zuschneiden von Botschaften und das Aussenden von politischen Botschaften, sondern es ist immer auch der davor geschaltete Analyseschritt, die Definition von Zielgruppen und Zielen und das eben auf Basis von Datenprofilen, also sozio-demografische Faktoren, lokale Faktoren,

also Ortdaten, ökonomischer Status, Verhaltensdaten, Vorlieben, Eigenschaften und eben auch auf Basis von psychometrischen Analysen. Was genau das ist, werden wir gleich noch mal ein bisschen erklären. Und diese Methode kommt ursprünglich eigentlich aus dem kommerziellen Marketing,

ist inzwischen aber weit verbreitet und immer weiter verbreitet auch im politischen Bereich. Und das sagen wir mal vorweg, uns geht es ja heute hier weder darum, einzelne Akteure jetzt irgendwie zu beleuchten, sondern eher so ein bisschen strukturell auf die Manipulationsmethoden zu schauen, die diesen Baukasten, den es gibt.

Und wir werden eben auch nicht in erster Linie über Wirkung sprechen, denn empirische Studien dazu, wie genau eigentlich Microtargeting wirkt, sind rar. Und es gibt sehr unterschiedliche und umstrittene Deutungen dieses Phänomens. Auf jeden Fall können wir schon mal festhalten, es ist sehr kontextabhängig,

wie Microtargeting wirkt und hat sehr viel eben damit zu tun, welche Akteure es einsetzen, für welchen Zweck sie eingesetzt werden und in welchem Rahmen sie eingesetzt werden. Wenn man es mal ganz praktisch machen will, so geht in der Regel eine gewisse Analyse diesen Versuch, Kampagnen durchzuführen, voraus.

Ganz praktisch, wenn man sich das mal vorstellen will, wir hatten ja vor drei Tagen hier einen Vortrag über die Polizeigesetze. Wenn man also eine politische Partei ist, man hat ein Programm, wo man bestimmte technische Überwachungs- und Kontrollbefugnisse und ein inneres Sicherheitsprogramm an den Mann bringen will, dann lässt man sich eine ordentliche Vela-Analyse machen,

die in der Regel eben auch heute eine Datenanalyse ist und dann wird einem vielleicht der Analytiker sagen, naja, ab einem bestimmten Alter spricht diese Message besonders an oder aber auch Alleinstehende spricht diese Message besonders an und dann nimmt man genau die Daten, die Ingo sagte und versucht, sehr zielgenaue Nachrichten auszuspielen. Ich glaube, soweit ist es auch im Wesentlichen bekannt.

Ich glaube, der Punkt, den man hier machen muss, ist die Granularität. Vielleicht noch in Bezug, da werden wir nachher noch ein bisschen genauer darüber sprechen, zu dem, was Friedrich von Privacy International gestern berichtet hat, über die Frage, dass es eben nicht nur die Benutzer dieser Plattformen sind,

sondern auch Menschen, die gar keinen Account haben bei diesen Werbeplattformen, dass es sich längst auf die Mobiltelefone kapriziert, dass die Form von sogenannten Cross-Device-Campaigns, also dass man versucht, auf den Zeitpunkt festzustellen, wo derjenige gerade rezeptiv ist, oder vielleicht gerade in der Tram sitzt und 11 Minuten Zeit hat für bestimmte Messagen.

Man sieht einfach, dass das sich so ein bisschen zuzieht, aber im Wesentlichen bleibt der Kern dieser Technik eben wie beschrieben. Im Jahr 2018 begann diese, also die Fake News Debatte ist älter, wenn ihr euch erinnert, aber der Begriff ist so ein bisschen, zumindest aus meiner Sicht, im Laufe des Jahres ersetzt worden durch Falschinformation und Desinformation.

Und wir wollen sozusagen in dem ganz kleinen definitorischen Blog, den wir ja so haben, ein bisschen über Desinformation reden. Wir halten den für sehr viel sinnvoller als den Beruf Fake News. Der ist auch älter und hat vor allen Dingen eine politische Komponente, wie viele vielleicht wissen. Aber zumindest der Teil, der noch Russisch hatte in der Schule,

kommt aus dem russischen Desinformatia und ist eigentlich so ein Begriff aus der politischen Propaganda der Geheimdienste. Denn schon vor der digitalen Welt wurde natürlich diese Form von Versuchen, die öffentliche Meinung zu beeinflussen, durchgeführt. Das ist ja nicht neu. Und man bedient sich nur der Möglichkeiten, die diese Werbeplattform heute bieten.

Und ich glaube, das sollte man auch nicht vergessen. Wir haben so ein bisschen Debatte, vor allen Dingen um Großbritannien und den Wahlkampf von Donald Trump. Aber diese Vorgehensweisen sind älter, sie sind orientiert an der Bedürfnisweckung, in der Werbeindustrie und haben sich sozusagen eigentlich nur spezialisiert auf bestimmte Ziele.

Wir wissen darüber eine ganze Menge. Zum einen, weil dieser Donald-Trump-Wahlkampf oder Referendum in Großbritannien ja längst nicht die ersten waren, sondern auch schon der vergangene Obama-Wahlkampf diese Methoden benutzt hat. Aber sicherlich hat sich es mir zugespitzt und waren teilweise die Ergebnisse so knapp,

dass anders darüber debattiert wurde. Und ausländische Player haben in diesen Desinformationskampagnen natürlich eine Rolle gespielt. Und das hatte zugespitzt. Wir wollen gar nicht so sehr darüber reden, wie wirksam, also im Sinne des Ergebnisses, diese politischen Kampagnen sind. Weil die meisten der Untersuchungen dazu, vor allen Dingen die, auf die wir uns hier beziehen,

die wir nachher auch offenlegen, sozusagen unsere Quellen sind, sind gar nicht so, sie kommen noch gar nicht zu einem Endergebnis. Viele haben vielleicht die Papiere von den US-amerikanischen Behörden gelesen und es gab ja auch eine politische Debatte darum. Aber im Ergebnis, im Sinne von Gerichtsfest,

dass man jemanden oder einer bestimmten Gruppe was nachweisen kann, da haben wir relativ wenig. Auch die Briten sind in Bezug auf das Referendum und die Behörden, die das untersuchen, und auch der Parlamentarische Ausschuss, der noch immer, sozusagen seit der Untersuchung fortsetzt, noch nicht zum Endergebnis gelangt hat. Das werden wir also auch 2019 erst erfahren.

Noch mal ein paar Sätze zur Ausgangslage. Wenn wir über die EU-Wahl reden, die im Mai 2019 stattfinden wird, wie steht es um die politische Öffentlichkeit? In welchem Kontext finden diese Themen statt, über die wir heute sprechen? Zum einen ist da sicherlich zu nennen, dass wir feststellen können, dass die politische Öffentlichkeit nervös gewissermaßen ist.

Wir können eine Polarisierung feststellen, gerade in der digitalen Öffentlichkeit und eben auch ein großes Misstrauen gegenüber einerseits etablierten Medien, andererseits aber eigentlich gegenüber allen Nachrichten, die wir im Netz finden können.

Also es herrscht eine große Misstrauenskultur. Und der zweite Punkt, den wir vielleicht zur Ausgangslage noch mal sagen können, ist so ein struktureller Punkt. Denn wir können ja feststellen, deshalb die Grafik. Die digitale Öffentlichkeit, es gibt zwei Firmen, zwei Konzerne, die essentiell sind eigentlich für die Herstellung digitaler Öffentlichkeit

und auch politischer Öffentlichkeit im Digitalen. Und die heißen eben Facebook und Google mit ihren sehr unterschiedlichen Diensten. Also um es nur noch mal aufzuzählen. Facebook, Instagram, WhatsApp, das Facebook-Netzwerk, dann das große Werbenetzwerk, Audience-Network, mit dem Facebook eben nicht nur Webinhalte, Werbung auf eigenen Seiten,

sondern auch auf anderen Seiten ausspielt. Und natürlich Google mit YouTube, der Google-Suche, Google News, dem DoubleClick-Network und auch dem Analytics-Diensten, die sozusagen enorm wichtig und fast dominierend dafür sind, wie digitale Öffentlichkeit hergestellt wird. Und wir können eben sehen, dass diese beiden Dienste

kommen mit diesen Tools für Microtargeting an Bord. Die gehören, sind integraler Bestandteil der Art und Weise, wie Facebook und Google digitale Öffentlichkeit herstellen und strukturieren. Einfach mal so ein paar Tools zu nennen. Also da gehören die Inside-Werkzeuge zu. Also diejenigen, die Seiten betreiben oder Kampagnen betreiben,

haben eben weitgehende Einblicke in Nutzungs- und Zielgruppenanalysen. Es gibt sehr einfache Zielgruppen-Baukästen für das Ad-Targeting, wo man sich wirklich sehr leicht zusammenstellen kann, wie sieht eigentlich, wie soll die Zielgruppe aussehen, die ich ansprechen möchte, welche Regionen, welches Alter, welche Eigenschaften, welche Interessen,

sozusagen kinderleichtes zusammenstellen. Und dann gibt es, was vielleicht auch einige wissen, aber dann doch irgendwie in der öffentlichen Debatte noch nicht breit genug bekannt ist eigentlich, gibt es die Möglichkeit, sowohl bei Facebook als auch bei Google mit der sogenannten Custom Audience Funktion

das werbetreibende Menschen mit dem Targeting erreichen, zu denen sie vorher schon mal Kontakt hatten. Also wenn ich als Werbetreibender, sei es nun politischer oder kommerzieller Art, eine Liste mit Kontaktdaten habe, E-Mail-Adressen, Telefonnummern oder ähnliches, dann kann ich diese bei den Diensten hochladen bzw. mit diesen abgleichen

und dann genau die Menschen erreichen, die ich erreichen will. Und nicht nur das, über diese Custom Audience Funktion hinaus gibt es eben auch die Lookalike Audience Funktion, wo diese Dienste mir nicht nur den Zugang zu den Menschen ermöglichen, sondern Menschen, die, was deren Eigenschaften und Datenprofile angeht,

genauso oder sehr ähnlich sind wie die Menschen, die ich schon in meiner Datenbank gespeichert habe. Also diese Micro-Targeting-Tools sind integraler Bestandteil der Plattform und sind die Bordmittel, ohne die die digitale Öffentlichkeit zumindest auf diesen Plattformen nicht funktioniert. Nun haben wir ja diese, die Datenschutzrundverordnung,

die in Kraft getreten ist und die verschiedenen Behörden in Europa, die dafür zuständig sind, und insbesondere besonders betroffene britische ICO, hat sich natürlich mit der Frage beschäftigt, ob diese Tatsache, gerade so das Beispiel, das Ingo brachte, dass man zum Beispiel eine Adressliste hat, eine Mehrliste oder so, ob die nach der neuen Rechtslage überhaupt noch da hochladen werden dürfen

bei den Werbeplattformen. Also da gibt es einen gewissen Streit. Britische ICO steht zum Beispiel auf dem Standpunkt, dass das so nicht mehr ginge und hat die politischen, sämtliche politischen Parteien in Großbritannien aufgeführt, dass das so nicht fortzusetzen. Aber das wird sicherlich noch eine Weile dauern, ehe solche Fälle letztlich vor Gerichten landen.

In Deutschland nur eben der Vollständigkeit. Aber in Deutschland gibt es die Debatte auch, das Bayerische Landesamt für Datenschutzaufsicht beispielsweise vertritt die Auffassung und versucht sie im nächsten Jahr verstärkt durchzusetzen, dass auch das ohne Einwilligung der Betroffenen auf diesen Listen nicht mehr möglich ist, um es zu ergänzen. Bei gewissen Daten war das schon vorher nicht erlaubt, also etwa wenn es um Ethnien geht oder andere Formen von Direktdiskriminierung. Aber die Antworten, die im Rahmen

dieses Cambridge Analytica-Skandals, auf die wir gleich nochmal ein bisschen kommen, aber auch relativ kurz, waren ja im Prinzip interessant, weil die Konzerne mal Antworten gaben mussten und nach Angaben von Facebook. Es ist ja so, dass für das Verhalten genau drei wichtige Kriterien ausgewertet werden.

Und es sind zum einen Liking, also wo klickt man hin zum Liken, zum anderen auf welche Werbung klickt der Accountbesitzer selbst und welche Apps nutzt er. Und wenn man sich natürlich mal überlegt, falls hier Menschen dabei sind, die diese Konzerne benutzen,

dann kann man rückschließen auch auf die Kriterien, die eigentlich wegen des Diskriminierungsverbots nicht nutzbar wären, was nicht direkt nutzbar wären. Aber wir wollen jetzt mal noch kurz auf den Skandal kommen, um nochmal in Erinnerung zu rufen. Es war ja so ein elendet Facebook-Jahr. Im Prinzip hatte man ja im Monat zwei verschiedene Arten

von kleinen und größeren Skandalen, über die man gesprochen hat. Und viele haben, glaube ich, vergessen, was die Essenz dieses Cambridge Analytica-Skandals eigentlich war und warum der International so riesige Wellen geschlagen hat, so dass sich der Konzernchef sowohl in den US-Kongress wie auch ins Europaparlament setzen musste und das britische Parlament und da seine We Get Back To You so Reden gehalten hat.

Das war ja eigentlich ein relativ einmaliger Vorgang. Genau, in diesem Maße haben wir eigentlich noch nie, oder es gab auch Berichte über Cambridge Analytica bereits seit 2015 eigentlich, also hätten wir auch schon, aber in diesem Maße haben wir noch nie eine öffentliche Debatte und eine öffentliche Einsicht eigentlich in diese Methoden

des politischen Microtargeting bekommen. Der Skandal um Cambridge Analytica ist natürlich deshalb ein besonderer, weil A, der Facebook-Konzern betroffen ist und dessen besonders laxer bis verantwortungsloser Umgang mit den Daten seiner Nutzerinnen und Nutzer und andererseits eben im Raum stand

und inzwischen eben ja auch bestätigt ist durch die Untersuchungsberichte, dass Daten von Facebook-Nutzerinnen ohne ihr Wissen beispielsweise für das Targeting in Trumps Wahlkampf eingesetzt worden sind. Also um es einmal kurz abzurappen, worum ging es bei Cambridge Analytica?

Ein ehemaliger Forscher oder damals noch Forscher an der Cambridge University hat sich zusammengetan mit der Firma Cambridge Analytica bzw. SCL, der Mutterfirma von Cambridge Analytica. Cambridge Analytica gibt es ganz interessante Geschichten zu, wie der Name zustande kommt, ist scheinbar vor allen Dingen ein Konstrukt gewesen,

damit man dem US-Manipulateur und damals Trump-Berater Steve Bannon gefallen kann. Was haben die gemacht? Sie haben eine eigentlich ursprünglich für wissenschaftliche Zwecke entwickelte

und auch genehmigte App eingesetzt zum Sammeln von umfangreichen Daten, Profilinformationen, Like-Informationen von insgesamt 320.000 Menschen, die dafür bezahlt worden sind, so kleinere Clickworker sozusagen, die für so Centbeträge diese App genutzt haben, eine mit Facebook verbundene App,

und haben dort einerseits einen Fragebogen ausgefüllt, der dazu dient, eine Persönlichkeitsanalyse nach dem sogenannten Ocean-Modell, psychologisches Modell, relativ weit verbreitet und etabliert, zu machen,

das einem die Einordnung der Persönlichkeit anhand von fünf Charaktereigenschaften ermöglicht. Die haben aber nicht nur diesen Fragebogen ausgefüllt, sondern einerseits einen umfangreichen Datensatz bewusst oder unbewusst über sich preisgegeben, ihrer Facebook-Daten, und eben über insgesamt 87 Millionen Freundinnen und Freunde,

mit denen sie auf Facebook verbunden waren. Und Cambridge Analytica bzw. diese Forschungsfirma des Cambridge-Forschers Alexander Kogan haben dann diese Persönlichkeitsanalysen von den 320.000 Menschen,

die diesen Fragebogen ausgefüllt haben, gemacht und dann anhand der Facebook-Daten wieder nach Datenprofilen Ähnlichkeiten ausgewertet, sodass sie am Ende psychologische Persönlichkeitsprofile von 87 Millionen Menschen hatten, unter anderem 30 Millionen US-Amerikanerinnen und US-Amerikaner. Diese Daten sind an Cambridge Analytica bzw. SCL gegangen,

die wiederum haben sie mit ihren umfangreichen eigenen Datenbanken, in den USA haben die politischen Akteure deutlich mehr blaxeren Zugriff auf Datenbanken über Wahlverhalten und registrierte Wählerinnen und Wähler verbunden und diese genutzt, um die Trump-Kampagne in der politischen Kommunikation zu stärken.

Wofür haben sie das eingesetzt? Unter anderem haben sie, so beschreibt es der Wistleblower Christopher Wiley, ganze passende Informationsökosysteme aus Blogs und Webseiten aufgesetzt für die Manipulation einzelner bzw. von Gruppen.

Je nach Themengebiet haben sie einzelne Blogs und Webseiten aufgesetzt, um den Eindruck einer neutralen Öffentlichkeit oder einer neutralen Berichterstattung zu machen und Leute auf bestimmte Themen anzusprechen, sei es etwa Waffenrecht oder Ähnliches oder die Migrationsfrage. Also besonders politisch umstrittene Fragen, wo es eher polarisierend wirkt.

Und nicht nur das, dann ist es eingesetzt worden für auch das Microtargeting im Haustürwahlkampf, der in den USA eine besonders große Rolle spielt, also bis zu 32 unterschiedliche Gesprächsleitfelden haben die Haustürwahlkämpfer eben bekommen und wussten in etwa,

wenn ich jetzt an dieser Tür klingel, welchen Leitfaden muss ich jetzt einsetzen? Und was wir online gesehen haben, ist eine gezielte Negativkampagne gegen Hillary Clinton, bei der die Trump-Kampagne oder Pro-Trump-Campaigner nicht versucht haben, Leute davon zu überzeugen, Donald Trump zu wählen,

weil sie wussten, bestimmte Wählergruppen sind überhaupt nicht zu erreichen für diesen Typen, sondern es ging um strategische Demobilisierung der Gegenseite. Also bestimmte Wählergruppen, in denen Hillary Clinton besonders stark ist oder klassischerweise stark gewesen wäre, Frauen, People of Color und so weiter, sind mit gezielten Negativinformationen beispielsweise auf Facebook versorgt worden,

um die Gegenkandidatinnen zu diskreditieren. Beispielsweise Frauen haben dann sehr viel Wahlwerbung bekommen, die auf den Seitensprung oder die Untreue von Bill Clinton angespielt haben, um das Bild von Hillary Clinton als wackerer Feministin,

die die demokratische Kampagne versucht hat, zu zeichnen, zu schwächen. Nun ist das Negativ-Campaigning in den Vereinigten Staaten sehr viel weiter verbreitet als in den typischen europäischen oder gar deutschen Wahlkämpfen. Dennoch hat es natürlich eine andere Form von Manipulationsmacht, wenn nicht an alle gerichtet über Fernsehspots läuft, sondern typisiert ausgespielt wird.

Es gibt kein Endergebnis, inwieweit tatsächlich das Wahlergebnis davon beeinflusst war. Es gibt das klare Ergebnis, als es eine Beeinflussung gab, aber nicht etwa das Ergebnis, das es kein Präsident Donald Trump gegeben hätte, ohne diese Form der Online-Manipulation.

Wer sich ein bisschen ausnahmsetzt mit dem US-amerikanischen Wahlsystem, weiß natürlich, dass man an bestimmten Lokationen eine Manipulation sehr viel wirksamer durchführen kann, wenn man etwas über die Verteilung sozusagen weiß. Und so hat natürlich auch Location-Data, also die Frage,

wo befinden sich Personen, denen möglichst eine demotivierende Message zukommen lassen will, damit sie nicht zur Wahl gehen, hat natürlich eine größere Rolle gespielt im Vergleich zu dem Obama-Wahlkampf davor, wo das übrigens kaum kritisiert wurde, wo es ja auch eine sehr enge Zusammenarbeit gab. Und am Ende sind es etwa 70.000 Stimmen gewesen, die über den Wahlausgang entschieden haben in drei unterschiedlichen Bundesstaaten.

Also so knapp ist diese Wahl am Ende ausgegangen. Okay. Wir wollen ein bisschen sprechen über noch mal das Brexit-Referendum. Zum einen, weil das Ergebnis auch so furchtbar knapp war, weil die Untersuchungen im britischen Parlament sehr viel öffentlicher sind und genauer sind.

Und weil natürlich die Aussagen, die auch nach dem Brexit, nach dem Cambridge Analytica-Skandal, dann dort dem Machtwort nachzulesen sind. Aber auch, weil das ICO, das britische ganze Fragenkataloge,

sowohl an die Konzerne, wie aber auch an die politischen Parteien gestellt hat. Und eben versucht hat auszuwerten, was ist denn eigentlich, was wird eigentlich wirklich getan. Denn man kann, glaube ich, aus meiner Sicht zumindest nicht immer nur diese Werbekonzerne und Datenfirmen an die Kante nehmen, sondern man muss sich natürlich auch fragen, wie sind denn die politischen Parteien, die ja qua Aufgabe die Regulation dafür machen, eigentlich selber daran beteiligt.

Da ist ja ein ganz klarer Interessenkonflikt. Denn wir reden hier anders als, glaube ich, gerade am Anfang des Jahres viel so diskutiert wurde. Wir reden ja über ganz klare Machtfragen. Wenn es tatsächlich so sein sollte, dass anders als beim US-Wahlkampf,

wo, meine Güte, nach vier Jahren wird da jemand neuer, die wird, und maximal acht Jahre kann Trump da Präsident sein. So ist, denke ich mal, die Entscheidung für ein Land aus der EU auszusteigen, sicherlich für mehrere Generationen eine weitreichende Entscheidung. Also von dem Ergebnis finde ich noch schwerwiegender und knapper.

Genau. Was haben wir gesehen beim Brexit-Referendum oder was haben die Untersuchungsberichte rausgefunden? Unter anderem, also wir gehen jetzt einfach mal so ein paar Beispiele durch, um den Blick nochmal ein bisschen zu erweitern. Unter anderem, beim Brexit-Referendum ist unter anderem zu sehen gewesen, dass die LEAF-Kampagnen, also die Pro-Brexit-Kampagnen

untereinander fleißig Daten ausgetauscht haben, was natürlich nicht sozusagen der Zweckbindung, dem Datenschutzgrundsatz der Zweckbindung entspricht. Wenn ich als jemand, der sich für das Thema interessiert, einer Kampagne meine Daten zur Verfügung stelle, beispielsweise Kontaktdaten, gehe ich nicht davon aus,

dass meine Daten an andere Konzerne oder weitere Kampagnen, die formell unabhängig sind und eigentlich auch nicht zusammenarbeiten dürfen, weitergegeben werden. Was haben Sie noch herausgefunden? Unter anderem gibt es einen britischen Versicherungskonzern, dessen Geschäftsführung eng verbunden ist mit einer der LEAF-Kampagnen

oder war mit einer der LEAF-Kampagnen, die unter anderem dann die Kundenlisten dieses Versicherungskonzerns eingesetzt haben, um zielgerichtet Menschen anzurufen oder mit Wahlkampfbotschaften pro LEAF zu bombardieren. Typisch kann man noch sagen, etwa eine ganz klassische oder mehr ebige Desinformationskampagne.

Also die Wahrhaftigkeit der Nachrichten, die ausgespielt wurde, war fragwürdig. Da sind aber auch immer noch Gruppen dran, die daran auswerten. Und auch, wir haben vorhin schon erwähnt, die parlamentarische Untersuchung und die Untersuchung des ICO ist sozusagen wie eine Bundesdatenschutzbehörde vergleichbar, kann man sagen. In Großbritannien ist es noch immer nicht abgeschlossen.

Genau, und an Betracht der Zeit machen wir die folgenden Beispiele, die Sie im Blick so mal ein bisschen weiter mal eher kurz. Aber wir wollen Sie doch zumindest einmal erwähnen, damit man es mal gehört hat. In Irland hat in diesem Jahr ein Referendum über das bis dato sehr straffe und scharfe Abtreibungsrecht stattgefunden.

Ein hochgradig polarisierter und in der Öffentlichkeit umkämpften Kampagne oder Kampagnen. Und unter anderem konnten wir feststellen, dass in diesem politischen Kampf um das Abtreibungsreferendum

nicht nur Akteure aus Irland mitgespielt haben, sondern es ist öffentlich geworden, dass auch religiöse Fundamentalistengruppen aus den USA beispielsweise die irische Bevölkerung mit Microtargeting versucht haben zu erreichen, haben unter anderem sogenannte Aufklärungswebseiten, Facebook-Kampagnen usw. aufgesetzt, um vermeintlich Unentschiedene zu erreichen

und mit vermeintlichen Fakten aufzuklären. Facebook hat, als das öffentlich wurde, dann irgendwann auch unterbunden, dass Akteure, oder zumindest versucht zu unterbinden, dass Akteure aus dem Ausland hier mitmischen dürfen. Also typisch ist eben, was wir da noch festhalten wollen, dass man mit relativ kleinen Summen,

also Summen, die für finanzstarke Länder einfach überhaupt keine Rolle spielen, in hohem Maße etwas nehmen kann auf ein ausländisches Referendum oder eine Wahl. Das ist natürlich auch nicht neu, aber ich glaube, auf diese heimliche Hinterrücksweise und möglicherweise unbemerkt von denjenigen,

die betroffen sind oder erst später bemerkt, ist natürlich insofern ein neuer Phänomen. Aber es wird sozusagen noch schlimmer, wenn man einen Blick nach Afrika wirft. Genau, in Kenia hat 2017 ein ebenfalls hochgradig polarisierter Wahlkampf, Präsidentschaftswahlkampf zwischen im Wesentlichen zwei Parteien oder Parteiengruppierungen stattgefunden.

Und was wir sehen können, ist, dass in Kenia, wie in vielen afrikanischen Staaten, die Datenschutzgesetze natürlich deutlich schwächer sind und die Parteien über ein erhebliches Maß an eigenen Datenbanken verfügen. Gleichzeitig Zugriff auf Wahlregister haben

mit Ausweisnummern, Telefonnummern, Namen und biometrischen Angaben von denen zum Wahlen registrierten. Und auch dort haben wir ein gezieltes, groß angelegtes Negative-Campaigning gesehen, unter anderem durch die Kampagne des damaligen Präsidenten

und auch heute wiedergewählten Präsidenten Uhuru Kenyatta unter Nutzung beispielsweise der auch in Deutschland und den USA nicht ganz unbekannten Negative-Campaigning-Organisation Harris Media aus den USA. Und was wir da gesehen haben in Kenia, ist, dass eine Entwicklung, die wahrscheinlich so ein bisschen vorwegnimmt,

was wir auch in europäischen Wahlkämpfen erleben werden, nämlich, dass sich dort sehr viel verlagert hat in Messenger-Gruppen. Und dass dort sozusagen auch das zielgerichtete Werben vor allen Dingen dann in zugeschnittenen Messenger-Gruppen, WhatsApp-Gruppen

stattgefunden hat, in denen dann eben auch gezielt mobilisiert wurde und Menschen dann einfach, weil ihre Telefonnummern bei den Wahlwerbenden Akteuren bekannt waren, hinzugefügt wurden, ohne gefragt zu werden und dann dort bombardiert wurden mit Nachrichten. Ich denke, wir können, wir wissen ja bereits,

dass 2019 so ein bisschen über 20 Wahlen in Europa stattfinden und die EU-Wahl. Es ist, glaube ich, interessant, auf die neuen Kanäle zu blicken. Das betrifft aber natürlich nicht nur WhatsApp, sondern da muss man glaube ich auch Instagram im Auge behalten. Man kann eigentlich so dieses Follow-the-Money-Modell ganz gut fahren.

Man kann also gucken, wo gehen die oder wo steigen die Zahlen für Advertisement und dann kann man auch ungefähr sehen, wo die nächsten technisch interessanten für diese Manipulationswecke ebenfalls genutzten Plattformen sind. Das hat sich so ein bisschen kapriziert auf Facebook. Es liegt aber auch daran, dass natürlich die Nutzung in den verschiedenen Kontinenten sehr unterschiedlich ist.

In Afrika ist halt Facebook enorm verbreitet, aber auch die Twitter-Nutzung relativ stark. Wir könnten jetzt noch andere Beispiele nennen, die wir jetzt mal weglassen. In Frankreich ist jetzt sehr intensiv debattiert worden. Wir haben südamerikanische Fälle. Wir haben Fälle wie in Kenia, internationale Fälle, wo es so polarisiert war,

dass es zu Geweitausbrüchen geführt hat, was wir so in Europa noch nicht gesehen haben. Wir wollen uns aber jetzt noch mal auf das eine Beispiel in Österreich stürzen, weil es auch so ein typischer Fall ist, wo man so ein Muster erkennen kann. Genau, es fühlt sich ja immer so weit weg an. Für manche jedenfalls im österreichischen Wahlkampf, Parlamentswahl und Präsidentschaftswahlkampf

haben wir unter anderem erleben können, wie ein Berater und Wahlkampfmanager der sozialdemokratischen Partei Tal Silberstein so ganz tief in den Methodenkoffer der Desinformation oder eigentlich der digitalen Manipulation gegriffen hat,

hat nämlich gefakte Facebook-Seiten aufgesetzt. Unter anderem die Seite Wir für Sebastian Kurz, also der SPÖ-Wahlkampfmanager oder Wahlkämpfer setzt eine Seite auf Wir für Sebastian Kurz, die so den Anschein vermitteln sollte,

dass dahinter eine ÖVP-Kampagne die Partei von Sebastian Kurz steht. Einerseits um die Kampagne in, ok, Konstanze weist auf die Zeit hin, also unter anderem auch um Daten zu sammeln sozusagen, um eine Facebook-Seite mit ich glaube 15.000 bis 20.000 Followern am Ende gewesen,

unter anderem um wiederum Informationen über ÖVP-Sympathisanten auf Facebook zu bekommen, die dann mit gezielter Negativkampagne erreicht werden können. Die andere Seite, die Wahrheit über Sebastian Kurz, ging dann in die andere Richtung, da wurde dann versucht einen FPÖ-Schlag zu geben.

Also auch hier ist natürlich heftig debattiert worden, kann man sich vorstellen, die Opposition und ja, auch im Parlament. Auch hier ist nicht wirklich im Ergebnis klar, ob diese Form der versuchten Kampagnen

im Ergebnis wirklich die Ziele erreicht haben. Genau, aber ohnehin ist natürlich in Österreich, also muss man tatsächlich sagen, es ist in Österreich der Einsatz von Microtargeting und auf verdecktem Microtargeting deutlich stärker gewesen. Das Tal Silberstein Beispiel ist jetzt natürlich ein besonders krasses, aber eben auch natürlich die anderen politischen Akteure haben das eingesetzt.

Deutschland, das können wir ganz kurz machen tatsächlich. Wo die Angst war groß, muss man sagen. Einfach weil die Debatte ja schon losgegangen war, dann gab es noch, wenn ihr euch erinnert, den Bundestag-Sack. Also die Angst war relativ groß, dass man eine Form von Manipulationen von innen oder von außen nicht so richtig beherrschen könnte, dass die Leaks, die ja auch in dem US-Wahlkampf eine große Rolle gespielt haben,

der ihm jetzt möglicherweise durch den Bundestag-Sack auch noch eine Rolle spielen. Also es gab eine große Angst und Unsicherheit im Bundestag vor der Wahl. Man muss sagen, dass die Parteien außer einer relativ wischiwaschi Selbsterklärung oder Selbstverpflichtung nicht viel dazu beigetragen haben, diese Angst beiseite zu schieben.

Zumindest nicht, indem sie aufgeklärt haben. Wir haben versucht, bei Netzpolitik.org in der längeren Recherche so ein bisschen zu zeigen, welche Methoden setzen eigentlich die Parteien ein, auch wie viel Geld setzen sie ein für Online-Campagning beispielsweise und für Targeted Advertising. Man muss sagen, wir sind da eigentlich gegen Wände gerannt. Ingo hat die einfach mal gefragt.

Ich meine, sie sind ja nicht nur diejenigen, die die Regulierung entscheiden, sondern auch selber dafür Geld einsetzen. Also hat sich Ingo hingesetzt und hat die alle mal angeschrieben. Er hat gesagt, die Freunde, sag doch mal, leg doch mal offen. Nicht nur wie viel, sondern auch wem und mit welchem Ziel ihr versucht, diese Kampagnen zu fahren, die jetzt nicht Desinformationen nennen, sondern erst mal Wahlwerbung. Und die Ergebnisse, die sind relativ eindeutig, nämlich fast null.

Genau, fast null. Man muss es eben dazu... Also die Grünen sind diejenigen, die tatsächlich Aufklärungen oder die am offensten waren in der Kommunikation. Die Linken haben auch relativ viel Einblick gegeben und haben relativ offen darüber gesprochen. Aber FDP, AfD, CDU und SPD waren extrem verschlossen darüber und haben eben wenig dazu beigetragen, eigentlich für Aufklärung zu sorgen an der Stelle.

Wir wollen es einmal noch mal runterdampfen, weil wir eben gesagt haben, es geht uns eigentlich nicht um die Beispiele und die einzelnen Akteure, sondern es geht um die Methoden. Also mit welchen Methoden der Manipulation müssen wir denn rechnen? Worauf müssen wir achten oder worauf sollten wir uns einstellen,

wenn wir an die Europawahl 2019 denken? Wir haben sie einfach noch mal so ein bisschen versucht aufzuschreiben. Und natürlich das Verführen, also die auf individuelle Persönlichkeitsprofile zugeschnittenen Botschaften. Wir wollen damit nicht unbedingt sagen, dass irgendwie der Einzelne weder jetzt plötzlich die Aufgabe kriegt. So sind auch unsere Forderungen, die wir sozusagen gleich bringen wollen, nicht gestaltet.

Aber auch diejenigen, die darüber berichten oder die betroffen sind, müssen sich natürlich irgendwie mit den Methoden der versuchten Manipulation auseinandersetzen. Also es soll aber natürlich nicht sagen, der Einzelne soll darauf achten, sondern wir sind schon dafür, dass wir eine politische Lösung dafür brauchen und auch eine gezielte Informationssammlung.

Genau, diese Liste kann helfen. Wir gehen sie jetzt nicht nur mal im Einzelnen durch, würde ich sagen. Lassen wir uns noch mal kurz gucken auf die Maßnahmen, die in der EU bereits ergriffen wurden, weil natürlich das Thema in der politischen Debatte auch angekommen ist. Also zum einen gibt es seit Dezember gerade erst einen sogenannten Aktionsplan.

Der ist natürlich ein bisschen größer geraten, als nur Gegenmaßnahmen für Desinformationskampagnen zu finden. Aber der Aktionsplan ist von der EU-Kommission. Der hat natürlich erst mal überhaupt Maßnahmen ausgerollt und vorgeschlagen. Was dabei blieb es dann? Denn es ist ja nicht so, dass die EU-Regulierung,

ob es jetzt eine Richtlinie oder Verordnung oder so wäre, schnell durchzudrücken sei. Man hat quasi so eine Art Vorschläge unterbreitet und fordert die einzelnen Länder auf, die umzusetzen. Und die sind aber größer als nur Desinformation. Da geht es natürlich auch um IT-Sicherheit, gar keine Frage, weil man aus den vergangenen Desinformationskampagnen natürlich auch schließen kann,

dass strategische Hacks mitbenutzt werden. Da geht es um die Schaffung von Stellen. Das heißt, man versucht Informationen zu sammeln, aber auch ganz gezielte Gegenpropaganda zu bezahlen. Das ist gerade aktuell den Briten auf die Nase gefallen. Denn in Großbritannien wird ganz intensiv darüber gestritten, dass eine von der britischen Regierung bezahlte Klitsche

gegen den Oppositionschef eine Kampagne fährt. Das heißt, man hat eigentlich Russen Gegenpropaganda machen wollen, und plötzlich hat man Jeremy Corbyn, den Oppositionsführer, quasi sein Ziel und hat ihn als Putin-Versteher diskreditiert, wo es natürlich große Aufregung im britischen Parlament gab.

Also diese Vorhaben, jetzt bauen wir dieselben Strukturen zur Gegenpropaganda ist in mehreren Ländern schon gescheitert und hat im britischen Fall, den ich eben kurz ansprach, kann man auch gerne nachlesen, das ist dieses Institute of Statecraft. Da gab es auch eine parlamentarische Debatte drüber. Jetzt im Dezember hat es schon Auswirkungen auf andere Länder. Denn die haben auch gleich noch Spanien getargetet,

wo ihnen von der Regierung benannte Geheimdienstchef nicht gepasst hat. Da haben sie dieselben Methoden für ein ausländisches Land angewandt. Also wir sehen, der Aktionsplan ist erstmal schon gemeint, aber besteht auch aus Methoden, die ausgesprochen fragwürdig sind und ist natürlich in keiner Weise bindend, sondern ist erstmal ein Vorschlag und wird viele politische Parteien überhaupt nicht interessieren,

weil sie diese Maßnahmen selber nämlich benutzen wollen. Was man aber mal positiv an der Stelle zumindest bei diesem Aktionsplan sagen muss, natürlich die EU-Kommission, ja, finde ich schon, die EU hat natürlich überhaupt wenig Befugnisse in dem Bereich, aber ein erster Schritt natürlich viel zu spät ist, aber überhaupt erstmal ein Monitoring dieser Manipulationsmethoden

und auch des Themas des Informations zu machen. Bei einem ersten Treffen im Frühjahr 2018 musste die EU feststellen, die Wahlbehörden beispielsweise in den Ländern sind vollkommen blank bei diesem Thema. Das findet da einfach nicht statt.

Ja, aber auch teilweise nicht geantwortet. Also die hätten so einen Katalog, die haben manchmal gar nicht geantwortet auf die Fragen. Also es ist nicht nur, dass sie nichts hatten, sie haben auch keine Fragen beantwortet oder Maßnahmen angekündigt. Man muss auch dazu sagen, wir wollen mal auf die Forderungen überlegen. Genau, wir nennen noch einmal der Vollständigkeit halber, dass das EU-Parlament auch Forderungen, allerdings unverbindliche,

zu dem Themenkomplex verabschiedet hat. Die finden sich in unserer Leseliste, aber auf die gehen wir jetzt nicht mehr ein, sondern wir kommen jetzt mal auf unsere Forderungen zum Schluss. Also das erste ist, glaube ich, das müssen wir auch angesichts der doch ziemlich polarisierenden Debatte um die Datenschutzgrundverordnung nochmal feststellen. Diese Form von in Europa harmonisiertem Datenschutz ist ein Manipulationsschutz.

Denn wenn die einzelnen Länder in Europa feststellen, dass die Art wie politische Campaigning mit den sozusagen mit verschiedenen Datenarten über die Werbeplattform durchgeführt wird, jetzt nicht mehr rechtmäßig ist, dann ist das ein strategischer Vorteil in Europa, wo wir so viele Wahlen haben, um zumindest eine Möglichkeit zu haben aufzudecken,

wenn jemand hintenrum manipulieren will mit einer politischen Kampagne. Und so müssen wir, glaube ich, den Datenschutz auch anders sehen als früher. Ist ein Manipulationsschutz und wird es in Zukunft sogar noch stärker werden, denn unsere Profile, das ganze Tracking, das haben wir bei Friederike gestern gelernt, nimmt ja in einem Maße zu. Auch dann, wenn wir keine Weisbockopfer sind, uns da keine Accounts geklickt haben.

Und wer von euch googlefrei ist, sind wahrscheinlich nicht so viele in diesem Raum. Also da hat sich, glaube ich, etwas verschoben in der Wahrnehmung. Und da sollten wir auch darauf bestehen, dass wir diesen Datenschutz so sehen. Aber wir haben natürlich auch noch ein paar konkretere Forderungen, die wir ganz gerne in Europa hätten. Die wir in den letzten zwei Minuten durchgehen.

Ein großer Block ist natürlich das Thema Transparenz. Weil wir feststellen können, dass Wahlkampf hat natürlich immer, oder politische Kommunikation hat natürlich immer, was mit Manipulation oder zumindest was mit Überzeugung zu tun. Aber was wir sehen können, ist, dass die digitalen Plattformen mit ihren Tools eben ermöglichen, dass eine ganz krasse Asymmetrie entsteht zwischen denjenigen,

die politische Kommunikation betreiben und manipulieren wollen und denjenigen, die manipuliert werden. Deshalb ist es unbedingt notwendig, für Transparenz zu sorgen. Also beispielsweise, dass politische Werbung entsprechend gekennzeichnet ist, da wo sie ausgespielt wird. Für alle immer nachvollziehbar mit einer Kennzeichnung oder zumindest

der Möglichkeit, sich das anzuschauen. Wer ist jetzt eigentlich die Person, die mich hier erreicht? Wer finanziert diese Anzeige? Genau. Und dazu würde natürlich auch eine Informationssammlung zählen. Nicht nur so ein Umfang, also ein Transparenzregister, sondern auch welche Anbieter bieten Dienstleistungen, also auf der Anbieterseite an.

Welche sind das? Und welche einzelnen Dienste werden benutzt mit welchen Geldern? Das gibt es in manchen Ländern. Die Briten haben das etwa erhoben. Das ist ganz interessant, weil man auch über die Daten von 2016, 17, 18 sieht, wohin die Gelder verschoben werden. Und ob zum Beispiel ein Teil schon in dieses Cross-Devicing fällt

und bei welchen Konzernen es landet, mit welchen Summen. Wir reden da zuletzt von 3,2 Millionen Pfund, also gar nicht so wenig. Diese Daten gibt es zum Beispiel in Deutschland nicht. Wir wissen nicht die Anbieterseite. Und wir wissen in Deutschland zum Beispiel nicht, wie viel wofür ausgegeben wird. Sollten wir ändern, würde aber bedeuten, dass man in Deutschland insbesondere das Parteiengesetz ändern muss.

Da steht ja sozusagen die wesentlichen Regelungen drin für die Transparenz bei der Parteienfinanzierung. Die sind ja okay in Deutschland. Aber beziehen sich halt auch nicht so sehr darauf, wohin. Und diese ganze Gleichheit zwischen Kandidaten, sodass man ihnen, wie man es am Fernsehen hat, gleiche Möglichkeiten einräumt, die sind in Deutschland

im Rundfunkstaatvertrag geregelt. Der umfasst aber diese Werbekonzerne gar nicht. Das heißt, diese Gleichheit der Kandidaten, dass sie also in gleicher Weise an die Wähler herankommen, ist so nicht gegeben bei diesen Werbeplattformen. Genau. Das Recht ist das eine. Das andere ist aber auch, dass wir als Wählerinnen und Wähler

die Parteien in die Pflicht nehmen sollten. Also es kann eigentlich nicht sein, dass die nicht darüber Auskunft geben, woher das Geld kommt, aber wie viel Geld sie ausgeben für bestimmte Maßnahmen und nach welchen Kriterien sie welche Gruppen eigentlich ansprechen, mit welchen Botschaften. Also dass man denen da immer hinterherlaufen muss, dass man kaum dazu kommt, kann nicht sein. Das heißt, dass sie nicht in die Pflicht kommen, sondern sie müssen proaktiv dazu gebracht werden,

Transparenz und Faktentreue voranzubringen. Psychometrisches Profiling im politischen Kontext ohnehin schwierig. Ja, diese Art von Verhaltensauswertung, oh nö. Also ich hätte nichts dagegen, wenn das vor allen Dingen für politische Campaigning, aber vor allen Dingen auf bestimmte bürners anfällige Bevölkerungsgruppen,

die bürnerschutzbedürftig sind, einfach nicht mehr erlaubt wird. Genau, wir machen den letzten Punkt. Insgesamt dieses Ökosystem, dieses Informationsökosystem, in dem die politische Öffentlichkeit heute stattfindet auf den digitalen Plattformen. Wir kommen auf die letzte Forderung, wir können nicht mehr. Facebook und Google bilden inzwischen eine Form

der Manipulationsindustrie, die nicht durch kleinere Maßnahmen, sicherlich ist es wichtig, in kleineren Maßnahmen Transparenz und Verantwortlichkeit herzustellen, aber das Grundproblem ist diese Manipulationsindustrie, die diese Tools von vornherein mitliefert und die ein hohes Missbrauchspotenzial haben,

die in die Verantwortung genommen werden muss und eigentlich überwunden werden muss. Punkt. Weil wir jetzt am Ende hetzen müssen. Wir werden auch noch mal darüber schreiben und über die Forderungen, die wir jetzt nicht so genau beschrieben haben, schriftlich uns sozusagen

bei NetzPolitik.org äußern. Im Übrigen sind wir der Meinung, dass Facebook und Google zerschlagen werden müssen. Vielen Dank.