Netzpolitischer Wetterbericht 2018
This is a modal window.
The media could not be loaded, either because the server or network failed or because the format is not supported.
Formal Metadata
| Title |
| |
| Subtitle |
| |
| Title of Series | ||
| Number of Parts | 165 | |
| Author | ||
| License | CC Attribution 4.0 International: You are free to use, adapt and copy, distribute and transmit the work or content in adapted or unchanged form for any legal purpose as long as the work is attributed to the author in the manner specified by the author or licensor. | |
| Identifiers | 10.5446/39189 (DOI) | |
| Publisher | ||
| Release Date | ||
| Language |
Content Metadata
| Subject Area | ||
| Genre | ||
| Abstract |
| |
| Keywords |
35C3 Refreshing Memories107 / 165
2
5
6
7
8
9
10
11
12
13
15
16
17
22
26
29
30
31
33
37
38
39
40
44
45
48
49
53
54
55
57
59
60
62
65
66
69
70
72
73
74
77
80
82
83
84
85
86
87
89
92
94
100
104
105
106
107
108
111
113
114
115
116
117
119
121
122
123
124
127
132
133
136
139
141
143
144
145
146
148
149
150
154
155
156
157
158
159
160
161
162
163
164
165
00:00
Plane (geometry)Lecture/Conference
01:13
Warren Abstract MachinePhysical quantityComputer animation
01:45
Digital signal
02:30
TOUR <Programm>KommunikationFraction (mathematics)Lecture/Conference
03:39
VelocityDigitizingDigitizingComputer animation
04:16
InternetComputer animation
04:56
Digital filterLecture/ConferenceComputer animation
05:54
Computer animationLecture/Conference
07:15
Plane (geometry)InternetMeeting/Interview
08:01
TOUR <Programm>Computing platformInternetLecture/Conference
09:17
InternetSpectrum (functional analysis)Negative numberComputer animation
10:06
LinieIBMDatabaseHash functionContent (media)FingerprintLecture/ConferenceComputer animation
11:37
TOUR <Programm>Equivalence relationInternetdienstMetadataComputer animationLecture/Conference
13:29
ProviderVulnerability (computing)Computer animation
14:39
Video trackingLecture/ConferenceComputer animation
15:37
Lecture/ConferenceComputer animation
16:20
Computer animation
17:12
Computer animationLecture/Conference
17:46
TOUR <Programm>ALT <Programm>MittelungsverfahrenLecture/Conference
19:32
TOUR <Programm>ComputerGoogleSystems <München>Server (computing)ZugriffComputer animationMeeting/InterviewLecture/Conference
21:08
Hausdorff spaceArtificial intelligenceInformation privacyComputer animationLecture/Conference
21:45
Zuckerberg, MarkArtificial intelligenceRobotLecture/ConferenceComputer animation
22:53
RobotLecture/Conference
23:34
FacebookBusiness reporting
24:21
TOUR <Programm>FacebookData exchangeComputing platformGoogleLecture/ConferenceComputer animation
25:10
TOUR <Programm>Computing platformFacebookLecture/Conference
25:45
Content (media)Computing platform
26:22
Lecture/ConferenceComputer animation
26:57
TOUR <Programm>Lecture/Conference
27:36
Milan <Programmiersprache>TelecommunicationComputer animation
28:23
TOUR <Programm>Lecture/ConferenceComputer animation
28:58
Default (computer science)PseudonymizationComputer animation
29:41
Information privacyLecture/ConferenceComputer animation
30:17
TOUR <Programm>FacebookHausdorff spaceMeeting/InterviewLecture/Conference
31:03
Electronic data processingComputer animation
31:37
TOUR <Programm>Web browserZugriffVideo trackingLecture/ConferenceComputer animation
32:14
TOUR <Programm>ComputerDigital divideLecture/Conference
32:56
InternetComputer animationLecture/Conference
33:32
DistanceMetreLecture/Conference
34:08
Physical law
34:43
Lecture/Conference
35:25
Moment (mathematics)DigitizingLecture/Conference
36:06
DigitizingDigitizing
36:59
Meeting/InterviewComputer animation
37:58
TOUR <Programm>Hausdorff spaceLecture/Conference
38:34
InternetLecture/Conference
39:21
Computing platformFacebookDigital filterLecture/Conference
40:21
Lecture/Conference
40:57
FacebookMoment (mathematics)Zuckerberg, MarkYouTubeCW-KomplexComputing platformLecture/ConferenceMeeting/Interview
42:08
Common Language InfrastructureLecture/ConferenceSource code
Transcript: German(auto-generated)
00:19
Dass er auf dem 22C3 schon mindestens dabei war, habe ich schon gesagt, aber ansonsten
00:25
gibt er uns wieder einen Überblick. Auch in 2018 war sehr, sehr viel los für die von euch, die in den Kongressen denken, das war das Jahr zwischen dem 35C3 und dem 34C3. Es ist wieder viel passiert in Sachen Netzpolitik und unser nächster Sprecher wird uns ein
00:42
Überblick über die Dinge, die auf deutscher und auf europäischer Ebene passiert sind, geben und was sich in 2019 tun wird. Bitte begrüßt mit mir den Chefredakteur von Netzpolitik.org, Markus Becke Dahl.
01:03
Ja, schönen guten Morgen. Ich hoffe, meine Stimme hält durch. Willkommen zu einer neuen Ausgabe von das Beste und Schlechteste der Netzpolitik in Deutschland und der EU von gestern und heute. Ich habe das Problem, ich habe nur 40 Minuten. Viele Themen, die auch relevant sind, musste ich leider rausschmeißen. Es sind aber noch genug übrig geblieben.
01:21
Das Neue gegenüber letztem Jahr ist, wir haben eine Bundesregierung, im vergangenen Jahr hatten wir gescheiterte Koalitionsverhandlungen, mittlerweile gibt es eine große Koalition, Merkel 4.0. Was neu ist oder das Alte ist, wir haben immer noch keinen Digitalminister, aber wir wissen auch von der EU-Ebene, das beste Internetministerium bringt nichts, wenn wir Günther Oettinger dahinsetzen.
01:47
Die gute Nachricht ist, nach 13 Jahren Angela Merkel als Kanzlerin ist Digitalisierung, ist Netzpolitik auf einmal ein Thema. Es gibt eine Vielzahl an Arbeits- und Expertenkreisen, wir verlieren langsam den Überblick bei Netzpolitik.org.
02:01
Ich lese noch mal einige vor, die es jetzt neu gegründet gibt. Digitalkabinett, Digitalrat, Datenethikkommission, Denkfabrik, digitale Arbeitsgesellschaft, KI-Plattform, Lernende Systeme, Kommission Wettbewerbsrecht 4.0, Innovation Council, Enquete-Kommission zur Künstlichen Intelligenz, Enquete-Kommission zur Zukunft der Bildung oder Arbeit, irgend sowas.
02:21
Das sind nur einige davon. Das ist erstmal nicht schlecht, das Problem ist, es fehlt an Koordinierung in dieser Bundesregierung. Zuständig für Koordinierung ist übrigens Dorothee Bär, die ist Beauftragte der Bundesregierung für Digitalisierung, laut Bundesregierung zuständig für die Koordinierung
02:40
der Netzpolitik innerhalb der Bundesregierung und für die Kommunikation nach außen. Sie findet Datenschutz störend, versteht darunter aber manchmal Busfahrpläne, die aber nichts mit personenbezogenen Daten zu tun haben. Und es gibt so ein schönes aktuelles Zitat von ihr, was sie sich wünscht. Ich zitiere, Nerds von außen müssen uns dringend ihren Sachverstand und ihre
03:04
Schaffenskraft für eine gewisse Zeit zum Wohle allerlei. Also liebe Bundesregierung, es könnte so einfach sein, warum nicht mal neben all den Industrielobbyisten auch mal Vertreter der digitalen Zivilgesellschaft ins Kanzleramt einladen.
03:22
Warum laden eigentlich fast alle Fraktionen im Bundestag immer Nerds als Sachverständige ein, aber CDU, CSU eigentlich nie. Also it could be so easy, dann kommen die Nerds auch, weil die Angebote stehen seit vielen Jahren, man muss sie auch annehmen. Die digitale Agenda heißt jetzt Umsetzungsstrategie und was fehlt ist
03:44
leider die Strategie. Ist ja nichts Neues, aber die Bundesregierung hat irgendwann vor ein, zwei Monaten ihre Umsetzungsstrategie präsentiert und ich habe verschiedene Anläufe genommen, das Ganze auf Netzpolitik.org zu kommentieren. Ich habe es nicht geschafft, weil ich wusste gar nicht, wo ich anfangen soll. Das ist so ein Sammelsurium, Sammelwerk, so alle Ministerien wurden
04:02
eingeladen, schickt uns mal, was ihr gerade irgendwie mit Digitalisierung macht. Und das haben sie dann irgendwie so chronologisch miteinander geheftet. Aber wenigstens sieht man da drin, irgendwie passiert viel, aber nicht mit so viel Strategie. Kommen wir zum Wetter. Kommen wir erst mal zu den schlechten Sachen.
04:21
Sturm zieht auf oder für die Zielgruppe, die Sturm nur aus dem Internet kennt. Ein Running Gag seit vielen Jahren, seitdem ich Netzpolitik mache, ist EU-Urheberrechtsreform. Mittlerweile machen sie die zweite Reform, die ich mitbekomme. Und die EU-Urheberrechtsreform ist auf der Zielgeraden.
04:41
Umstritten sind vor allen Dingen zwei Punkte. Das eine sind die sogenannten Uploadfilter, Artikel 13. Das andere ist das Leistungsschutzrecht, Artikel 11. Beim Leistungsschutzrecht kann ich euch nicht so genau erklären, was die Logik dahinter ist. Das habe ich nicht so ganz verstanden. Die Frage, die wir uns stellen, ist, können wir eigentlich bei Netzpolitik.org künftig weiterhin andere Artikel mit
05:03
Überschrift verlinken und zitieren, ohne Lizenzgebühren zu zahlen? Das können uns auch die verantwortlichen Politiker nicht mehr so genau erklären. Super Arbeit hat hier aber vor allen Dingen Julia Reeder gemacht mit ihrem Team. Ohne sie wäre alles noch viel schlechter gelaufen. Also erst mal ein großer Dank.
05:26
Aber vor allen Dingen die Uploadfilter sind ein Problem, weil Uploadfilter stellen eine größere Gefahr für Meinungsfreiheit da als das Netzwerkdurchsetzungsgesetz. Auch weil die automatisierte Entscheidungssysteme mitdefinieren, was wir wie angezeigt bekommen und was überhaupt veröffentlicht werden kann.
05:41
Und die entscheidende Frage ist, wo sind die demokratischen Kontrollen bei der Frage, was da wieso in den Filtern auftaucht und was deswegen nicht mehr angezeigt werden kann? Dazu kommt später noch mehr. Ja, das Leistungsschutzrecht, das deutsche Leistungsschutzrecht, quasi der Exportschlager in die EU, ist vielleicht nicht
06:02
gültig. Wir haben das schon vor eineinhalb Jahren auf Netzpolitik.org angekündigt, dass es nicht EU-konform ist, war gerade wieder in den Medien, zeigt Netzpolitik.org Leserwissen früher Bescheid. Wir haben auch mal geklagt rund um das Leistungsschutzrecht. Und zwar wollten wir wissen, wer in der entscheidenden Sitzung des Bundeskabinetts vor fünf Jahren
06:25
mit dabei war und was dort besprochen wurde zu dem Fall. Weil damals war der Kanzleramtsminister Eckart von Kläden zuständig unter anderem dafür oder damit beschäftigt und sein Bruder, weil er Springerlobby ist,
06:40
Dietrich von Kläden. Und wir sahen darin ein Interessenskonflikt und haben das durchgeklagt bis zum Bundesverwaltungsgericht. Wir haben leider nur halbrecht bekommen. Wir haben oder kriegen jetzt die Teilnehmerliste. Die Bundesregierung wollte nie irgendwie die Teilnehmerliste rausrücken, wer denn jetzt bei einer Kabinettssitzung dabei war, weil mit der Begründung man könnte darauf
07:01
auf das Verhalten oder Abstimmungsverhalten einzelner Minister schließen. Das haben wir erkämpft. Nicht erkämpft haben wir, dass wir die für 30 Jahre geschützten Kabinettsprotokolle bekommen. Die bleiben leider weiter geschützt. Aber was auch neu ist, gehört Stay im Innenministerium.
07:21
Und das ist ein kleines Problem. Also nicht nur das. Die letzte große Koalition hat uns mehr Überwachungsbefugnisse wie kaum eine andere Regierung vor ihr gebracht. Und jetzt geht sie in die Verlängerung. Und an der Spitze des BMI sind eigentlich nur Überwachungs-Hardliner zu sehen. Wir hatten sie schon mal eben, verpflichtende
07:41
Ablottfilter können ein wichtiger Bestandteil einer Zensurinfrastruktur werden. Und sie sind es sogar schon. Es gibt behördliche oder auf EU Ebene gibt es gerade die Diskussion infolge des EU-Forum Internet. Ich glaube, ich habe vor zwei oder drei Jahren mal hier über das EU-Forum
08:02
Internet noch in Hamburg damals auf dem CCT-Kongress gesprochen. Das war so ein Treffen zwischen großen Plattformen und EU-Sicherheitsbehörden, EU-Politikern, wo im Rahmen einer Privatisierung der Rechtsdurchsetzung Plattformen motiviert wurden, doch mehr zu machen, wie Ablottfilter
08:21
einzubauen. Das haben die auch teilweise jetzt größtenteils gemacht von 20 Plattformen, die da mitdiskutieren sollen. 17 schon Ablottfilter irgendeiner Art installiert haben. Und jetzt kommt demnächst noch die Verordnung zur Bekämpfung von Terrorpropaganda. Und das ist unserer Meinung nach ja, dasselbe, was wir
08:41
damals mit Sensosula verhindert haben, nur auf einem höheren Netzlayer, nämlich bei Plattformen. Und dahinter steht, behördliche Löschanforderungen müssen von Anbietern binnen einer Stunde umgesetzt werden. Das heißt, es geht nur durch automatisierte Ablottfilter und mit proaktiven Maßnahmen bekämpft werden, dass
09:03
damit sind gemeint Instrumente zur automatischen Erkennung. Und wo bleibt eigentlich der Aufschrei, wenn hier eigentlich fast genau dasselbe passiert, wie damals in der Sensosula-Debatte, nur kein Interessiertes? Das ist ein echtes Problem. Horst Seehofer hat es mit auf den Weg gebracht, will sich
09:21
aber jetzt nicht mehr dazu äußern. Es gab zuletzt eine EU-Innenminister-Sitzung, wo das dann vom EU-Rat beschlossen wurde. Dort sprach dann der österreichische Innenminister statt Horst Seehofer. Er sprach das Internet sei ein Brandbeschleuniger ins Negative. Das sagt der österreichische Innenminister, der den Identitären nahesteht.
09:42
Es dürfe kein neuer virtueller islamischer Staat im Internet entstehen und der Vorschlag solle Lücken schließen, die in der realen Welt bereits abgedichtet sein. Was ist eigentlich Terrorpropaganda? Das ist eine spannende Frage, noch nicht so ganz geklärt, aber wir hatten in diesem Jahr einen Fall, wo, sagen wir
10:00
mal, zumindest ein Teil des politischen Spektrums der Meinung war, das hat mit Terror zu tun. Und zwar die Debatte um den Hambacher Forst. Es gab Stimmen aus der NRW-Regierung, von RWE und von der Union, dass darunter auch schon bestimmte Klimaproteste wie beim Hambacher Forst fallen könnten. Die
10:22
werden dann möglicherweise demnächst automatisiert rausgefiltert. Und wie das in der Praxis abläuft, haben wir mal recherchiert. Es gibt bereits eine scharf geschaltete Hashtatenbank von Europol. Europol ist ein großer Plattformbetreiber. Europol verkündet da regelmäßig schon 50.000 Hashes da drin, schon 100.000 Hashes. Hashes
10:41
sind digitale Fingerabdrücke von einmal als terroristisch markierten Inhalten. Und die werden halt von Europol an diese Datenbank weitergeleitet. Uns hat mal interessiert, wie finden da eigentlich die demokratischen Kontrollen statt. Wir haben uns erstmal an die EU-Kommission gewandt, die das ja alles auf den Weg gebracht hat. Die EU-Kommission sagt keine Ahnung. Dann haben wir Europol
11:02
gefragt, die halt quasi diese ganzen Inhalte in diese Datenbank reinpacken. Die so keine Ahnung. Mit anderen Worten, wir haben da eine Datenbank, die diese Upload-Filter ja quasi unterstützt. Und es gibt keine
11:21
demokratische Kontrolle, weil es keinen interessiert. Was da einmal reinkommt, kann da möglicherweise für immer drin bleiben. Und wir können auch nicht mehr darüber sprechen, weil beim Hochladen wird das automatisiert, weggelöscht und man weiß gar nicht, dass etwas existiert. Kommen wir zum nächsten, auch auf EU-Ebene. EU ist
11:41
gerade relativ viel, weil die EU-Legislaturperiode im Mai endet. Das heißt, ganz viele Vorhaben sind jetzt auf der Ziel geraden, bevor alle dann ab März, April im Wahlkampf sind. Und auf EU-Ebene gibt es auch noch den Gesetzentwurf zu elektronischen Beweismitteln, E-Evidence. Ich glaube, Klaus Landefeld hat da gestern darüber gesprochen. Die Idee dahinter
12:03
ist, eine Äquivalenz zum amerikanischen Cloud Act zu schaffen. Betreiber von Internetdiensten müssen Daten ihrer Nutzer nach dem Vorschlag innerhalb von sechs Stunden herausgeben. An Behörden aller EU-Staaten. Sonst drohen Strafen von bis zu 2% ihres globalen Umsatzes. Das heißt,
12:25
zukünftig kann, wenn das so durchgeht, eine ungarische Sicherheitsbehörde bei einem deutschen Host-Provider anrufen und sagen, gibt uns mal die Daten hier von den ungarischen Oppositionellen, die ihr bei euch hostet. Und man hat sechs Stunden Zeit
12:41
darauf zu reagieren. Wie hoch ist die Wahrscheinlichkeit, dass ein Host-Provider da den Rechtsweg einschlägt und das Risiko eingeht, eine bis zu 2% des Umsatzes zu riskieren? Und wir haben das Problem, dieser Entwurf, der da gerade auf der Zielgeraden ist, sehr schwächt die Möglichkeiten der durchsetzenden Behörden in anderen Staaten, sich
13:01
der Durchsetzung einer Anordnung auf grund einer Verletzung der EU- Grundrechtekater zu widersetzen. Wichtiger Punkt für Jura-Nerds. Der Entwurf geht fälschlicherweise davon aus, dass Metadaten weniger sensibel als Content-Daten sind. Bestandsdatenauskunft und so, übliche Problematik. Der Entwurf
13:20
bringt die Möglichkeit ins Spiel die Anordnung ohne Gerichtsbeschluss zu treffen. Und vor allen Dingen der Entwurf bringt keine Rechtssicherheit für Betroffene. Und das ist ein ziemliches Problem, wie ich eben schon beschrieben habe, weil ja, Provider hier eigentlich oder Host-Provider, ja, Sicherheitsbehörden
13:41
ausgeliefert sind. Eine Debatte, die es immer schon gibt. Hier habe ich mal ein Bild von 2007 rausgesucht vom R.V. Karlsruhe, als damals das Bundesverfassungsgericht über Staatstrojaner anfing zu diskutieren. Der Staatstrojaner heißt jetzt Quellen-TKÜ und soll mit den meisten
14:00
neuen Polizeigesetzen auf Landesebene durchgesetzt werden. Wir haben das übliche Problem mit Staatstrojanern. Was wir unter Staatstrojaner verstehen, nämlich ja, quasi ein hochkomplexes System aus Schwarzmärkten, wo Sicherheitslücken verkauft werden aus dubiosen Anbietern, die
14:20
Staatstrojaner-Software mit diesen Sicherheitslücken munitionieren. Das kommt bei vielen Politikern an, wie so ein Staatstrojaner, wie so ein Telefon, was man im Media-Markt kauft, den kauft man halt und setzt ein und kommt auf jeden Computer drauf. Wir müssen also noch weiter erklären, worum es geht, weil es gilt weiterhin im Namen
14:42
der Sicherheit wird hier massive IT-Unsicherheit geschaffen, wenn wir weiter den Weg der Staatstrojaner verfolgen. Und das ist der falsche Weg. Und vor allen der Staatstrojaner
15:01
ist auch wieder ein schönes Beispiel dafür, wie eine Überwachungsbefugnis auf den Weg gebracht wird, mit welcher Begründung, wie es dann wieder ausgeweitet wird. Wir haben mal in diesem Jahr recherchiert, wofür die meisten Staatstrojaner eingesetzt werden. Die damalige Begründung war, wie immer schwerste Straftaten, darunter versteht man Terror,
15:21
Mord oder Totschlag und herausgekommen ist, die meisten Einsatzziele haben was mit Drogen zu tun. Ich glaube, eine andere Drogenpolitik würde hier viel mehr helfen, als mit Staatstrojanern IT-Unsicherheit zu schaffen.
15:45
Ja, gibt es demnächst bei uns im Merchandising Shop. Polizeigesetze haben hier Marie Bröckling und Constanze Kurz schon irgendwie, ich glaube, am ersten Abend sehr schön auseinandergenommen. Gibt es in fast allen Bundesländern mittlerweile,
16:01
haben als Neuigkeit dabei eine sogenannte drohende Gefahr, also jemanden ohne konkreten Verdacht einer Straftat zu polizeilichen Zwangs- und Überwachungsmaßnahmen also zu machen. In Bayern kann man damit zukünftig, wenn man Pech hat, auch für immer weggesperrt werden. In Bayern wurde es dann auch
16:21
irgendwie erklärt, also CSU-Logik, mehr Überwachungen und Ausbau der Polizei zum Geheimdienst fördert Grundrechte. Das war halt der, oder ich glaube, immer noch der aktuelle und ehemalige Innenminister Herrmann, der tatsächlich verkaufte, Ziel sei die Stärkung der Bürgerrechte.
16:41
Aber das ist totaler Bullshit. Das war nur ein Anlass, um dahinter versteckt den Überwachungs- und Kontrollapparat auszubauen. Bayern ist hier ganz weit vorne. Aber die Polizeigesetze haben auch einen großen Vorteil. Endlich gehen wieder zehntausende Menschen in Deutschland für Grundrechte auf die Straße und zwar nicht nur in Bayern, auch in Niedersachsen, in Brandenburg, in NRW, demnächst in
17:01
Sachsen. Also Polizeigesetze stoppen, ist die Chance wieder für größere gesellschaftliche Bündnisse für Grundrechte auf die Straße zu bringen. Ja, wenn es um zum Thema Bündnispartner geht, haben
17:21
wir auch eine neue alte Debatte. Kfz-Kennzeichenerfassung. Die Bundesregierung hat total versagt, beim Ziel Klimaschutz zu fördern und Feinstaubbelastung in den Städten zurückzuführen und vor allen Dingen, na ja, dieser ganze Diesel-Skandal, der zu Feinstaub führt,
17:40
was eigentlich Manipulationen sind, das ist von der Bundesregierung total verkackt worden. Aber die Antwort darauf ist mehr Überwachung. Und zwar Kfz-Kennzeichen sein, Scanner, Kennzeichen Scanner sein, laut Andreas Scheuer, das ist übrigens unser Verkehrsminister, die einzig praktikable und effektive Möglichkeit, Fahrverbote
18:00
älterer Dieselautos durchzusetzen. Das sei keine Überwachung, der Datenschutz sei gewährt. Allerdings gibt es deutlich mildere Mittel zur Kontrolle der Fahrverbote. Wenn das unser Verkehrsminister nicht weiß, dann hat er ein Problem und wir auch. Es gibt zum Beispiel blaue Plakette oder kleine RFID-Funkzender, die andere Länder bereits
18:20
in Mautsystemen einsetzen, wo man nicht die ganzen Gesichter der Fahrer und Fahrerinnen mit fotografieren muss. Hier habe ich noch ein schönes Zitat von Andreas Scheuer. Der Einsatz von Videoüberwachung gerade im Verkehrsbereich wird seit vielen Jahren als akzeptiert empfunden. Das gelte es zu beachten, wenn der Gesetzentwurf als problematischer Eingriff
18:42
in die Privatsphäre bezeichnet wird. Auch hier spricht niemand von Überwachungsstaat. Wir schon. Auch das ist 2018 gewesen. Bunte Proteste gegen den Testversuch zur biometrischen Videoüberwachung
19:01
am Bahnhof Berlin-Südkreuz. Viele kreative Bilder. Der wissenschaftliche Test der Videoüberwachung ist aus wissenschaftlicher Sicht ein Witz, wie der Chaos Computer Club unter anderem festgestellt hat. Aber wir sollten grundsätzlicher diskutieren als über Fehlerquoten, weil die Fehlerquoten werden mit der Zeit wahrscheinlich zurückgehen.
19:21
Und grundsätzlicher heißt eine anlasslose Massenüberwachung des öffentlichen Raumes durch biometrische Videoüberwachung gefährdet einfach unsere Freiheit. Punkt. 2018 ist das Jahr, wo wir endlich mit Computern sprechen können.
19:42
Und sie sprechen auch zurück oder anders ausgedrückt. 2018 ist das Jahr, wo Menschen sich freiwillig wanzeln in die Wohnung stellen und dafür bezahlen. Und die Diskussion um Alexa, Google und wie sie alle heißen und Co. fängt gerade erst an.
20:01
Und es gibt da viele Fragen, die wir diskutieren sollten. Wo liegen eigentlich die Daten? Liegen die auf deutschen Servern unter deutschen Datenschutzgesetzen oder wenn die in die USA transferiert und über PRISM sind sie dann in Sicherheitsbehörden dort zugänglich? Wer hat alles Zugriff darauf? Wie sicher ist das eigentlich? Wann kommt der Punkt, wo Alexa und Co.
20:21
eigentlich alles für immer speichern, weil es einfach bequemer für den Nutzer und für Amazon ist? Trainieren wir eigentlich mit Alexa und Co. ein globales Stimmenbiometriesystem, wo wir dann zukünftig überall anhand unserer Stimme erkannt werden, weil überall Alexas und Google-Teile rumstehen.
20:41
Und da kennen mich die Systeme dann egal wo ich bin. Und wenn wir so eine KI trainieren, damit sie uns besser kennt und besser versteht und so weiter und wir uns dran gewöhnen, ab wann ist der Punkt eigentlich erreicht, dass wir nicht mehr die Alexa-Welt oder die Google-Welt verlassen können, weil wir sie so auf uns trainiert haben, dass wir woanders
21:01
wieder von vorne anfangen müssten. Und vor allen Dingen, what could possibly go wrong? Das hat die CT grad gefragt, da hat jemand eine Datenschutz-Rechtsauskunft an Amazon geschickt und hat fremde Alexa-Daten zugeschickt bekommen.
21:21
Und die Herausforderung ist, künstliche Intelligenz und Sprachsteuerung sind gekommen, um zu bleiben. Das ist auch gut so, aber umso wichtiger sind freie, dezentrale, offene Alternativen dazu, denen wir vertrauen können, damit wir diese Technik auch bei uns zu Hause einbauen und können und nutzen können. Das wünsche ich mir.
21:43
Ansonsten gilt von den größten Datenschützern kann man viel lernen. Mark Zuckerberg hat auch sein Mikrofon verklebt für die Leute, die da noch nicht auf die Idee gekommen sind. Kommen wir zum nächsten Thema. 2017 will ihre Bot-Debatte zurück. Wir hatten es hier vorher in einem Talk von
22:01
Constanze und Ingo zu Desinformation. Die Debatte um Des- und Missinformation müssen wir führen, aber Social Bots sind da echt das kleinste Problem. Und auch hier haben wir wieder wie beim Staatsdorianas Problem, dass viele Politiker irgend so eine wirre Vorstellung haben, was so ein Social Bot ist, und aneinander teilweise vorbei reden.
22:21
Weil für die einen sind das russische Trolle, für die anderen ist es die künstliche Intelligenz eines Chatbots, mit dem man kommuniziert, wenn man mit dem Kundenservice kommuniziert. Was halt eine ganz andere Debatte ist, aber ja, man muss dann auch immer die Politiker fragen,
22:40
worüber reden sie jetzt genau, um zu verstehen, wo man hin möchte. Und was klar ist, wenn man mit einer KI kommuniziert, dann brauchen wir Transparenz. Das ist eigentlich ein Verbraucherrecht. Das müssen wir auch umsetzen. Aber Transparenz brauchen wir auch bei Studien, die Panik verursachen, weil sie überall Social Bots sehen, die sonst keiner nachvollziehen kann.
23:01
Und vor allen Dingen brauchen wir auch Transparenz über die Herangehensweise dieser Studienmacher, weil mittlerweile ist es eigentlich gängig, jemanden oder einen Twitter-Account zum Beispiel als Social Bot zu definieren, wenn mehr als 50 Tweets pro Tag abgesetzt wurden. Und wir haben leider echt das Problem, dass wir in unserer Gesellschaft
23:21
viele Menschen mit viel zu viel Zeit und viel zu viel Wut haben, die locker auf 50 Tweets pro Tag kommen, die aber keine Social Bots sind, weswegen man jetzt eine Klarnahmenspflicht einführen muss. Und die Debatte des Jahres war Cambridge Analytica und Facebook. Für uns war es ein bisschen ungewöhnlich.
23:40
Das war nicht der erste Datenskandal von Facebook. Es war nicht der letzte. Allein in diesem Jahr sind wir insgesamt auf 21 Datenskandale bei Facebook gekommen. Aber normalerweise dauerten die immer nur zwei, drei Tage, dann brachte Facebook neue Features raus, dann waren alle Journalisten nur noch über die neuen Features am Berichten und es drehte sich wieder. Cambridge Analytica dauert immer noch an, hat zu verschiedenen Anhörungen geführt,
24:01
zeigt aber auch, Cambridge Analytica ist nur die Spitze des Eisberges und nur eines von möglicherweise tausenden Firmen, die ähnlich vorgegangen sind, die ähnlich Daten abgegriffen haben und möglicherweise auf ähnliche Art und Weise diese Daten nutzen, um Menschen über Facebook oder woanders zu manipulieren. Und Glückwunsch an alle Menschen,
24:22
die aus Protest gegen die Firmenpraktiken von Facebook zu Instagram und WhatsApp gewechselt sind. Das brachte uns aber auch die Debatte, wie gehen wir mit der Macht monopolistischer Plattformen um? Wie können wir sie grundrechtsfreundlich regulieren,
24:40
um mehr Wettbewerb und Verbraucherrechte durchzusetzen? Facebook zerschlagen und Google zerschlagen, ist da ein notwendiger Weg, weil die einfach zu mächtig, zu groß geworden sind. Vor allen Dingen als zum Beispiel als Facebook WhatsApp aufkaufte, hatten sie der EU-Kommission versprochen, keinen Datenaustausch zu machen. Das würde ich ein bisschen bezweifeln
25:00
und deswegen das einfach zurücknehmen. Und es geht bei dieser ganzen Debatte um Plattformregulierung darum, wie setzen wir dort welche Rechte wie durch? Wie stärken wir die Rechte der Nutzer gegenüber Plattformen und ihrer Frist oder Stirb-Policies? Wie schaffen wir mehr Meinungs- und Medienfreiheit? Oder Medienvielfalt? Wie schaffen wir mehr Dezentralität und Wettbewerb?
25:20
Und wie können wir offene und datenschutzfreundliche Alternativen fördern? Da gibt es noch viel zu wenig, vor allen Dingen aus der Politik. 2018 hat auch gezeigt, Facebook tötet. In Myanmar, in Nigeria, überall dort, wo das Unternehmen Geld verdient, sich aber nicht verantwortlich fühlt und zum Beispiel ausreichend Factchecker
25:40
mit den richtigen Sprachkenntnissen beschäftigt. Auch das ist ein Problem. Und 2018 hat den schönen Film The Cleaners gebracht, der die Content Moderation Politik sozusagen der großen Konzerne mal ins Fernsehen gebracht hat. Und da kann man auch sehen,
26:01
2018 hat auch gezeigt, das Netzwerkdurchsetzungsgesetz in Aktionen macht weniger Schaden als befürchtet, weil es viel zu kompliziert zum Melden ist. Und die Plattformen einfach eh alles löschen auf Basis ihrer Content Policies und Community-Regeln und das ist echt ein Problem. Aber wenigstens hat das Netzwerkdurchsetzungsgesetz
26:21
Transparenzberichte gebracht und wir sind gespannt auf die nächsten, die sie rausbringen müssen. Kommen wir mal zu Heiter bis Wolkig. Die gute Nachricht für 2018 ist, bis morgen haben alle 50 Megabit Breitband-Internet.
26:40
Also hat Angela Merkel noch im Jahr 2017 versprochen. Wer hat keine 50 Megabit zu Hause? Oh, selbst bei den Nerds gibt es viele, die das nicht haben. Ich kenne auch viele in Berlin, die in zentralen Gegenden liegen und froh sind über 16 Megabit, wenn sie das überhaupt bekommen. Aber dafür haben wir einen Verkehrsminister, der mittlerweile Funktürme selbst eröffnet,
27:00
wie hier in Gläsen-Görne, eines der bekanntesten Ex-Funklöcher in Deutschland. 360 Bewohner, anscheinend mit die kleinste Kommune in Brandenburg, jetzt mit Netz, weil die Deutsche Telekom von ihm genötigt wurde, für einen PR-Termin nach Funkturm aufzubauen. Und erinnert ihr euch noch an die
27:20
Durchhalteparolen, dass, wenn das jetzt bis morgen nichts wird, mit 5G alle Probleme gelöst werden. Ja, wenn 5G mal kommt. Mal gucken. Aber das nächste Versprechen ist jetzt, bis 2025 haben wir alle Gigabit. Also vielleicht. Es gab auch mal ein paar Fördermilliarden, die versprochen worden sind.
27:41
Jetzt nach zwei Jahren, nachdem die 4 Milliarden Bundesmittel irgendwie gelockert wurden, kann man sagen, 82 Millionen Euro sind davon bereits ausgegeben worden. Na ja, ein Teil davon ein Berater. Also man kann auch sagen, der Breitbandausbau fördert vor allen Dingen Powerpoint-Bingo.
28:03
Es gibt ein bisschen Fortschritt beim Thema Zero-Rating-Angebote. Zumindest gibt es neue Gerichtsurteile. Das Streamon-Angebot der Telekom verletzt die Netzneutralität. Ja, sie müssen jetzt nachbessern und so weiter. Das Grundproblem besteht, Zero-Rating-Angebote generell
28:21
verletzen die Netzneutralität. Und hier brauchen wir eine Klarstellung. Und vor allen Dingen, es sind nicht nur die Telekommunikationsunternehmen, die sich die Hände in der Netzneutralitätsdebatte schmutzig machen. Es sind auch vor allen Dingen die Unternehmen und die Organisationen, die an Zero-Rating-Programmen teilnehmen und sich darüber einen Wettbewerbsvorteil verschaffen, weil sie bevorzugt durchgelassen werden.
28:40
Und hiermit meine ich explizit öffentlich-rechtliche Anstalten, die in dieser Seite leider teilweise die Seiten gewechselt haben und da mitmachen oder noch mitverhandeln. Shame on you. Wir haben jetzt eine KI-Strategie. Eine Einbeziehung der Zivilgesellschaft ist bisher nicht gesucht worden. Bei den Treffen im Kanzleramt
29:02
waren vor allen Dingen immer nur Wissenschaftler und vor allen Dingen Industrielobbyisten da. Bei der Konsultation gab es noch nicht mal irgendwie den Knopf, den man anklicken konnte, dass man Teil der Zivilgesellschaft ist. Und was wir brauchen, was vielleicht damit kommt, ich bin mir nicht so sicher, mehr Forschung für bessere Anonymisierung von Big Data und synthetischen
29:22
Daten und viel mehr Forschungsschwerpunkte mit Privacy by Design, Privacy by Default als Bedingung. Ein anderes Ding, was neu war, 2018 war das Jahr, wo sich viele Menschen und Unternehmen zum ersten Mal mit Datenschutz beschäftigt haben. Da gab es viel Verunsicherung. Es wurden Abmahnwellen herbeigeredet, die ja nicht gekommen sind. Vieles ist im Detail leider noch nicht geklärt.
29:42
Das ist immer das Problem mit großen komplexen juristpolitischen Kompromissen der Fall. Aber zumindest gibt es theoretisch Verbesserungen für Bürger. Es gibt ein Marktortprinzip. Theoretisch kann ich bei uns klagen. Es gibt europaweit einheitliche Rechte. Es gibt bis zu 4% Schadensersatz, massive Bußgelder mit verbundenen Ansprüchen auf Unterstützung
30:01
durch Aufsichtsbehörden und die Datenschützer warten auf qualifizierte Beschwerden. Und wir haben einen neuen Volkssport Datenschutzauskunftsanfragen. Kann ich nur empfehlen. Wenn ihr nicht wisst, wie das geht, die Seite DeineDatenDeineRechte.de haben verschiedene Muster schreiben dafür entwickelt. Währenddessen versucht Mark Schreems mal das mit dem Marktortprinzip auszutesten.
30:21
Er klagt nämlich in Österreich bei sich zu Hause gegen Facebook. Und Facebook ist der Meinung, sie möchten weiterhin in Irland klagen, wo ihr Büro ist. Ansonsten Glückwunsch an Andrea Voshoff. Sie hat ihre Amtszeit als Bundesdatenschutzbeauftragte am 7. Januar endlich rum. Wir kriegen dann Nachfolger. Ulrich Kälber wirkt jetzt schon deutlich
30:41
engagierter, was wiederum aber auch kein Problem darstellt. Oder kein Problem ist. Und eine Sache müssen wir ja noch konsequenter fordern. Es gibt viele Politiker, die fordern eine Verdoppelung des Personals, des Verfassungsschutzes. Stattdessen brauchen wir mindestens eine Verdoppelung des Personals der Datenschutzbehörden,
31:01
weil die verteidigen unsere Verfassung viel mehr. Kommen wir zur EU-Privacy-Verordnung. Auf EU-Ebene, die kleine Schwester der Datenschutz-Grundverordnung. Im EU-Parlament mit einer Stimme knapp für mehr Nutzerrechte
31:21
gestimmt, ist es jetzt im EU- Rat versackt. Unsere Bundesregierung war eine der Regierungen, die da immer mit blockiert haben. Die EU-Privacy- Verordnung könnte uns verschiedene Sachen bringen. Keine Datenverarbeitung ohne Einverständnis, einfacher Schutz vor Online-Tracking, Privacy by Default, auch in Browsern zum Beispiel, Grenzen für
31:41
Offline-Tracking, rechter Verschüsselung und mehr Transparenz für überstaatliche Zugriffe. Wollen die Regierungen natürlich nicht. Aber wir sollten auch mal diskutieren, welche Werte sollen Innovation eigentlich bringen. Was sind das für tolle Dateninnovationen, wenn die Nutzer nicht im Bilde sind, was da im Hintergrund passiert. Auch deswegen brauchen wir klare Regeln gegen intransparentes Tracking.
32:01
Ansonsten, der Digitalpakt kommt, oder auch nicht, vielleicht in der Grundsache gut, wie immer, 20 Jahre zu spät. Die Gefahr am Digitalpakt ist und bleibt, dass es vor allen Dingen eine Investitionsförderung für Microsoft, Deutsche Telekom und Bertelsmann wird. Und wir wissen, alle die am besten ausgestatteten Schulen bringen
32:20
nichts, wenn die Lehrer nicht wissen, was sie mit den Computern anstellen sollen. Und was darüber hinaus fehlt, ist eine konsequente Strategie zur Förderung von offenen Unterrichtsmaterialien. Müsste man mal. Ja, Running Gag jedes Jahr, Freifunkinitiativen könnten gemeinnützig werden. Der Bundesrat
32:41
hat das erneut abgestimmt. Das liegt jetzt erneut im Bundestag, der sich erneut zusammengesetzt hat gegenüber letztem Jahr. Kroko, macht mal endlich. Damit fördert man nicht nur das digitale Ehrenamt, sondern ist auch ein guter Beitrag zur Verringerung der digitalen Spaltung vor Ort. Kommen wir zu den schönen Dingen. Ich schicke noch mal kurz.
33:06
Es gibt auch viele Leuchttürme. Und so feiern wir hier auf dem Kongress auch vor allen Dingen das schöne, freie und offene Internet. Eines der spannendsten Citizen-Science-Projekte in diesem Jahr war der Radmesser vom Tagesspiegel, gefördert vom Medieninnovationszentrum Babelsberg, in dessen Jury ich sitze als Disclaimer.
33:22
Die haben Sensoren entwickelt, die an 100 Radfahrer in Berlin abgegeben wurden, die den Radabstand zu Autos untersucht haben in einem längeren Test. Weil Autos müssen sich eigentlich an vorgeschriebener 1,5 Meter Abstand halten. Und wenn wir nicht genug Fahrradwege haben
33:40
und auf Straßen fahren müssen, dann sind wir sozusagen dem ausgeliefert, dass eigentlich Autos sich daran halten müssen und die das aber nicht tun und uns gefährden als Fahrradfahrer. Dieses Projekt hat schön gezeigt, dass man auch mit Citizen-Science-Projekten spannende, kreative Sachen machen kann, aber auch eine politische Debatte im Umgang
34:01
mit Radfahrern in Berlin in diesem Fall befeuern kann und dieses ganze Modell soll auf andere Städte ausgeweitet werden. Eines der schönsten Erfolge war in diesem Jahr offene Gesetze. Die Bundesgesetzblätter sind die zentralen Dokumente der deutschen Demokratie, aber bislang waren die gemeinfreien Werke vom Staat privatisiert worden und vom Urheberrecht geschützt. Sie waren
34:22
zwar zugänglich, aber mit so vielen Schikaden versehen, dass man eigentlich immer Geld reinwerfen musste. Dank der Open Knowledge Foundation hat sich das geändert. Die haben einfach alles gescraped und auf offenegesetze.de veröffentlicht und jetzt hat die Justizministerin verkündet, dass das zukünftig alles von sich aus freigestellt wird
34:40
und das Gesetz geändert wird. Das ist ein großer Erfolg, aber das sollte nur ein erster Schritt sein, auch die Rechtsprechung sollte offen zugänglich sein. Es gibt Fortschritte bei Open Access, und zwar im Rahmen des Projekts DEAL versuchen deutsche Wissenschaftseinrichtungen mit den drei größten Wissenschaftsverlagen
35:02
freien Zugang für ihre Forschungsergebnisse zu verhandeln. Wer die Logik dahinter nicht versteht, total absurd, wir finanzieren Wissenschaft, die finanzieren mit unseren Steuergeldern wiederum ein paar private Verlage, zahlen denen ganz viel Geld, damit die wiederum unsere von uns finanzierte wissenschaftliche Ergebnisse publizieren. Könnte man auch anders machen,
35:22
hat man bisher nicht, aber jetzt stellen sich viele Universitäten schlechten neuen DEALs in den Weg und im Moment zahlen zum Beispiel Hunderte Unis nicht mehr in den Verlag AIDS4, weil er sich diesem Projekt DEAL verweigert. Aber auch hier muss klar sein, öffentlich finanzierte Forschung muss offen zugänglich sein,
35:41
wir brauchen richtiges Open Access, aber wir sind zumindest auf dem Weg dahin. Das Weizenbaum ein Institut wurde gestartet, ein Institut von der Bundesregierung finanziert zur Erforschung der gesellschaftlichen Auswirkungen von Digitalisierung. Ich finde das gut, das sage ich ganz unironisch, es ist aber wie immer leider 20 Jahre
36:02
zu spät, aber besser zu spät als nie. Dann gab es in diesem Jahr zum ersten Mal eine Bitz und Bäume, wo sich Umweltbewegung und Netzbewegung drei Tage lang unterhalten haben. Das ist auch ein Fortschritt. Wir hatten mal vor zehn Jahren eine Sustainable IT Konferenz in Berlin
36:21
organisiert, da hatten wir noch das Problem, dass die Umweltbewegung nicht wusste, dass sie auch von der Digitalisierung betroffen ist. Die gute Nachricht ist, sie haben es mittlerweile kapiert, zumindest Teile davon. Und wir hatten in diesem Jahr 800 Menschen in Berlin bei unserer Das ist Netzpolitik Konferenz der fünften und auf der ersten Das ist Netzpolitik Konferenz vor fünf Jahren
36:42
waren eigentlich fast alle im Publikum und auf der Bühne so alt wie ich, männlich. Und in diesem Jahr war ich zum ersten Mal einer der ältesten, der Großteil war jünger und viel weiblicher geworden. Das ist eine schöne Entwicklung, zeigt auch, wir haben zum Glück keine Nachwuchsprobleme. Und deswegen machen wir auch im nächsten Jahr die nächste
37:01
Das ist Netzpolitik Konferenz, 13.9.2019 Volksbühne in Berlin und danach feiern wir unseren 15. Geburtstag von Netzpolitik.org. Und jetzt kommen wir noch zu den letzten schönen Sachen. Hans-Georg Maaßen ist endlich weg.
37:23
Wir sind noch da. Und wir sind noch viel mehr geworden. Und wenn ihr uns unterstützen wollt, weil wir leben davon, dass uns Menschen freiwillig Spenden geben, damit wir ein offenes Angebot für alle schaffen
37:41
können. Eine stille SMS ist eine Möglichkeit. Wenn ihr jetzt sagt, naja, ihr habt gerade kein Online-Baking zur Hand, anscheinend muss man eine SMS an 81190 mit dem Text stille SMS senden. Das ist eine Möglichkeit, aber noch besser sind natürlich Daueraufträge, weil die beruhigen uns dann mehr. Ansonsten gilt, niemals aufgeben.
38:01
2019 wird ein anstrengendes Jahr. Anfang des Jahres haben wir mit E-Evidence, mit der Terrorpropaganda-Richtlinie und der EU-Urheberrechtsreform drei große Brocken auf EU-Ebene, die Schlimmes bringen könnten. Die Bundesregierung läuft sich gerade warm und wird im nächsten Jahr mehr Überwachungsgesetze auf den Weg
38:21
bringen. Der Kampf um Kontrolle und Macht im Netz verschärft sich auf allen Fronten. Deswegen Fight for Digital Rights. Viel Spaß auf dem Kongress. Informiert euch, werdet aktiv, macht mit und kommt gut nach Hause. Danke. Und wir haben hier
38:45
noch Aufkleber und Jutesäcke. Wer welche haben will, weil wir waren jetzt nicht in der Lage aufgrund unserer ganzen Vorträge hier auch noch einen Stand irgendwo zu machen. Wir dachten, wir machen das nach unseren Talks. Vielen Dank, Markus. Wieder das Gleiche. Wenn ihr Fragen habt,
39:01
ihr findet acht Mikrofone hier unten im Saal. Bitte positioniert euch hinter dem Mikrofon. Die, die jetzt schon den Raum verlassen, bitte seid ruhig, damit wir die Fragen entgegennehmen können. Aus dem Internet haben wir die erste Frage. Ja, im Internet ist
39:21
man unsicher, ob du das Fact-Checking und darauf aufbauendes Filtern bei Facebook gut oder schlecht findest und wie du das gegebenenfalls mit der Ablehnung der EU-Uploadfilter zusammenbringst? Gar nicht. Also ich bringe das gar nicht mit der EU-Uploadfiltersache zusammen. Ich finde es wichtig
39:41
und richtig, dass es demokratische Fact-Checking-Institutionen gibt. Auch auf Plattformen wie Facebook. Ich finde es nicht okay, dass Facebook denkt, das machen irgendwelche Freien oder Fremden und kriegen dafür kein Geld. Hier sollte vor allen Dingen Facebook in Ländern wie Nigeria
40:02
oder Myanmar, wo man viel Geld verdienen möchte, aber keinerlei Verantwortung dafür übernimmt, dass da sich ganz viele Falschmeldungen, Hassmeldungen ganz schnell verbreiten und das zu Progromen und Völkermorden führt. Also hier müsste Facebook viel mehr machen.
40:21
Bitte wartet noch mit den Jutesäcken bis dieser Vortrag komplett vorbei ist und die Q&A vorbei sind. Danke. Wenn es noch weitere Fragen gibt, bitte an den Mikrofon aufstellen. Okay, Jutesäcke nur noch für Fragen, das ist auch ein Weg.
40:45
Okay, wenn es keine weiteren Fragen gibt, bist du sicherlich später auch noch erreichbar für die ganzen Leute. Vielen Ah, es gibt noch am Mikrofon vier eine Frage, habe ich gehört. Kurze Folgefrage zu dem eben, wie würdest du das, also wo siehst du die Grenze zwischen
41:02
der Verantwortung von Facebook und wo beginnt Zensur quasi, weil das ist ja eine schwierige Sache, wenn Facebook eingreift, was veröffentlicht werden darf und was nicht. Ich glaube das Grundproblem ist, dass wir im Moment in der Internetregulierung nur zwei Wege haben, entweder ist man ein Provider, dann ist man nicht haftbar für etwas, was passiert oder man ist
41:22
ein Medium, man ist haftbar für das, was passiert und wir haben es bei Facebook, YouTube und Co. mit monopolistisch zentralisierten Plattformen zu tun, die genau in der Mitte stehen und die wir mit einem dritten Weg regulieren sollten, weil natürlich tragen sie eine gewisse Art von
41:42
Verantwortung, aber ich möchte jetzt eigentlich nicht, dass, ja, Mark Zuckerberg auch meine Facebook Netzpolitikseite rechtlich dafür haftbar gemacht wird. Also mit anderen Worten, wir brauchen da richtige neue
42:01
Regulierungsarten, um das Problem zu lösen, so Mark Coats gesagt. Die Antwort ist viel, viel komplexer. Vielen lieben Dank und einen riesigen Applaus für Markus Becke da.
Recommendations
Series of 27 media
Series of 37 media
Series of 88 media
Series of 21 media
Series of 94 media