Ich freue mich sehr, dass er heute da ist. Es war sehr spontan. Also wir saßen gestern Abend beim Feuer zusammen und ich war mir hatte leider nicht irgendwie die Zeit so länger als fünf Minuten ihr

zuzuhören. Ich dachte aber wir sollten ihr mal 30 Minuten zuhören. Deswegen freue ich mich sehr, dass er da ist. Julia Krüger schreibt unter anderem für Netzpolitik, arbeitet in der Politik, aber was sie genau macht, wird sie uns sagen. Dankeschön. Bis gleich. Vielen Dank für die Einladung. Ich habe schon versucht, mich auf verschiedene CCC-Veranstaltungen zu hacken. Es hat nicht immer perfekt geklappt, aber diesmal und ich freue mich heute hier zu sein.

Ich, genau, arbeite moment wieder frei, also irgendwie an dieser Schnittstelle zwischen Politik, Wissenschaft und Journalismus, schreibe für Netzpolitik, habe bei Saskia Esken aufgehört und beschäftige mich schwerpunktmäßig so mit Algorithmen und KI.

Als ich drüber nachgedacht habe, wie, dass ich zu diesem Talk sage, dachte ich mir, okay wie kam ich eigentlich zu diesem Thema Algorithmen und KI? Es war irgendwie, diese Trump wurde gerade gewählt und es gab irgendwie diese Hate Speech Fake News-Krise oder wie die ganze Welt dreht er irgendwie durch und dann gab es eine ganz interessante Studie

von Facebook selbst, die hieß Exposure to Ideologically the Worst News Interpnion on Facebook und die ist nicht repräsentativ oder so, die ist auch von Facebook, die hat vier Prozent der Nutzenden untersucht

und zwar nur die, die sich politisch identifiziert haben und Facebook viel nutzen. Beim Rest ist es noch mal schlimmer, aber da wurde halt schon mal rausgestellt, dass im Feed von Facebook grundsätzlich so fünf bis acht Prozent der Vielfalt von Inhalten rausgenommen werden und über das Ranking sozusagen bis zu 17 Prozent

ich saß irgendwie zu Hause und dachte drüber nach, wie kam dieses Bild von diesem Turmbau zu Babel, also diese doch sehr systematischen Herstellung von unterschiedlichen Öffentlichkeiten, die sehr unterschiedliche Sprachen lernen, die unterschiedliche Weltbilder entwickeln und was letzten Endes zu gesellschaftlichem Konflikt führt.

Und wenn Menschen immer mehr in Echo-Kammern gefangen sind und immer mehr irgendwie nur einseitige Informationen bekommen, dann fühlen sie sich normalerweise besser informiert und auch mehr motiviert zum politischen Handeln, das kann alles ziemlich schief gehen. Und dann sind auch so die Reaktionen darauf relativ schwierig gewesen, also erst mal dieses Netz-DG,

aber dann natürlich auch alle großen Plattformen angefangen automatisierte Filtersysteme zu entwickeln. Wie das bei Facebook genau funktioniert, weiß ich leider nicht, aber im Kontext von Google wurden so Toxizitätsfilter entwickelt oder werden, wo so Kommentare eingeordnet werden, irgendwie du bist kein netter Mensch, hat so einen Toxizitätswert von acht Prozent

fiktiv und du bist eine Scheißschlampe mit fünf Ausrufezeichen und so, halt einen wesentlich höheren. Und die Frage ist, wenn man da so rechten Hate Speech reinwirft und so linken Hate Speech und vielleicht noch so persönlichen Hate Speech, was lernen eigentlich die Maschinen? Ist unklar. Was auch irgendwie ziemlich dumm ist, ist, dass natürlich

irgendwie einerseits Hate Speech und Fake News die ganzen sozialen Netzwerke fluten und wir andererseits eine Urheberrechtsreform haben, die wieder die Verbreitung von guten Inhalten limitiert. Aber was an dem ganzen Ding am blödesten ist, ist, dass in diesem Kampf gegen Hate Speech und Fake News

jetzt unglaublich viele Filtersysteme entwickelt werden, die halt Hass erkennen und Propaganda erkennen und Kinderpornos erkennen, aber eigentlich hätte ich gerne eine KI-Entwicklung, die so konstruktive Inhalte erkennt. Und genau, seitdem beschäftige ich mich so ein bisschen mit der Frage, wie kann man eigentlich KI konstruktiv

entwickeln? Und jetzt muss man sagen, Algorithmen sind natürlich nicht an allen schuld. Also wenn sozusagen bei YouTube oder bei Facebook rechter Content ganz hochgerankt wird, dann liegt es auch daran, dass einfach rechte Akteure wesentlich geschickter sind, darin alles zu verlinken und einfach sehr strategisch Link-Netzwerke im Netz zu bauen als linke Akteure.

Aber trotzdem grundsätzlich die Frage, was für KI brauchen wir und wollen wir eigentlich? Lawrence Lessig sagte einmal, Code is Law und der hat natürlich Recht, dass so mehr technische Infrastruktur in unsere Welt bestimmen,

dass so mehr der Code und das sind mehr intelligente Software-Systeme, die heute aus Unmengen von Daten lernen und Entscheidungen von Menschen übernehmen, desto mehr muss man sich eigentlich fragen, wenn Code immer mehr Recht wird oder Norm setzt, was für ein Code wollen wir eigentlich?

Was man ganz klar sagen kann, ist, dass KI längst kein Hype mehr ist, sondern ziemlich da ist, dass wir eine ganze Reihe an Durchbrüchen in Analyse-Systemen gab, die in Verbindung mit der hohen Vernetzung, der hohen Faket von Daten und

den hohen Rechnerkapazitäten das ermöglichen, wovon Menschen eigentlich seit Jahrzehnten träumten, dass wir lernfähige Maschinen haben, also dass wir smarte Software haben, die aus Daten lernt und die in Verbindung mit steuerungsfähiger Hardware immer mehr Aufgaben übernehmen kann, die bislang Menschen vorbehalten war,

Aufgaben wie die Analyse von komplexen Sachverhalten, die Identität eines Menschen, wie die Bewertung von komplexen Sachverhalten, wie so ein nationales Sicherheitsniveau oder auch wie die Steuerung komplexer Sachverhalte, wie so beim autonomen Fahren. Es gibt, glaube ich, unterschiedlichste Anwendungsbereiche.

Ich denke, man muss immer unterscheiden, ob man über Analyse spricht oder über Anwendung, Anwendung in einfachen oder komplexen Systemen. Wenn man über die Medizin redet, da versprechen sich natürlich ganz viele Menschen große Durchbrüche bei der Erkennung oder Behandlung von Krebs

durch die Analyse von Daten. Man kann natürlich genauso Systeme bauen, die irgendwie automatisiert Menschen mit Herz-Kreislauf-Erkrankungen automatisch auf bestimmte Krankenhausstationen verteilen. Das machen die in England. Und man kann natürlich genauso gut Plattformen bauen, die irgendwie Patienten und Ärzte neuartig verlinken.

Zum Beispiel, wenn Patienten Migrationshintergrund haben, die Ärzte, die sozusagen die Sprachen sprechen. Was aber, glaube ich, immer ganz wichtig ist, egal worüber wir reden, ist einerseits, was ist die Grundlage dieser Systeme? Also was sind die Daten, was sind die Algorithmen, was sind die Muster oder Zusammenhänge, die berücksichtigt werden?

Was sind die Ziele, was ist die Optimierung? Also um beim Krankenhausbeispiel zu bleiben, so ein automatisiertes System für die Bettenverteilung kann natürlich auf das Patientenwohl ausgerichtet sein oder auf die Krankenhausauslastung oder auf das Renommee des Arztes. Also hier stellen sich relativ viele Fragen, wo eigentlich Menschen eingebunden werden müssen.

Und dann ist natürlich auch mal die Frage, okay, funktionieren diese Systeme wie die sollen oder funktionieren sie anders? Und ich denke, wenn wir uns hier gerade die großen Plattformen angucken, dann ist klar, dass Systemfehler die Menschheit einfach auch gefährden können.

Das bringt das große Thema nach Vollziehbarkeit und Kontrolle in den Fokus, was immer schwieriger wird, weil die Systeme einfach immer komplexer werden. Also früher war so vorhersagebasierte Polizeiarbeit vor allem orts- oder personenbezogen und war noch halbwegs gut kontrollierbar. Heute könnte man natürlich auch sämtliche Daten in Echtzeit mit einbeziehen, zum

Beispiel aus sozialen Netzwerken, das wird in Israel oder in Dänemark gemacht. Das Problem ist, dass früher sozusagen diese statischen Systeme oder diese statistischen Systeme relativ gut überwachbar waren. Also man konnte sich irgendwie den Dateninput angucken und die Algorithmen und die Modellierung und die Ergebnisse und die Implementation und sowas.

Heute hat man halt wesentlich komplexere, also sozusagen dynamischere, dynamischere Analyseverfahren,

die auch noch sozusagen mit ganz unterschiedlichem Input und Output agieren. Da müsste man theoretisch sozusagen sich den Dateninput und den Datenoutput angucken und gucken, wie dieses System funktioniert. Das ist im Moment eine riesige Baustelle, wo es glaube ich noch keine guten Lösungen gibt oder kaum und die natürlich unglaublich viele Ressourcen fressen.

Und das größte Problem besteht natürlich auch darin, dass irgendwie man an die Daten kaum rankommt. Also wenn die ganze Welt über zwei Jahre über Fake News und Hate Speech bei Facebook diskutiert, Facebook rückt halt die Daten einfach nicht raus, was ziemlich kacke ist.

Was auch noch so relativ schwierig ist, ist die Uneinschätzbarkeit des Normwandels. Es gibt so ein Versicherungsunternehmen in Hannover, Talangs, die versuchen gerade ein zweitägiges Assessment Center für Führungskräfte durch ein halbstündiges Telefoninterview zu ersetzen. Und die gucken dabei nicht mehr, was der Mensch sagt, sondern wie er es sagt, was ziemlich viele Fragen hinterlässt.

Gucken die nach Homogenität oder Heterogenität, was ist eigentlich, wenn man Sexes spricht und einen Dialekt hat. Also da sind ziemlich viele Fragen offen und man bräuchte eigentlich sehr viel Transparenz der Unternehmen.

Was noch so ein Problem ist, ist, dass wir im Moment sehr, sehr viel Unklarheit haben über das Zusammenwirken unterschiedlicher Systeme. Also Klaus Lenks, so ein Verwaltungswissenschaftler aus Oldenburg, hat mal gesagt, eigentlich hat eine algorithmische Regulierung das Potenzial,

traditionelle Regulierung durch Zwang und Anreize und Gesetze abzulösen und zwar durch einerseits die Personalisierung von Informationen für Individuen und Organisationen, also Facebook und Google und Co., dann die Zuweisung von Positionen und Lebenschancen, also Scoring,

und dann sozusagen den Bau von Architekturen, die dem Verhalten wenig Freiraum lassen, dem sogenannten Nudging. Und es ist im Moment halt völlig unklar, was davon wie interagiert, wir haben im Moment so eine Entwicklung, dass irgendwo auf der Welt Daten gesammelt werden, irgendwo auf der Welt Algorithmen entwickelt werden, irgendwo auf der Welt Systeme gebaut werden

und letzten Endes das BMI halt nicht sagen kann, worauf die Software, die am Südkreuz getestet wird, zur Gesichtserkennung überhaupt trainiert wurde. Genau, es gibt also ganz krasse Probleme der Nachvollziehbarkeit und Kontrolle, deshalb denke ich, muss man den Diskurs eigentlich so ein bisschen wandeln zu der Frage, was für KI wollen wir eigentlich,

was für KI brauchen wir, die Industrie entwickelt gerade irgendwie Pflegeroboter, für mich besteht immer die Frage, will ich nicht lieber Tours, die meine Arbeit unterstützen, und so ein Grundeinkommen und mehr Zeit für meine Mutter.

Auf der IFA wurden irgendwie so sprechende Waschmaschinen vorgestellt und smarte, selbstlernende Bildschirme und vor allem auch die Dunstabzugshaube, die gute Stimmung verbreitet. Ich frage mich tatsächlich, wollen wir diese KI-Entwicklung wirklich an die Entwicklung von so smarten Assistenzwanzen verschwenden

oder wollen wir nicht lieber gucken, dass wir eine nachhaltige Wirtschaft realisieren und dem Klima entgegenwirken und wenn ja, wie ginge das eigentlich? Und hier hätte ich immer gerne so ein Bild so mit, wie sagt man das, Fakurs,

aber mein Computer packt immer dieses Bild von meinem Vater in die Präsentation, das ist irgendwo in Mecklenburg ein Ort namens Besitz. Aber ich glaube grundsätzlich muss man sich ziemlich doll überlegen,

ob man weiter den Menschen als Sicherheitsrisiko betrachtet oder den Klimawandel, bzw. ich glaube es gibt auch eine Notwendigkeit zu entscheiden, ob wir alle überleben sollen oder keiner. Ich habe ja schon gesagt, ich habe auch in der Politik gearbeitet und habe davor auch für unterschiedlichste Stakeholder so KI-Entwicklung gemacht, habe mit vielen Ministerien auch zu tun gehabt.

Und im Moment ist halt das riesige Problem, dass die meisten Ressourcen in der KI-Entwicklung wirklich in den Sicherheitsbereich oder den Medienbereich gehen, wobei der Medienbereich natürlich auch ein Spielfeld vom informationellen Krieg ist und die ganzen technischen und menschlichen Ressourcen, also die Entwicklerkapazitäten, die Daten, die Systeme, die gehen halt im Moment vor allem in die Überwachung,

in die Angriffswerkzeuge, in die Abwehr, in den Drohnen und Co. Und ich denke, das muss ganz dringend ein Ende haben, damit wir tatsächlich bedarfsorientiert KI entwickeln können. Ich bin in guter Zeit. So, bedarfsorientiert Politik entwickeln.

Kann man jetzt an vielen Beispielen machen. Ich habe in der Politik gearbeitet und mache es jetzt am Beispiel der Politik. Die Politik ist relativ überlastet. Das liegt aus meiner Perspektive ziemlich dolle daran, dass wir seit 30 Jahren eine Revolution im Bereich Information und Kommunikation haben, die halt überhaupt gar nicht von den Systemen nachvollzogen wurde.

Also es gibt einfach eine extreme informationelle Überlastung. Und es gibt natürlich auch überhaupt keine internationale Politik, die wir dringend bräuchten. Jetzt ist da einiges so im Entstehen. Ich fange mal mit dem Schlechtesten an. Ich weiß nicht, wer sich von euch an das Zuckerberg-Manifest erinnert aus dem Jahre 2017.

Der Träum davon, irgendwie Facebook zu so einer Plattform auszubauen, die automatisiert individuelle und kollektive Risiken erkennt. Also so etwas wie Krankheit oder Depression oder auch Gefährdung. Und dann automatisch irgendwie loszuschicken.

Der träumt auch davon, dass irgendwie die Leute bei Facebook so direkt über Normen und Werte abstimmen und dann irgendwie in die Mehrheit entscheidet, was der Einzelne sieht. Also eine relativ rudimentäre Form der Demokratie, die glaube ich ziemlich abzulehnen ist. Was richtig kritisch ist, ist was gerade in Brasilien passiert.

Keine Details der Politik, aber die bauen halt gerade ein System, das Politik komplett durch automatisieren soll. Also da sollen erstmal Schlagworte über Regierungsinformation aus nutzenden Perspektiven vergeben werden. Da soll alles nicht automatisiert ins Portugiesische übersetzt werden

an legislativen Dokumenten. Da soll alles was an Sprache da ist von Abgeordneten so und so in Text übersetzt werden. Und das Ganze soll in die Gesetzgebung einfließen. Und das soll zusammengefasst werden und von Bürgerinnen und Bürgern kommentiert werden. Und dann sozusagen Politik werden.

Und das ist ziemlich spannend, weil es einerseits Politik lernen mit reinzieht. Und auch Politik beschleunigen würde. Und auch irgendwie Bürgerinnen und Bürgern so ein Say geben würde. Aber es ist halt gleichzeitig das hohe Risiko da,

dass eigentlich bloß die alten Bugs der alten Gesetzgebung verstetigt werden. Man weiß nicht, ob die System nur nach bekannten Keywords sucht oder auch nach neuen Lösungen. Und man weiß natürlich auch hier nicht, ob alle Stimmen gleichzählen oder was sozusagen diese Spracherkennung eigentlich genau macht. Das hat mich so ein bisschen dazu geführt, mich zu fragen,

wie man eigentlich Datenanalyse und Plattformen, Technologien als Mittel der Politik einsetzen kann. Also zum Beispiel, ob man Datenanalyse neuartig zur Identifizierung von globalen Problemen einsetzen kann. Also ich hätte gerne die Menge von Hate Speech kombiniert mit ökologischen, ökonomischen Daten

und würde gerne mal gucken, was da bei rumkommt. Ich hätte gerne die Handys von Flüchtlingsdaten sozusagen nicht um die Flüchtlinge unter Druck zu setzen, sondern um mal zu gucken, was sozusagen diese Daten über Fluchtursachen oder so erzählen. Ich frage mich, ob man mit Datenanalyse neuartig politische Probleme lösen kann. Also wenn man irgendwie, wenn so ein Algorithmus helfen kann,

Muster zu erkennen, die bei der Erkennung von Krebs oder bei der Behandlung von Krebs notwendig sind. Oder wenn so ein algorithmisches System Schülerinnen und Schüler auf Schulen schickt oder so ein Brautkleid empfiehlt oder so. Dann ist auch die Frage, gibt es eigentlich Möglichkeiten, dass Datenanalyse aber helfen kann, CO2 zu reduzieren,

soziale Ungleichheit aus dem Weg zu schaffen oder ähnliches. Und wenn man sozusagen so ein technisches System hätte, was im Prinzip gesellschaftliche Bugs und Schwachstellen erkennt, dann wäre die Frage, wie kommt da eigentlich der Mensch rein? Und ich glaube, dann bräuchte man so eine Art Abstimmungs- und Diskussionstool, um zu entscheiden, okay, welche Probleme sind jetzt ganz relevant.

Wie lösen wir die, wenn Probleme gelöst werden sollen? Wie kriegen wir eigentlich Informationen mal up-to-date? Also wie kriegen wir das hin, dass die Politik nicht so völlig überlastet ist mit so Briefings und Statements und Positionspapieren und diesem ganzen Zeug, sondern so die wichtigsten Informationen auf einen Blick hat. Also das Gegenteil von Google als Echo-Kamera,

sondern mehr so eine Wikimedia in Echtzeit oder so. Und dann wäre natürlich auch noch die Frage, wie kann man eigentlich diese Plattform dazu nutzen, so einen sozial-ökologischen Wandel zu generieren? Kann man, wenn man so eine coolen Plattform hat wie Amazon, also so Plattform, die dezentral Daten basiert,

unglaublich effektiv vielseitige Märkte steuern und das im Moment zum großen Schaden der Gesellschaft tun, also zum Schaden von Verbraucherinnen, zum Schaden von Arbeiterinnen, zum Schaden von der Umwelt, kann man so eine Plattform nicht eigentlich auch dazu nutzen, eine nachhaltige Grundversorgung herzustellen, zum Beispiel dadurch, dass man aus einer Art datenbasierten Fußabdruck

in das Ranking oder in die Preisherstellung integriert. Das gibt es da viele Ideen, über die man länger reden kann. Aber im Moment haben wir halt so die KI-Enquete-Kommission und den Digitalrat und die Datenethik-Kommission,

die alle sehr intransparent arbeiten und da relativ wenig vorankommen. Da könnte man mal mit Transparenz anfangen. Man könnte auch anfangen so mit Übersichten, wo welche Gesetzgebungsprozesse laufen. Man könnte gucken, dass Tagesordnung in der Politik

als Textformat und nicht als PDF rausgegeben werden und die Mitarbeiter entlasten, damit einfach mehr Kapazitäten sind für neue Politik. Man kann auch ganz anders anfangen, organisatorisch. Ich weiß nicht, wer das von euch verfolgt hat. Diese Abstimmung über die Gemeinnützigkeit von Freifunk im Januar war das.

Da gab es einen FDP-Antrag, dass Freifunk steuerlich begünstigt werden soll. Und es waren sich alle Parteien einig, dass das eine coole Sache ist, aber es wurde trotzdem abgelehnt, weil der Antrag von der FDP kam. Da wäre es natürlich cool, wenn die SPD so ein Innovationsmanager wäre,

der die auch mal woanders zustimmen würde. Ich habe gesagt, der Vortrag, wie habe ich ihn genannt, warum rechte Politik die KI-Entwicklung in die Irre zu treiben, droht. Das Dove ist halt, dass zu solchen Ideen kommt man gerade gar nicht, weil dieses System die ganze Zeit total unter Stress steht.

Vielleicht noch ein kleines Beispiel aus der Praxis. Im letzten Herbst war ich mit dem Datenschutz-Anpassungsgesetz beschäftigt. Das Datenschutz-Anpassungsgesetz regelt so 150 Gesetze wegen der Datenschutz-Grundverordnung. Die reichen so von der Tiermittelproduktion über Implantationssachen und alles Mögliche.

Da gab es ziemlich krasse Bugs drinnen. Da gab es zum Beispiel das Suchtdienstegesetz. Suchtdienste in den Bergen müssen auch Datenschutz machen, aber nur wenn sie Protestanten sind, nicht wenn sie Katholiken sind.

Bei dem Thema Organspenden ist es so, dass die Organspenden der Erklärungen jetzt automatisiert abgerufen werden können. Das war davor schon möglich, aber dass die Verantwortung für die abrufende Stelle, die Verantwortung für die Korrektheit des Abrufs, die abrufende Stelle trägt und das Ganze nicht mehr dokumentiert wird,

auch ein ziemliches Problem. Die Datenschutz und Datensicherheit in der Finanzwirtschaft gelten so lange, wie wir keine finanzielle Instabilität haben. In diesem Gesetz stecken extrem viele Bugs drinnen, aber so etwas geht halt total unter, wenn gleichzeitig Seehofer mit zum Masterplan ankommt

und das ganze System nur noch überlegt, wann rückt er endlich mit diesem Masterplan raus. Das ganze System steht die ganze Zeit unter Stress und weder die normale Arbeit gemacht werden kann, noch darüber nachgedacht werden kann, wie sinnvoll Politik geht.

Jetzt komme ich zurück zur Technik. Was kann man tun, wenn man gemeinhuorientierte KI-Entwicklungen fördern will politisch? Früher habe ich immer gesagt, wir brauchen mal so einen Überblick, welche Technologien in der Entwicklung sind, welche im Einsatz sind, was so die Daten- und Trainingsgrundlage ist,

welche Akteure und Institutionen da eingesetzt, eingebunden sind, um so Risiken oder Folgenabschätzung zu machen, um sich zu überlegen, was geprüft werden sollte oder zertifiziert werden sollte oder verboten werden sollte, möglicherweise mit einer zentralen Behörde. Das hat jetzt seit einem Jahr keiner gemacht. Das ist wahrscheinlich so ein Riesending, was eventuell auch zu groß ist.

Heute würde ich eigentlich was anderes sagen. Heute würde ich sagen, dass wenn uns diese Technologien eigentlich die Möglichkeit geben, sehr komplexe Sachverhalte neuartig zu verstehen und auch neuartig zu steuern, dann sollte man sich glaube ich sehr genau überlegen, was wir wissen wollen und was wir steuern wollen

und ob wir wirklich die Empfehlung für das Produkt rett wollen oder nicht die Frage, wie man sinnvoll langsam Klima- oder IT-Sicherheitsrisiken minimiert. Und wenn wir wissen, was wir wissen möchten oder steuern, dann ist die Frage, welche Daten brauchen wir da eigentlich und wie können die gemanagt werden und analysiert werden.

Also man werden zig Daten über erhoben, aber ich glaube für die wichtigen Probleme stehen die halt nicht zur Verfügung. Es gibt so ein Open-Data-Gesetz irgendwie, aber die Behörden kommen nicht nach, diese Daten ordentlich aufzubereiten und ordentlich zu veröffentlichen. Und ich glaube hier ist die Politik gefragt,

tatsächlich wirklich in so einen Daten-Diskurs-Management zu investieren und das ist echt schwierig. Es gab ja dieses Daten-Für-Alle-Gesetz von der SPD, diese Idee, dass irgendwie die Sensordaten der Automobilhersteller auch für die Klimaforschung und auch für den ÖPNV zur Verfügung stehen. Aber im Prinzip ist so ein bisschen unklar, gerade wie man so große Mengen an Daten ordentlich

managen kann, also wie man es hinkriegen kann, dass da die Qualität erhalten ist, dass man es hinkriegen kann, dass die Daten verwendet werden können und solche Fragen. Ich habe vorgestern mitgekriegt, dass es da unglaublich viele Initiativen gerade in New York gibt, die hätte ich gerne eingebunden, dazu kam ich nicht,

aber da gibt es international auch einiges. Ach so und genau, dann ist es natürlich auch so eine Frage, was kann man eigentlich mit diesen ganzen Daten machen? Was kommt da raus? Da brauchen wir tatsächlich mehr Transparenz der großen Unternehmen. Man kann mit Algorithmen Folgeabschätzungen anfangen, man kann auch

über die Implementierung der DSKVO reden, vielleicht ganz kurz, da ist gerade eine ziemlich interessante Initiative von der IG Metall, die FairTube, also da versuchen ein paar YouTuber, YouTube dazu zu bringen, mal rauszurücken, auf welcher Basis so Empfehlungen

ausgesprochen werden und die beziehen sich auf Artikel aus der DSKVO, nach denen man Recht hat auf die Information über die involvierte Logik, tragweit und angestrebte Auswirkungen bei automatisierter Entscheidungsfindung. Wahrscheinlich greift die DSKVO nicht, weil das nur für Fälle

mit rechtlicher Wirkung, nicht für Empfehlungen und die meisten algorithmischen Entscheidungssysteme sind Empfehlungssysteme, aber es ist trotzdem ziemlich interessanter Case und auch die Frage, wie ist es überhaupt technisch umzusetzen, also die Macher der DSKVO haben bei dem Artikel Copy und Paste gemacht von der Vorgängergesetzgebung und

auf Rückfrage von mir gesagt, keine Ahnung, wie man es umsetzt, aber es klang gut. Also es ist ein wichtiges Recht, wo jetzt gerade so ein bisschen die Frage ist, wie setzt man das um? Wahrscheinlich muss man da so halbwegs sinnvolle Mensch-Maschine-Schnittstellen entwickeln, die so ein bisschen die Varianz von algorithmischen

Entscheidungssystemen auflegen und da Zugang gewähren. Jetzt muss ich glaube ich ganz schön springen, ganz schön doll. Was noch wichtig ist, ach so, genau das war die Frage, was können Daten, hier wurden so Bundeswörter befreit, ist noch relativ

lapidar, aber sozusagen da wurde erst mal sichtbar, dass sozusagen der Sicherheitsdiskurs extrem eine Relevanz gewonnen hat im Bundestag gegenüber dem Grundrechte-Diskurs und dem Menschenrechte-Diskurs und man kann natürlich danach erst die Frage stellen, ok, was wäre eigentlich, wenn man die Grundrechte und die Menschenrechte in den Zentrum der Sicherheitspolitik stellen könnte, das ging wohl mit mehr

Transparenz, aber das ist nur nebenbei. Beim Thema Kontrolle, Zertifizieren, Alting wäre es unglaublich wichtig, bestimmte Gesetzgebungen zu ändern, weil im Moment sind die Leute, die so versuchen von außen auf algorithmische

Systeme zuzugreifen, um an die Daten zu kommen und das zu verstehen, eigentlich sowohl durch die AGBs gefährdet, durch die IT-Sicherheitsgesetze, also unbefugter Zugriff auf geschlossene Systeme und durch das Urheberrecht, hier müsste man ziemlich dringend dran, beim Urheberrecht muss man glaube ich auch dringend dran, dass mehr

guter Content in die sozialen Netzwerke kommt und das ist auch irgendwie, also wir brauchen wirklich eine neue Urheberrechtsreform, das ist total schwachsinnig, dass die Bundesregierung so 5 Milliarden auf die KI-Entwicklung packt und dann eine Urheberrechtsreform erlässt, wo Daten in Datenbanken wiederum nur von Wissenschaftlern genutzt werden können. Aber ich muss zum

Schluss kommen, man kann über sehr viel sprechen, ich glaube wir brauchen dringend ein Grundeinkommen, um eine KI-Entwicklung gemeinwo orientiert zu machen, einfach damit die Menschen aufhören in diesen Systemlogiken immer weiter zu machen und das immer stärker zu machen, also dass man sich tatsächlich überlegen kann, wie kann Datenanalyse, wie können Plattformtechnologien,

wie können Systeme mich in meine Arbeit stützen und nicht ersetzen, was brauche ich dazu an Weiterbildung und muss ich eventuell auch einen Einfluss wechseln, um da was Gutes zu machen. Ich glaube wir brauchen einen

Diskurs auf Bundesebene, was wir KI wollen, am besten digital. Ich glaube wir müssen die Medien dazu kriegen,

sozusagen mit Aufmerksamkeit zu verbreiten, was die Bedürfnisse sind und nicht die ganze Zeit in der Schleife zu sein. Wir brauchen mehr Einblicke in die Möglichkeiten und Grenzen von Datenanalyse, wir brauchen einen Datenzugriff und reformierte Urheberrechte und eine soziale Sicherung für die gemeinwohl orientierte KI-Entwicklung. Es sind ein paar Fragen

offen, nämlich die Frage, wie man es ins Internationale übersetzt, wie man die richtigen Anreizsysteme dafür setzt und natürlich vor allem die Frage, wie schaffen wir das, dass die Milliarden nicht in die Cyberwaffen gehen, sondern in die Entwicklung einer nachhaltigen Grundversorgung, in sichere kritische Infrastrukturen und in eine funktionsfähige Governance

demokratisch und ich glaube hier ist wirklich wichtig, dass man jetzt mal Schluss macht mit dieser rechten Politik, dass man sich dafür entscheidet, dass wir alle überleben und überlegt, okay, wie kann man das sozusagen neuartig managen? Alles andere ist so ein bisschen Ablenkung und ich glaube, man kann das ziemlich gut in Deutschland anfangen und in der EU und gucken, was die anderen tun und dem Rest

überlasse ich sie im Hocking. Danke. Vielen Dank. Gibt es Fragen im Raum?

Ich habe kürzlich mal so ein bisschen so eine Face Detection, KI, Machine Learning-Ding rumgespielt und es ist sehr faszinierend zu sehen, dass diese trainierten Netze, solange du nicht Schweinchen-Rosa-Männlich zwischen 25 und 60 bist, dann funktionieren die super, alles andere funktioniert nicht mehr. Ich sehe das an sehr vielen

Stellen, dass so KI und Machine Learning gerne miteinander vermischt wird und dass da inherent gerne unser Rassismus reingetragen wird. In Österreich gibt es auch eine Arbeitslosenagentur, die da relativ böse Dinge tut. Gibt es da

irgendwelche Ansätze? Ist das Problem in der Politik überhaupt bekannt? Wird darüber gesprochen? Gibt es Ansätze zur Lösung? Also so grundsätzlich ist das Problem an der Politik schon angekommen. Also wir haben jetzt diese Datenethikkommission, die sich da mit dem Thema Daten beschäftigt.

Es gibt diese KI-Enquete-Kommission des Bundestages. Ja, ich glaube, das sind die beiden wichtigsten. Die Datenethikkommission rückt jetzt im Herbst, habe ich gehört, mit den Ergebnissen raus. Ich kenne sie noch nicht. Zur KI-Enquete-Kommission kann ich leider nichts sagen, weil ich

in den letzten Halben ja krank war und sie nicht folgen konnte. Aber so als Eindruck findet geradezu so ein Lernprozess statt, dass die das Lernen, was das alles ist, die Lösungen sind noch ein bisschen weiter weg. Hier drüben gab es noch eine

Sekunde. Ach so, und vielleicht muss man aber auch sagen, irgendwie bei diesem System von dem Arbeitsamt in Österreich, das sind ja eigentlich relativ einfache Systeme. Also es ist irgendwie drei Kategorien von Menschen und was die bekommen und wie viele Chancen die haben, nochmal einen Job oder einen Arbeitsmarkt reinzukommen. Da ist das Problem,

glaube ich, eigentlich, was Österreich macht und wer da Zugriff drauf hat, ist aber eigentlich noch kein KI- Problem. Das ist eigentlich eher so ein Problem, warum macht man es sich nicht einfacher mit einem Grundeinkommen, weil dann würden die Mitarbeiter vom Arbeitsamt auch mal die Kapazitäten haben, irgendwie zu vermitteln, statt zu sanktionieren oder so. Also das ist ein Problem,

wo die Frage ist, wozu es notwendig, aber ja. Meine Frage geht so ein bisschen in eine ähnliche Richtung. Während ich dir zugehört habe, hatte ich so ein bisschen das Gefühl, bewegen wir uns da womöglich auf wieder eine technische Lösung zu.

Ist denn KI, Maschinenlernen, ist das überhaupt geeignet als Hilfsmittel für die Politik? Zumal es ja einen sehr hohen Ressourcenaufwand voraussetzt. Ich will das jetzt nicht behaupten, sondern ich frage es tatsächlich.

Also ich glaube, dass die Entwicklung einerseits irreversibel ist und andererseits auch gut ist. Es gibt ein ganz interessantes Buch von Ernst Benninger aus den Jahren 1986, The Control Revolution, und der hat sozusagen gezeigt, wie die ganze Entwicklung von Informations-

und Kommunikationstechnologien vom Zug angefangen, über Postwesen und dann Radio und jetzt so ein Zeug. Also da wurden halt lokale Märkte gesprengt und man hatte nationale und globale und solange man aber diese Kette nicht ganz kontrollieren kann, hat man Marktversagen und man kann sozusagen heute mit diesen Plattformen eigentlich eine globale Wirtschaft steuern.

Und eigentlich sind die Plattformen auch ganz cool, weil die würden die alten Probleme von sozialistischer Wirtschaft lösen, weil da war auch immer das Problem, dass man das nicht richtig gut steuern konnte und dadurch sozusagen kooperativ ausgelegte Systeme Probleme hatten. Und eigentlich, also brauchen wir es, wir sind zu viele

Menschen, wir haben diesen Klimawandel, wir brauchen eine nachhaltige Wirtschaft und damit könnte man es steuern. Eine Frage haben wir noch, das ist dann die letzte wahrscheinlich. Vielen Dank, um an die Frage mal anzuknüpfen. Also ich glaube, die Fragestellung

zieht auch in die falsche Richtung nicht, ob es geeignet ist, sondern ob Organisationen, die erfolgreicher in ihrem politischen und wirtschaftlichen Handeln sind. Das ist ja glaube ich das, was dann am Ende hinten rauskommt und diejenigen, die übrig bleiben, geben halt den Trend vor. Meine Frage ist halt, wie schafft man es oder welche Ideen, Konzepte

kannst du vielleicht auch vorschlagen, wie man Politik wieder handlungsfähig macht? Momentan ist ja die Politik immer noch dran zu reagieren. Die setzt keine Akzente mehr in die Richtung, sondern im Prinzip diejenigen, die KI einsetzen, voranpreschen, die bestimmen die Themen Facebook, Google und so weiter und so fort. Und die Politik kommt überhaupt nicht mehr hinterher. Hinter diesen analogen KI's, wie

Charles Trost das sagen würde, halt dort irgendwie nochmal Politik zu machen, Policing zu betreiben. Und die Frage ist, wie schafft man es, dass die Politik überhaupt dort handlungsfähig bleibt? Also wenn ich mir was wünschen dürfte, dann haben wir noch zwei Jahre die Regierung jetzt so

und hätten so was wie eine Innovationsagentur im Bundestag. Also wir müssen glaube ich das Parlament handlungsfähiger kriegen, weil das Parlament im Moment unglaublich überlastet ist und trotzdem kaum was hervorbringt. Und das liegt an den administrativen und technischen, an der Organisation. Und im Moment rutschen halt fast nur sozusagen die Gesetzgebungsvorschläge aus den Ministerien oder der EU durch. Und

der Rest ist ganz schön schwierig und es gibt halt kaum Kapazitäten da was anderes zu machen an dieses Daten für alle Gesetz. War einer der wenigen Versuche aus dem Parlament heraus was zu machen. Das war nachts oder am Wochenende. Dann zwei Bandscheibenfälle. Ich glaube, man muss

sozusagen gucken, wie man das Parlament handlungsfähiger macht. Dann vielen Dank, Julia Krüger.