Bestand wählen
Merken

Beeinflussung durch Künstliche Intelligenz

Zitierlink des Filmsegments
Embed Code

Automatisierte Medienanalyse

Beta
Erkannte Entitäten
Sprachtranskript
mit P mobil ja sonst man nächste
Vortrag ist Beeinflussung durch künstliche Intelligenz es ist ein Einführungsvortrag also einer der nächste Tat wird das so folgen so versteht und es geht um das maschinelle Lernen unsere Sprecher sind Wiederhören sie forscht in Amsterdam an finden lassen kommt Osterloh fertig und der Henry Cole der in Bremen am Mensch-Computer-Interaktion forscht große Wirkung für beugen für viele Moderation bekommt sein Vortrag Beeinflussung durch künstliche Intelligenz über die Banalität der Beeinflussung und das Leben mit Algorithmen wenn gern mit dem Zitat von KEK Chor vor Beginn der Kur ist Gründerin des R 1 auch ins zitiert dass die sozialen Auswirkungen von künstlicher Intelligenz untersucht ist außerdem es endlich Deutscher bei Microsoft Research und Professoren an den nur was City und die beim er hinaus Symposium in diesem Jahr gesagt die Menschen befürchten dass Computer zu intelligent werden die Welt erobern aber Computer sind zu dumm und haben die Welt bereits erobert und wir teilen diese Ansicht es gibt keine digitale Welt die Welt des digital das heißt durch digitale Medien konstruiert und uns das Anliegen einige englischsprachige Diskussion jetzt nochmal auf Deutsch zusammenzuführen es können also Beispiele kommen wieder ein oder die eine andere andere vielleicht schon kennt aber wir führen Sie hier nochmal zusammen und versuchen sie zu kontextualisieren warum Banalität der Überwachung Banalität weil die Systeme des Maschinellen Lernens im Kern sehr simpel sind weil aber auch die Beeinflussung sehr subtil sein kann als ganz ist auch eine Reminiszenz an Hannah Arendt ,komma Kunst
und wie gesagt ich wird die 1. 20 Minuten sprechen über die Mensch-Computer-Interaktion Perspektive kann oder Ulrich für die 2. Hälfte bestreiten kann es wissenschaftliche Mitarbeiterin in Amsterdam in Amsterdam beschienenen leer und sie forsch direkt zu den Algorithmen des maschinellen Lernens insbesondere ich Mehr 4. also Hintergrund in die das Kind und der Informationstheorie ich bin wissenschaftlicher Mitarbeiter am Institut für Informationsmanagement Bremen und mir geht es um die Nutzer erfahren von Maschinen insbesondere das Vertrauen wir würden jetzt gerne
anfangen dem Beispiel das jeder kennt das Erkennung benutzt wahrscheinlich jeder hier funktioniert auch nicht immer aber man muss sich täglich vor Augen führen das ist eine beeindruckende technische Leistung ist auch wenn es manchmal nicht funktioniert und jenes hier und den Unterschied zwischen imperativer Programmierung und maschinellem Lernen zu verdeutlichen imperative Programmierung ist das Uran wahrscheinlich jeder denkt dann an Informatik und Programmierung es gegen Regeln und Anweisungen wenn x dann y das Wort Imperativ überfiel steckt ja auch schon im Namen und jetzt den Imperativ erkennen wollen würden dann würde man 2 Speckgurken ok das Wort Viagra wird so geschrieben der Nachricht vorkommen dann ist nicht der Nachricht andererseits ist Mehr gutartige Nachricht maschinelles Lernen setzen komplett anderer Ansatz hat man eine Vorhersage iterativ also immer und immer wieder verbessert und verließ den Klassifikation versucht man zum Beispiel Kombination von Wörtern zu finden durch dies wahrscheinlich wird dass es sich und dem handelt der Kernbegriffe sie also wahrscheinlich und das der sieht dann so aus dass man für viele verschiedene Beispiele prognostiziert ob Nachricht wenn es oder nicht dann man vieler Männer galten vieler Funktionen und dann ändert man seine Parameter um den Fehler zu verringern und geht wieder zum 1. Schritte macht das immer und immer wieder natürlich ist nicht ganz so einfach sind wieder zu berechnen und auch die Parameter zu verändern ist eigenes Forschungsgebiet aber im Kern ist es wirklich so simpel wie bisher darstellen und des Weges ist Spanien im Hinterkopf zu behalten und der dabei ist aber sprang im Hinterkopf zu behalten dass es den erkennen nicht mit Textverständnis gleichzusetzen ist das heißt Algorithmus muss ich erst Kafka verstehen können um zu erkennen ob etwas wenn ist oder nicht und dieses Problem dass etwas wirkungsvoller aussieht als das vermeintlich ist wird uns im Laufe des Vortrags noch begegnen im
weiteres immer noch vereinfacht das Beispiel wenn Entscheidungshilfe die aus der Medizin das Ziel ist hier die Erkennung von Brustkrebs statt Beratern genannt werden haben wir verschiedene Features das heißt Charakteristika an den man zum Beispiel gutartigen und bösartigen Brustkrebs unterscheiden kann dazu gehören hier Radio die Textur Umfragen Fläche erklärte aber auch so Sachen wie die Symmetrie und die Zahl konkaver Punkte also nach innen gewölbter .punkt und sieht die oben insgesamt gibt es gibt in diesem vereinfachten Datensatz 32 verschiedene Charakteristika und den der 2 Charakteristika wie zum Beispiel die Zahl die durchschnittliche Zahl der konkaven Punkte und die durchschnittliche Fläche in Pixeln anschauen und abtragen anerkennen eine deutliche Tendenz ab einem bestimmten Punkt einer bestimmten Zeitpunkte oder einer bestimmten Fläche 7 nur noch bösartigen Brustkrebs es ist mathematisch wie im Beispiel einfach eine Linie durch diesen Datensatz ziehen und das ist eine so genannte Entscheidungs Grenze es zwischen bauen sie Entscheidungs Grenze muss nicht linear sein es muss nicht nur einfache Linie sein die kann durchaus komplexer sein und in der Regel ist sie das und dieser Ansatz ist durchaus analog zu dem was der Fahne Ärztin oder ein erfahrener Arzt mehr oder weniger bewusst machen würde mit ihrem auch aus Erfahrung gelernt hat der Größe nach der Fläche und der Zahl ist wahrscheinlich bösartig oder gutartig der Clou an Maschinen ist jetzt dass wir das für viele verschiedene Charakteristika gleichzeitig machen können und darüber hinaus profitieren wir sehr stark davon wenn wir mehr Daten haben dadurch bessere Entscheidung treffen können wir eine bessere Entscheidungs Grenze zu finden wie sieht aber auch dass eine gute Zahlen roten und blauen Punkten im Beispiel auf der falschen Seite der Grenze liegen seit dort machen wir Fehler und da muss man im Hinterkopf behalten dass es verschiedene Arten von Fehlern gibt und die auf verschiedene Auswirkungen haben falls sich zum Beispiel immer mit gutartigen Brustkrebs fälschlicherweise sage das ihr Brustkrebs bösartig ist ist das sicherlich Stress aus ist keine angenehme Situation falls wir jemals jemanden mit bösartigen Brustkrebs fälschlicherweise sage dass ihr Brustkrebs gutartig ist und sie auch entsprechend behandelt 1 deutlich schlimmere Konsequenzen haben das ist jetzt natürlich ein vereinfachtes Beispiel aber gleichzeitig werden wir zeigen dass ähnliche Entscheidungshilfen durchaus in sehr kritischem Weise Bereichen genutzt werden voll war noch einmal die Wirkungsmacht von Big Delta zeigen und da geht es
darum Persönlichkeitsmerkmale zu erkennen dass es denen man digitale Spuren wie Facebook bleibt die relativ einfach zu wenig sind ist aber ermöglichen hochgradig sensibel Persönlichkeitsmerkmale vorherzusagen ist das sind wir von 2013 und für die Studie haben sich 58 Tausend Freiwilligen in USA gefunden die Facebook-App benutzt haben denn diese begehrt wie komplettes Profil zur Verfügung gestellt wird ein Leid aber auch mit allen Informationen wie zum Beispiel sexuellen Orientierung oder der religiösen Zugehörigkeit was jetzt gemacht wurde es mit dem sehr einfachen Modell mit einem einfachen Regel tionsmodell vorhergesagt von welchen Deix werden ob man anhand der leicht erkennen bestimmte Parade Persönlichkeitsmerkmale erkennen kann und es zeigt sich das man zum Beispiel mit 95 Prozentiger Genauigkeit erkennen kann ob jemand weiß oder afroamerikanisches sexuelle und Tyrone kann man auch mit sehr hoher Genauigkeit nur anhand der Leids erkennen die das Geschlecht die politische Orientierung die religiöse Zugehörigkeit aber auch so Sachen die Drogenerfahrung und der Familienstand der Eltern in der Kindheit und die See zu uns religiösen Zugehörigkeit über 82 Prozent Genauigkeit bei sowas wie Drogenerfahrungen und der ihr ist es relativ wenig mit der Genauigkeit ist Ende 50 50 Chancen beraten würden aber es ist trotzdem Indikation und wir zeigen dass auch nur weil das wahnsinnige möglich Diskriminierung bildet und das passiert auch auf dem Wohnungsmarkt oder auf dem Arbeitsmarkt das heißt was wir zeigen wollen ist dass wir unsere Vorstellung von Datenschutz überdenken ausweiten müssen wenn man halt auch Persönlichkeitsmerkmale konferieren können kann denn man kann mit solchen Modellen auch
die leicht zu finden die am aussagekräftigsten für ein bestimmtes Charakteristikum sind fest der mir 3 leigt einmal die Marke hat der letzten Krise ,komma ist völlig frei ist und das Musical Wicked und überlasse es Euch mal herauszufinden welches Bild mit niedriger Intelligenz hoher Intelligenz und Homosexualität bei Männern verbunden ist diese durchaus fragwürdige Forschungsrichtung nennt sich die niedrig oder auch zu Schukraft wie das spannende ist es ja relativ nah dran ist ein Kernversprechen von so Unternehmen wie Google und Facebook die versprechen ihren Kunden den Werbekunden finden wir finden vor euch Leute die sich für Dienste X oder Produkt Y interessieren könnten und jetzt das Element der Beeinflussung beeinflussen heißt hier ich zu nutzen um Leute zu finden und die Beeinflussung des noch sehr banal aber solche Forschung kann natürlich auch genutzt werden um zum Beispiel einer großen Menge von Wählern in jene zu finden die noch überzeugt werden könnten und der viele von ich habe Meerschweinchen Artikel in das Magazin gelesen wo kolportiert wurde dass diese Art von zwischen Graffiti für Trump und Brexit verantwortlich ist vor der Bundestagswahl gab es auch eine große Diskussion das was hier passieren könnte wir glauben dass das mit Vorsicht zu genießen ist aber die Möglichkeit mit derartigen Einsätzen überzeugt aber Wählerinnen und Wähler zu finden und anzusprechen ist durchaus realistisch und deren schon gesehen das ist dadurch so einer Art Diskriminierung 2 Punkt 0 gibt den homophober Arbeitgeber muss nicht mehr direkt erfragen ob jemand homosexuell ist wenn es aus dem Facebook-Profil vorhersagen kann und es interessiert ihn vielleicht auch nicht aber dann Fehler macht und Metrosexuellen möglicherweise falsch einordnet diese
beeinflussen kann aber durchaus direkter seien in den USA werden also jetzt schon den Justizminister System als Entscheidungshilfe eingesetzt da wir zum Beispiel mit bestimmten Informationen über die Leute vorher gesagt ob jemand rückfällig wird im Gefängnis ist oder nicht das heißt man versucht vorherzusagen auf der Skala von 1 zu ungefährlich bis 10 für hochgradig gefährlich wo jemand hinkommt und jene 2 Beispiele einmal einmal den Herrn links VP Initialen der 2 bewaffnete Raubüberfälle begangen und ein versuchen bewaffneten Raubüberfall und die Risikoeinschätzung 3 mehrjähriges Risiko daneben die die Dame Ideen die IV Ordnungswidrigkeiten unter unter das Jugendstrafrecht auf dem Kerbholz und die Welt eingestuft
wird hohes Risiko und wie sieht es jetzt aus also die Leute von ProPublica die das recherchiert haben ein Netz über 2 Jahre kommt wirklich rückfällig wird und wer nicht wie geht die Dame rechts die geht keine weiteren Verbrechen VP der Airlines der begeht nach seiner Freilassung direkten schwerem Diebstahl was Besonderes hier und die wird wahrscheinlich schon geraten haben ist dass der Algorithmus systematisch Afroamerikaner wenn diskriminiert es gibt also beides Verzerrung gegen Schwarze darüber hinaus sind so Vorhersagen von den proprietären Kompass System nun ein 60 Prozent der zu der Zeit richtig wenn man jetzt die wirkliche Rückfälligkeit über 2 Jahre ist und wir kennen das aus der Statistik dort unterscheiden wir den Fehler 1. Art Fehler 2. Art seit unserem ohne Prothese ist der oder die Straftäter und wird nicht rückfällig Fehler 1. Art ist jetzt dass die die mit hohem Risiko eingestuft werden aber nicht rückfällig werden und da sind wir oder ProPublica herausgefunden dass die Wahrscheinlichkeit dass ein weißer oder eine weiße Opfer dieses Fehlers wird bei 23 , 5 Prozent liegt und bei Afroamerikaner wenn nicht die Wahrscheinlichkeit bei 44 , 9 fast doppelt so hoch es gibt auch den Fehler 2. Art ist die Wahrscheinlichkeit dass man jemandes das immer mit riet niedrigen Risiko eingestuft wird aber trotzdem rückfällig wird und hier ist die Wahrscheinlichkeit umgekehrt weiße am Nil 47 Prozent Chance diesen Fehler zum Opfer zu fallen auf Amerikanerin nur 28 Prozent aber wie kommt das in
dem jetzt mal an das das kompetente Programmiererin sind die in den Maschinen in Kursen sie macht dann gut aufgepasst haben und technisch alles richtig gemacht haben und während ich Ihnen in dem eine Abbildung von X auf Y zum Beispiel hier eine bestimmte Informationen zu gefangen und diese Rückfälligkeit der Gefangenen Problem ist jetzt das Text ist keine Stichprobe der Grundgesamtheit wann eine Untermenge der Grundgesamtheit die Polizei untersucht hat Samsung X strich ist nicht repräsentativ und das keine selbsterfüllende Prophezeiung sein denn vielleicht sind Afroamerikaner leben einfach in der Situation dass sie deutlich häufiger kontrolliert werden und ist einfach dadurch mehr Straffälle in den Datensatz gibt und auf der auf der anderen Seite auf der y Seite das heißt diese Risikobeurteilung man rückfällig wird oder nicht ist ebenfalls eine Verfälschung ein die bezieht sich auch nur auf die die vom Rechtssystem verurteilt werden das heißt sie haben auch nutzen Anstrich und wenn man zum Beispiel die Jury System hat niemand in USA findet dann kann auch dort latent oder weniger latent diskriminiert werden und das macht schienen mir sollte objektive mathematische Modelle zu einer Art Geldwäsche für Vorteile da sie fallen dieses System ein und sind dann erstmal nicht mehr sichtbar der Kommerz zum Element der direkten
Beeinflussung denn diese Systeme werden zwar nur als Entscheidungshilfen verkauft zahlt nur Werkzeuge die genutzt werden können aber die Leute die die Entscheidung treffen verlassen sich direkt auf dieses Thema das heißt sie vertrauen diesen diskriminierenden Algorithmen 1 Beispiel kommt aus dem hervorragenden Deutschlandfunk Feature von Thomas Schönberg und der hat zum Beispiel Veronika heller die Bewährungshelferin die dem Richter Endeffekt Strafmaß vorschlägt interviewed das spannende ist die hat also im 4. Jahrhundert Erfahrung im Dienst aber sie schwört auf diesen Algorithmus sagte es gut akkurat und einfach was wir einfach zeigen wollen ist dass es jungen soziotechnische Systeme gibt geht es geht nicht nur um das Maschinenlernen geht nicht nur den Algorithmus es geht auch um die Menschen die nutzen es denn selbst wenn das System fair wäre dann Grad gesehen dass es das nicht ist heißt es immer noch nicht dass die Ergebnisse des Systems auch für interpretiert werden und finden das ist sehr wichtig für jene die solche Systeme bauen unwahrscheinlich wahrscheinlich einige heute hier diese
Verzerrungen in und durch Daten sind allgegenwärtig haben 2 Spielen Beispiel von
google das ist eine Suche nach dem mitfiebert Trio weit Teenagers und
das dessen Suche nachdem übertrieb legt findet das das heißt Technologie offenbar Ziel gesellschaftliche Probleme wenn Sie gesagt mit soziotechnischen Systemen zu tun die ne bestimmte Weltvorstellung festschreiben vermitteln aber auch verstärken können und die
Probleme Probleme können ganz subtil und banal sein wie zum Beispiel dieses Beispiel aus der statistischen Übersetzung zeigt das muss man wissen dass die türkische Sprache nicht zwischen Geschlechtern unterscheidet ist dass er sie und es sind alle ob es sind noch keine Unterscheidung zwischen Arzt und Ärzten beide Stockport und den jetzt mit Go-Betweens lädt oder einem anderen statistischen Übersetzung das Programm Sätze wie er ist ein Babysitter und siehst eine Ärztin hin und her übersetzen dann stellen wir fest dass die Übersetzung bestimmte Geschlechterklischees widerspiegelt und dann mit dem was wir bisher über Maschinen gelernt hat in diesem Vortrag vielleicht schon erklären wie das passiert weil wir lernen aus Beispielen und in diesen Beispielen sind Verzerrung diesem Fall mehr weibliche Babysitter mehr männliche Ärzte jetzt den Wind übersetzen und Berechnung der Wahrscheinlichkeiten und dem in der Regel einfach das wahrscheinlichste Ergebnis das heißt selbst minimale Verzerrungen können verstärkt werden fast eine gewisse mir ein Arzt Mehr und diese Übersetzung er sieht so aus wie die Sie dort sehen Marianne was was technisch erklärbar ist aber welche Auswirkungen hat das auf die Nutzer werden welche Auswirkung hat das auf die Weltsicht aber wenn man die Google-Ergebnisse so sieht wie man sie sieht und anhand
von Facebook wollen wir zeigen die direkt und intransparent diese Beeinflussung sein kann auch Facebook ein hochkomplexes soziotechnischen Systemen in dem Nutzer wenn gleichzeitig Produzenten und Konsumenten sind in Facebook erklärtes Ziel lautet ja jedem zu jeder Zeit die richtigen Inhalte zu zeigen dafür nutzt Facebook nach eigener Ansicht Aussage 100 Tausend verschiedene Faktoren um algorithmisch die besten Geschichten aus dem potenziellen Geschichten auszuwählen das heißt nutzt vorstellt und dem medialen das jetzt sein aus dem Kosinski Paper mit den Persönlichkeitsmerkmalen sei da haben die 200 haben die Leute 200 bekannte und leiten 68 Seiten das heißt wenn nur jeder 3. was macht dann sind das pro Tag 90 potenzielle Beiträge jetzt 5 oder 10 Minuten auf der Seite verweilt kann man sich die nicht angucken Seiten chronologische Darstellung des zwecklos und ne Curation unumgänglich und deswegen sortiert Facebook die Nachrichten nach dem Algorithmus das Problem ist aber dass dieser Vorgang sehr intransparent ist das heißt die Nutzerinnen sehen und verstehen die Algorithmen nicht und die glauben und zweifelsfrei wenn sie wenn Sie darauf angesprochen werden dass die Algorithmen Algorith er objektiv und unabhängig sind und dabei beziehe ich mich auf folgende Studie kommt aus der Kay der Computer ich im Inter Action Community und dort dann sich 62 , 5 Prozent der Teilnehmer und Teilnehmerinnen in dieser Studie der Existenz von News-Feed Algorithmen also von algorithmischen Curation nicht bewusst das heißt eine qualitative Studie mit 40 Teilnehmerinnen die so ausgewählt wurden dass sie repräsentativ sind für die US Grundgesamtheit und von den war also 25 Personen nicht bewusst dass überhaupt irgendwie sortiert wird die Studie zeigt auch dass die Teilnehmer durchaus verärgert sind wenn sie Post von engen Freunden oder Familienmitglieder nicht sehen spannendes aber jetzt die Teilnehmer suchen den bei sich oder anderen als bei dem Algorithmus von dem sie im Zweifelsfall auch nicht wissen sie glauben dann zum Beispiel dass etwas übersehen haben oder sie denken dass ihnen bestimmte bekannten was bekannte bewusst Geschichten vorenthalten weil sie vielleicht nicht so gut miteinander bekannt sind sich noch nicht so gut kennen dann kommt auch dieses titelgebende Zitat iOS ist unter der Ruhr sowie Kloster der größten zuletzt vereinbarte heißt Herr Demant gedacht ok ich sehe die Babyfotos vielleicht nicht wer die Person nicht so gut kenne aber die Person hat das für alle geteilt und Algorithmus jetzt diese Entscheidung getroffen dass Person A die SPD von Personen die nicht das heißt dieses Thema dem Schatten agieren und den sich die benutzten und Benutzer nicht bewusst sind haben Auswirkungen auf zwischenmenschliche Beziehungen Siri konfigurieren Sie und darüber hinaus muss man sich auch mal bewusstmachen was diese Nachrichten Empfehlungssysteme eines erreichen wollen sind ja von wie Netflix an das heißt wenn ich jetzt auf Jud jung und einem anderen Portal mit Videos angucke Anspruch mit 10 Videos an und davon sind viele mit lustigen Hundebabys man folgert das System Herr Henrik mag lustige Runde Hundebabys dem zeige ich jetzt in Zukunft mehr lustige Hundebabys nun sind aber auch Nachrichten auf Plattform wie für das heißt wenn ich mir jetzt 10 Videos angucke und von denen gibt es in vielen darum dass Flüchtlinge Kriminelle sind 1 fiel mir das System Videos von kriminellen Flüchtlingen das heißt da passiert was mit meiner Weltwahrnehmung 1. derartige Filterblasen und echt ein Echokammern entstehen online gibt es natürlich auch im echten Leben des Freundeskreises auch welche Kamera in dem bestimmte Werte Weltvorstellung geteilt werden aber hier sind sie durchaus in transparenter aber wenn es passiert unter dem gleichen Logo mir New Logo Bereiches Nietzsche Chloe und das sind Probleme die man stellen müssen mit dem umgehen müssen wir umgehen müssen und das war immer ein Teil zur Perspektive der Mensch-Computer-Interaktion die sich also als eigenes Feld mit derartigen Fragestellungen auseinandersetzt und ich über die jetzt ein Kahn nochmal technisch ins Detail gehen wird vor ja zum 1. Teil der
Präsentation er zeigten während das Algorithmen und schon heute Einflüssen bewusst unbewusst eine direkte indirekt und ungern gesehene welcher Rigorosität ihre Voraussagen umgesetzt werden nachdem sie einmal zur Verfügung stehen das immer unter der Annahme der Unvoreingenommenheit auch bereits angedeutet dass diese massive Vertrauen nicht unbedingt angebracht ist in diesem 2. Teil der Präsentationen nicht mehr darauf eingehen weil dieses Vertrauen nicht angebracht ist dabei mich besonders auf ein Wort eingehen das bereits 4 verwendet man das Wort beides oder zu deutsch Verzerrung der maschinellen Lernen
keine grundsätzlichen 2 verschiedene vom von weiß unterscheiden auf der einen Seite haben wir bei der Daten also beides ist der
Endspiel ist unsere eigenen Vorteil und Moralvorstellungen aber zusätz bewusst ist oder nicht den Daten kann aber auch entstehen ganz zufällig durch mangelhafte Erhebung von Daten wenn das passiert einer Grundgesamtheit also die Population verzerrt abgebildet auf der anderen Seite befindet sich der weiß durch das Modellieren das ist also ein
die Gesamtheit aller Einnahmen die Ingenieure und Wissenschaftler von Algorithmen machen und machen müssen um überhaupt Voraussagen treffen zu können dabei kann sich wiederum dabei ist das Modell wir so auf die Daten auswirken dass der Bayer ist in den Daten verringert wird dazu gibt es vielfältige Forschung es kann aber auch er den beides in den Daten verstärken auf der anderen Seite die beißenden in Daten den wurde hierbei ist beeinflussen dann im folgenden entfernen 4 Beispielen und sie alle diesem Phänomen auseinandersetzen maschinelles Lernen haben den letzten
Jahren viele Durchbrüche bei der algorithmischen Wahrnehmung erzielt Algorithmen bewältigen kognitive Aufgaben die vor kurzem in weiter Ferne schien ja das hat aber auch eine Welle von Forschung ausgelöst er die unlösbare geglaubte Aufgaben wieder aufgreift und neu bewertet eine Studie dieser Welle ist im November letzten Jahres erschien 2 Forscher der Shanghai ich Tong Universität behaupten zeigen zu können dass man Menschen mit kriminellen Absichten bereits in einem einfachen Ausweis Foto erkannt kann und diesen neunzigprozentiger Trefferwahrscheinlichkeit dieses Ergebnis steht natürlich im starken Kontrast zu den Forschungsergebnisse der letzten Dekaden die Kriminellen sieht er sozioökonomischen Umständen zu schreiben weil also im folgenden wie dieser Studien bis näher beschäftigen und die Autoren sammelten hierzu 1800 Fotos von Chinesen im Alter zwischen 18 und 55 Jahren die keiner bemerkbaren Gesichtsbehaarung einen Knaben oder der TuS zeigten dabei repräsentieren sogar 700 Fotos die Rückblick kriminell
die wurde selbst wurden von der Polizei bereitgestellt es handelt sich bei allen Fotos um bereits verurteilte Straftäter auf der anderen Seite muss man auch
Bilder rechtschaffene Bürger repräsentiert werden dafür wurden 1 Tausend 100 Fotos aus verschiedenen Quellen des Internets geschafft dabei ist anzunehmen dass diese Fanseite gelingt entstammen da die Autoren den Beruf der vermeintlich rechtschaffenden kennen aber so ein besseres Bild über die Daten zu machen wir uns also ein paar Daten .punkt anschauen jeder dieser 3
entsprechen 3 Datenpunkten als jeweils eine Kategorie Mehr oder rechtschaffen natürlich kein kleines Experiment wagen es ist die dann gleich mal bis 2 und alle die glauben die obere Reihe die rechts schaffen die werde ich dann die linke Hand sehen was wirklich dran ist entfernt er und er diejenigen die denken die untere Reihe wären die rechtschaffen die wird also die rechte Hand zu heben wir hervor deren ist sehr habe es 2 1 neben entfernen kann also die meisten von uns SMS relativ einig dass wir rechtschaffenen in identifizieren können aber warum können wir das eigentlich sollte Menschen dazu ähnliche Lage seien angewiesen das wir dazu nicht mehr Lage sind ich denke also die meisten von uns haben gewisse Hinweise in Bildern wahrgenommen er die auf der Unterschiedlichkeit der Quellen beruhen also ganz offensichtlich hier eher der Kragen im Bild der darauf hinweist dass es vielleicht ein Bewerbungsfoto sein könnte oder ein leichtes Grinsen im Gesicht da der in in sind die Leute die auf der einen Seite sind nicht besonders vorteilhaft dargestellt also den man hier wo der Scheinwerfer ins Gesicht gestrahlt was dann halt und und Falten besonders betont wir wollen gegen beide Bewerbungsfotos offensichtlich gab ist oder Photoshop andere die Einzelfall kann es also sein dass er dass der Algorithmus will einfach nur erkennt in welchen Fotos der Photoshop nachgeholfen hat das kann man also bei Fischen an lokalen Pixel Statistiken gut erkennen er diese Studie vielleicht extremes Beispiel wie gravierend ist die verwendeten Daten auf das Ergebnis einer Voraussage eines Algorithmus auswirken können dies ein besonders
starkes Beispiel für Stichprobenverzerrung also beides in den Gruppen unterschiedlich dargestellt werden weiß kann aber auch entstehen ganz zufällig wenn zu wenige Daten vorhanden sind um verlässliche Aussagen zu treffen welche Probleme sehen wir also auf den medizinischen Studien oder psychologische Studien Hotels teuer und langwierig sind wer weiß das 13 Befragte unkorrekte Angaben machen das geschieht zum Beispiel auf bei Gewaltverbrechen bei den Angst und Repression eine Rolle spielen und natürlich spielen auch die verwendeten Merkmale die ein gewisses Problem beschreiben sollen eine große Rolle
formen und 2. Kategorie dem war es in den Modellen kann man sich früher also vor dem die
Boehringer Eibe Sarah vor 2012 eine Einführungsveranstaltung zum maschinellen Lernen gesetzt dann begann fast jeder mit dem erklären dass nur für Theorems also der Aussage das kein Modell alle möglichen Szenarien funktioniert daraus schlussfolgert mir das andere das wir andere machen müssen da das Modell im Hinblick auf unsere spezifisches Problem beschränken diese Annahme aber aber die Grenzen dann versagt das Modell ohne dass sich das Modell darüber bewusst ist das heißt also er unser Job als Wissenschaftler oder Studierende ist dieser Grenzfälle zu benennen und zu testen aber unser speziell an an Anwendungsfall dieser er Algorithmen nicht versagen an diesem Prinzip hat sie auch bis heute nichts geändert aber der Franz 2 schnellen ganz in bestimmten Bereichen des selbst Wissenschaftlerinnen da diese universalen Regeln manchmal vergessen Krisen und versucht zu glauben es Modelle so flexibel sind dass die Grenzen quasi nicht mehr existieren einzelnen mich aber auf ein Beispiel eingehen da auch mit dem die Überlegenheit gar nicht geändert hat und das ist das Problem der Zielsetzung und die Frage wie Erfolg zu bewerten ist allerdings hätte Vortrags sprach Hendrik über das Messen von Fehlern und dass das Kodieren Fehler ein wichtiger Mechanismus sei um Algorithmen zu trainieren war sein Fehler ist es auf mich einfach zu bestimmen und es liegt in der Hand des Ingenieurs zu definieren zum Beispiel wie sich Erfolg bei Typ Empfehlungen die Zeit die man auf der Plattform vorbringt das kann aber auch bedeuten dass der PC vielleicht nur Ecke steht die Person gleich mehr im Raum ist oder wenn sich die Anzahl von Klicks aber wenn diese zu Frequenzen unter das vielleicht dass er die Person das Video gar nicht mag ein anderes Problem sind Übersetzungen da stellen sie sich nur also voran das ein Kubus Übersetzung haben und wir wollen wissen ob eine Text richtig übersetzt wurde wie können wir das messen nur verwirrt oder in Paragraph für Paragraph wir Wort für Wort messen dann spiele vielleicht wieder wurde ein Volk in verschiedenen Sprachen und funktioniert nicht so gut wenn der Paragraph für Paragraph messen .punkt sind das vielleicht nicht so gut wie weil der Algorithmus den Kontext nicht mehr begreift und wie gehen wir mit ihnen wer sie Algorithmus ein richtiges Unternehmen gefunden hat wird dann trotzdem ein Fehler berechnend wenn der spezielle Daten .punkt besagt dass es vielleicht anderes Unternehmen zu übersetzen ist muss also Entscheidungen treffen er die Ingenieure bei Google und ein Mann führenden Übersetzungs es ist dem beantworten die Frage folgendermaßen wir übersetzen Satz für Satz dabei gehen davon aus dass jetzt unabhängig sind und nur das wahrscheinlichste wurde die wahrscheinlichste Phrase bitte richtig bewertet werden es noch auf das Beispiel aus der 1. Hälfte des Vortrags eingehen wenn wir sie ist eine Frau sie ist Ärztin in das schöne neutrale türkisch übersetzen zu obiger den OB Dr. R und dann zurück übersetzt ins Deutsche dann wird nicht sie ist eine Frau erst als übersetzt und jetzt wissen wir auch warum da wir Annahmen dass setzt unabhängig sind weißt Algorithmus gar nichts vom Kontext also dass wir über eine Frau sprechen eine Algorithmus probiert Dr. dann übersetzt er Übersetzer nur die wahrscheinlichste Phrase und diese 1. Arzt es handelt sich also nicht um bei seinen Daten oder zumindest nicht unbedingt soll um bei SR Annahmen sie das Modell zu sehr vereinfachen er ein 2. Piëch Beispiel für das noch klar vor Augen wenn wir eben den .punkt schon ,komma ersetzen dann kann der Algorithmus ist richtig übersetzen weil sich des Kontexts bewusst ist n nicht mehr Beispielen finde man
beides wollen wir zeigen die Preise mit den weißen Daten verstärken kann diese besonders in so genannten aktiven Jansen Hajo wo ist
er aktives Lernen funktioniert wie folgt wir haben Daten auf deren Grundlage der ein Algorithmus wären für manche Voraussagen sind aber nicht sicher da und fragen wir ein menschlichen Experten um
Rat der Algorithmus fragt dann meistens Sie folgende Frage habe ich diesen Daten .punkt richtig bewertet und falls nicht bitte um Feedback das führt dazu dass der Algorithmus in der Zukunft mehr Daten zur Verfügung gestellt bekommt um dann besser zu lernen und Wege auf denen für fragen zu müssen es klingt gut und so viel zum störungsfreien Ablauf was aber nun wenn ein Datenpunkt mit falschen oder verzerrten Merkmalen beschrieben wird und dazu kommen dass unser Mensch vielleicht nicht so wachsam ist wie unser Modell annehmen wir haben also eine kleine Verzerrungen Datensatz und die Annahme des idealen Menschen wird verletzt und dem eigentlichen Phänomen dieser Fall die Daten vom wird also ignoriert das führt dann dazu dass obwohl die Ursache der der Verzerrung nicht mehr aktiv ist dieser Daten .punkt nun vermehrt wird aufgrund der Tatsache dass der Mensch nicht auf die Frage hab ich diesen Daten .punkt richtig bewertet reagieren und das führt dann wiederum dazu wenn man mehr verzerrte Daten hat er das diese Mehr verzerrten Daten sich immer weiter vermehren können und ich das also jetzt in freier Wildbahn beobachten kann es relativ schwer zu sagen was natürlich solche großen Player wie Google oder Facebook nicht immer die Karten blicken lassen euch den 1
wie das im vergangenen Jahr lässt darauf schließen dass es vielleicht hier versiert sein könnte also eine Afroamerikanerin mit Kussmund A in damit sehr und wird sie als Gorilla bezeichnet sehr geschichtsträchtigen Bezeichnung für Afroamerikaner in Amerika und hat natürlich große Wellen geschlagen google erklärt die Ursache des Fehlers nicht genau genug um genau zu wissen was sie ausgelöst hat aber 2 Probleme können eine Rolle gespielt haben als 1 wäre dass die Bildbeschreibung immer von Menschen bereitgestellt wird und die erlauben sich gern mal zu zollen und verfälschen das orginale Daten damit das kann aber nicht die einzige Ursache seien es Kunden mindestens noch dazu dass gewisse Gruppen von Menschen entweder einfach sehr klein sein einer Gesellschaft oder unterrepräsentiert sind und vielleicht auch 3. muss schon sagen dass bei großen Tech-Firmen sehr wenig Kränze nein oder 10 1 getestet werden wenn zum Beispiel eine Microsoft scheppert in der ganz ähnliche Phänomene gezeigt ist der dann auch da das ist ja das ist sicher der Nachricht geschrieben hat das
letzte relevante Beispiel zum Thema beides soll es im Bereich des übertragen lernst kommen hier ist das Ziel einer Aufgabe er das Lösen einer Aufgabe 14 und diese Aufgabe hat aber nur wenige Daten ne und dass sie nicht genug und der Algorithmus erfolgreich lernen zu lassen aber es gibt eben eine ähnliche Aufgaben erfolgreich gelöst werden kann und die Idee ist nun das gut funktionierende Modell zu verwenden um unseren eigentlichen Problemen zu helfen er diese Technik wird aber wieder zu Verzerrungen in die nur schwer bestimmt und kontrolliert werden können das wird klar wenn ein konkretes Beispiel betrachten wir können eine ganze Halle vor Roboterarme stellen um in bestimmte motorische Aufgaben beizubringen aber selbst eine
selbst Tausend Roboterarme lernen um als also gang und gäbe es in der modernen Robotik sind es im Monat das sind das Land System in
Simulation üben lässt der Systeme wären also für tausende ja Simulation gibt es natürlich aber nie Realität also denken da an Kabel zu und Simulation die Fehler enthalten kann dies Bedingungen die nicht ganz real sind oder der egalisierte Roboterarm den verwendet in den Salon auch habe ich auch
sagen wie attraktive auch die die Zukunft mit selbstfahrenden Autos erscheinen mag mit ihrem Versprechen nach mehr Platz man Städten weniger Unfällen und effektiver Verkehrsführung sollte man auch sehr skeptisch sein denn auch dieses Thema die meiste Lebenserfahrung in Simulationen
gesammelt der ganz anderen
trachtungsweise auf Daten ist die der Datendienst der Daten können dicht bei einander liegen oder weit voneinander entfernt in Bereichen mit vielen Daten ist oft einfach korrekt Aussagen zu treffen Daten .punkt in diesen Bereichen zu beschreiben nennt man Interpolation wollen den Bereich mit wenigen
Daten oder keine Datenpunkten sehr schwer zu beschreiben sind diese Aufgabe schreibt man mit Extrapolation er korrekt ist
extrapolieren ist allgemein nicht möglich oder nur möglich wenn man korrekt an nahm über den Entstehungsprozess der Daten macht ende
Volieren also das Wandern in einem oder mehreren Datenpunkten zum anderen weil sich die France Alltags beantworten die wir das Kind von
Kenia und Checkland aussehen der neues Anwendung dieser Technik Minderheiten auch das gezielte verändern für Video in Bild und Sprache beispielweise wurde das Gesicht von der Hauptdarstellerin das
Volumen Films der gellend aber ein Phonographen hingelegt aber muss nicht weit denken und ich die Konsequenzen solcher Techniken Fitness ist zum Beispiel vorzustellen der
extremsten Fall gibt es sehr wenige oder keine Daten wollen Aussage getroffen werden soll nun ist es wichtig die richtige Annahmen zu treffen um extrapolieren zu können ja bereits gesagt ist aber eine extrem schwere Aufgabe zu der auch moderne Wissenschaft nur wenige und unvollständiger Antworten weiß also also anstatt in aller Regel passiert es dass Algorithmen keine anderer machen und das ganz ohne vorher gesehen Phänomen führen im schlimmsten Fall kann man dieses Wissen auch nutzen zu so genannten feindlichen Attacken auf Algorithmen Attacke verläuft beispielsweise so man nehme eine Datenflut er aus den Daten wird und dessen beschreibende Merkmalen also
wie zum Beispiel die Verkehrs also Sybille von Verkehrsschildern und die Verkehrssünder man suche dann fern ab von den Daten ein .punkt der sehr ähnlich ist denn aber der Algorithmus mit als er mit einem ganz anderen Merkmal beschreiben würde und das gruselig ist
das diese auch funktioniert mit ausgedruckten Version derselben derselben Attacke und wenn man die nicht dieselben Daten nicht mehr denselben er dasselbe Modell kennt oder verwendet ARD das interessiert
denn dieser Ministertreffen zu das glaub ich ja keine von der nächsten Präsentation sein
abschließend sind immer welche Nummer dann zeitlich machen das in allen Systemen des modernen maschinellen Lernens er Korrelation evaluiert wird und nicht Kausalität Badematte mathematische Kausalität Forschung also den Suche nach Ursache und defekt für komplexe Systeme des 1. seinen Kinderschuhen und Korrelation zu finden und zu beschreiben ist nur einer der Schritte der dazu nötig ist
da bevor die Frage dann in die Runde fragen öffne weniger ich nun ein liegen also wir haben umfassen die technischen Möglichkeiten des maschinellen Lernens dargestellt und welche Begrenzungen es aufweist letzteres soll und wird uns als Gesellschaft aber nicht davon abhalten diese großartigen Fortschritte zu genießen also den wieder ein Medici molekulare belehrt Theologie in den diese Techniken großes Versprechen und auch schon er geliefert haben daraus ergeben sich trotzdem große politische Fragen die uns alle was angehen er Entscheidungen die Wissenschaftler nicht alleine treffen können wollen oder sollten also wir frühestens Sachen Fragen die er sei im sehr konkreten Fall Entscheidungen treffen Menschen oder Maschinen wer ist schwul ein Fehler passieren passieren Ingenieure für am Staat oder vielleicht gar niemand wie können staatliche Garantien die Gleichheit juristisch umgesetzt werden angesichts der neuen Algorithmen und natürlich auch die können Algorithmus in oder sollten Algorithmen er reguliert werden anders ich nicht bedanken wir abends Internet und die Runde 11. und und und wie die gesagt haben für den Bericht war in der Frage oft bitte alle Mikros aufstellen und der bebauten wollen zu bestimmen ja vielen Dank wir den großen Regen Vortrag was super spannend und haben sie hatten hin sehr sehr wichtiges Thema wie gehen wir damit um was wirklich Auswirkungen hat auf die politische Organisation auf Demokratie aber alle diese Sachen haben jetzt von Beispiel dass Henrike gebracht im 1. Teil es ist auch zum Beispiel über die Anwendung von für und ja seine politische Propaganda kann man auch sehen chemisch Analytiker die ganzen Sachen haben und gleichzeitig als 2. Thema natürlich gefüllte Worms die sich bilden also wohnt wo natürlich auch noch Verstärkung wir haben dieses Phänomens möglich ist meine Frage ich mich in diesem Jahr gestellt hat und mit wechselt mit schon waren und so weiter was sind die Möglichkeiten die sich bieten und ja dem entgegenzuwirken das sich sich Meinungen so stattlich führte Verbund polarisieren das wollte aber durch Tage waren heißem beeinflusst kann die mit der EU generiert werden und nicht älter wir ja hat die konkrete Vorschläge finden ja vielen Dank für die Frage es geht also darum was man jetzt gegen diese Probleme insbesondere im politischen Bereich machen kann und soll ist natürlich riesige Frage ihres wahrscheinlich noch lange begleiten ich glaube kommen diese Diversität im Bekannten und Freundeskreis ganz wichtig vor allem aber auch in Unternehmen und unsere Ansätze zu kommen Sie ja zusammen mir geht es ja darum die können wir Leute unterstützen die machen die Visualisierung machen Algorithmen sichtbar die helfen den Leuten zu verstehen was da passiert meine Perspektive kannst Perspektive dann die können die Algorithmen die Blackbox aufmachen die können erklären die kann System auch sagen sicher ist ist mit seiner Vorhersage dass es gibt es gibt auch viel Arbeit gibt dir denn das ist das Ziel das erklären der es erkannte wird den Tanz der 7 Schienen verkehren ältere Ort da gibt es eine ganz große Gruppe von Leuten die sich damit auseinandersetzt auch aus ganz verschiedenen Richtungen weil es gibt viel Arbeit dazu der Technologie in der Soziologie aber auch halt in der Informatik noch Fehlermeldung ob ein sehr gute Adresse sowas da eine wird an die gerade groß gemacht das bitte so leise wie es geht und versucht durch die Kürzung bei der Linken zur rechten berufen den Satz von außen Dankeschön so der Mikrophon 5 soll Jahre wie ein kurzer Kommentar im Außenbereich des Michel allerdings ist das was wir gesehen haben bei der bei der im Grunde Beispiel ebenso wie über Übersetzungsbeispiele ich eher ein ein beißender Kostenfunktion dadurch das die als wir dem Algorithmus gesagt haben es ist genauso teuer werden wenn die Klasse Corolla mit der Mittelklasse in einer etwas Kassenwechsels versus der für die Klasse die Oberklasse Menschen der Oberklasse der verwechselst oder einem in den denn der den Beispiel das er und sie hier als Verwechslung eines einzelnen Wortes genauso teuer sind wie wir wie ein Verwechslungen mit sehr guter .punkt also man kann natürlich in der Kostenfunktion dagegen vor wir kann man kann sagen dieser Fehler ist schlimmer für uns als der andere Fehler aber wenn wir davon ausgehen dass alle Klassen gleich sind und wir einfach für alle Klassen gleich gute Ergebnisse haben wollen und es kommt ja aus Google Fotos so dass für alle Kategorien machen wollen dann ist es halt wieder da kommt der Mensch wieder einmal das ist dann nicht mehr allgemeines Maschinen besondere so Fricke Lösung und das Problem des Balles und darum ging ja ist einfach die Maschinen im Inneren tun müssen damit umgehen und glaube nicht dass man so einfachen Kostenfunktion schreiben kann wir zum Roten Meer .punkt von dem Beispiel war ja auch quasi die einerseits muss des in falsche Daten .punkt existiert haben und wie das quasi durch die vielleicht eine Einnahme einer Kostenfunktion dann eigentlich noch viel verstärkt wird es geht ja darum die quasi Sinne Negativspirale manchmal losgetreten werden kann dadurch dass wir bei einer Welt in Daten nahm aber auch gewisse Namen machen die vielleicht eher die Realität zu sehr vereinfachen erfunden der dieses Beispiels und und vielleicht dazu noch das natürlich offensichtliche Beispiel auch immer sehr deutlich zu machen es gibt natürlich immer diese blind stellen so dort wo etwas passiert von dem wir das gar nicht wissen das ist auch eine Art auch Spot gefällt auch damit zusammenhängt dass Google genug ist nicht genug Leute derartige Daten damit getestet haben Vorsicht hat mitgemacht haben damit einzelne Fragen der vielen Dank neuer Vertrag also ein bisschen auch als Einführung gedacht das Thema auf die Agenda zu bringen was ich ganz großartig finde gesehen hätt ich jetzt wieder so mehr Kommunikation strategische Frage der begann für beides gesprochen Verzerrungen wenn man das so sagt der Mann implizit ganz auf einen neutralen und verzerrt und ich fand es toll du hattest du das noch viel Wieland Stier geben da also sagen wir ohne beides gibt kann ich das auch gesagt dass es Maschinenlernen inhärent aber das ist ja ganz wichtig zu sagen dass ich weil ich einfach mal fragen wenn es um politische Debatten geht es um öffentliche Debatten geht ob wir den denkt das beißen Verzerrungen sozusagen das der richtige hält ist um das alles zu thematisieren weil es eben dieses neutrale Umfeld sollte immer mit impliziert oder bedenkt dass man das dann noch mal anders werden müsste mehr wir sind auf jeden Fall keine Kommunikationsstrategie nur es gibt natürlich viele hervorragende Medien Soziologen Kommunikationswissenschaftler dass das eine viel
besser machen können wir wollen wird dass man diesen Rahmen zeigen welche Probleme wir als Techniker als in Formate Promovierende beide zu diesen Themen haben Sie nun also es war so dass es gewittert aber wird aber auch noch sehr lange beschäftigen was Recht ist und die Leute zu bringen geschont aber auch meine Frage weil sie ja Tag eine Frage zum Internet hat menschliches Lernen nicht genau genommen dieselben Probleme wie maschinelles Lernen oder gibt es da einen prinzipiellen Unterschied hier also er das ist eine Frage ich mir das mal schnell betrifft so auch die Psychologie oder Produktionsforschung zu der ich mich auskenne der also der Alkoholgehalt und so die Idee die Grundidee des maschinellen Lernens ist ja quasi Fehler festzustellen und die zu kommunizieren und das Modell wird daraufhin er besser abgesetzt als Menschen so funktioniert ich bin mir nicht sicher ob es jemals jemand genauso gesagt hat aber ich glaube im Sinne von dass unser Gehirn optimieren das wird das hab ich bestreiten gehört von Psychologen also ich war es nicht so sehr weh wie das Problem ist der Franzose werde für maschinelle Lernen funktioniert so ein Gerät funktionieren ich glaube sie gerade auf dem Weg der selbst aus zu finden und die Modelle des Maschinen für maschinelle Lernen sind oft nur grobe Vereinfachungen dafür wie die Welt funktionieren manche doch sagen es ist die inspiriert es gab bestimmt es gab eine Zeit wo alles Maschinen waren der Körper als Maschine soll die Metapher ihrer Zeit jetzt haben wir diese künstliche neuronale Netzwerke von je 10 dass die mit der man die benutzen also ich glaub dass ein fundamentaler Unterschied zwischen menschlichen künstliche Mehr ja es gibt es in zentralen Leitsatz der maschinellen Lernen der besagt dass alle Modelle falsch sind und einige vielleicht nützlich sind und wenn das es auch uns Menschen zu also alle Modelle die wir verwenden alle anderen die machen alles sehr fügen wir benutzen diesen vielleicht manchmal nützlich aber in der Gesamtheit immer falsch ich denke das trifft für Menschen und Maschinen zu danke schön Herr Mikrophon 4. Frage Rechten etwas naive Frage aber im bestehenden oder gibt es nie trinken um diese im Waigels der uns täglich im Netz begegnet zu bewerten also dass man das schon visualisieren kann oder vermitteln kann dass man sich in dem hohen beides also nun Verzerrung bewegt oder auf Glatteis läuft in dem Sinne relativ alten hochkomplexes Thema wirklich runtergebrochen auf die Bühne vielleicht mir bewusst danach Rom Formen vor statistische Verzerrungen also gibt durchaus Forschung in die Richtung dass geht zum Beispiel diese sich der Kubaner meint die wieder die sich mit sowas aus meiner dass wir aber also einzelne Beispiele würde zum Beispiel Leuten einfach mal zeigen was finden dabei ist die bei den Leuten die sie auf Twitter folgen haben wir also die folgenden nur Männern zum Beispiel also dass solche bewusst wahr machen sind wichtig sind glaub ich auch ein Teil des Kurses aber ich glaube die Medienpädagogik muss halt ernstgenommen werden Leuten muss das Bewusstsein wenn mir diese Dinger benutzen wollen wenn man solchen Autos rumfahren wollen dann müssen wir das verstehen sonst werden es gibt dann immer diese Transport und man kann einfach da nicht drauf eingehen man kann nicht jeden 2. Bedenken vorher vom aus Mainz vielleicht die Frage zu kontextualisieren fernen fernen er Algorithmus wissenschaftlichen ergibt wir machen es nicht unbedingt den Unterschied zwischen n vielleicht dem Westen Verzerrung der negative oder positive Verzerrung ist also wahrgenommen wird und für uns gibt es halt nur Merkmale die halt auf gewisse andere Merkmale schließen lassen und er das das wir wieder zu der Frage der Kumulation allerdings wenn er mir sagen es gibt gewisse wir wir haben jetzt auf der Merkmale die Proxy sind für andere Merkmale also wo ich wohne er ist auf dem Proxy dafür der wie ich aussehe wenn ich komme weil sie alte Maschinen machen kann oder wie sich die Wissenschaft damit auseinandersetzt ist ja ok wenn ich weiß welche Merkmale sensitivsten also welche ich ich möchte dass die meinen System korreliert mit der eigentlichen Aussage die das mit ist dem Treffen soll dann kann ich quasi in einer wir Funktionen extra haben aber einen Speisen der Sache er dekorieren jetzt dieses Ergebnis was was mit dem besonderen Merkmale was du als sensitiv weil zum Beispiel der Ort oder wenn Bildung Status oder Einkommen das die keine Rolle spielen dafür wieder wie der Algorithmus Voraussagen macht was ich jetzt meinte war jetzt wirklich der nicht die Unterscheidung zwischen gut und schlecht sondern wirklich mit Visualisierung dieser Datensatz über dieses Ergebnis basiert auf wegen Daten sichten und der also ist klar im Kontext kompliziert zu bewerkstelligen aber dass man eine Möglichkeit findet sowas zu darzustellen dass das diese Daten auf der hohen Datendichte basieren und so weiter also weil er so also unsere Antwort ist quasi es gibt solche Sachen es gibt sowas zu messen aber es ist immer eine Reduktion von Komplexität und da verliert man immer was er und da muss man sich immer bewusstmachen wie viel reduzieren dürfen wir mal wie viel er sie einfach das das machen zur Frage der Datensicherung vielleicht noch sagen das wieder anderer Nordhang Ansatzes oder den der es ja nicht an Satz der sie jetzt nicht die Frage stellt in diesem einen Prothese aufgrund der vorhandenen Daten zu bewerten sondern diese meine Daten aufgrund meiner verwendeten Hypothese zufolge bewerten also noch eine ganz andere Ansicht auf die Sache und der wiederum erlaubt uns dann in diese Unsicherheiten auszudrücken über voraussagen dies treffe also wenn zum Beispiel ein Datenpunkt überdehnten Aussage treffen will er bei APit von Daten und ich habe dann wird der dieser Ansatz wenn ich diesen Ansatz verwendet man sagen über die Voraussage dich jetzt hier treffe bin ich sehr unsicher und das ist der Forschungsrichtung der sich viele Leute beschäftigen die aber für diese großen komplexen Systeme haben ich würde sagen auch noch sehr am Anfang stehen bereits bitte wir unseren Gefilden Superbus Antwort brauch und ungeheuer dei Gebärdendolmetscherin die hier ohne Unterlass die ganze Zeit übersetzt und ich auch von der Frage wie man die nützlich wird das einschätzen was mit zur
Qualitätskontrolle alten Qualität zu Meilensteinen für das Endergebnis zu kombinieren also als Beispiel und Auto S-Bahnen und über hinreichend gut wenn das im Verkehr weniger Worte und bringt als durch Mensch aber oder sowas wurde das in zusätzlichen Nutzen ergeben kann man auch noch der Rückschlüsse ziehen oder um sind das völlig getrennte Sachen und das ist eigentlich genau das war viel mehr als 2. ist eine politische Frage ist die wir nicht beantworten weil wenn du das nicht ist wenn es wissen ist ihr sagen dass er nicht der letzte ist und zwar auf eine selten muss es aushandeln wir wir können Probleme aufzeigen wie anfangs die Gesellschaft als Ganzes in mir das ist klar die Tagesmutter und Sohn .punkt definiert hat und sich dann die Ergebnisse anschauen würde die kurz vor und kurz nach diesem .punkt aufgetreten sind ob das Rückschlüsse zulassen würde auch um an Beiersdorf mit anderen Sachen oder auch dieser .punkt völlig unerheblich wollte er ganz normalen .punkt beenden also ihren Mann definiert oder komplex denn dann bestimmt Qualitätskriterium hat um also der Wagen bringt dem man nicht mehr Menschen um als gebürtiger Carson weniger an sind die Ergebnisse die unter sind .punkt überlegen wie er um die man dann besten kann und sich in irgendeiner Art und Weise relevant für den Ausgang kann man darum welche Schlüsse daraus ziehen und das auch noch obendrein .punkt wie jeder andere auch der sich für das problematisch diesen Punkt zu finden wir bei meiner auf den ganzen Kontext sehen muss bei den Autounfällen warum sie passieren also welche Gründe sie haben das Ganze zu dort fizieren das ein .punkt zu pressen und dann als Solutions Metrik für was anderes hochkomplexes zu nehmen als für sehr problematisch glaube das wirklich das man kann die politische Antwort wichtiger ja ihre Zukunft beim konkreten Beispiel selbst sein aber es muss natürlich auch sagen dass diese nicht selbstfahrender Autos nie geben keinen Rechtsrahmen also dieses Recht kann natürlich nie geliebt werden als über jeder natürlich niemand sterben lassen oder nicht viele Autos brechen ist bisschen teuer das ist Presse nein es dann eigentlich immer nur der Simulationen ergibt und das ist genau das Problem das wir heute zumindest so weit ich weiss bisher weniger die Szenarien haben in in dem wir sagen können wenn es in der Simulation gibt haben was für im anderen übernehme den der in die echte Welt und aufgrund also die aber nur benennen zu können werden sehr schnell helfen eventuelle Fehler sein eigenes nur vorauszusagen aber selbst das benennen diese anderen das Fenster selbst schon schwer also ist es noch ein weiter Weg ok ja auch vielen vielen Vortrag die ganze Diskussion über die weiße die er privat besagte letztlich dass es darum geht die Wahrheit zu finden der Wahrheit und letztlich die Stichprobe der Wahrheit irgendwie den Computer zum Lernen zu geben und das ist wirklich der billigste Parallelität bei der in der Wissenschaft damit es ja auch also wie sich meine Stichprobe aus die eine Stichprobe oder ist dann das ab die diese weil ich mal gedanklich gezogen oder oder ist das wieder also sind der Wissenschaftler und wir müssen natürlich auch der mal für uns wissen auf was wir herausgefunden hat mehr Menschen arbeiten wenn der gestern auch ein Vortrag seines ist können der irgendwie 1 also das ist immer sehr schwierig die richtige Cent bezahlt zu haben und ihr verzeihst zu berücksichtigen um zu wissen dass man was weiß dass der das Thema schon fragen warum aber gibt es denn wie schon einig für neuronale Netze ähnliche Richtwerte dass man nie weiß wann für immer in der Psychologie aber das irgendwie die Farbe bezahlt muss mindestens 5 Tausend glaubt daran teilhaben und gibt Richtwerte geht sowas schon für normale letzte irgendwie in einer Ebene in Abhängigkeit der der er oder Parameter ich musste also nur die je gegeben ?fragezeichen sind die nur frühestens Themen sehr einfache neuronale Netze die erst den Anfang der Neunziger wollte mich hin oder der offenen Netzwerks für solche Sachen kann man sagen wenn die saturieren wie viel an Daten man der eingehen ist die saturieren für aber dieser hoch nicht länger und ist immer die wir verwenden kann man das nicht sagen dass es auch einen nur als sind wirklich da es gibt es viel Forschung zu dem Thema aber nächstes Mal jetzt das besonders handfest werden also oder mangels echten Leben verwenden könnte weil wir sowieso außerdem schon so und so viel Testdaten Samples brauchst du für ein neuronales Netz Mindestlohn so strukturiert ist wie das könnte vielleicht in Form von der Resignation oder Validierung Prä-Validierung bringen irgendwie ja das das macht man ja man hat dann großen Datensatz dem Trend Datensatz Datensatz und Validierungsplan Satz mit dem man dann noch mal gucken was ich gelernt und haben wir nicht einfach nur die Eigenheiten des Datensatzes auswendig gelernt habe wirklich generalisierte also auf der auf dem Niveau .punkt passiert das schon dem höheren Niveau das stünde hervorragende Doktorarbeit über Mikrophon erzeugen vielen Dank für den Vortrag meine Frage ist diese Bar ist ist die sind jetzt nicht neu die kann man ja seit Dekaden der Statistik was hat sich denn mit der Gesichte Intelligenz die blonden geändert und daran anschließend kennt ihr in welche Studien dass solche Filterblasen wirklich in welche tatsächlichen messbaren Auswirkungen haben weil man dort unglaublich viel in den Medien aber mir ist keine bekannt die sagt dass das wert was ich weiß verschlimmert wird was nicht vorstellbar war ist noch nicht so habe ich jetzt auch schon in einer der für die 1. Frage war was sich geändert hat weil diese als haben sie sich wohl genau wie diese natürlich nicht neu die ganzen Vorteile sind auch nicht mag ich glaube es wird halt einfach sehr sehr viel Maschinen gerade benutzt auch aus sehr guten Gründen also zum Beispiel es gibt hervorragende heißen wenn wir gegen das gute Freunde Abi wird wegen dieses super einfach machen die Unis lernen dass fast überall der das 1 ist der große alte Mann und das wird einfach noch mal drängen aber Leute diese Sache jetzt auf ein Thema reinschmeißen die benutzen um mehr Geld zu verdienen sich aber dann diesen Punkt dieser Probleme gar nicht bewusst sind und zur 2. Frage ich bin mir ziemlich sicher dass es viel zu Echokammern gibt ich weiß nicht was du befreien soll man das wirklich auch wissenschaftlich zu testen kann also wieder Halbwaise der Versuchsaufbau außer an aber es gibt auch gerade der Soziologie viel zu Echokammern Mann verklagt kein Auto dazu also die konkret um der Film vorbei ist jedoch noch Fragen sind aber dass die Zeit und sollte noch dar Pilot oder ansprechen ok dort vielen vielen Dank er tief Msp ob ich ich kann
ich Krieg ich Papst P Katar da es Kapr
Humanoider Roboter
Künstliche Intelligenz
Neue Medien
Chiffrierung
Open Source
Dijkstra-Algorithmus
Komponente <Software>
Algorithmus
Künstliche Intelligenz
EASY <Programm>
Fahne <Mathematik>
Kerndarstellung
Algorithmische Lerntheorie
Systems <München>
Mensch-Maschine-Kommunikation
Parametersystem
Befehl <Informatik>
Programmierung
Informationstheorie
Programmierung
Informationsmanagement
Weg <Topologie>
Prognose
Algorithmus
Perspektive
Parametersystem
Wort <Informatik>
Kerndarstellung
Algorithmische Lerntheorie
Informatik
Funktion <Mathematik>
Informationsmanagement
Mensch-Maschine-Kommunikation
Algorithmische Programmierung
Facebook
Punkt
Fläche
EDV-Beratung
Zahl
Linie
Entscheidungstheorie
Informationsmodellierung
Datensatz
Symmetrie
Spur <Informatik>
Information
ART-Netz
Textur
CLOU <Programm>
Facebook
Dienst <Informatik>
Punkt
Menge
Information
Auswahlaxiom
Teilmenge
Datensatz
Verzerrung
Statistik
Algorithmus
Prognose
Airline <Programm>
Mathematische Modellierung
Abbildung <Physik>
Programmiererin
Information
Stichprobe
Verzerrung
Dienst <Informatik>
Algorithmus
GRADE
Matroid
Systems <München>
Verzerrung
Geschlecht <Mathematik>
Berechnung
Systems <München>
Algorithmus
Facebook
Faktorisierung
Content <Internet>
Kombinatorische Gruppentheorie
Systemplattform
Verzerrung
Algorithmus
Prognose
Eigenwert
Perspektive
Rundung
PAP
Algorithmische Lerntheorie
Systems <München>
Mensch-Maschine-Kommunikation
Algorithmus
Prognose
BAYES
Algorithmische Lerntheorie
Algorithmus
Welle
Quelle <Physik>
Internet
Prognose
Pixel
Algorithmus
Adobe Photoshop
Reihe
Stellenring
Statistische Analyse
Übersetzer <Informatik>
Punkt
Typ <Informatik>
Google
Stichprobe
Aussage <Mathematik>
Kontextbezogenes System
Frequenz
Systemplattform
Entscheidungstheorie
Informationsmodellierung
Algorithmus
Verzerrung
Würfel
Theorem
Algorithmische Lerntheorie
Ecke
Mechanismus-Design-Theorie
Expertensystem
Datensatz
Facebook
Verzerrung
Algorithmus
Prognose
Google
Chipkarte
Verzerrung
Algorithmus
Verweildauer
Microsoft
Google
Simulation
Systems <München>
Roboter
Interpolation
Extrapolation
Aussage <Mathematik>
Algorithmus
Volumen
Kryptoanalyse
Korrelation
Punkt
Algorithmus
Mathematiker
Version <Informatik>
Algorithmische Lerntheorie
Kryptoanalyse
Systems <München>
Mathematische Größe
BALL <Programm>
Proxy Server
Objektklasse
Google
Blackbox
Datensicherung
Netzadresse
Richtung
Bildschirmmaske
Datensatz
Informationsmodellierung
Algorithmus
Prognose
Perspektive
Kostenfunktion
Visualisierung
Algorithmische Lerntheorie
Informatik
Funktion <Mathematik>
Internet
Netzwerk <Graphentheorie>
Kategorie <Mathematik>
Binder <Informatik>
Entscheidungstheorie
Verzerrung
Twitter <Softwareplattform>
Rundung
Dateiformat
Wort <Informatik>
Systems <München>
Fehlermeldung
Ebene
Parametersystem
Logischer Schluss
Statistik
Große Vereinheitlichung
Punkt
Testdaten
Netzwerk <Graphentheorie>
Finite-Elemente-Methode
Ähnlichkeitsgeometrie
Validierung
Hypermedia
PILOT <Programmiersprache>
Datensatz
Eigenwert
Simulation
Wort <Informatik>
Stichprobe
Neuronales Netz

Metadaten

Formale Metadaten

Titel Beeinflussung durch Künstliche Intelligenz
Untertitel Über die Banalität der Beeinflussung und das Leben mit Algorithmen
Serientitel 34th Chaos Communication Congress
Autor Heuer, Hendrik
Ullrich, Karen (KRN)
Lizenz CC-Namensnennung 4.0 International:
Sie dürfen das Werk bzw. den Inhalt zu jedem legalen Zweck nutzen, verändern und in unveränderter oder veränderter Form vervielfältigen, verbreiten und öffentlich zugänglich machen, sofern Sie den Namen des Autors/Rechteinhabers in der von ihm festgelegten Weise nennen.
DOI 10.5446/34948
Herausgeber Chaos Computer Club e.V.
Erscheinungsjahr 2017
Sprache Deutsch

Inhaltliche Metadaten

Fachgebiet Informatik
Abstract Eine wissenschaftliche Perspektive auf die achtlose Anwendung der Algorithmen des maschinellen Lernens und der künstlichen Intelligenz, z.B. in personalisierten Nachrichtenempfehlungssystemen oder Risikosoftware im US-Justizsystem.
Schlagwörter Science

Zugehöriges Material

Folgende Ressource ist Begleitmaterial zum Video
Video wird in der folgenden Ressource zitiert

Ähnliche Filme

Loading...
Feedback