Bestand wählen
Merken

Algorithmen: Zu Risiken und Nebenwirkungen – fragen Sie Ihren Informatiker

Zitierlink des Filmsegments
Embed Code

Automatisierte Medienanalyse

Beta
Erkannte Entitäten
Sprachtranskript
die hallo einen wunderschönen guten
Abend schön dass ihr wahrscheinlich trotz einer sehr intensiven Republika Tages hierher gefunden hat ich bin mir da
nicht ein ich bin Journalistin und Psychologen und wir alle wissen wenn es um Personalentscheidungen geht dann sind die Menschen nicht so ganz vorurteilsfrei wir bevorzugen Menschen die attraktiv sind Bewerber war die einen Migrationshintergrund haben haben es oft etwas schwerer und auch das Geschlecht spielt bewusst oder unbewusst eine Rolle wie schön wäre es dann also wenn man künstliche Intelligenz nutzen könnte um ganz objektiv rein nach Leistungen entweder auszuwählen oder zu befördern nun gibt es allerdings den Verdacht dass auch Algorithmen diskriminieren kann und genau darum sollst heute gehen welche Chancen und welche Probleme gibt es mit Algorithmen basierten Personalentscheidungen und wir werden jetzt gleich einen kurzen Impulsvortrag hören von Simone Hegelich danach erweitern wir unser Hände und anschließend freue ich mich von möglichst auf möglichst viele Fragen von Euch starten also mit Siegen Simon Hegelich er ist Professor an der Hochschule für Politik in München für den Studiengang Politikern da das einst der Vorwahl Geschäftsführer des interdisziplinären Forschungskolleg der Uni Siegen und in Kooperation mit der Hans-Böckler-Stiftung untersucht er jetzt automatisiert das Management und wir gehen jetzt gleich in einer Simulation erfahren wie gut dann Programme herausfinden können ob Mitarbeiter eines Unternehmens das Unternehmen verlassen möchten viel Spaß dabei sicher so anfängt
ja hallo ich der Gattung vorstellbaren sie manierlich ich bin zum ersten Mal hier auf der Republika freue mich ganz lustig ich glaube
ich bin das passt ganz gut also interessanterweise der der wahrscheinlich einzige Professoren Deutschland der seine Professur nach seinem Block konnte also Politiker Däters wenn ihr euch weiter informieren wollte das stelle ich auch die kleine Simulation ich jetzt vorbereitet habe zur Verfügung es gebe um Daten die IBM Watson als Lehrbeispiel ins Netz gestellt hat IBM Watson versucht im Bereich Jurist Forstmanagement mit China den 1. Service Fuß zu fassen und das an Großunternehmen zu vermarkten dabei und setzt man als erstes ein kleines Video anschauen wo man fairerweise sagen muss dass habe ich ein bisschen gekürzt aber auf dem Block ist auch das ungekürzte Video verlängt verlinkt und wenn einfach mal rein wie das geht mit Watson
die das Auto aus 6 das man Rolle der sich traten in Encarta eine die ich am 1. Mai Chaplins sofort meint ist die die kamen mit starken Steven Pröse mal Campen die durch ab ist sie und in Morzine als er was das verschiedene sehen Menschen aber immerhin vor es
emporgehoben führen was der oder des Papstes das Hinweises meinte er in
Schuss mehr Aurichs vor bis man aus der erwies sich mit Film immer über meinte es vorher in die geht sagten die kaufen meinte so wir diesen haben was ja und
es wird vor der verstrahlter auch Apple ist setzt ein der Welt schauen wo er nie einen Menschen Gesellschaft im Moment mit ist wenn es auch ein sehr aus Oregon schon habe aber bezieht diese Information heißt sie ist einem vor diesen aus ohne aber so gut sein die Schmidt am Oswald Polidori wie sie jenseits der mäßigen war es die beruhe aber dafür aber ist der Art von wurde Argumente wie entscheiden mit welchen sehr aus halten aber er ist und was man nur Dexters ist gerade sei dies jenseits in einem über Weibo ist so sowie entdeckt nach Burg ist er ist und
Namen und mehr ja so sieht es also aus
wenn man einer motzen benutzt um in Zeitz aus
Daten zu gewinnen aber es aber nur einmal kurz anklicken zieht es an die richtige
Stelle und Watson mache eigentlich den ganzen Rest was wir gesehen haben war ein Algorithmus eigentlich genau muss man sagen einer Klasse von Algorithmen sogenannte Entscheidungsbäume oder ist es schon schwer ist und was die machen ist eigentlich ganz einfach die versuchen den den Features bei ist also das was wenn Daten haben immer binär zu unterteilen das heißt Algorithmus sucht an jeder Stelle immer 1 1 Bild wo er sagen kann wenn ich die Daten hier Unterteile dann sind auf der einen Seite in unserem Fall jetzt möglichst viele Leute die das Unternehmen verlassen haben wird wischen und auf der andern Seite möglichst viele Leute die geblieben sind diese
Algorithmus es funktioniert top-down und gilt als gierig Kühli warum gilt er als schwierig
weil der immer automatisch an jeder Stelle den bestens Blitz sucht also nicht schaut was würde passieren wenn man sich später nochmal denen dergleichen variable widmet dieses Piric seinen hat ziemliche folgen wenn man sich jetzt andere die Frage stellt wie wie plausibel ist das was IBM in diesem Video gerade behauptet hat nämlich dass auch urteilen die wichtigste Kategorie von allen ist sie wieder zur Verfügung
haben habe diesen Entscheidungsbaum versucht nachzubauen das ist jedes Ergebnis dass diese etwa ähnlich aus wie das was IBM motzen uns auch gezeigt hat und das interessante ist jetzt aber wenn wir anfangen das sind die gleichen Daten auch also bis in Trainingsdaten Datensatz in einem zur Verfügung stellt wenn jetzt anfangen zu simulieren was passiert wenn wir weniger Daten haben also zum Beispiel einfach immer nur ein Teil der Daten zur Verfügung haben und den gleichen Algorithmus darauf anwenden und was wir dann sehen ist das gerade mal auf Ober- Time achtet also das die Position von dieser Variable in diesem Algorithmus sich beständig verändert das heißt also dieses Ergebnisses ist gar nicht besonders robust im Gegenteil ist es ziemlich zufällig man hätte das vermeiden können wenn man einen Algorithmus genommen hätte wenn man genau dieses durch Sendling dass ich keine Simulation gemacht hätte genommen hätte und über alle diese unterschiedlichen sendet sowas wie den Mittelwert der Bedeutung genommen hätte dann wäre aber was ganz anderes herausgekommen dass sie gebe es denn hier das Ergebnis wäre dann das gar nicht Aubert Hein die wirklich wichtigste Variable ist eine die mit Abstand wichtigste war er denn den ganzen Daten ist das monatliche Einkommen das heißt also wenn man will dass die Leute länger in ihrem Unternehmen bleiben dann sollte man ihn vielleicht einfach
mehr Geld zahlen was können wir dann Anfang der Punkt ist es ist nicht nur so dass dieser
Algorithmus sie sehr schnell verändert wenn man weniger Daten sondern man kann das habe ich hier gemacht einfach dadurch dass man einzelne Datenpunkte verändert schon sehr sehr starke Unterschiede den Algorithmen in in den Ergebnissen hervorrufen also hier immer von einem Bild zum nächsten immer nur ein Daten unverändert und auch da sieht man dass das schon ziemlich viel passiert das heißt aber umgekehrt dass die Leute die diese Algorithmen programmieren und auch die die die Daten pflegen eigentlich die sind die auch ja früher hätte man gesagt dieses neue Kapital Code es Kapitel oder besser es Capital reproduzieren und der das reproduziert hat da natürlich auch letzten Endes die Macht darüber was dann passiert man muss natürlich aber allerdings und wie diese Dinge funktionieren und hat mit dem Wissen nicht nur gute Argumente anhand seiner eben eventuell sogar auch die Möglichkeit einzugreifen in diese algorithmische Entscheidungen das ist das was kurz vorstellen wollte vielen Dank Hmm man müsse wie waren jetzt unsere
Runde er weit fahren um Katharina Simbeck sie ist Professorin für Wirtschaftsinformatik an der Hochschule für Technik und Wirtschaft in Berlin hallo und sie leitet das Projekt BT das sich mit der Diskriminierung durch künstliche
Intelligenz befasst außerdem dabei ist heute Matthias Spielkram er ist Gründer von einer gewissen Wort einer gemeinnützigen Organisation die untersucht wie Algorithmen basiert Entscheidungsfindung sich auf die Gesellschaft auswirken er ist Gründungsmitglied des Online Magazins überreizt und Vorstandsmitglied bei Reporter ohne Grenzen schön dass Sie alle da Salz und vielen vielen Dank für die 1. Einführung Mikro habe die alle meine du brauchst sonst noch alles klar also wir haben es schon gesehen dass diese Algorithmen in nicht besonders robust sind wenn wenn Daten fehlen könnte man sie denn theoretisch optimieren rein rechnerisch in ja man kann es auf jeden Fall also ich bin wirklich auch nicht der gegen solche Sachen
anzuwenden der der period es halt immer nur das Ziel die Klasse von Algorithmen eigener Schwachstellen hat und wir haben eben mit den Distichen schließt gerade eine Klasse von Algorithmen gesehen der da ist eine Schwachstelle dass die nicht besonders robust sind wir Stärke ist dass dieser sehr gut nicht im Jahre Effekte wie zum Beispiel den Daten finden können darum ging es hier jetzt aber gar nicht also in jedem Fall der Watson einfach viel viel besser damit beraten und mir bestimmt mal Regression laufen zu lassen hätte man dann noch einfacher interpretieren können obwohl ich nur sagen wenn die Schwächen kennt dann kann man das halt vielleicht ausnutzen aber jeder Algorithmus hat eben solche Schwächen sind immer ganz auf an welchen man verwendet haben Frau Simic Sie befassen sich vereinigen mit der Diskriminierung enden unter ethischen Gesichtspunkten wie gut es ist werden oder wie schlecht es ist für einen Mitarbeiter wenn jetzt der Arbeitgeber ausrechnet ok die und die Person wird es wahrscheinlich bald das Unternehmen
verlassen richtig das ist genau der Punkt man kann es zum einen ab ausrechnen wann kann
als ein Prognosemodell auf hoffentlich korrekte Art und Weise erstellen aber dann muss man irgendetwas mit den Ergebnissen machen ja und er diese Daten die geben vielleicht in Prognosegenauigkeit von 90 Prozent der als Mannschaft es vielleicht mit guten Methoden 90 Prozent der Mitarbeiter richtig zu klassifizieren das heißt in einem Datensatz von Tausend Mitarbeitern habe ich dann immer noch ungefähr 20 Personen als voraussichtliche Kündiger klassifiziert die aber wahrscheinlich gar nicht kündigen werden und 100 Personen als voraussichtlichen nicht Kündiger die aber Vorhaben zu kündigen und was mache ich jetzt mit diesen Informationen ja wenn jemand als voraussichtlicher Kündiger identifiziert ist gebe ich dann dieser Person vielleicht in niedrigeren Bonus weil in einem mehr als die Person ja gar nicht mehr dar oder gebe ich ihren interessanteres Projekt damit sie doch er bleibt also irgendwas will ich ja mit diesen Daten jetzt machen und da fängt es an aus
meiner Sicht kritisch zu werden wenn ich jetzt meine Mitarbeiter auf Basis von solchen Modellen unterschiedlich behandelt insbesondere dann wenn ich den Mitarbeiterinnen und Mitarbeitern nicht die Gelegenheit geben sich zu dem Modell zu äußern also stellen Sie sich vor ich werde jetzt als potenzielle kündige renne identifiziert und kriege deshalb ein interessanteres Projekt aber keinen Bonus abfahre aber nie woran es eigentlich liegt dass sich kein Bonus aber ein interessanteres Projekt bekommen und der Algorithmus der hat mich vielleicht als potenzielle kündige 1 identifiziert weil ich so einen langen Arbeitsweg habe und genau deshalb habe ich ja eigentlich auch schon mein Umzug geplant also wenn ich gar nicht die Möglichkeit habe mich dazu zu äußern dann ist es aus meiner Sicht ethisch nicht wichtig solche Algorithmen anzuwenden und solche Auswertungen durchzuführen kam woher beziehen denn die Unternehmen überhaupt diese Daten das können völlig unterschiedliche Quellen sein ist es ganz interessant dass wir gerade bei diesem Thema Personalmanagement jetzt
so eine große Aufmerksamkeit da ist das kommt ja auch dadurch dass zum Beispiel so ein Forschungsprogramm aufgelegt wird aber viele Praktiker erzählen einem dann wenn man mit den spricht na ja also in der in den
Unternehmen liegen die Daten halt gar nicht vor häufig nur der Damen das soll jetzt nicht bedeuten wir müssen uns da keine Sorgen machen sondern nach unseren Recherchen jedenfalls ist es so dass viele Unternehmen bisher schon Schwierigkeiten haben überhaupt nur ihre Personalakte digital vernünftig zu führen geschweige denn diese ganzen Daten vorzuhalten die im System wie eine Emotion oder andere solche jungen Resources Management-Tools Tools brauchen um solche Prognosen zu erstellen ja also die Prognosen sind kann man glaube ich so allgemein sagen potenziell besser über er je mehr Daten über je mehr Daten sie verfügen können ja natürlich kommt es dann drauf an was sind das für Daten sind diese Daten sauber wie das dann heißen also sind die gut erhoben und belastbar und so weiter oder muss man schon sagen wenn man jetzt einfach nur von den Leuten weiß wann sie ins Unternehmen eingetreten sind wie alt sie sind und also das was man eben normalerweise auch weiß über seine Mitarbeiter dann kann man damit nicht viel machen und diese Daten aber zusammen die man zusätzlich braucht das ist gar nicht so einfach in kleine Unternehmen scheitern häufig daran dass sie nicht die Möglichkeiten haben solche Software kostet Geld die Prozesse zu implementieren kostet Geld bei größeren Unternehmen ist es so dass sie unter Umständen schon zum dritten Mal auf wegen andere Software umgestiegen sind und jetzt da irgendwelche riesigen Datenmengen rumliegen habe mit denen sie nichts anfangen können wie gesagt es geht nicht darum zu sagen alles kein Problem aber die Art und Weise wie Unternehmen diese Daten sammeln sind halt verschieben was viel mit versucht wird ist zum Beispiel über Umfrage Tools das zu machen oder werden also wöchentlich oder monatlich Mitarbeiter befragt zu bestimmten Dingen Arbeitszufriedenheit und wie das Team funktioniert und so weiter das heißt es ist viel dieses diese diese Selbstbeurteilung die da auch mit einfließt wenn ich selbst wurde im Sinne von sich selbst gut dann sondern die Mitarbeiter beurteilen selber eine Situation erzeugen dadurch dann auch diese Daten gibt aber auch noch viele andere Möglichkeiten einer die Beurteilungen der wohl hat das
später noch alles mit rein das vielleicht ausgewertet werden kann also im Unterschied zu den Daten die wir im
Internet über uns preisgeben ist es ja bei Unternehmen so dass wir unseren Unternehmen und seinem Arbeitgeber sehr viele Daten preisgeben müssen ja nicht unbedingt Sir Chidi Peat für alle möglichen Zwecke verwenden darf aber im Unterschied zu Facebook weiß unser Arbeitgeber definitif wo wir wohnen wo wir krankenversichert sind wie viele Kinder wir haben ob wir verheiratet sind bei welcher Bank für unser Konto haben er wie weit unser Arbeitsort von der Arbeitsstelle entfernt ist natürlich die viel viel verdienen was unser Lebenslauf ist welche Weiterbildung die gemacht haben die für ihn jetzt wir am Tag versenden und Ansehen wie lange die im Durchschnitt sind welche Texte da drin stehen allen welche Ticket für vielleicht bearbeitet haben wie viele Lainz auf Code wie im Code Review durchgelaufen sind also je nach Art der Position und je nach Digitalisierungsgrad des Prozesses in dem wir arbeiten in meinem Fall vielleicht ja dieser Evaluation die Anzahl der Studierenden in meinen Kursen die ich in Noten Dichter im Durchschnitt vergeben und so weiter also je nach Art des Prozesses sind Arbeitgeber und sehr viele Daten über ihre Mitarbeiter bekannt die das ist richtig noch nicht alle an einem Ort in einer bequem auswertbaren Datenbank vorliegen das ist ja allgemein bei Delta Analytics Projekten das größte Problem dass man die Daten erst mal zusammen kriegen muss aber Arbeitgeber haben an sich sehr viele Daten über Mitarbeiterinnen und Mitarbeiter haben zunehmend wenn die auch es war in Datenquellen vorliegen dir auswertbar sind und inwiefern ist der
Arbeitgeber berechtigt diese dann auch entsprechend auszuwerten ja das ist natürlich eine
juristische Frage der bin ich kein Experte aber er nun nach einem neuen nach dem neuen Gesetz ist das nach meinem Verständnis nicht möglich diese individualisierten Daten Vollautomaten ist er auszuwerten aber ich erwarte eigentlich dass der Arbeitgeber in Zukunft von ihren Mitarbeitern gleich bei der Einstellung man damit diese ganzen Formulare ausfüllt wird man gleich mit ausfüllen müssen dass man übrigens zustimmt dass alle Daten 1. gespeichert und zweitens für alle möglichen auch noch nicht absehbaren Zwecke analysiert werden dürfen für aber vielleicht als gute Ergänzung dazu ja man kann
das dann häufig auch wieder nur im Einzelfall beurteilen das kommt dann auf die Größe des Unternehmens an noch Betriebsrat gibt und so weiter weil es dann schon auch
sehr unterschiedliche gesetzliche Grundlagen gibt also etwa wenn im Betriebsrat da ist dann hat auch Mitbestimmungsrecht darüber welche solche Werkzeuge eingeführt werden aber natürlich auch nur bis zu einem bestimmten Grad die müssen verhandelt werden dann kommt es auf die Verhandlungsmacht des Betriebsrats an dann kommt es auch darauf an zum Beispiel wie sehr der sich mit mit solchen Systemen überhaupt auskennt der es dann häufig auch wieder was Thema macht mit macht also mitreden zu tun die einfach dadurch entstehen dass die Leute nicht gut Bescheid wissen sind etwa der Betriebsrat oder die Arbeitnehmervertretung im Allgemeinen hat so viele Aufgaben dass das jetzt auch noch dann oben drauf kommt und die Leute auch noch zum Beispiel mehr analytische Fähigkeiten haben sollten oder in der Lage sein sollten solche Systeme zu beurteilen ist es natürlich unglaublich schwierig ich möcht aber trotzdem noch mal einen Schritt zurück gehen und sagen es ist jetzt auch nicht erst mal prinzipiell im Interesse eines Unternehmens schlechte Prognosen zu erstellen ja mit Hilfe eines solchen Systems ganz im Gegenteil wir L L die die Frage ist was bedeutet denn schlecht ja also wenn wir sagen das hat nur Genauigkeit werden müssen wir selbstverständlich auch die Frage stellen die Katharina schon gestellt hat was macht man denn damit und das ist ja vielmehr eine ethische Frage als eine Frage von der Technologie also ich muss am Ende dann sagen ich habe jetzt hier vielleicht ein System das mir potenziellen höhere Genauigkeit gibt als etwa der menschliche Prognose auf Grundlage dieser menschlichen Prognosen sind aber früher auch schon Leute gefeuert worden sie haben Boni bekommen sind in bestimmte Weiterbildung geschickt worden und so weiter wir haben glaube ich wieder ein Fall dafür an dem man durchaus auch zeigen kann Prozesse die schon lange stattgefunden haben wir noch mal neu auf den Prüfstand gestellt weil solche Systeme eingeführt werden was ich sehr positiv finde ich also nicht in dem Sinne von ach ist es toll dass es jetzt diese Systeme gibt so ist es toll dass wir sitzen und uns darüber unterhalten was sollte denn auf der Grundlage von solchen Prognosen eigentlich gemacht werden und was unter Umständen nicht gemacht werden angenommen er
Arbeitnehmer stellen jetzt fest die hier angebotenen sind ungenau es sind diskriminierend kann man denn tatsächlich Algorithmen der
erreichten vorliegen das hat noch niemand versucht so aber ich glaube das wäre ganz
interessante eine ganz interessante Idee weil wir haben ja gerade wenn es um wenn
die in die Arbeitnehmervertretungen in der in Konzernen geht sowieso auch ganz andere Probleme noch dabei ist es anders organisiert einfach und Zettel am schwarzen Brett aufgehangen übermorgen es Betriebsversammlung und da man die Leute da das geht halt alles gar nicht mehr also insofern wenn man möchte dass es eine eine Arbeitnehmervertretung gibt die auch eine eine gewisse Macht entfalten kann dann muss auch der überlegt werden wie man es umstrukturieren kann wie man auch neue Techniken nutzen kann und immer zum Beispiel genau dass er das ist dann halt wichtig ist dass die Leute die da am Verhandlungstisch sitzen überhaupt erst mal über sich also Bescheid wissen und nicht in diese Situation kommen dass das junge ist was man nicht man Diener was sagt man ne das ist objektiv das hat den Algorithmus gemacht nicht das objektiv in diesen Algorithmen das heißt nicht dass die schlecht sind sein man muss eine genau wissen nicht genau aber zumindest so so ungefähr wie die funktionieren dann man damit man überhaupt erst mal mitreden kann und dann könnte man sich aber sogar auch tatsächlich Szenarien vorstellen wo man ja wenn die Algorithmen für sich sind nicht mehr die funktionieren und so und so lange wie es auch Daten gibt die ihnen zur Verfügung gestellt werden wenn ich jetzt weiß dass ich mit 5 Einträgen in der Datenbank das ganze System lahm legen kann dann ist das vielleicht auch nur Perspektive für zukünftige Arbeitskämpfe Kurse Mbeki inwiefern sind denn die
Algorithmen nicht objektiv inwiefern können Sie auch diskriminierend ja Algorithmen können aus mehreren Gründen
diskriminierend diskriminieren zum einen weil sie vielleicht so programmiert worden dass sie diskriminieren aber der Hauptgrund weshalb das durch den Einsatz von Algorithmen oder ein algorithmischen Entscheidungsprozessen zu Diskriminierung kommen kann es aus meiner Sicht weil die Daten die für diese Algorithmen verwendet werden und wir unsere Gesellschaft zu widerspiegeln wie sie sind also das heißt wenn ich in der Vergangenheit 1 wenn ich in meiner Firma eine Situation hat in der Frauen Anfang 30 wenn sie die 1. ein 2 Kinder bekommen haben kündigen dann würde auch meine Algorithmus nur zu diesem Ergebnis kommen dass Frauen Anfang Mitte 30 mit den 1. der nach den 1. ein 2 Kindern kündigen und dann werde ich vielleicht Anfang diese diesen Frauen wieder den Gewinn ihren Bonus die geringere Gehaltserhöhung und das extra Projekt zu geben was sicher dazu führen würde dass der Algorithmus Recht behält und sie auch kündigen werden das heißt die Daten mit denen die Algorithmen trainiert werden oder die Daten mit denen diese Modelle erstellt werden die er reflektieren unsere Gesellschaft und dafür gibt es ganz viele Beispiele also es ist heute so Gesichtserkennungssoftware beispielsweise besser bei hellhäutigen Menschen funktioniert weil sie halt nur mit Bildern von hellhäutigen Menschen trainiert wurde wenn man auf Google eingibt Frauen können nicht oder Männer können nicht Anwender lustige Ergebnisse vorgeschlagen die Google eben von den Nutzerinnen und Nutzern gelernt hat wenn sie dabei helfen im er Frauen können nicht Autofahren können nicht eintragen und so weiter solche Ergebnisse werden dann vorgeschlagen oder im Professoren sind faul oder so wenn man das sozusagen zur ja Text Google ja wir sind so beschweren und ich glaube auch wenn um Stellenanzeigen geht es da Probleme
oder bei Google also bei Google
selbst nicht aber es gibt in der Tat eine Studie in der er die im durch Google ja durch das Google Netzwerke verbreiteten Anzeigen untersucht worden uns da der Mann er habe in dem Versuch der der durchgeführt wurde wurden durch Computerprogramme viele Nachrichtenseiten besuchte nach dem Jobbörsen besucht wurden also er das Computerprogramm ist erst auf zum Beispiel Monster D E und dann auf joggt Heinz gegangen auf die Seite der joggt teilen so dass auf den ja keine Zeit in Stellenanzeigen ein gezeigt wurden bei ihm das Interesse an Stellen erkrankt wurde und wenn in dieses ja wenn dieser Computer mit einem fiktiven weiblichen Konto eingeloggt war dann Ende wurden schlechter bezahlte Stellen angezeigt als wenn der Computer mit einem er männlichen Profil eingeloggt war das ist eine amerikanische Studie die waren sie alle arbeiten in verschiedenen Projekten
in Kooperation mit der Hans-Böckler-Stiftung Hegelich was ist denn der aktuelle Stand und was haben Sie vor ja noch gar das war heute aktuelle Stand werden wir fangen gerade erst an der noch nichts also die wir hätten wie das wie das immer so ist nein er war sehr was Sie unbedingt noch machen wollen also ganze Zeit mit dieser IBM Watson Geschichte als erstes beschäftigt das ist auch glaube ich nicht es ist natürlich unfair weil
die machen natürlich auch Sachen die vielleicht ein bisschen besser sind andere die machen ganz ähnliche Sachen da muss man nur mal schauen wo ich mir sehr viel vom verspreche es so wollen uns anschauen wie denn dieser Bereich also in China einen Täter Analytics gerade im Millionen was und Management inzwischen an den Unis angekommen ist also wie werden hauptsächlich sind es ja dann BWL-Studenten unterrichtet an welchen Beispielen was sie da tolles machen können wir diesen Zauberkasten Maschinenlernen und das wird bestimmt ziemlich interessant und dann wollen wir noch Interviews führen auch noch und schauen was denn in den Betrieben tatsächlich passiert wenn mein Eindruck ist hat auch schon wie du es ja schon sagt dass wir Kinder da auch um noch über dem Zukunftsthema was in der Wirklichkeit noch nicht flächendeckend angekommen ist in Deutschland aber keiner ziemlich schnell gehen ich kam dann gibt es bei Ihnen Ergebnisse ja
das dauert eben bei uns auch lange das Projekt ist auf 2 Jahre angelegt ich glaube das ist bei uns allen so und wir haben erst Anfang des Jahres angefangen zu arbeiten das heißt da kann ich jetzt auch noch keine Zwischenergebnisse verkünden hier haben aber wir haben recht breit gefächertes oder wir haben das recht breitgefächert unser Forschungsfeld und wir werden zum Beispiel auch rechtliche Analysen dazu machen die im Hinweis darauf geben sollen welche Möglichkeiten gibt dem zum Beispiel das Betriebsverfassungsgesetz jetzt in Anbetracht auf solchen neuen Entwicklung oder der Datenschutz der der der versprechen wir uns einiges davon denn die Tatsache dass das eben noch nicht so weitverbreitet ist führt ja auch dazu dass es in der Praxis noch gar nicht so viele Fälle gibt die dann etwa schon vor Gericht verhandelt wurde und so weiter da ist man dann ja auf die Analyse von Akademikern angewiesen die sich das geltende Recht daneben anschauen und gucken was für Potenziale gibt es da was wir aber auf jeden Fall eben auch machen wollen ist wir wollen nach Möglichkeit bestehende Systeme analysieren das es eigentlich ähnlich wie das was sie und vorgeführt hat und da ist die entscheidende Herausforderung natürlich an was kommt man überhaupt darum viele Unternehmen stellen Datensätze zur Verfügung stellen auch Simulationen zur Verfügung aus denen man schon relativ viel entnehmen kann ja also etwa was ist überhaupt das System was dahinter steht ist das ein System in dem sage ich jetzt mal einfach so haben subjektive Bewertung objektiviert werden indem sie in Zahlen überführt werden ja also ich frage Leute wie finden Sie ihre Mitarbeiter in dem Team und dann vergeben die halt bestimmte Noten wenn ich sie jetzt einfach mal ja dann ist das einfach erst meine subjektive Bewertungen hinterher habe ich da Zahlen stehen und was dann eben häufig passieren kann ist dass diesen Zahlen dann wiederum diese vermeintlich Objektivität zugewiesen wird und da einfach auch zu gucken was bedeutet dass in dem in dem Arbeitsprozess ich möcht aber schon noch auch hier noch mal einen Kommentar geben zu dieser ganzen Diskussion darüber dass wie kann das diskriminieren und und Katharina ein Beispiel ich fand das sehr gut mit den Frauen wenn sie dann schwanger geworden sind Kinder bekommen haben und so weiter dann lernt der Algorithmus daraus aber wir müssen uns ja doch immer wieder klar sein dass am Ende der die Frage ist was machen wir denn damit und die Vorstellung im Moment das etwa 1 x 1 ein Algorithmus oder von mir aus auch ein automatisiertes Entscheidungssystem dann am Ende sagt diese Person wird jetzt gefeuert die ist ja in der Praxis nicht und die wird auch erst mal ganz lange noch nicht so sein es gibt schon Systeme die etwa Bewerber automatisiert rausfiltern das heißt diejenigen die rausfliegen die werden schon so eine Art automatischen Entscheidung unterworfen diejenigen die eingestellt werden die Menschen schon immer noch angeguckt ja da haben wir das aber bei solchen Entscheidungen etwa nicht wer in dem Unternehmen gefeuert wird und da muss man sich ja die Frage stellen welches Interesse steht denn dahinter hat das Unternehmen das Interesse einfach diese das Ergebnis dieser Analyse zu befolgen und diese Frauen rauszuwerfen Ja oder hat das Unternehmen nicht viel mehr ein Interesse rauszufinden wie wertvoll sind in diese Mitarbeiterinnen für uns und wir sollten wenn ich eher versuchen unsere Prozesse so zu ändern dass die nicht alle gehen und er damit behauptet jetzt nicht das die Unternehmen das tun damit sage ich nur dass es eine Entscheidung des LG gefällt einer ganz anderen Stelle ja also das ist immer noch mehr Management Entscheidung die auf Grundlage von solchen Daten halt komplett auch wieder verzehrt ausfallen kann nur da würde ich aber dann vorsichtig sein die Schuld der Maschine 0 maschinellen System zuzuweisen finden kann ich es kurz
im Kommentar noch dazu sein im den ist es sehr richtig aber wir müssen uns auch klarmachen in dem Moment wo
solche automatischen Entscheidungssysteme eingeführt werden verändert das auch die Entscheidung die Menschen dann nachher mit Hilfe dieser Systeme treffen weil ich er muss ja ich ja wenden viel höhere Hemmschwelle daher bin ich wenn ich einen Algorithmus haben System der mir schon gesagt hat dass und das sind endlich die Ergebnisse zu widersprechen oder im schlimmsten Fall ist einer der Mensch bleibt am Ende in der Schlange stehen aber ist nur noch der der Haftungs- Knecht der halt die die ganze Verantwortung übernehmen muss aber selber eigentlich einig mit Informationen dieser Scheidung noch nachzuvollziehender der schon das sich da viel verändert ja okay also nur kurz ich bestreite dass nicht ja sagen nur gerade in solchen Zusammenhängen wie hier
sollte man sich natürlich immer klar sein man ist dem nicht hilflos ausgeliefert ja das sagt er auch mich nicht da sie euch das unterstelle im Gegenteil nur ich finde es ist wichtig dass auch immer wieder zu betonen wir haben dieses Thema wir müssen sie gestalten einerseits und wir müssen auch darauf hinarbeiten dass mit den mit dass die Ergebnisse aber dann eben so interpretiert werden da in das nicht einfach das Ganze als gegeben hingenommen wird aber ich behaupte im weiterhin das ist auch erstmal nicht per sehe im Interesse des Arbeitgeber es etwa an der dazu
ergänzen vielleicht noch letztes Jahr ist eine Studie in der Zeitschrift Personal
Quote die erschien in der deutsche Personaler zum Einsatz von Edge Analytics befragt wurden und einer der Hauptvorteile die angegeben worden sind für den Einsatz von Edge Analytics war Rechtfertigung von Entscheidungen sie
selbst haben ja auch schon Interviews tatsächlich geführt mit Unternehmen er was konnten den bisher daraus ziehen genau ich kann ja vielleicht auch noch mal kurz L 2 Sätze gerne der zu unserem
Projekt sagen also auch ich vertrete ein von der Hans-Böckler-Stiftung gefördert das Projekt nämlich das Projekt mit dem der Titel diskriminiert durch künstliche Intelligenz und wir wollen in das Diskriminierungspotenzial von Etch Analytics untersuchen und er unser Ziel dabei ist es insbesondere auch in den Ja Akteuren der betrieblichen Mitbestimmung also Betriebsräten Handwerkszeug zu geben wie sie sich verhalten sollen wenn ihre Arbeitgeber eben solche analytischen N Entscheidungsprozesse implementieren wollen und im Moment unterhalten wir uns dazu mit verschiedenen Firmen mit Anbietern von Software und auch mit Betriebsräten natürlich und einen ja und einige interessante Punkte haben wir natürlich auch schon herausgefunden also ein Thema das betrifft das was Sie machen ganz am Anfang gezeigt hat ist er das ist er sehr stark auf Fähigkeiten die man neudeutsch als detailliert riss sie bezeichnet ankommen würde also sowohl meiner Meinung nach bei den Personalern als auch bei allen andern er Empfängern oder Steak Kohl den er von diesen Information also man muss einfach wissen die Statistik funktioniert wie ungefähr diese Algorithmen funktionieren und dazu muss man keinen Informatik oder keine Informatikerin sein und zum anderen ist aus meiner Sicht wichtig zu verstehen dass dieses Geld haben aus wissenschaftlicher Sicht nicht er zum Erkenntnisgewinn sondern zur Hypothesenbildung taugt also man kann diese Daten die wir da gesehen haben sehr gut dafür verwenden um zu sehen dass vielleicht Überstunden oder Gehalt Faktoren sind die die Kündigungs Wahrscheinlichkeit beeinflussen aber diese Daten beweisen dass nicht und die können das auch nicht beweisen aus meiner Sicht muss man ganz andere Methoden anwenden um das diese Erkenntnis dann tatsächlich zu festigen also beispielsweise kontrollierte Experimente und ich finde wenn es umso wichtige Entscheidungen die Personalentscheidung geht dann sollte man ihn auch noch ein bisschen weiter gehen als nur Delta meinen ja das heißt man muss als Betriebsrat oder Betriebsräten in der Lage sein hier die richtigen Fragen zu stellen man muss wissen was es falsch positiv was ist falsch negativ was bedeutet eigentlich Korrelation und was es Kausalität also die ganzen klassischen Fragen die wir in der Datenanalyse haben in und man muss sich bewusst sein dass bloß weil er was ja auch aus Daten basiert und durch irgendwie berechnet ist das ist deshalb nicht neutral ist sondern dass es die ganzen Vorurteile übernimmt die in den Daten enthalten sind und das auch für solche Arten von Entscheidungen Daten die digital vorliegen auch bevorzugt werden gegenüber Daten oder Informationen die digital nicht vorliegen inwiefern ist es denn möglich diese Vorurteile die in den Daten stecken zu bereinigen es kommen immer später fahren er mit was für Daten und zu tun hat als man kann sich zum Beispiel hier in einen konkreten Beispiel jetzt könnte man sich fragen möchte man zum Beispiel darauf verzichten das Geschlecht der Leute überhaupt ein zu beziehen in die Analyse ob das dann jetzt ist wieder eine andere Frage weil wir wissen ja auch das Geschlecht und Einkommen zum Beispiel sehr starken Mindener korrelieren es kann also sein dass selbst wenn ich wenn ich Daten ausschließe aus dieser unstrukturierten weder meinen Analyse dass sie dann nachher trotzdem wieder drin auftauchen weil weil der Computer die Muster darin findet und melde ich brauchte nicht sagen dass in dem man eine Frau ist der sieht es daran dass das ja weniger verdient ist also sehr sehr schwierig was manche Beine machen dann ist ist man versucht diese Modelle aber das ist dann schon sehr als generative Modelle zu betreiben also dass man versucht sich sowas wie den Prototyp dessen anzeigen zu lassen aus dem ganzen Algorithmus wie sieht denn jetzt was hat denn der Algorithmus gelernt gekündigt denn jetzt im Unternehmen und das kann man comma versuchen daraus zu kitzeln und dann da wieder drüber nachdenken ob und schauen ob das was der Computer gelernt hat denn eigentlich gewollt ist dass das so gelernt wird und Frau Siemek noch mal
kurz zurück zu ihren Interviews die sie bereits geführt haben teilen Sie denn den Eindruck dass solche Programme noch nicht so wirklich zum Einsatz kommen was ist der die Rückmeldung und wo glauben Sie wäre es denn sinnvoll sie einzusetzen also
heute hier in diesem Saal glaube ich hat ja die er Arbeitsdirektoren und Vorständen für Personal von Continental einen Vortrag gehalten in dem Sie erwähnt hat dass sie beispielsweise EDGE eine Littig schon einsetzt also es gibt durchaus Konzerne die das einsetzen vielleicht nicht unbedingt für die Belegschaft in Deutschland zum Beispiel aus mit Bestimmungsgründe aber auch deutsche größere Unternehmen setzen es ein und es ist ganz klar so dass die Breite der Unternehmen das noch nicht einsetzt aber er je größer das Unternehmen desto eher strukturierter und digitaler liegen auch die Personaldaten vor ja also bei Mittelständler der liegt die Personalakte im Stahlschrank und da also bei einem global tätigen Konzernen da ist es eben dem SAP-System drin alle Information die praktisch die in dieser in diesem Datensatz drin waren den wir heute gesehen haben das kann man könnte man praktisch aus SAP ziehen kann ich bekannt wie hast vorhin schon so ein bisschen
angedeutet 1 machen den Algorithmen sehen und wann sollte man eher Menschen einsetzen oder wie sollten die in Kombination auftreten ja er also die treten ja immer in Kombination auf und da wird sich jetzt auch so schnell nichts dran ändern es wird auch durchaus noch mal darauf hinweisen wenn wir hier von Algorithmen sprechen dann ist das natürlich offen Art immer metaphorisch ja es geht ja nicht um den konkreten einzelnen Algorithmus sondern es geht um ein bestimmtes System das eingesetzt wird also IBM Watson oder SAP SuccessFactors oder wie sie alle heißen diese diese Tools und die sind ja mehr als einfach nur der Algorithmus zum 1. relativ klar es geht immer auch um die Daten ja ganz wichtig also die beiden sind nicht ohneeinander der Algorithmus hat nix zu analysieren die Daten sind einfach nur ein Haufen bitte sind bereits wenn da keine keine keine Möglichkeit vorliegt das auszuwerten aber wo wo drauf wir zumindest immer hinweisen und ich glaube da sind wir uns auch völlig einig nicht mal das reicht aus um dir zu sagen wir beurteilen ein solches System sondern das muss man noch ganzheitlicher tun denn erstmal ist ja die Frage wenn man es überhaupt einsetzen und hier wenn ja für welchen Zweck ja also die Unternehmen die die Software anbieten die Versprechen bestimmte Dinge und man kann sich wiederum als Unternehmen dass solche Software dann einsetzen anwendet ja überlegen was will man denn davon haben und da stimme ich also auch völlig zu das ist natürlich verlockend wenn die einem anbieten ja das Ding kann eine Abwanderung s' Wahrscheinlichkeit berechnen und das kann also weiß der Kuckuck was ja auch da muss man einfach sagen wir zumindest bis jetzt aber noch den Eindruck viel von dem was da versprochen wird ist eben auch einfach Marketing ja also die versprechen einem auch das Blau vom Himmel runter weil sie ihre Produkte verkaufen wollen und wenn man dann aber überlegt wie wir das Ganze dann im Betrieb eingesetzt dann muss man auch schauen an welchen Stellen sind Menschen beteiligt und welche treffen dann am Ende welche Entscheidung und da ist es einfach zurzeit so ein Kündigungsschreiben wird immer von einem Menschen unterschrieben werden ob das jetzt bedeutet dass der noch wirklich eine Entscheidung in einem tieferen Sinne getroffen hat oder einfach nur sozusagen den er den Grünen Punkt der auf die Idee auf dem Bildschirm angezeigt wird Unterschrift besiegelt das ist der entscheidende Frage ja und da können wir aber nicht ich glaube da kommen wir nicht weiter wenn wir einfach nur sagen ja die Entscheidung muss immer der Mensch treffen sondern müssen uns das ganze angucken und das natürlich schwierig weil viele Unternehmen sich der ungerne drauf gucken lassen ja also manche haben einfach die wollen einfach nicht dass da viel Transparenz herrscht andererseits ist es aber auch so dass etliche Unternehmen auch ein Interesse daran haben die angagieren er externe Berater um zu gucken ob denn das System was einsetzen wirklich hält was es verspricht den das habe ich ja schon mal gesagt im prinzipiell ist erst mal kein Interesse da dran dass das Ding falsche Ergebnisse liefert es könnte sein dass irgendein Personalmanagern Interesse daran hat dass er eine Entscheidung sich gerne rechtfertigen lassen würde durch das System der ohnehin gerne treffen möchte er aber soll man dann die Software dafür verantwortlich machen oder nicht vielleicht doch lieber den Personaler aber es es auch kein großes
Geheimnis ist das Hauptinteresse von Unternehmen ist die Schau natürlich erstmal mal darauf dass ihre Gewinne stehen
der dafür sind die Unternehmen und wenn wir uns jetzt vorstellen diese die beschienenen Algorithmen die eingesetzt werden theoretisch eingesetzt werden können ich glaube dass sie so gut sind dass die tatsächlich auch in solchen Bereichen wichtige Korrelation finden und irgendwann halt auch einfach funktionieren und das kann man in 2 Richtungen gehen entweder ich stelle fest in dem unten in dem Teil von Unternehmen wo ich Jurist Haus Management Analytics Einsätze am sind die Leute zufriedener bleiben länger keine Ahnung was und deshalb steigen die die Gewinne oder ich fest ich brauche weniger Leute im Bereich der jungen Forstes auch das können wir die Gewinne Steyr aber sobald das einmal in die durchgesetzt ist das dass sich das dass sich das messen kann dass das einen wirtschaftlichen Effekt hat dann sind natürlich auch die Hemmschwelle totales einzusetzen werden kann ist aber gegen rechnen dann sage ich hier davon aus dass das spart man so und so viel Geld ein oder hat einen Sohn so stark positiven Effekt dass wir es muss nicht nur auf diese auf dann sind alle Jobs nach erweckt das kann in dem Bereich auch passieren Zustand dann vielleicht auch ein paar andere Leute als man sonst gewohnt ist aber der der die Triebfeder wird ja schon das ökonomische Interesse sein und das ist bedient aber es funktioniert ja
und ich bin der letzte der hier bilden sage mal Widerspruch zwischen Kapital und Arbeit in Frage stellen würde denn noch leben in einer Gesellschaft in der wir es Unternehmen zu ihren Profit zu maximieren ja und solange das der Fall ist im muss man halt gucken welchen Rahmen das Ganze passieren darf und in der dann will ich rede nicht von Interessengleichheit aber gerade das Beispiel was du genannt hast das Unternehmen haben Interesse daran dass zum Beispiel Leute nicht aussteigen ja weil die in die Fluktuation kostet Geld neue Leute müssen eingeholt werden die brauchen Schulung Wissen geht verloren und so weiter na da gibt es durchaus geteilte Interessen nämlich dass Mitarbeiter die für das Unternehmen wertvoll sind bleiben und Mitarbeiter die selber gerne und und die Mitarbeiter selber gerne bei dem Unternehmen arbeiten wollen natürlich könnte man jetzt versuchen zu optimieren wenn man sehr sehr viel über die Leute weiß zum Beispiel drauf zu gucken also was ist denn so der minimale die minimale Gehaltserhöhung die ich jemanden geben muss damit er oder sie gerade noch bleibt ja und der Personalleiter vielleicht noch mal 150 Euro draufgelegt nur um auf der sicheren Seite zu sein klar haben aber da muss ich Ihnen einfach sagen da wissen wir im Moment auch relativ wenig darüber auf welchen Grundlagen diese Entscheidung zustande kommen und wir haben dann durch so was dann eben auch die schon ist das noch mal ein bisschen genau anzuschauen und
vielleicht ergänzend dazu auch also auch für unser Teil Thema diese Diskriminierung denke ich auch dass die allermeisten Unternehmen natürlich nicht diskriminieren wollen weil die meisten Unternehmen natürlich erkannt haben dass eine diverse Belegschaft große Vorteile hat und ja also deshalb denke ich dass das durchaus im Interesse sowie des gesagt dass der Arbeitgeber auch ist und im Interesse des Unternehmens ist dass diese Algorithmen richtig eingesetzt werden die Gefahr ist nur dass die unkritisch 1 gesetzt werden und das ist ja das was uns alle eigentlich verbindet also bei man nicht genügend darüber weiß er weil man die Daten nicht interpretieren kann wenn man die Ergebnisse nicht interpretieren kann weil man schon schlechte Daten von vornherein hat und die
Arbeitnehmersicht anschauen oder auch die für die Sicht von Gewerkschaften liefern können Sie den Algorithmen vielleicht für sich nutzbar machen der geübtesten riesiges Feld denn da muss man
eigentlich ja sehr weit ausholen also es fängt schon damit an dass die ganze Frage der Art der Kommunikation im Unternehmen natürlich auch was ist wenn ich ein Unternehmen habe was jetzt in die auf 3 Kontinente verteilt ist und in 5 unterschiedlichen Zeitzonen oder sonst was da kann ich über über Algorithmen auch schon meine Kommunikation vielleicht anders gestalten steuern dass die Leute mehr Reiche oder auch solche Sachen dass ich mir ein Netzwerk Strukturen in Unternehmen anschauen kann um zu entdecken wir sind denn eigentlich die Influenza dich wirklich brauche dann ich dann nachher auch gewisse Macht entfalten kann ich meine Interessen vertreten will und dann halt warum bei dem Beispiel jetzt ganz konkret wenn ein solches Ding einen Betriebsrat vorgelegt wird und dass das Unternehmen sagt wir haben auch ein gleiches Interesse wir wollen auch dass die Leute bleiben und deshalb streichen wir jetzt die Sie mir zu dass es weniger Überstunden gibt das ist auch häufig auch nicht unbedingt im Interesse der Arbeit Nehmer viele wolle die Überstunden machen will das Gehalt nicht reicht könnte den ganz konkreten Fall natürlich da der Betriebsrat sagen wer bessere die er würde das monatliche Einkommen die Analyse ist besser dann bedanke ich mich erstmal mal
ganz herzlich es sei denn es möchte noch immer das ergänzten ansonsten würde ich jetzt er das Publikum bitten seine Fragen zu stellen ich sehe ein
paar Meldungen nach Berlin soll fragt er wir sind bei der ganzen Betrachtung jetzt diese Diskussion zu der Mitarbeiter FOCUS also sehr man wie gesagt sie befragen Unternehmen und der Betriebsrat Betriebs war schön und gut ich finde man sollte gemeinsam in Unternehmen den Algorithmus entwickeln und vielleicht auch gemeinsam den Anwendungsfall für den Algorithmus und da würde mich jetzt interessieren damit sehr viel über Kündigung gehört aber ich würde gern mal Inspiration oder in den Handel zu anderen Anwendungsfelder die wecken vielleicht gemeinsam vom Mitarbeiter also Aus Arbeitnehmer und aus Arbeitgebersicht gestaltet werden kann und dadurch für beide Seiten positiv ausgehen und gar keine Diskriminierung für irgendeine Richtung darstellen das meine Frage gelegt ist ja ihren Anregungen die
mir auch sehr sehr gut gefällt die die Schwierigkeit da dran ist natürlich dass wir auch da wieder in 1. Linie mal über Interessen sprechen und welche Unternehmen jetzt daran ein Interesse haben das müsste man halt konkret rausfinden das ist nicht so sehr jetzt FOCUS unseres Forschungsprojekts dass das allerdings auch ein Weg sein kann für Betriebsräte wenn sie denn zum Beispiel über entsprechende Kenntnisse verfügen finde ich zumindest mehr enden wäre so sagen wir mal eine eine sehr spannende Idee ja also vielleicht ab der sogar in der Praxis das schon mal erlebt also wir bisher nicht in unseren Recherchen aber die sind ja auch noch nicht so weit gediehen und das Mandat zu interessanten Ergebnissen kommen kann ja also nehmen wir mal das Beispiel Schichteinteilung der und und wie gut ist die für die zum Beispiel dazu dass Alleinerziehende besondere Schwierigkeiten haben ihre Arbeitszeiten einzuhalten und könnte man da in Ausgleich schaffen der fairer wäre für alle aber natürlich nur mit Zustimmung insgesamt der Belegschaft ja das sind ganz spannende Dinge in deren Richtung man gehen könnte wie gesagt ist nicht so sehr unser Forschungsschwerpunkt aber wie wärs das ist etwas was die Gewerkschaften die die Stiftung und wir natürlich auch als diejenigen diese Projekte machen sicherlich mit denken sollten und ein
Aspekt an dem was Sie gerade gesagt haben kann ich auch noch sehr wichtig und zwar diese Transparenz ja also gemeinsam entwickeln würde er
dann im doch im Umkehrschluss heißen dass man weiß er nun mit Hilfe von welcher Daten von welchen Daten welche Entscheidung getroffen würde oder zumindest welche vor Ort Vorentscheidung oder Beurteilung getroffen wird und das ist etwas das aus meiner Sicht sehr wichtig ist das allen Arbeitnehmerinnen und Arbeitnehmer und Arbeitgeberseite ja dass beide eben wissen was überhaupt analysiert wird ja und das ist nicht im stillen Kämmerlein passiert da stimme ich Ihnen sehr zu die noch weitere Fragen rasch
hallo mein Name ist Torsten kurze Frage will ihre Projekte gehen jetzt alle mehr überarbeiten immer die festangestellt sind und weil ihr Büro Jobs haben während ich mir der für die Anwendung er zum Beispiel Massenlager vorstelle beziehungsweise ich glaube IBM hatte auch sehr früh so eine Personal Plattform wo eben die IT-Consultants weltweit zugeteilt wurden wie sieht's also bei solchen Systemen aus die nicht Arbeitnehmer sondern Auftragsnehmer beziehungsweise Produktions- war sehr gut überwachbar Produktionsprozesse höhere befassen müssen wir auf die anderen von der Böckler-Stiftung geförderten Projekte verweisen es gibt da auch einige Teilprojekte die sich tatsächlich mit dieser
Plattformökonomie einen also zum Beispiel diese Fahrradkuriere oder er diese kleinteiligen Freelancer Jobs die so zugeordnet werden über Algorithmen damit beschäftigen aber das jetzt von unserem 3 Projekten nicht das Thema aber das auch abgedeckt ja könnten Sie das Mikro weiterer
brechen Hans-Jochen Belz ich würde Sie gerne fragen also ich komme aus dem Bereich Service deutschen Produktdesign inwiefern sie mal ein Ansatz von Marktforschern Sozialforschern betrachtet haben meine komme das ein bisschen vor wie das was sich in der täglichen arbeitet ja noch immer wieder erlebe das rein analytische rein quantitative Methoden benutzt werden sie an selber schon gut drauf hingewiesen was mache ich denn raus der qualitativen mit und sind gut um Ideen zu kriegen Bushart kommen reinschauen muss also nichts wert um zu verstehen warum die Phänomene bestehendes heißt eigentlich müssten Unternehmen dann anschließend qualitativ Forschers hat man mit Mitarbeiter zum Beispiel so wie man auch mit guten reden sollte um herausfinden was sind denn die Motivation müssen die Treiber dahinter dann kann ich darauf reagieren oder also dann habe ich erst das Verständnis dafür und ich sehe also ich habe das Gefühl dass HR da es heute den gleichen Fehler wiederholt den man im Produktdesign gerade versucht in vielen vielen abzustellen und man gemerkt hat einfache auf numerischen Auswertungen basierende manipulativer Ansätze sage ich jetzt mal für eine so und so weit es gibt an Unternehmen die da halt dann und anstatt unter Umständen besseren Wettbewerber sind ja ich würde jetzt allen den Personal einen nicht pauschal unterstellen dass sie nicht mit den Mitarbeiterinnen und Mitarbeitern reden in
den ja natürlich heute diese analytische Herangehensweise diskutiert aber natürlich ist beides notwendig und ja natürlich taugen solche analytischen Ansätze eben gerade auch dafür wie schon gesagt zum Beispiel Hypothesen zu generieren und ja also ich glaube da stimme Ihnen so weit zurück es gab noch
weitere Hände ja Stichwort Diskriminierung passiert ja nichts seit dem wir Algorithmen oder Maschinen haben und zwar auch am anderen Ende nämlich bei den Bewerbungs- eingehen und da wollt ich mal fragen ob sie aufs in dahin gehend forschen ob das vielleicht nicht zu positiven Effekten führen kann wenn ein Algorithmus komplett diskriminierungsfrei sozusagen erstmal die Bewerbung bewertet nach Fähigkeiten oder was auch immer genau also das könnte natürlich also das ist ja eigentlich die Hoffnung dass so eine
neutrale datenbasierte allen Auswertung natürlich diskriminierungsfreier ist als wenn ich Daten verwende ich könnte da mal ein Beispiel von meiner Hochschule man ja also wenn wir beispielsweise datengetriebene Studierende zulassen würden bei uns in den Informatik Studiengängen beispielsweise würden wir vielleicht er wenn gesunde Schiene einige Modelle bauen mit den verschiedenen Import Variablen die wir nicht vollständig digital vorliegen haben dann würde wahrscheinlich feststellen dass wir Studierende mit ich sage jetzt mal ganz pauschal M und der tja und diskriminierend mit Arabisch Kenntnissen die würden wir nicht zulassen bei uns zum Studium der Informatik natürlich sind Arabischkenntnisse überhaupt nicht hinderlich beim Studium der Informatik ist es aber so dass in den Stadtbezirken Berlins wo man auch Arabisch spricht es leider so ist dass es im Durchschnitt statistischen niedrigerer Bildungshintergrund vor herrscht die Leute die dann bei uns studieren kommen sind vielleicht Bildungsaufsteiger in die Bahn bei sich er in der Schule gut aber kann vielleicht im weniger hohen akademischen Anspruch an sich das heißt wenn ich jetzt auch dass solche ganz scheinbar neutralen Daten Verbände um Mitarbeiterinnen und Mitarbeiter einzustellen kann es trotzdem wieder sein dass sich das reproduziere dass sich die gesellschaftlichen Vorurteile reproduziere die ich in meiner Gesellschaft sowieso habe ja das heißt ich stimme Ihnen zu es ist eine Schau aus ist es eine Möglichkeit das wenn ich ja mich mehr auf Daten verlasse das sich dann er weniger Diskriminierung beispielsweise bei Einstellungsprozess habe aber es ist eben nicht der kommt automatisch so ich muss es auch wollen und ich muss mein Prozess aktiv so aufsetzen das sehr möglichst diskriminierungsfrei und fair ist ich mich mal ganz kurz aber vergessen die
Frage wird in Zukunft nicht sein ob wir das eine oder das andere machen sondern es wird in
allen Bereichen es werden Hmm Algorithmen und automatische Entscheidungs- Verfahren eingesetzt werden weil sie einfach sehr sehr gut funktionieren irgendwann und die Frage ist nicht ob wir das wollen und vor mir Sorge das wollen aber die Frage wird nicht dann wird es ein Gesetz oder wird es nicht eingesetzt und fragen was eigentlich heißen wie können wir dafür sorgen dass der Einsatz davon eben nicht ganz viele dummer Nebeneffekte hat und deshalb ist es wichtig dass man darüber redet aber das macht euch da mal nix vor also des ist wir wir haben technische Systeme die können Tausende von Seiten Text analysiert und da kommt allmählich auch was Kluges bei raus wenn die das machen also der in der der Sinn Möglichkeiten drinnen die sprengen einfach das was man mit menschlichen Einsatz in Unternehmen bislang hinbekommen hat und es gibt leider halt noch wenig Fälle wo das dann auch wirklich gut funktioniert das liegt auch daran dass eben sehr viel davon geheimgehalten wird wird Betriebsgeheimnisse sind wenn man sie anschaut was bei Google alles gemacht wird zum Beispiel in den ganzen Bereich aber in das in das ist nicht mehr die Frage wollen wir dass das eingesetzt wird oder dass das über der normale Mitarbeiter macht wir müssen uns fragen wie wird es eingesetzt um die können wir gemeinsam dafür sorgen dass Nebenwirkungen die wir alle 1. jetzt schon kennen das die nicht und das war vom Stuhl hauen dabei Jochen diese haben da bin ich völlig
einig also ich glaube die die Frage ist ja nicht wir haben die Algorithmen haben sie nicht aber die Frage ist doch wenn wir dem Algorithmus eine dumme Frage stellen wird eine dumme Antwort geben das heißt auch die Frage nach Diskriminierung der Nichtdiskriminierung ist ja nicht einfach eine Frage diskriminiere ist bin ich nicht sondern mit Sie mich damit auseinander zu setzen was meine ich damit Diskriminierung was ist es denn was sich ausgleichen möchte was ist denn das gewünschte Ergebniss also ich muss doch in Sotschi viel viel genau an der Frage stellen was will ich eigentlich wissen was will ich eigentlich erreichen und wie will ich eigentlich die Zusammenarbeit mit zu unternehmen sprechen zwischen Unternehmen und Mitarbeitern gestalten dass das da was Gutes bei raus kommt und erst dann kann ich doch man einen Algorithmus Hypothesen nachverfolgen lassen und und versuchen kriegen ob ich auf dem richtigen Weg könne zustimmen oder nicht geben weitere sagen ich würde mal so sagen die Hoffnung wäre natürlich schon dass ein kluges System kluge Antworten auf dumme Fragen gibt so wie wir das als
Menschen ja auch versuchen mal gucken ob das klappt ja ich
habe er dann auch noch mal so 7 Jahren Überlegung zu diesem ganzen Thema also Algorithmen Fakt dass wir eben auch gerade sie werden kommen ich stelle mir eben mal die Frage nach der Transparenz ist wünschenswert aber die eigentliche überlegen ich dabei habe es tatsächlich wie weit entstehen eigentlich durch die aber durch das Arbeiten Daten von den ich als Arbeitnehmer eben überhaupt gar nicht ahnen was damit betrieben gutes Beispiel nicht nur im Bereich der Freelancer bin ich jetzt mal sehr dass Mitarbeiter haben lange Überstunden gemacht hat und auf einmal weniger Überstunden macht ist das vielleicht sogar schon durch einen Algorithmus in den Anzeichen dass er irgendwas nicht stimmt oder aber auch das Thema wenn mehr Einkommen das haben glaube ich viele dieser Wunsch aber wird das nicht vielleicht auch Algorithmen geben die dann in sagen wie wir ist wahrscheinlich ist es dass dieser Mensch geht wenn ich ihn jetzt nicht mehr Geld geben also das finde ich eigentlich alles noch viel spannender in dieser ganzen Geschichte und da sieht man mal die Frage wie das den tatsächlichen daher in der Realität lädt die weit wird ein Arbeitnehmer dann tatsächlich mit einbezogen überhaupt ahnen dass da eine Menge Informationen irgendwo gesammelt werden und der andere Punkt ist dass endlich mit Diskriminierung ich kenne aus meinen bisherigen Berufsleben auch genügend Personalentscheider werden die dann nach einem bestimmten Muster sowieso ihre Auswahl getroffen haben manche Maler hatte ich das Gefühl dass die auch und optische Suchers da erfüllt haben wenn er in der Vakanz war dass die Nachfolge sich optisch dem Vorgänger sehr ähnlich auch ein also muss ja das ist dann wieder
eine natürliche wahrscheinlich da hat man das Gefühl habe ich eine gute Erfahrung gemacht also wenn ich das auf die Bewerber an der sich erst kurz in der Daten fragen was Rang 1 das ist halt spannender und kein wenn und sieht Industrie 4 0 dieses Marketingkonzepte anstatt es geht ja wirklich darum dass er in Zukunft halt Maschinen selber die ganze Zeit Daten sammeln und erheben und dann dreht sich das mit dem Datenschutz auch irgendwann wieder völlig um und dann ist es ich brauche den ich über die Leute Daten erheben die ich vielleicht nicht erheben darf sein ich weiß sehr genau wann ist Maschine gelaufen mit welchen Output wie wie stark war die Strombelastung davon ich weiß das heute will ich ja schon was zum Beispiel sowas wie Email-Server und sowas anbelangt da kann ich ja die ganzen Daten erheben auch wenn ich da keine persönlichen Daten erhebe also ja das ist alles Zeug was wo massiv dann gearbeitet wird dass diese Daten für immer mehr unterschiedliche Entscheidungsebenen die früher damit nichts zu tun hatten zur Verfügung stehen dass eben dieser Wunsch alle Daten zusammen zu bringen und dann am besten halte im Sonnensystem zu schmeißen und kluge Antworten rauszukriegen dann bedanke ich mich ganz herzlich die Zeit ist leider vorbei in
vielen Dank für diese spannende Runde oder möchten wir noch ganz kurz für möglich herzlichen Dank vielen Dank für den tollen in der und für die Zeit und
wir warten mit mehr er wie
Algorithmus
Algorithmus
Programm
Künstliche Intelligenz
Informatiker
Leistung <Physik>
Dienst <Informatik>
p-Block
Virtuelle Adresse
IBM
Parametersystem
Apple <Marke>
Momentenproblem
Impuls
Entscheidungsbaum
Information
Objektklasse
Algorithmus
Entscheidungsmodell
Unterteilung
Algorithmus
Datensatz
Variable
Algorithmus
Position
Mittelwert
Stichprobe
Abstand
RSS <Informatik>
Wald <Graphentheorie>
Entscheidungsbaum
Unterteilung
Hidden-Markov-Modell
Algorithmus
Parametersystem
Algorithmus
Punkt
Ende <Graphentheorie>
Twitter <Softwareplattform>
Code
Web log
Entscheidungstheorie
Wirtschaftsinformatik
Point of sale
Algorithmus
Rundung
Bericht <Informatik>
Soundverarbeitung
Objektklasse
Punkt
Algorithmus
Eigenwert
Lineare Regression
Quelle <Physik>
Informationsmodellierung
Datensatz
Algorithmus
Information
Prognostik
Software
Prozess <Informatik>
Facebook
Internet
Position
Prozess <Informatik>
Programminspektion
Datenbank
Durchschnitt <Mengenlehre>
Code
Noten <Programm>
Prognostik
Prognose
Prozess <Informatik>
GRADE
Systems <München>
Dienst <Informatik>
Algorithmus
Perspektive
Datenbank
Informationsmodellierung
Algorithmus
Google
Anwendungssoftware
Monster-Gruppe
Netzwerk <Graphentheorie>
Google
Programm
Momentenproblem
Automat <Automatentheorie>
Zahl
Entscheidungstheorie
Datensatz
Algorithmus
Prozess <Informatik>
Potenzialfunktion
Entscheidungsunterstützungssystem
Simulation
Systems <München>
Bewertung <Mathematik>
Noten <Programm>
Zusammenhang <Mathematik>
Algorithmus
Information
Systems <München>
Statistik
Faktorisierung
Korrelation
Momentenproblem
Datenanalyse
Künstliche Intelligenz
Informatikerin
Entscheidungstheorie
Informationsmodellierung
Quote
Algorithmus
Software
Information
Informatik
ART-Netz
Datensatz
Programm
Information
Algorithmus
Software
SAP <Marke>
Biprodukt
Soundverarbeitung
Korrelation
Algorithmus
Momentenproblem
Richtung
Mathematische Größe
Algorithmus
Algorithmus
Struktur <Mathematik>
Zeitzone
Algorithmus
Linie
Richtung
Systems <München>
Systemplattform
Dienst <Informatik>
Algorithmus
Numerische Mathematik
Treiber <Programm>
Algorithmus
Statistische Hypothese
Informationsmodellierung
Variable
Verbandstheorie
Statistische Analyse
Durchschnitt <Mengenlehre>
Informatik
Hidden-Markov-Modell
Große Vereinheitlichung
Algorithmus
Google
Systems <München>
Statistische Hypothese
Algorithmus
Punkt
Menge
Information
Rundung
Rang <Mathematik>
PICA <Bibliotheksinformationssystem>

Metadaten

Formale Metadaten

Titel Algorithmen: Zu Risiken und Nebenwirkungen – fragen Sie Ihren Informatiker
Serientitel re:publica 2018
Autor Spielkamp, Matthias
Simbeck, Katharina
Hegelich, Simon
Lizenz CC-Namensnennung - Weitergabe unter gleichen Bedingungen 3.0 Deutschland:
Sie dürfen das Werk bzw. den Inhalt zu jedem legalen Zweck nutzen, verändern und in unveränderter oder veränderter Form vervielfältigen, verbreiten und öffentlich zugänglich machen, sofern Sie den Namen des Autors/Rechteinhabers in der von ihm festgelegten Weise nennen und das Werk bzw. diesen Inhalt auch in veränderter Form nur unter den Bedingungen dieser Lizenz weitergeben.
DOI 10.5446/36644
Herausgeber re:publica
Erscheinungsjahr 2018
Sprache Deutsch

Inhaltliche Metadaten

Fachgebiet Informatik
Abstract Der Algorithmus ist ein ständiger Gefährte in unserem Leben, erscheint jedoch nach wie vor als eine Blackbox. Wie funktioniert er eigentlich? Welche Auswirkungen hat er auf Dein (Erwerbs-)Leben? Denn je unkalkulierbarer die Verpackung, desto überraschender kann ihr Inhalt sein – mit gravierenden Folgen. [Partnersession]

Ähnliche Filme

Loading...
Feedback