Add to Watchlist

Algorithmen fürs Allgemeinwohl: Voraussetzung für eine lebenswerte Zukunft

1 views

Citation of segment
Purchasing a DVD Granting licences Cite video
Series
Annotations
Transcript
algorithmen und gemeinwohl fast ein gegensatzpaar dabei ist es eine ist eine versöhnung eine wichtige voraussetzung dafür dass wir eine lebenswerte zukunft vor uns haben ist ja eine lebenswerte gesellschaft sind und bleiben können dass das fast schon ein gegensatzpaar ist das liegt vielleicht auch ein bisschen daran dass der einzug neuer technologien mehrere effekte zeitigt und nach dem französischen soziologen felix guattari der übrigens ein sehr lesenswertes buch tiemann und 108 mitglieder löst zusammen mit plateau 1000 plateau platz hieß in dem so ein bisschen die auswirkung dass das internet auf unsere heutige gesellschaftsformation vorweggenommen wurde das legen er hat 19 80 bis 1990 gesagt sie haben in einem aufsatz das neue technologien sowohl effizienz als auch wahnsinn im gefolge haben und wenn man sich so ein bisschen umschaut in seinen eigenen gewohnheiten in der welt dann fällt das auch nicht besonders schwer da für bestätigungen zu finden dass da was dran sein könnte vielleicht auch ein bisschen sachlicher die ausgangslage algorithmische analyse eine entscheidungs systeme dass sich der begriff den wir immer verwenden und dann sagen als als kurzform vielleicht algorithmen springt er war bis hin zu kurz und so ein bisschen um präzise können sie denn europäischen haltungssysteme die sind heute sehr breit sehr tief in unserer lebens- und arbeitswelten eingeschrieben und das wird nach allem was wir vorher sagen können wahrscheinlich nicht weniger werden in zukunft und der etwas besorgniserregende befund der sich daran anschließt ist dass die förderung des gemeinwohls oder das gemeinwohl aspekte dabei selten überhaupt eine rolle spielen und bisweilen sogar mehr oder weniger offen konterkariert werden wenn man danach fragt warum das so ist dann kommt man relativ schnell dahin dass man sich mal einen überblick verschafft wo zurück bei den heute vor allem die ihnen eigentlich und das ist jetzt in der liste die vor allen dingen entstanden ist daraufhin wenn man sich das ganze mal unter dem aspekt der ökonomischen valencia ansieht und der bedeutung sei es jetzt der offenen oder auch der versteckten bedeutung für unser leben da muss man glaube ich mindestens diese vier spiegelstrich punkte dann nennen und ja manchmal sieht dann relativ schnell dass algorithmische systeme nur vereinzelt nur selten treiber gesellschaftliche problemlösungen sind in erster linie in erster linie und viel öfter aber ganz anderen zwecken dienen man muss dann diese ganze rhetorik die damit verbundene ist zum beispiel das stichwort was ich hier gebracht haben überwachungskameras muss von massa unter anderem verwendet das muss man vielleicht zu sagen in dieser in dieser schärfe gar nicht das muss man gar nicht mitgehen unbedingt aber die beobachtung der befund dass die großen technologiekonzerne dass die großen netzwerke auf strukturen auf setzen die uns überwachen die unsere daten ausbeuten daraus gewinne schöpfen ohne direkt oder indirekt gemeinwohl aspekte zu berücksichtigen dass gilt daneben wenn man anschließend daran fragt was müsste getan werden damit sich das ändert dann sind es in meinen augen vor allem drei aspekte die hier zu nennen wären mit dem ersten aspekt sind wir hier in dieser session heute beschäftigt die berücksichtigung von gemeinwohl aspekten im wirtschaftsbereich sowas wie mindeststandards ethische standards corporate responsibility so nennen wir es hier heute und vielleicht etwas globaler vielleicht die vermeidung von negativfolgen des einsatzes von algorithmischen systemen zur beförderung wirtschaftliche zwecke dann der zweite punkt die direkte bearbeitung unmittelbar gesellschaftlicher probleme mittels technologie durch den einsatz aller systeme noch sagen künstliche intelligenz vielleicht mit einem buzzword ich versuche es wo immer es geht zu vermeiden eigentlich weil es meistens um präzise und falsch verwendet wird also wenn man eigentlich meistens nichts anderes als big data analytics sein wir können sie intelligent sagen jedenfalls im gesellschaftlichen diskurs hier geht es um die hat sich die unmittelbare realisierung positive effekte für die gesellschaft so ein 1password da an der stelle was ich diesen gesellschaftlichen diskurs eingeschlichen hat das ist racing technologies muss man aber auch nicht unbedingt verwenden über diese beiden ersten punkte werde ich gleich noch ein ganz ganz kurz ein bisschen reden ganz kurz ein bisschen ausführen nicht sprechen werde ich über den wirklich in deutschland wirklich wunden punkt das e government da bin ich eben der meinung da kann man viel sprechen dann vielleicht an anderer stelle bin ich bin ich schon der meinung dass eine massive prinzipien geleitet der nutzung algorithmischer systeme seitens des staates ist ganz ganz wichtig wäre also unter dem schlagwort egal wenn verwaltung daseinsvorsorge da hat der staat wirklich eine ganz große normierung möglichkeit auch aber wie sie wissen irgendwie da in vielen sehr basalen bereich noch hinterher und haben ganz andere probleme jetzt vielleicht mal zum ersten zum ersten punkt ein beschluss gemeinwohl in einem in meinem in einem negativen ansatz das ist dann eher ein detektivisches vorgehen was da meistens betrieben wird das heißt also man hat oberste prinzipien und leitet daraus gewisse ries trains ab ob man vielleicht informatiker sprach zu sprechen die sich ergeben für die entwicklung von algorithmischen systemen und man versucht das dann eben auf einzelfälle anzuwenden und da gibt es eine ganze menge an ja sehr vielversprechenden ansätzen wir sprechen heute gesagt über corporate social responsibility auch nur ein teil der unternehmensverantwortung es gibt inzwischen bei den deutschen institut für normung ansätze künstliche intelligenz zu normieren und erst recht gibt es diese ansätze hat sich auf internationaler ebene der iso und da gibt es zum glück und eine gute vernetzung und guten wechselseitigen austausch wie ich neulich erfahren durfte und es gibt dann die die unternehmens ansätze selbst hier nochmal drei beispielen also von stage dem dem cloud-anbieter der der ein whitepaper vorgelegt hat vor kurzem ihr einfach ganz aktuelle beispiele mal genommen deshalb hat kürzlich angekündigt ein ethik beirat für künstliche intelligenz ins leben zu rufen und auch bei audi rechts unten gibt es so eine initiative für ethische das nennt sich beyond erwähnen möchte ich auch noch die entwicklung eines kriterienkatalogs seitens unseres projektpartners der bertelsmann stiftung zusammen mit mit bereits das ist eine initiative die auch darauf abzielt entwicklerinnen und entwickler so einen ja eine orientierung an die hand zu geben für die entwicklung von algorithmischen system und das ganze für das ganze gibt es schon bedarf also wie immer wieder feststelle im gespräch mit mit entwicklerinnen entwicklern ich bin beispielsweise mal von einer agentur angesprochen worden die haben gesehen dass wir so ein projekt machen aber von seiner website die entwickeln ziemlich viel für den öffentlichen bereich und die haben ja einfach mal zu einem zu dem austausch eingeladen zu sich und die die initiative dazu die kam tatsächlich von den leuten die tatsächlich boden und die tatsächlich dann keine schnittstellen die es schon gibt in dem unternehmen jetzt keine namen nennen um zu viele auszuplaudern dann anzuzapfen und für solche lösungen zu verwenden also tatsächlich von von ganz unten kam dann die haben ja die initiative aus dem technischen bereich heraus dass alles sehr vielversprechend so was könnte man
tun also wir in unserem projekt verfolgt eigentlich ein anderer ansatz man könnte das jetzt induktiv nennen wir möchten ganz gerne von möglichen einsatz fällen also gemeinwohl dienlichen einsatz fällen von algorithmen systemen ausgehen und fragen uns dann erst in einem zweiten schritt wir müssen diese systeme denn eigentlich beschaffen sein damit dieser zweck der gemeinwohl die ähnlichkeit auch erfüllt wird bzw mindestens nicht kontaktiert wird das ganze projekt deswegen ist hier dass das logo ist der bertelsmann stiftung auch mit drauf ist ein kooperationsprojekt mit dem team ethik der algorithmen bei der bertelsmann stiftung was wir dann
gemacht haben ist uns zunächst mal zu fragen wo liegt ja sozusagen das größte prozent gesellschaftliche potenzial für die anwendung von technologien haben wir sagen wir so einfacher matrix gebaut aber gesagt also auf dieser achse haben wir dann eine zunehmende problem relevanz also was sind sozusagen die wirklich die einschneidenden gesellschaftlichen probleme die wir gerne lösen würden sei es jetzt mit technologie leone und auf der hose haben wir dann eben die reform mounir barkeit dieser probleme der herausforderung als mathematische optimierung problem jetzt mal ganz kurz gefasst also inwieweit lassen sich diese probleme überhaupt durch technologie adressieren und mittels technologie bearbeiten und wenn man sich diese einfache matrix mal so aufstellt dann interessiert uns in dieser quali roben da wobei es bei den starken maße gegeben ist homogen hohen gesellschaftlichen problemen druck und die erwartungen verknüpft mit der erwartung dass wir durch den einsatz von technologie sagt zu lösungen kommen sondern beim einem
workshop mit einem in der internationalen besetzung mal so ein brainstorming gemacht welche probleme das denn sein könnten oder welchen themen man dann kommt wenn man so denkt und was ist dann nachher nochmal ein bisschen geordnet und das dann schon recht beeindruckende liste eigentlich wo man da ansetzen könnte also welche themen dann auf diese art und weise zu bearbeiten wären das wird sich im einzelnen durchgehend wir haben uns einfach mal durch durch mit der hilfe von filterkriterien ich jetzt hier nicht im einzelnen nennen kann weil die zeit einfach nicht reicht mal drei bereiche ausgesucht das sind diese drei bereiche dass politik das policing zur verbesserung der inneren sicherheit das rating das matching weil er in der personalbeschaffung manager bereich und die ja die automatisierung und die erweiterung der medizinischen diagnostik wir sind jetzt momentan die ersten beiden punkte haben wir erst mal ein thema wer abgearbeitet und wir sind jetzt beim dritten thema angelangt bei der medizinischen diagnostik auch da gibt es eine fülle an bereits fertigen anwendungen kennen sie vielleicht selber schon besonders beeindruckt hat mich das inzwischen bei hautärzten so eine maschine steht die die die hautkrebs bilderkennung betreibt eigenständig das ganze ding ist auch schon zugelassen kassen herzlich da geht die entwicklung also rasend schnell voran [Musik] was wir bisher gelernt haben hier einfach mal so fünf punkte die jetzt besonders wichtig erschienen für die debatte heute ganz interessant vielleicht so der erste punkt der erste punkt ist fast schon fast schon der wichtigste finde ich wir haben gelernt dass der wille zur automatisierung oder auch wenn dieser wert dieser weg beschritten wird wenn gesagt wird ihr lasst uns doch mal vielleicht der polizei ein tool an die hand geben mittels dessen sie sehen kann wie wo besonders einbruchs gefährdete bezirke sind nichts anderes ist hier dass in deutschland im einsatz befindliche politik policing nicht vorausschauen polizeiarbeit dann bewegt sich alleine dadurch durch diesen prozess der dann in gang kommt ja also lizensieren wie ein tool was da draußen schon was da draußen schon auf dem markt ist von einem anbieter entwickelt mir selber ein tool wenn ich was für leute was wir expertise brauchen wir dazu gebrauchen sicher programmierer wir brauchen data scientist wo bekommen wir die her belassen wir mit einer kooperation mit der uni oder holt die leute bei uns ins haus was können wir den bieten um ihre bonds ins haus zu holen und so weiter und so fort das ganze ist geht es ein bisschen auf dem beispiel zurück beim westfalen hat das nämlich genauso gemacht die haben die inhouse expertise aufgebaut die haben sich dann gefragt wie entsteht bei uns bei der polizei endlich so etwas wie ein lagebild ja also wo ist es da draußen gefährlich wo sollten unser freien kräfte streife fahren das muss man das muss man hinterfragen wie entsteht so ein lagebild wäre wäre arbeit daran mit welcher wissensquellen werden da eingespeist welche informationsquellen werden angezapft wie werden die daten erhoben in den polizeilichen vorgangs tag vorgangsbearbeitung system und so weiter und so fort also das alles wird hinterfragt es kommt auf den prüfstand weil es ja anschließend modelliert werden muss das ist also ein riesiger vorzug dahinter debatte meines erachtens so selten angeführt wird als ein als ein vorteil das gleiche haben wir festgestellt beim thema algorithmen major bereiche auch da müssen sie sich fragen also wie sieht eigentlich unser idealer bewerber aus durch welche kriterien wird das beschrieben werbe schreibt dass er beurteilt hast wie kann man sowas wie soft skills messbar machen und so weiter und so fort also auch da ganz viele indirekte positive effekte ich habe das mal an anderer stelle kollateral nutzung des genannt wir haben auch gelernt dass die standard einwände der debatte also die bedeutung der datenbasis gerade wenn es dann um trainingsdaten zum zum trainieren von crm systemen geht von lernenden system geht es um die modellierung qualität geht oder auch was gefahren der der der in fremder zweckentfremdung solcher systeme angeht dass die dass sie sehr zu recht bestehen und die werden ja auch gerade im internationalen bereich leider noch nicht hierzulande auf dem gleich hohen niveau landauf landab wirklich intensiv diskutiert und es gibt ja auch schon einige lösungsansätze für diese diese probleme was wir auch festgestellt haben ist dass die kommunikation sowohl intern also in den institutionen die solche systeme bauen und bei sich einsetzen als auch nach draußen den oft mangelhaft ist und das trägt ein gutes stück weit glaube ich zur mystifizierung von technologie beim also wenn wir heute so in rage über über datenverarbeitung lesen unter den stichworten big data oder künstliche intelligenz dann ist das doch oft beinahe hysterisch und immer so ein bisschen von seinem honda gefahren haltung eigentlich geprägt wissen sie selbst wenn sich die weiterverfolgung und das liegt aber tatsächlich schuldigen sind tatsächlich oft die die die entwickler und die anwender solcher systeme selber weil die einfach nicht einfach nicht gut genug kommunizieren das konnte man ganz gut in bei dem beispiel der der polizei system ist politik fünf policing aufzeigen dass das so ist denn wenn man dahinter schaut was sie eigentlich machen das ist super das ist das ist sehr methoden bewusst dass es sehr dass es sehr reflektiert was sie gemacht haben oder das eigentlich schade dass dann in der berichterstattung darüber dann immer nur von meiner report die rede ist also sagt wird irgendwie polizei vertritt sie demnächst bevor sie überhaupt irgendwas gemacht haben gut also ich will das jetzt nicht weiter durchgehend zu dem internen kompetenzaufbau habe ich ja schon was gesagt der letzte punkt ist irgendwie auch ganz interessant ich glaube wir haben so ein bisschen das problem rasch war es ein bisschen auch darüber gesprochen viele sprechen darüber implizit dass wir inzwischen glaube ich probleme haben genitiv sozusagen schritt zu halten mit den technischen fortschritten die stadt finden und deswegen glaube ich dass so eine technisch prozedurale vertrauensbildung ganz wichtig ist was meine ich damit systeme die uns helfen systeme zu verstehen und auch hier gibt es ja gibt es ganz gute ansätze die gar nicht mal so wahnsinnig neu sind also war die zertifizierung algorithmen gibt es schon seit langer langer zeit aber jetzt gerade im bereich des maschinen lernen der konzern versucht man eben auch solche standard produkte zu entwickeln die transparenz liefern und die uns eine form von sicherheit liefern die wir ganz gerne hätten als menschen die wir selber nicht herstellen können weil wir die diese systeme kognitiv eben nicht nicht weit genug durchdringen können vielen dank
[Applaus]
Algorithm
Revision control
Set (mathematics)
XML
Artificial intelligence
Computer science
Computer programming
Carriageway
Mass
Field extension
Carriageway
Customer relationship management
Revision control
Automation
Bilderkennung
Database
Route of administration
Uniform space
Artificial intelligence
Computer science
Loading...

Metadata

Formal Metadata

Title Algorithmen fürs Allgemeinwohl: Voraussetzung für eine lebenswerte Zukunft
Title of Series #INFORMATIK2018
Author Knobloch, Tobias
License No Open Access License:
German copyright law applies. This film may be used for your own use but it may not be distributed via the internet or passed on to external parties.
DOI 10.5446/40413
Publisher Gesellschaft für Informatik e.V.
Release Date 2019
Language German

Content Metadata

Subject Area Information technology
Loading...
Feedback

Timings

  396 ms - page object

Version

AV-Portal 3.7.0 (943df4b4639bec127ddc6b93adb0c7d8d995f77c)