Menschen werden heute in vielen Lebensbereichen von Prozessen algorithmischer Entscheidungsfindung bewertet, sogenanntem „algorithmic decision making“ (ADM).
Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Und sie können großen Einfluss auf deren Teilhabechancen haben. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien für algorithmische Prognosen.
Das Arbeitspapier "Wenn Maschinen Menschen bewerten" der BertelsmannStiftung zeigt in aufbereiteten Fallbeispielen Chancen und Risiken solcher Prozesse. Handlungsbedarf besteht nicht allein auf der technischen Ebene. Das Arbeitspapier zeigt anhand vieler Fallstudien, dass alle Ebenen des sozioinformatischen Prozesses teilhaberelevant sind – angefangen bei der Auswahl von Daten und der Messbarmachung von Konzepten bis hin zur sachgerechten Anwendung, der Falsifizierbarkeit von Prognosen und ihrer umfassenden Evaluation und Überprüfbarkeit.
Mustererkennung kann dabei helfen, das Risiko von Bleivergiftungen bei Kindern abhängig vom Wohnort vorherzusagen (siehe Kapitel 2.3 Prognose drohender Bleivergiftungen) oder Hotspots für bestimmte Delikte zu prognostizieren (zum Beispiel Wohnungseinbrüche, siehe Kapitel 2.8 ortsbezogene Kriminalitätsprognosen). Ein künstliches neuronales Netz rechnet anhand von Satellitenfotos die regionale Verteilung von Armut in Entwicklungsländern fast genauso gut hoch wie erheblich teurere Umfragen vor Ort. Diese Ergebnisse könnten dazu genutzt werden, Armut zielgerichtet dort zu bekämpfen, wo Not und folglich die Wirkung von Hilfsmaßnahmen am größten sind (siehe Kapitel 2.4 Armutsverteilung vorhersagen.
Verantwortlich Konrad Lischka Ralph Müller-Eiselt
Autoren Konrad Lischka Anita Klingel
Foto: © Sergey Nivens/Fotolia.com