Algorithmic Bias
From Wikipedia, the free encyclopedia
Algorithmic Bias (deutsch: algorithmische Voreingenommenheit oder algorithmische Verzerrung) bezeichnet systematische Verzerrungen in den Ergebnissen algorithmischer Entscheidungsprozesse. Diese Verzerrungen führen dazu, dass bestimmte Gruppen oder Individuen konsistent benachteiligt oder bevorzugt werden. Der Begriff wird vor allem im Zusammenhang mit maschinellem Lernen, automatisierten Entscheidungssystemen und Künstlicher Intelligenz verwendet und gilt als zentrales Thema der digitalen Ethik.[1]
Geschichte und Entwicklung
Frühe Diskussionen über Verzerrungen in Computersystemen entstanden bereits in den 1980er-Jahren. Friedmann und Nissenbaum zeigten 1996, dass technische Systeme gesellschaftliche Werte und Vorurteile widerspiegeln können.[2] Mit der zunehmenden Verbreitung datengetriebener KI-Systeme gewann das Thema ab den 2010er-Jahren an Bedeutung. Forschende wie Diakopoulos betonten die Notwendigkeit algorithmischer Rechenschaftspflicht.[3]
Ursachen
Algorithmische Verzerrung kann auf mehreren Ebenen entstehen. Eine häufige Ursache liegt in den Trainingsdaten, die historische Ungleichheiten oder gesellschaftliche Vorurteile spiegeln. Werden solche Daten ohne Korrektur in Lernsysteme eingespeist, reproduzieren Algorithmen bestehende Diskriminierungen.[4] Ein prominentes Beispiel ist die Gesichtserkennung: Eine Studie von Joy Buolamwini und Timnit Gebru (2018) zeigte, dass kommerzielle Systeme bei Frauen mit dunkler Hautfarbe Fehlerraten von über 30 % auswiesen, während sie bei weißen Männern nahezu fehlerfrei arbeiteten.[5]
Weitere Beispiele aus der Praxis
Algorithmische Voreingenommenheit zeigt sich in verschiedenen realen Anwendungen. Ein häufig zitiertes Beispiel ist das US-amerikanische Risikobewertungssystem COMPAS, das laut einer Untersuchung von ProPublica afroamerikanische Angeklagte systematisch als risikoreicher einstufte als weiße Angeklagte, obwohl die tatsächlichen Rückfallraten vergleichbar gering waren.[6] Auch im Bereich der Personalrekrutierung wurde algorithmische Diskriminierung dokumentiert. Ein von Amazon entwickeltes KI-gestütztes Bewerberranking bevorzugte männliche Kandidaten, da das Modell aus historischen Daten lernte, in denen Männer überrepräsentiert waren. Das System wurde nach internen Tests eingestellt.[7] Zudem fanden Bartlett et al. (2022), nach einer Analyse von 90 Millionen Hypothekenanträgen, heraus, dass algorithmische Kreditvergabesysteme Minderheiten systematisch höhere Zinssätze berechneten, obwohl die Modelle formal keine ethnischen Merkmale verwendeten. Die Verzerrungen entstanden durch indirekte Korrelationen, etwa über Wohnort oder Beschäftigungsdaten.[8]
Gesellschaftliche Auswirkungen
Algorithmic Bias kann weitreichende Folgen haben. Betroffen sind unter anderem Kreditvergabe, Personalrekrutierung, polizeiliche Risikobewertung, Gesundheitsdiagnostik und Bildung. Kritiker betonen, dass algorithmische Systeme durch ihre scheinbare Objektivität Diskriminierung verschleiern und legitimieren können.[9]
Gegenmaßnahmen
Zur Reduktion algorithmischer Voreingenommenheit existieren verschiedene Ansätze. Dazu gehören Fairness-Metriken, die algorithmische Entscheidungen quantitativ bewerten, sowie Bias-Mitigation-Techniken, die Verzerrungen in Daten oder Modellen verringern sollen. Darüber hinaus fordern Wissenschaftlerinnen und Wissenschaftler mehr Transparenz, unabhängige Audits und regulatorische Rahmenbedingungen, wie sie etwa im EU-AI-Act vorgesehen sind.[10]