Das Wort “Störung” impliziert einen zufälligen Fehler, der ebenso leicht zu beheben wie zu identifizieren ist. Was aber, wenn Rassismus, Sexismus und Behindertenfeindlichkeit nicht nur Fehler in einer größtenteils funktionierenden Maschinerie sind – was, wenn sie im System selbst kodiert sind? In Anlehnung an bekannte Persönlichkeiten wie Safiya Umoja Noble, Cathy O’Neil und Ruha Benjamin zeigt Meredith Broussard in More Than a Glitch, dass Neutralität in der Technik ein Mythos ist und warum Algorithmen zur Rechenschaft gezogen werden müssen.
Broussard, eine Datenwissenschaftlerin und eine der wenigen schwarzen Forscherinnen auf dem Gebiet der künstlichen Intelligenz, verbindet meisterhaft Konzepte aus Informatik und Soziologie. Sie untersucht eine Reihe von Beispielen: von Gesichtserkennungstechnologien, die darauf trainiert sind, nur hellere Hautfarben zu erkennen, über Algorithmen zur Hypothekenbewilligung, die eine diskriminierende Kreditvergabe fördern, bis hin zu den gefährlichen Rückkopplungsschleifen, die entstehen, wenn medizinische Diagnosealgorithmen auf unzureichend vielfältigen Daten trainiert werden. Selbst wenn solche Technologien mit guten Absichten entwickelt werden, zeigt Broussard, dass fehlbare Menschen Programme entwickeln, die verheerende Folgen haben können.
Weitere Informationen / Besprechungen:
More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech
More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech – review