«Algorithmen legen diskriminierende Praxen brutal offen»

digital

Schweizer Illustrierte – Sophie Achermann – Durch eine eidgenössische Abstimmung wurde 1971 in der Schweiz das Frauenstimmrecht eingeführt. 50 Frauen blicken für die Schweizer Illustrierte zurück – und wagen einen Blick in die Zukunft. Heute: Aktivistin Sophie Achermann.

Maschinen entscheiden immer mehr über Menschen. Ob beim Bewerbungsgespräch, bei der Wohnungssuche, der Kreditvergabe oder im Justizvollzug: Algorithmen wägen ab, wählen aus, stellen ein. Davon versprechen wir uns möglichst objektive und faire Entscheide.

Künstliche Intelligenzen sind aber keine besseren Menschen. Sämtliche Algorithmen basieren auf unseren Daten und reproduzieren so unser Verhalten – inklusive unsere Fehler. Immer wieder erfahren wir, wie diskriminierend Algorithmen wirken können. Amazon hat etwa einen Algorithmus gebaut, um den Bewerbungsprozess zu unterstützen. Das Programm wurde mit den alten Rekrutierungsdaten der letzten zehn Jahre gefüttert, damit es davon lernen kann. Was ist passiert? Der Algorithmus hat nicht die besten Dossiers ausgewählt, sondern Männer bevorzugt – unabhängig von ihren Qualifikationen. Das Programm hatte das Muster der HR-Angestellten, wonach Männer häufiger angestellt wurden, erkannt und automatisiert. Die Empörung war gross, der Algorithmus wurde ersatzlos gestrichen.

Genau da zeigt sich das Potenzial von künstlicher Intelligenz. Viele Diskriminierungen geschehen nicht bewusst, sondern unbewusst. Über Jahre stellen Firmen mehr Männer ein, geben ihnen höhere Löhne oder bevorzugen sie bei der Vergabe von Krediten. Die Datensätze sind aber oft so riesig, dass es schwierig ist, Befangenheiten daraus abzulesen. Algorithmen hingegen legen diskriminierende Praxen brutal offen.

Dieser schonungslose Einblick in die Datenwelt ist aber ein Glücksfall. Erst wenn wir verstehen, wie ein Algorithmus zu seinen Entscheiden gelangt, können wir die Daten so bearbeiten, dass er fairer wird. Und erst dann wird der Algorithmus gerechtere Entscheide treffen können als der Mensch. Werden Befangenheiten vom Unbewusstsein an die Oberfläche gespült, sterben Diskriminierungen langsam aus. Und das sollte 50 Jahre nach der Einführung des Frauenstimmrechts erwartet werden dürfen – in allen Bereichen, die unser Leben stark prägen (Gesundheit, Hypotheken, Arbeitsleben).

Der ganze Artikel in der Schweizer Illustrierten

Sponsoring