Die Antidiskriminierungsbeauftragte des Bundes hat vor einer neuen Form der digitalen Diskriminierung gewarnt, wenn öffentliche und private Stellen zunehmend Entscheidungen durch automatisierte Systeme und Künstliche Intelligenz (KI) treffen lassen. „Digitalisierung, künstliche Intelligenz und Algorithmen machen vieles leichter - leider auch Diskriminierung“, sagte Ferda Ataman den Zeitungen der Funke Mediengruppe (Mittwoch). „Wir dürfen die Gefahren digitaler Diskriminierung auf keinen Fall unterschätzen“, betonte sie.
Immer öfter würden automatisierte Systeme oder Künstliche Intelligenz über Fragen entscheiden, die für Menschen im Alltag wichtig seien, etwa bei Bewerbungsverfahren, Bankkrediten, Versicherungen oder staatlichen Leistungen. „Menschen müssen darauf vertrauen können, dass sie durch KI nicht benachteiligt werden - und sich wehren können, wenn es doch passiert“, sagte die Antidiskriminierungsbeauftragte. „Deshalb brauchen wir klare und nachvollziehbare Regeln.“ Angesichts von Regelungslücken müsse die Bundesregierung die anstehende Reform des Allgemeinen Gleichbehandlungsgesetzes nutzen, um vor digitaler Diskriminierung zu schützen, forderte Ataman.
Globale Anzeichen für digitale Diskriminierung
Für Aufsehen hatte unter anderem ein Fall in den USA gesorgt, bei dem fehlerhaft programmierte Algorithmen bei Apple-Kreditkarten Frauen systematisch benachteiligt hatten. In den Niederlanden wurden Menschen vor allem mit doppelter Staatsbürgerschaft durch einen Algorithmus in einer Behörden-Software diskriminiert – das war wesentlicher Auslöser für ungerechtfertigte Rückforderungen von Kindergeld bei mehr als 20.000 Menschen, was als „Kindergeld-Affäre“ 2021 zum Rücktritt der Regierung führte.
Ataman verwies auf ein von ihr in Auftrag gegebenes Rechtsgutachten, das große Lücken im deutschen Recht aufzeige. Das Gutachten mit dem Titel „Automatisch benachteiligt“ warnt vor der Fehleranfälligkeit algorithmischer Entscheidungssysteme und spricht von einem „unumstrittenen Diskriminierungspotenzial.“
Bislang sei das Allgemeine Gleichbehandlungsgesetz den Herausforderungen „nur bedingt gewachsen“ – obwohl der Einsatz solcher Systeme nahezu alle Bereiche des privaten und öffentlichen Lebens umfasse.
