Diskriminierung in der KI
Bild: Bin Image creator
Künstliche Intelligenz (KI) kann durch fehlerhafte Daten und/oder deren Verarbeitung beeinflusst werden. Dies kann zu Diskriminierungen von bestimmten Personengruppen führen ¹.
Der Begriff „KI-Bias“ (KI-Diskriminierung) bezeichnet eine Situation, in der ein Machine-Learning-System eine bestimmte Gruppe von Menschen diskriminiert ¹.
KI-Systeme bewerten Sachverhalte objektiv, jedoch liefern die Trainingsdaten, mit denen die künstliche Intelligenz gefüttert wird, subjektive Entscheidungen des Menschen ¹.
Es gibt verschiedene Ursachen für Bias bei KI-Entscheidungen. Dazu gehören unter anderem fehlerhafte Daten, ungleiche Verteilung von Daten und Vorurteile der Entwickler ².
Die Daten mit denen eine KI trainiert wird, entstand durch die Zusammenarbeit vieler Menschen in der Gesellschaft. Es drängt sich hier der Gedanke auf, dass eine KI zwangsläufig zur Diskriminierung neigt, wenn die Gesellschaft, aus der die Trainingsdaten stammen, eine diskriminierende Gesellschaft ist.
Es ist jedoch auch wichtig zu beachten, dass KI-Systeme nicht unbedingt Vorurteile haben müssen, nur weil die Gesellschaft Vorurteile hat. Es gibt verschiedene Maßnahmen, um Bias in der KI zu vermeiden oder zu reduzieren.
zum Beispiel
- die Verwendung von diversen Datenquellen
- die Überprüfung der Algorithmen auf mögliche Diskriminierungen ².
Zum Schluss bleibt festzuhalten, dass KI-Systeme keine Entscheidungen über einzelne oder Gruppen von Menschen fällen sollten, sondern KI-Systeme sind Werkzeuge des Menschen zum Finden einer Entscheidung. Nicht die Maschinen entscheiden über die Menschen sondern Menschen entscheiden über Menschen.
¹: https://www.anti-bias.eu/biaseffekte/biases-in-kuenstlicher-intelligenz/
²: https://www.alexanderthamm.com/de/blog/bias-bei-ki-entscheidungen/
Quelle: Unterhaltung mit Bing, 25.6.2023
(1) Biases in Künstlicher Intelligenz (KI) - Anti-Bias. https://www.anti-bias.eu/biaseffekte/biases-in-kuenstlicher-intelligenz/.
(2) Bias bei KI-Entscheidungen – Ursachen und Gegenmaßnahmen. https://www.alexanderthamm.com/de/blog/bias-bei-ki-entscheidungen/.
(3) Bias in der KI - BMBF Digitale Zukunft - Identity Digital. https://www.bildung-forschung.digital/digitalezukunft/de/technologie/kuenstliche-intelligenz/kuenstliche-intelligenz-innen-bias-in-der-ki/kuenstliche-intelligenz-innen-bias-in-der-ki_node.html.
