Play
Eine Frau wird von einer KI gescannt.
Bild: metamorworks | Shutterstock

Zurück zum Thema | Künstliche Intelligenz

KI ohne Vorurteile — geht das?

Künstliche Intelligenz ist nicht neutral. Sie reproduziert immer wieder Diskriminierungsformen. Ist KI ohne Vorurteile möglich?

„Zurück zum Thema“ bei Daily Drive

Diskriminierung durch Technik

Ein Fotoautomat erkennt nur weiße Gesichter, ein Seifenspender löst nicht über der Hand einer Schwarzen Person aus und ein Chatbot gibt sexistische Inhalte ausImmer wieder kommt es vor, dass KI-Systeme rassistische, sexistische und andere Diskriminierungsformen reproduzieren. Denn KIs sind nicht frei von Vorurteilen.

Kein Wunder, KIs werden von Menschen entwickelt und wo diese nicht fair sind, ist es die KI auch nicht. Das Problem ist also nicht die Technik an sich, sondern die Entwicklerteams dahinter. Überdurchschnittlich viele weiße Männer arbeiten im Bereich der Künstlichen Intelligenz. Der Frauenanteil in der deutschen IT-Branche lag 2021 bei gerade mal 18 Prozent. Auch Migrantinnen und Migranten sind in der Branche deutlich unterrepräsentiert.

Wenn wir eine diskriminierungsfreie KI machen, dann haben wir die Symptome behandelt, aber nicht die Ursache. Die Ursache ist ja tatsächlich die Diskriminierung, die in den Gesellschaften drin ist. Unser menschliches Verhalten ist nicht frei von Diskriminierung.

Kenza Ait Si Abbou, Expertin für Robotik und Künstliche Intelligenz

Kenza Ait Si Abbou, Expertin für Robotik und Künstliche IntelligenzFoto: Hendrik Gergen

KI ohne Vorurteile?

Expertinnen und Experten fordern daher schon lange, dass die KI-Entwicklung deutlich diverser werden muss. Doch reicht das, um KI vorurteilsfrei zu designen? Ist es überhaupt möglich, eine KI zu programmieren, die keine Diskriminierungen reproduziert?

Ein Kernproblem mit dieser Form der Diskriminierung ist, dass sie eben so im Verdeckten häufig stattfindet und dadurch zu wenig auch gesellschaftlich besprochen wird. Zu wenig Menschen wissen, dass es ein Problem sein kann, mit dem sie konfrontiert werden in der alltäglichen Lebenswelt.

Pia Sombetzki, AlgorithmWatch

Pia Sombetzki, AlgorithmWatchFoto: Studio Monbijou

Darüber spricht detektor.fm-Redakteurin Sarah-Marie Plekat mit Kenza Ait Si Abbou. Sie ist Ingenieurin, Elektrotechnikerin und Expertin für Robotik und Künstliche Intelligenz. Pia Sombetzki erklärt in der Folge, wie Systeme mit automatisierter Entscheidungsfindung in Deutschland besser reguliert werden könnten. Sombetzki arbeitet bei der gemeinnützigen Organisation Algorithm Watch, die untersucht, wie künstliche Intelligenz sich auf die Gesellschaft auswirkt. 

Diese Folge ist Teil unserer Themenwoche „Künstliche Intelligenz“. Wie verändert KI unser Leben? Welche Chancen und welche Risiken bringen die Innovationen mit sich? Wir sprechen in dieser Woche über Deepfakes, Strafverfolgung, Musik und Diskriminierung durch KI mit Vorurteilen.

Volles Programm, (aber) null Banner-Werbung

Seit 2009 arbeiten wir bei detektor.fm an der digitalen Zukunft des Radios in Deutschland. Mit unserem Podcast-Radio wollen wir dir authentische Geschichten und hochwertige Inhalte bieten. Du möchtest unsere Themen ohne Banner entdecken? Dann melde dich einmalig an — eingeloggt bekommst du keine Banner-Werbung mehr angezeigt. Danke!

detektor.fm unterstützen

Weg mit der Banner-Werbung?

Als kostenlos zugängliches, unabhängiges Podcast-Radio brauchen wir eure Unterstützung! Die einfachste Form ist eine Anmeldung mit euer Mailadresse auf unserer Webseite. Eingeloggt blenden wir für euch die Bannerwerbung aus. Ihr helft uns schon mit der Anmeldung, das Podcast-Radio detektor.fm weiterzuentwickeln und noch besser zu werden.

Unterstützt uns, in dem ihr euch anmeldet!

Ja, ich will!

Ihr entscheidet!

Keine Lust auf Werbung und Tracking? Dann loggt euch einmalig mit eurer Mailadresse ein. Dann bekommt ihr unsere Inhalte ohne Bannerwerbung.

Einloggen