Bozen – Künstliche Intelligenz ist längst in unserem Alltag angekommen. Sie ist von den Normen unserer Gesellschaft geprägt und verstärkt diese meist ungefiltert. Deshalb ist es wichtig zu wissen, welche Inhalte die KI ausspielt und welche sie unterschlägt. Bei einer Tagung des Vereins ‚Wnet‘ in Zusammenarbeit mit der ‚Tech Transfer Unit Digital‘ des NOI Techpark ging es um Einblicke in die Mechanismen der KI und die Frage, wie man die Technologie bewusster und diverser gestalten kann.
Einer der größten Irrglauben über KI ist, dass sie neutral ist
Professor Antonella De Angeli von der Freien Universität Bozen erforscht, wie Menschen mit Maschinen interagieren und wie KI-Sprache generiert. Sie betont: Einer der größten Irrglauben über KI sei, dass sie neutral ist – denn in Wahrheit sei sie es nicht.
Denn die KI werde von gesellschaftlichen Normen geprägt, so Klaudia Mur, Data Scientist und Gründerin von ‚Jolint‘. Bei Menschen bedeute das: christlich, weiß, eher jung bis mittleren Alters, gut aussehend, Familienkonstellation bestehend aus Mann, Frau und meist zwei Kindern. Genau diese Muster zeigten sich auch in KI-generierten Bildern und Texten.
Alle KI-Bilder einer Südtiroler Familie sehen ähnlich aus
Fordere man die KI auf, eine „Südtiroler Familie“ oder eine „Südtiroler Unternehmerin“ darzustellen, bekomme man sehr ähnliche Ergebnisse, so Mur: Bilder mit Bergen, Äpfeln, Almwiesen, Dirndl, traditioneller Familie, meist mit zwei Kindern und gut aussehend. Unternehmerinnen würden eher in sozialen Berufen dargestellt.
Was tun gegen KI-Stereotypisierung?
Ironischerweise versucht die KI, Stereotypen zu vermeiden, läuft dabei aber Gefahr, die Realität zu stark zu vereinheitlichen.
Antonella De Angeli betont, dass KI dazu tendiere, Konflikten aus dem Weg zu gehen. Um Diskriminierung zu vermeiden, verwende sie eine äußerst korrekte Sprache und würde Menschen nicht nach sozialen Merkmalen wie Geschlecht kategorisieren. Doch genau das führe dazu, dass gesellschaftliche Vielfalt verloren geht.
Was kann man dagegen tun? Es ist möglich, der KI zu sagen, wie ein Bild oder Text anders gestaltet werden soll. Man muss der KI aufzeigen, was fehlt. So lernt sie, dass die Gesellschaft vielfältig ist und das wirkt sich wiederum auf die Inhalte aus, die danach ausgespielt werden.
