Das Wort Bias kommt aus dem Englischen und bedeutet ursprünglich „Voreingenommenheit“, „Vorurteil“ oder „Verzerrung“.
Je nach Zusammenhang kann man es unterschiedlich übersetzen:
- Bei Daten oder Statistiken: Verzerrung – Ergebnisse weichen von einer neutralen oder korrekten Darstellung ab.
- Bei Menschen: Voreingenommenheit – jemand beurteilt etwas nicht völlig neutral.
Mit Bias in der KI meint man eine systematische Verzerrung. Wenn man nur dies liest, haben die meisten Menschen erst mal ein Fragezeichen, was dies eigentlich bedeuten soll.
Systematisch bedeutet hier, dass die KI wiederholt verzerrte Ergebnisse liefert und nicht einfach nur zufällig einzelne Fehler macht. Diese Ergebnisse weichen von einer neutralen Bewertung ab und sind in eine bestimmte Richtung verzerrt. Die erhaltenen Infomationen entsprechen nicht einer neutralen, vorurteillosen Realität.
Woher kommt Bias?
Bias kann aus verschiedenen Gründen entstehen. Häufig liegt er schon in den Trainingsdaten. Wenn eine KI zum Beispiel überwiegend Bilder von Männern als Führungskräfte gesehen hat, kann sie später Führung eher mit Männern verbinden.
Bias kann auch durch unausgewogene Daten entstehen. Wenn eine Gesichtserkennung hauptsächlich mit Bildern hellhäutiger Personen trainiert wurde, kann sie bei anderen Hauttönen schlechter funktionieren.
Ein weiterer Grund sind menschliche Bewertungen: Wenn Personen Trainingsdaten subjektiv oder voreingenommen bewerten, kann die KI diese Verzerrungen übernehmen. Auch die Auswahl der Daten spielt eine Rolle. Wenn zum Beispiel nur Daten aus einer bestimmten Region oder Altersgruppe verwendet werden, kann das Ergebnis für andere Gruppen ungenauer sein.
Beispiele
Ein einfaches Beispiel in der Arbeitswelt wäre: Wenn eine KI Bewerbungen bewertet und Männer bei gleicher Qualifikation häufiger besser einstuft als Frauen, wäre das eine systematische Verzerrung. Entscheidend ist also, dass sich das Muster regelmäßig wiederholt.
Ein einfaches Alltagsbeispiel wäre eine Musik- oder Filmempfehlung. Angenommen, Menschen haben viele Filme mit 1 bis 5 Sternen bewertet. Diese Bewertungen nutzt eine KI als Trainingsdaten. Wenn bestimmte Nutzergruppen beispielsweise Actionfilme sehr häufig mit 5 Sternen bewerten und Dokumentationen eher schlechter, kann die KI daraus lernen: „Actionfilme sind besonders beliebt.“ Das kann dazu führen, dass die KI neuen Nutzern häufiger Actionfilme empfiehlt – auch wenn diese eigentlich andere Interessen haben. Der Bias entsteht hier also dadurch, dass menschliche Vorlieben und Bewertungen in den Daten stecken. Die KI übernimmt diese Muster und kann sie anschließend verstärken.
Sind Bias „böse“?
Nein, hinter Bias steckt keine böse Absicht. Er kann technisch bedingt sein oder aus den Trainingsdaten resultieren. Ein Bias ist einfach nicht voruteilsfrei und unter Umständen birgt ein rechtliches Risiko.
In der Arbeitswelt können Biases zur Diskriminierung führen, wenn man KI im Personal-, Gesundheits- oder Finanzwesen verwendet. Kommt es durch die KI hier zu Bias und wird jemand aufgrund dieser Daten bevorzugt oder abgelehnt, dann kann das unter Umständen als Diskriminierung eingestuft werden.
Im Privatleben erhält man unter Umständen Empfehlungen für etwas, was einen in seinen Entscheidungen beeinflussen kann.
Woran erkenne ich Bias?
Bias erkennt man vor allem, indem man die Ergebnisse systematisch vergleicht. Man kann der KI beispielsweise sehr ähnliche Fälle geben und nur ein Merkmal verändern, etwa Geschlecht, Alter oder Herkunft. Wenn sich das Ergebnis dadurch regelmäßig verändert, obwohl das Merkmal eigentlich keine Rolle spielen sollte, kann das auf Bias hindeuten.
Ein Hinweis auf Bias kann sein, dass bestimmte Inhalte, Sichtweisen oder Empfehlungen bei vergleichbaren Anfragen systematisch bevorzugt werden. Erkennen könnten Sie das, indem Sie prüfen, ob die KI über längere Zeit bestimmte Inhalte deutlich bevorzugt, obwohl vergleichbare Alternativen vorhanden sind. Ein einzelner unpassender Vorschlag wäre noch kein Bias. Wenn sich das Muster aber regelmäßig wiederholt, spricht das für eine systematische Verzerrung.
Bias im Privatleben – wenn Sie die KI als Suchmaschine nutzen
Bei Produktempfehlungen gibt es heute einen ähnlichen Effekt wie bei Suchmaschinenoptimierung: Unternehmen versuchen, ihre Produktdaten und Beschreibungen so aufzubereiten, dass KI-Systeme sie leichter finden, verstehen und als relevant einstufen. Google weist Händler inzwischen ausdrücklich darauf hin, Produktbeschreibungen so zu gestalten, dass Produkte in KI-gestützten Such- und Shopping-Erlebnissen besser entdeckt werden. Das bedeutet aber nicht automatisch, dass die KI „gekauft“ oder absichtlich parteiisch ist.
Was bedeutet es für uns als KI-Nutzer?
Ein Produkt mit sehr guten, vollständigen und maschinenlesbaren Informationen kann häufiger auftauchen als ein möglicherweise ebenso gutes Produkt mit schlechten oder unvollständigen Daten. Dadurch kann eine Verzerrung der verfügbaren Informationen entstehen. Die KI kann schließlich nur das gut bewerten, was sie zuverlässig findet und versteht. Hier kann also ein Bias entstehen, ohne, dass man es vermutet.
Eine andere Geschichte ist bezahlte Werbung. Bei manchen Plattformen können bezahlte Anzeigen neben KI-Ergebnissen erscheinen. Diese sollten klar als Werbung gekennzeichnet sein. Google testet beispielsweise ausdrücklich gesponserte Platzierungen in KI-basierten Shopping-Erlebnissen. Bei ChatGPT werden Produktempfehlungen laut OpenAI unabhängig von Werbepartnerschaften ausgewählt. Anzeigen sind davon getrennt und als gesponsert gekennzeichnet. Bei der Produktauswahl spielen unter anderem die konkrete Anfrage und der Gesprächskontext eine Rolle. OpenAI weist gleichzeitig darauf hin, dass nicht zwangsläufig alle am Markt verfügbaren Produkte berücksichtigt werden.
Ein Bias bei Produktempfehlungen kann demnach enstehen, wenn Produkte häufiger vorgeschlagen werden, weil ihre Informationen besonders gut für KI-Systeme aufbereitet wurden, während andere geeignete Produkte weniger sichtbar sind. Dadurch muss die Empfehlung nicht zwingend das objektiv beste Produkt für den Nutzer darstellen.
Erkennen ließe sich das beispielsweise daran, dass bei unterschiedlichen, aber vergleichbaren Anfragen immer wieder dieselben Marken oder Produkte auftauchen, obwohl andere Produkte die genannten Anforderungen genauso gut oder besser erfüllen. Wichtig ist also die Unterscheidung: Eine KI kann versuchen, nach den Bedürfnissen des Nutzers auszuwählen und trotzdem verzerrte Empfehlungen liefern, weil ihre Informationsgrundlage nicht vollständig oder gleichmäßig ist. Was auch daran liegt, dass die KI nicht zwangsläfig das ganze Web nach einem Produkt durchsucht.
Was kann man gegen Bias tun?
KI als Assistenz
Wenn man eine KI hauptsächlich als Assistent nutzt und die KI nicht selbst Entscheidungen trifft, geht es vor allem darum, Bias zu erkennen, zu hinterfragen und auszugleichen.
In der Arbeitswelt sollte man KI-Ergebnisse nicht ungeprüft übernehmen. Bei Texten, Zusammenfassungen, Ideen oder Produktempfehlungen sollte geprüft werden, ob bestimmte Sichtweisen, Marken, Personengruppen oder Lösungswege auffällig oft bevorzugt werden. Sinnvoll ist es, gezielt Gegenfragen zu stellen, zum Beispiel: „Welche Alternativen gibt es?“, „Welche Perspektive fehlt?“ oder „Welche Annahmen liegen dieser Empfehlung zugrunde?“. Bei wichtigen Inhalten sollte außerdem mit unabhängigen Quellen gegengeprüft werden. Besonders hilfreich ist es, der KI möglichst konkrete Kriterien zu geben, damit sie weniger nach allgemeinen Mustern und stärker nach dem tatsächlichen Bedarf antwortet.
Im Privatleben gilt im Grunde dasselbe. Bei Empfehlungen für Produkte, Reisen, Filme oder Informationen sollte man nicht davon ausgehen, dass die erste Empfehlung automatisch die beste oder neutralste ist. Man kann mehrere Optionen verlangen, Kriterien selbst festlegen und verschiedene Quellen vergleichen. Wenn immer wieder dieselben Marken, Meinungen oder Inhalte auftauchen, obwohl andere Möglichkeiten existieren, kann das ein Hinweis auf eine Verzerrung sein.
Nutzen Sie KI als Unterstützung, aber nicht als endgültige Autorität. Vergleichen Sie Ergebnisse, fordern Sie Gegenpositionen an und prüfen Sie wichtige Aussagen selbst.
KI in Unternehmensprozessen
Benutzt man eine KI in Prozessen, reicht kritisches Nachfragen allein nicht mehr. Dann muss Bias systematisch kontrolliert werden.
Wichtig ist vor allem, die Daten zu prüfen, mit denen die KI arbeitet. Sind bestimmte Gruppen, Fälle oder Situationen unterrepräsentiert, kann das die Ergebnisse verzerren. Zusätzlich sollte man regelmäßig testen, ob die KI bei vergleichbaren Fällen unterschiedlich entscheidet.
Außerdem sollten wichtige Entscheidungen nicht vollständig der KI überlassen werden. Besonders bei sensiblen Prozessen sollte immer eine menschliche Kontrolle vorgesehen sein. Sinnvoll sind außerdem klare Regeln dafür, wann die KI genutzt werden darf, wer Ergebnisse freigibt und wie Fehler dokumentiert werden.
Ein weiterer Punkt ist die laufende Überwachung. Auch eine anfangs gut funktionierende KI kann später verzerrte Ergebnisse liefern, wenn sich Daten oder Rahmenbedingungen verändern. Deshalb sollten Ergebnisse und Fehlerraten regelmäßig kontrolliert werden.
