Grenzen der Technik: Bias, Sprache & Bilder
Grenzen & Gefahren (Kapitel 7–9)
Ist KI objektiv? Leider nein. In diesem Quiz erfährst du, wie menschliche Vorurteile („Bias“) in die Maschine gelangen und warum das problematisch sein kann. Außerdem nehmen wir Sprach-KIs wie ChatGPT und Bild-Generatoren unter die Lupe: Versteht der Chatbot wirklich, was er sagt? Und wie malt ein Computer Bilder aus dem Nichts („Diffusion“)? Teste dein Wissen darüber, was KI wirklich kann – und wo sie nur Wahrscheinlichkeiten berechnet.
Wenn KI Fehler ins System baut Hintergrundwissen ▼
Eine KI ist nur so fair wie die Daten, mit denen sie trainiert wurde. Wenn diese Daten menschliche Vorurteile enthalten – und das tun sie fast immer –, lernt die KI genau diese Vorurteile mit. Das nennt man Bias. Das Ergebnis: Gesichtserkennung, die bei dunklen Hauttypen schlechter funktioniert. Stellenanzeigen, die Frauen seltener für Führungspositionen vorschlagen. Kreditbewertungen, die bestimmte Postleitzahlen benachteiligen.
Beim Thema Sprache ist es ähnlich: Ein Chatbot wie ChatGPT klingt überzeugend, weil er aus Milliarden von Texten gelernt hat, wie Menschen schreiben – nicht weil er versteht, was er sagt. Er berechnet in jedem Moment, welches Wort als nächstes am wahrscheinlichsten passt. Manchmal ist das brillant. Manchmal ist es schlicht falsch – aber klingt trotzdem sicher.
Noch faszinierender funktioniert KI bei Bildern: Sogenannte Diffusions-Modelle starten mit einem Bild aus purem Rauschen – wie Fernsehrauschen – und verfeinern es Schritt für Schritt, bis ein Motiv entsteht. Die KI hat nie gelernt, was ein Hund „ist". Sie weiß nur, wie Pixel in Bildern mit dem Label „Hund" zusammenhängen.
Durch Trainingsdaten. Wenn eine KI zum Beispiel mit historischen Bewerbungsunterlagen trainiert wird, in denen Männer häufiger eingestellt wurden, lernt sie: Männer sind bessere Kandidaten. Die KI hat keine böse Absicht – sie spiegelt einfach wider, was in den Daten steckt. Deshalb ist die Auswahl und Prüfung von Trainingsdaten eine der wichtigsten und schwierigsten Aufgaben in der KI-Entwicklung.
Erkennen ja, vollständig vermeiden schwer. Forscher testen KI-Systeme gezielt auf unfaire Ergebnisse – zum Beispiel ob sie bei gleichen Lebensläufen je nach Name unterschiedlich entscheiden. Vollständig neutral wird KI kaum sein, solange die Welt, aus der die Daten stammen, selbst nicht neutral ist. Transparenz darüber ist deshalb wichtiger als das Versprechen von Objektivität.
Bei Diffusions-Modellen (wie Midjourney oder DALL-E) beginnt der Prozess mit einem zufälligen Bildrauschen. Die KI hat gelernt, dieses Rauschen schrittweise zu einem sinnvollen Bild zu formen – geleitet von deiner Texteingabe. Es ist weniger „Malen" als vielmehr ein kontrolliertes Entrauschen, das am Ende ein kohärentes Bild ergibt.
Weil er auf Überzeugungskraft optimiert wurde, nicht auf Wahrheit. Sprachmodelle wurden darauf trainiert, Antworten zu erzeugen, die Menschen als hilfreich und korrekt bewerten. Das führt dazu, dass sie auch bei falschen Antworten einen sicheren, kompetenten Ton anschlagen. Ein Zeichen von Unsicherheit – „Ich weiß es nicht genau" – kommt seltener vor, als es sollte.
Grenzen der Technik:
Bias, Sprache & Bilder
Dein bisheriger Fortschritt:
Ist KI objektiv? Leider nein. Erfahre, wie Vorurteile („Bias“) in die Maschine gelangen. Wir prüfen auch: Versteht ChatGPT dich wirklich? Und klaut Bild-KI einfach Schnipsel oder malt sie neu?
Quiz beendet!
Deine Bestleistungen:
Deine Spielergebnisse werden nur in deinem Browser gespeichert – ganz ohne Benutzerkonto oder Datenübertragung. Das bedeutet: Wenn du das Spiel auf einem anderen Gerät öffnest, sind deine bisherigen Ergebnisse dort nicht sichtbar, sondern bleiben nur auf dem Gerät, auf dem du gespielt hast.
👉 Tipp: Wenn du ein Gerät regelmäßig nutzt, kannst du dort deine Fortschritte verfolgen.
Hinweis: Unsere Spiele haben wir selbst programmiert und laufend erweitert. Sollte dir einmal ein Fehler auffallen, freuen wir uns über einen kurzen Hinweis über die Kommentarfunktion unten auf der Seite. Vielen Dank!
Mehr Wissen rund um KI entdecken
Du möchtest noch tiefer einsteigen?
Neben unserem Kapitel „KI verstehen“ findest du hier auch passende Beiträge aus den Bereichen „KI im Alltag“ und „KI & Sicherheit“ – ideal, wenn du mehr zur Anwendung oder zu Risiken von KI erfahren möchtest.