Kaffee, KI und Klartext

Kann KI überhaupt objektiv sein? Schließlich lernt sie aus Daten, die von Menschen gemacht wurden – und diese Daten stecken voller gesellschaftlicher Muster, Vorurteile und Ungleichheiten.

Wir sprechen darüber, wo Bias in KI-Systemen entsteht, warum moderne Modelle zwar besser geworden sind, aber längst nicht automatisch objektiv sind. Und wir drehen die Perspektive einmal um: Was kann uns der Bias einer KI vielleicht sogar über uns selbst zeigen?

Wir schauen uns an:

• Was bedeutet Bias überhaupt?

• Warum Nachtraining und menschliches Feedback das Problem nicht automatisch lösen,
• Warum Bias nicht nur ein technisches, sondern auch ein gesellschaftliches Thema ist,
• und warum moderne KI-Modelle zwar besser geworden sind, aber trotzdem nicht automatisch biasfrei sind.

Besonders relevant wird das, wenn KI Entscheidungen unterstützt, die echte Konsequenzen für Menschen haben – zum Beispiel im Recruiting.

Und zum Mitmachen gibt's auch eine kleine Challenge: Fragt eure KI bei der nächsten Aufgabe einmal, welche Annahmen oder Stereotype in ihrer Antwort stecken könnten.

Schreibt es uns gern in die Kommentare!

Grüße aus der Kaffeeküche,

Franzi und Anna, die Hosts von Kaffee, KI und Klartext ☕

Spannende Studien zu dem Thema:

NIST – Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile 
Grundlage für die Abschnitte zu Bias als technischem und gesellschaftlichem Problem sowie zu Unterschieden zwischen Gruppen und Sprachen. NIST – AI Risk Management Framework: Generative AI Profile 

NIST – „There’s More to AI Bias Than Biased Data“ 
Für die Erklärung, dass Bias nicht ausschließlich aus Trainingsdaten oder Algorithmen entsteht, sondern auch mit menschlichen und systemischen Faktoren zusammenhängt. NIST – There’s More to AI Bias Than Biased Data 

Stanford HAI – AI Index Report 2026, Responsible AI 
Für den aktuellen Stand der Bewertung von Responsible AI, Fairness und Bias sowie die weiterhin bestehenden Lücken bei einheitlichen Benchmarks. Stanford AI Index 2026 – Responsible AI 

ACL 2026 – Multilingual Bias in LLMs 
Aktuelle Forschung dazu, dass sich Bias zwischen Sprachen unterscheiden kann und englischzentrierte Methoden zur Bias-Reduktion nicht automatisch auf andere Sprachen übertragbar sind. ACL Anthology – 2026 ACL/SRW Research 

ACL 2026 – Subtle Stereotypes in Modern LLMs 
Aktuelle Untersuchung dazu, dass moderne, auf Sicherheit ausgerichtete Modelle in offenen generativen Situationen weiterhin stereotype Muster reproduzieren können. ACL Anthology – 2026 LREC Research 

Klingt überzeugend. Ist trotzdem falsch. Warum erfindet KI manchmal Bücher, Quellen oder ganze Geschichten, statt einfach „Ich weiß es nicht“ zu sagen? ☕

Anna und Franzi erklären, was KI-Halluzinationen sind, warum wir darauf hereinfallen und wie ihr das Risiko im Alltag senken könnt.

Klartext Kompakt: eine Frage, verständliche Antworten – in 5–10 Minuten.

"Frag doch die KI, die weiß das!“ – aber woher eigentlich? ☕

Anna und Franzi erklären, wie Sprachmodelle aus gelernten Mustern Antworten erzeugen und was das mit menschlichem Wissen zu tun hat. Mit Schokolade, Kundenmails und der Frage: Klingt das nur gut – oder stimmt es auch?

Die erste Folge Klartext Kompakt: KI verständlich erklärt in 5–10 Minuten.