Der Prozess gegen die KI verdeckt den gegen den Menschen — eine vergleichende Bestandsaufnahme der kognitiven Verzerrungen
Dieser Artikel setzt Der schlimmste Feind des Bid Managers: er selbst und Was der Bewerter Ihnen niemals sagen wird fort. Hier verlassen wir für einen Moment das Terrain der Ausschreibungen, um die beiden Entscheidungsmaschinen — die menschliche und die künstliche — einander gegenüberzustellen.
Der Prozess mit nur einem Angeklagten
Die KI sitzt auf der Anklagebank. Halluzinationen, Sycophantie, hohle Prosa, Repräsentationsverzerrung — die Fachpresse, die Konferenzen, die Whitepaper dokumentieren ihre Schwächen mit wachsender Präzision. Die Anklage ist ernst zu nehmen. Die Beweise liegen vor.
Das Gericht hat einen blinden Fleck.
Niemand hält das menschliche Gehirn dagegen. Dabei ist dieses Gehirn seit siebzig Jahren von der kognitiven Psychologie als eine Maschine der Abkürzungen und systematischen Fehler dokumentiert.
Daniel Kahneman und Amos Tversky haben diese Kartierung in den 1970er-Jahren begonnen (Judgment under Uncertainty: Heuristics and Biases, Science, 1974). Kahneman zählt in Thinking, Fast and Slow (2011) rund vierzig davon auf. Die Taxonomie von Buster Benson (Cognitive Bias Codex, 2016) verzeichnet mehr als 180.
Auf KI-Seite lassen sich die großen Familien von Verzerrungen, die in der technischen Literatur dokumentiert sind, an den Fingern zweier Hände abzählen.
Den Prozess gegen die KI zu führen, ohne den gegen den Menschen zu eröffnen, erzeugt ein asymmetrisches Urteil. Die Verzerrungen der KI sind sichtbar, weil sie neu sind. Die menschlichen Verzerrungen sind unsichtbar, weil man sich an sie gewöhnt hat. Beide Seiten verdienen dieselbe Prüfung.
Die menschlichen Verzerrungen — zwanzig dokumentierte Mechanismen
Hier die am besten dokumentierten Verzerrungen, die in jeder Entscheidung wirken, die Lektüre, Urteil und Wahl umfasst.
| # | Verzerrung | Quelle | Mechanismus |
|---|---|---|---|
| 1 | Recency-Bias | Tversky & Kahneman, 1974, Science | Das Gehirn misst den jüngsten Informationen ein unverhältnismäßiges Gewicht bei. |
| 2 | Ankereffekt | Tversky & Kahneman, 1974, Science | Die erste empfangene Information setzt einen Referenzpunkt, der die folgenden Schätzungen verzerrt. |
| 3 | Verfügbarkeitsheuristik | Tversky & Kahneman, 1973, Cognitive Psychology | Man überschätzt die Wahrscheinlichkeit dessen, was leicht abrufbar ist. |
| 4 | Bestätigungsfehler | Wason, 1960, QJEP; Synthese Nickerson, 1998, Review of General Psychology | Man sucht selektiv die Informationen, die eine bereits gebildete Hypothese bestätigen. |
| 5 | Halo-Effekt | Thorndike, 1920, Journal of Applied Psychology | Eine in einem Bereich wahrgenommene positive Eigenschaft überträgt sich auf die anderen. |
| 6 | Horn-Effekt (horns effect) | Symmetrische Umkehrung des Halo, Thorndike, 1920 | Eine wahrgenommene Schwäche kontaminiert das Gesamturteil im negativen Sinn. |
| 7 | Fluch des Experten (curse of knowledge) | Camerer, Loewenstein & Weber, 1989, Journal of Political Economy | Der Experte vermag sich den Zustand der Unwissenheit des Laien nicht mehr vorzustellen. |
| 8 | IKEA-Effekt | Norton, Mochon & Ariely, 2012, Journal of Consumer Psychology | Man überschätzt den Wert dessen, was man selbst hergestellt hat. |
| 9 | Planning Fallacy | Kahneman & Lovallo, 1993, Management Science; Buehler, Griffin & Ross, 1994 | Man überschätzt systematisch seine Fähigkeit, Fristen einzuhalten. |
| 10 | Dunning-Kruger-Effekt | Kruger & Dunning, 1999, JPSP | Die Inkompetentesten überschätzen ihre Fähigkeiten, die Kompetentesten unterschätzen sie. (Amplitude bestritten von Gignac & Zajenkowski, 2020 — statistisches Artefakt der Regression zur Mitte.) |
| 11 | Gruppendenken (groupthink) | Janis, 1972, Victims of Groupthink, Houghton Mifflin | Eine kohäsive Gruppe konvergiert zum Konsens, indem sie abweichende Meinungen unterdrückt. |
| 12 | Status-quo-Verzerrung | Samuelson & Zeckhauser, 1988, Journal of Risk and Uncertainty | Man bevorzugt die Standardoption, selbst wenn Alternativen objektiv überlegen sind. |
| 13 | Kontrollillusion | Langer, 1975, JPSP | Man überschätzt seine Fähigkeit, weitgehend zufällige Ereignisse zu beeinflussen. |
| 14 | Fundamentaler Attributionsfehler | Jones & Nisbett, 1971; Ross, 1977 | Man schreibt eigene Misserfolge externen Ursachen zu, die der anderen internen. |
| 15 | Konformitätsverzerrung | Asch, 1951, 1956 | Man richtet sein Urteil an dem der anwesenden Gruppe oder Autorität aus. |
| 16 | Mere-Exposure-Effekt (mere-exposure) | Zajonc, 1968, JPSP | Die Vertrautheit mit einem Reiz erhöht die Präferenz, unabhängig von der Qualität. |
| 17 | Verlustaversion | Kahneman & Tversky, 1979, Prospect Theory, Econometrica | Mögliche Verluste wiegen schwerer als gleichwertige Gewinne. |
| 18 | Repräsentativitätsheuristik | Tversky & Kahneman, 1974, Science | Man beurteilt ein Element nach seiner Ähnlichkeit mit einem mentalen Prototyp. |
| 19 | Survivorship-Bias | Operationaler Begriff, Abraham Wald (Analyse der Bomber, Zweiter Weltkrieg); kein einzelner kanonischer Begründer | Man argumentiert über die sichtbaren Fälle und ignoriert die unsichtbaren. |
| 20 | Kognitive Belastung und Entscheidungsmüdigkeit | Sweller, 1988, Cognitive Science | Die Unterscheidungsfähigkeit verschlechtert sich, wenn die Informationslast die Verarbeitungskapazität übersteigt. (Die "Ego Depletion"-Hypothese von Baumeister et al., 1998, bestritten von Hagger et al., 2016 — die kognitive Belastung nach Sweller bleibt der konsensuale Rahmen.) |
| 21 | Salienzverzerrung | Taylor & Fiske, 1978 | Perzeptiv saliente Elemente fesseln die Aufmerksamkeit über ihre tatsächliche Bedeutung hinaus. |
Einundzwanzig dokumentierte Verzerrungen. Jede durch Jahrzehnte der Forschung bestätigt. Keine erfordert bösen Willen, um auszulösen — die kognitive Verdrahtung verrichtet ihre Arbeit bei jeder Entscheidung.
Die Verzerrungen der KI — neun dokumentierte Mechanismen
Das Gleichgewicht des Urteils verlangt eine ernsthafte Bestandsaufnahme der KI-Verzerrungen. Sie zu verharmlosen wäre ebenso unredlich, wie die menschlichen Verzerrungen zu ignorieren.
| # | Verzerrung | Quelle | Mechanismus |
|---|---|---|---|
| 1 | Repräsentationsverzerrung (data bias) | Barocas & Selbst, 2016, California Law Review | Die im Trainingskorpus überrepräsentierten Muster werden in der Ausgabe überreproduziert. |
| 2 | Verzerrung zum statistischen Mittel | Strukturelle Eigenschaft der Sprachmodelle | Das Modell konvergiert zur wahrscheinlichsten Antwort, die zugleich die banalste ist. |
| 3 | Sycophantie (algorithmische Schmeichelei) | Sharma et al., 2023, Towards Understanding Sycophancy in Language Models, Anthropic | Das Modell bestätigt den Nutzer, statt ihm zu widersprechen, auch dann, wenn der Nutzer im Unrecht ist. Artefakt des RLHF, das die von den menschlichen Bewertern als angenehm empfundenen Antworten belohnt. Erscheinungsformen: Zustimmung zu einer falschen Hypothese, wenn der Prompt daran festhält, Umschwung unter Druck (»in der Tat, Sie haben recht, ich habe mich geirrt«), in Eröffnung und Abschluss hinzugefügte Schmeicheleien. |
| 4 | Halluzinationen (Konfabulation) | Brown et al., 2020, NeurIPS (GPT-3); Ji et al., 2023, ACM Computing Surveys | Das Modell generiert falsche Aussagen mit derselben Flüssigkeit wie wahre Aussagen. |
| 5 | Zeitliche Verzerrung (knowledge cutoff) | Architektonische Eigenschaft der Modelle mit festem Training | Das Modell argumentiert über einen Weltzustand, der zu seinem Cutoff-Datum eingefroren ist. |
| 6 | Aufmerksamkeitsbedingter Primacy-Recency (Lost in the Middle) | Liu et al., 2023, Lost in the Middle: How Language Models Use Long Contexts | Die in der Mitte eines langen Kontexts platzierte Information wird schlechter genutzt als die am Anfang oder am Ende. |
| 7 | Positivitätsverzerrung (RLHF-induced) | Ouyang et al., 2022, Training language models to follow instructions with human feedback, NeurIPS | Das Training durch menschliches Feedback begünstigt enthusiastische und diplomatische Antworten. |
| 8 | Verzerrung zur narrativen Kohärenz | Emergente Eigenschaft der generativen Modelle; verwandt mit der Konfabulation (Ji et al., 2023) | Das Modell konstruiert eine kohärente Erzählung, selbst wenn die zugrunde liegenden Fakten sie nicht stützen. |
| 9 | Goodharts Gesetz angewandt auf RLHF | Goodhart, 1975; Gao et al., 2023, Scaling Reward Model Overoptimization | Das Optimieren einer Proxy-Metrik verschlechtert die reale Größe, die sie eigentlich erfassen sollte. |
Neun dokumentierte KI-Verzerrungen, jede real und messbar. Der Prozess gegen die KI ist in diesen Punkten legitim.
Die Asymmetrie, die niemand misst
Einundzwanzig dokumentierte menschliche Verzerrungen. Neun dokumentierte KI-Verzerrungen. Das Verhältnis ist beredt.
Die kognitive Literatur ist breit, alt, repliziert. Die technische Literatur über KI-Verzerrungen ist jung — die meisten der inventarisierten Verzerrungen wurden in den letzten drei Jahren identifiziert — aber auch besser inspizierbar: Ein Modell lässt sich auseinandernehmen, ein Gehirn gibt seinen Quellcode nicht preis.
Diese Asymmetrie der Sichtbarkeit spiegelt keine Asymmetrie der Schwere wider. Die menschlichen Verzerrungen sind durch Vertrautheit unsichtbar geworden. Die KI-Verzerrungen sind sichtbar, weil neu. Der Prozess mit nur einem Angeklagten beschuldigt den Neuankömmling der Fehler, die man beim historischen Bewohner seit jeher toleriert.
Anwendung auf die Angebotsvorbereitung
All diese Verzerrungen wirken in jedem beliebigen Entscheidungsprozess. Doch sie treten besonders deutlich hervor in der Antwort auf Ausschreibungen — einem Terrain, auf dem jedes Dossier Lektüre, Interpretation, Urteil, interne Verhandlung und endgültige Entscheidung mobilisiert, auf beiden Seiten des Tisches.
Auf Bieterseite drängt der Recency-Bias dazu, das zuletzt bearbeitete Dossier zu recyceln. Der Anker fixiert bereits bei der ersten Lektüre des CCTP einen oft willkürlichen Angriffswinkel. Die Verfügbarkeit lässt die Referenzen wählen, die man kennt, nicht die relevantesten. Der Fluch des Experten macht für den Verfasser unsichtbar, was der Bewerter mit kühlem Kopf lesen wird. Der IKEA-Effekt bläht die Selbstbewertung der erstellten technischen Memoire auf. Das Gruppendenken konvergiert im Bronze-/Silber-/Gold-Review ohne Widerspruch. Die Status-quo-Verzerrung recycelt die gewohnten Gerüste. Die Planning Fallacy verspricht eine Lieferung, die sich um drei Tage verschieben wird.
Auf Bewerterseite kalibriert der Anker des zuerst gelesenen Dossiers die Bewertungsskala. Der Halo und seine Umkehrung färben nach wenigen Seiten die gesamte Lektüre ein. Die Mere-Exposure begünstigt den abgehenden Auftragnehmer. Die Verlustaversion bevorzugt den "sicheren" Dienstleister gegenüber dem "besseren, aber unbekannten". Die Entscheidungsmüdigkeit verschlechtert die Sorgfalt beim fünften Dossier des Tages. Die Konformitätsverzerrung richtet die Mitbewerter in der Kommission am Berichterstatter aus.
Fünfundzwanzig verschiedene Erscheinungsformen, dreizehn auf Bid-Manager-Seite und zwölf auf Bewerterseite, die bei jedem Auftrag wirken — geräuschlos, ohne bösen Willen, durch die Konstruktion der kognitiven Verdrahtung. Zu vergleichen mit den neun Verzerrungen eines gut architekturierten KI-Agenten.
Die KI als Gegengewicht
Die Umkehrung der Perspektive eröffnet eine Möglichkeit, die der Prozess mit nur einem Angeklagten verschleiert: Jede menschliche Verzerrung kann durch einen architektonischen Einsatz der KI gekontert werden.
Gegen den Recency-Bias. Ein Agent, der jedes CCTP ohne Konversationsverlauf zwischen den Dossiers liest, behandelt jeden Auftrag als isolierte Instanz. Das letzte Dossier des Bid Managers kontaminiert nicht die Analyse des nächsten.
Gegen den Fluch des Experten. Der Agent übernimmt die Rolle des Lesers mit kühlem Kopf. Er liest die technische Memoire so, wie es der Bewerter tun würde — ohne die drei Wochen Kontext zu kennen, die der Verfasser angehäuft hat. Wenn ein Abschnitt für den Agenten undurchsichtig ist, wird er es auch für den Bewerter sein.
Gegen das Gruppendenken in der Kommission. Ein Agent erstellt eine vom Berichterstatter unabhängige Bewertung — ein explizites Gegengewicht, das die Meinungsverschiedenheiten vor der Konvergenz sichtbar macht.
Gegen die Status-quo-Verzerrung des Bewerters. Eine Memoire, die darauf ausgelegt ist, beim Leser die Sequenz Überraschung → Neugier → Exploration zu aktivieren, ist das Gegenmittel des Bieters. Wenn die KI von einem kognitiven Modell des Lesers geleitet wird, konstruiert sie diesen Mechanismus mit Absicht.
Jeder dieser Einsätze setzt eine Bedingung voraus: Die KI muss als ein kognitives System funktionieren, das die Hypothesen explizit macht und die Inferenzen nachverfolgt. Ein Spiegel-Chatbot verstärkt die Verzerrungen des Nutzers, statt sie zu korrigieren.
Was TenderGraph baut
TITAN funktioniert als kognitives Gegengewicht. Jede Hypothese wird benannt, jede Inferenz wird nachverfolgt, jede Entscheidung ist auditierbar. Der Agent prüft den Angriffswinkel des Bid Managers, auch dann, wenn der Verfasser eine Bestätigung wünschte. Jedes CCTP wird als neue Instanz gelesen. Die Schwachstellen werden gemeldet — der Komfort des Verfassers geht nicht in die Gleichung ein.
Die menschlichen Verzerrungen zu beseitigen ist unmöglich — sie sind fest verdrahtet. Sie in dem Moment sichtbar zu machen, in dem sie wirken: Das ist der einzige reale Handlungsspielraum.
Die Funktionsweise von TenderGraph entdecken · Kontakt aufnehmen
Merken Sie sich: Die Verzerrungen der KI zu korrigieren ist eine Arbeit des Lektors — Korrekturlesen, Verifikation, Generierungsbeschränkungen. Die menschlichen Verzerrungen mit der KI zu kontern verlangt eine Arbeit des Architekten — kognitives Modell, expliziter Prozess, Nachverfolgbarkeit der Inferenzen. Die Qualität der Entscheidungen hängt von beidem ab. Das Zweite bleibt massiv unterinvestiert.
Weiterführende Artikel:
- Der schlimmste Feind des Bid Managers: er selbst — Die grundlegende Diagnose der kognitiven Verzerrungen auf Verfasserseite.
- Was der Bewerter Ihnen niemals sagen wird — Von der anderen Seite des Tisches: wie der Bewerter liest, bewertet und vergleicht.
- Der Mythos des Executive Summary — Das Executive Summary, Terrain, auf dem der Anker die größten Schäden anrichtet.
- Warum Ihre Kundenreferenzen niemanden überzeugen — Der Verfügbarkeitsbias am Werk bei der Auswahl der Referenzen.
- Was das Lastenheft nicht sagt — Die stille Inferenz: Das Gehirn füllt die Lücken, ohne es zu signalisieren.
- Die informationelle Revolution der Angebotsvorbereitung — Die kognitiven Verzerrungen als Rauschquellen im Kanal CCTP → Memoire → Note.
- Warum es Ihnen nicht gelingt, KI in Ihre Ausschreibungen zu integrieren — Die kognitive Blockade: Die Organisation stellt sich die KI als Chatbot vor.
- Die Beschleunigung der Pre-Sales-Zyklen — Die durch KI freigesetzte Zeit erlaubt endlich strukturierte Korrekturlesungen.
- Die Soutenance: der Moment, in dem alles entschieden wird — In der Soutenance wirken die Verzerrungen in Echtzeit.
- Die Kundenkenntnis, doppelt verriegelt — Der Mechanismus Überraschung → Neugier → Exploration, der den Status quo des Bewerters durchbricht.
- Die epistemologische Markierung: die menschliche Signatur, die die LLM nicht reproduzieren — Direkte Fortsetzung zur Selbstüberschätzung der LLM: warum das RLHF strukturell zu selbstsichere Sätze produziert und warum die menschliche Kalibrierung die vertragliche Signatur bleibt.
- Die Rahmung: der Satz, der entscheidet, bevor die Argumente beginnen — Über den Verzerrungen schreibt sich der Rahmen: Den Rahmen des Dossiers neu zu formulieren neutralisiert Verzerrungen in Kette und verteilt die Vervollständigung des Modells in die nützliche Zone um.
- Kostenlose KI gibt es nicht: Ökonomie der Inferenz und Gelegenheitsfenster — Die Kontrolle der Verzerrungen in der agentischen Kette hat reale Kosten: wie viel ausgeben, auf welchen Modellen, mit welchem Change Management auf Teamseite.
- Souveränität der KI: warum DeepSeek V4 die strategische Rechnung verändert — Für die Verzerrungen, die sensible Daten betreffen, wird die technische Souveränität des Deployments zur Bedingung einer glaubwürdigen kognitiven Politik.