El juicio a la IA oculta el del ser humano — inventario comparado de los sesgos cognitivos
Este artículo prolonga El peor enemigo del bid manager es él mismo y Lo que el evaluador nunca le dirá. Aquí abandonamos por un momento el terreno de las licitaciones para poner frente a frente las dos máquinas de decidir — humana y artificial.
El juicio con una sola parte acusadora
La IA está en el banquillo de los acusados. Alucinaciones, adulación, prosa hueca, sesgo de representación — la prensa especializada, las conferencias, los libros blancos documentan sus fallas con una precisión creciente. El alegato es serio. Las pruebas están ahí.
El tribunal tiene un ángulo muerto.
Nadie pone el cerebro humano en perspectiva. Y sin embargo, ese cerebro está documentado desde hace setenta años por la psicología cognitiva como una máquina de atajos y de errores sistemáticos.
Daniel Kahneman y Amos Tversky inauguraron esta cartografía en los años 1970 (Judgment under Uncertainty: Heuristics and Biases, Science, 1974). Kahneman registra unos cuarenta en Thinking, Fast and Slow (2011). La taxonomía de Buster Benson (Cognitive Bias Codex, 2016) cataloga más de 180.
Del lado de la IA, las grandes familias de sesgos documentadas en la literatura técnica se cuentan con los dedos de dos manos.
Hacer el juicio a la IA sin abrir el del ser humano produce un veredicto asimétrico. Los sesgos de la IA son visibles porque son nuevos. Los sesgos humanos son invisibles porque nos hemos acostumbrado a ellos. Ambos lados merecen el mismo examen.
Los sesgos humanos — veinte mecanismos documentados
He aquí los sesgos mejor documentados que operan en toda decisión que implique lectura, juicio y elección.
| # | Sesgo | Fuente | Mecanismo |
|---|---|---|---|
| 1 | Sesgo de recencia | Tversky & Kahneman, 1974, Science | El cerebro otorga un peso desproporcionado a las informaciones más recientes. |
| 2 | Sesgo de anclaje | Tversky & Kahneman, 1974, Science | La primera información recibida fija un punto de referencia que sesga las estimaciones siguientes. |
| 3 | Heurística de disponibilidad | Tversky & Kahneman, 1973, Cognitive Psychology | Se sobreestima la probabilidad de lo que es fácil de recordar. |
| 4 | Sesgo de confirmación | Wason, 1960, QJEP ; síntesis Nickerson, 1998, Review of General Psychology | Se buscan selectivamente las informaciones que confirman una hipótesis ya formada. |
| 5 | Efecto halo | Thorndike, 1920, Journal of Applied Psychology | Una cualidad positiva percibida en un ámbito se propaga a los demás. |
| 6 | Efecto cuerno (horns effect) | Simétrico inverso del halo, Thorndike, 1920 | Una debilidad percibida contamina el juicio global en sentido negativo. |
| 7 | Maldición del experto (curse of knowledge) | Camerer, Loewenstein & Weber, 1989, Journal of Political Economy | El experto ya no logra representarse el estado de ignorancia del no experto. |
| 8 | Efecto IKEA | Norton, Mochon & Ariely, 2012, Journal of Consumer Psychology | Se sobreestima el valor de lo que uno mismo ha producido. |
| 9 | Falacia de planificación (planning fallacy) | Kahneman & Lovallo, 1993, Management Science ; Buehler, Griffin & Ross, 1994 | Se sobreestima sistemáticamente la propia capacidad de cumplir los plazos. |
| 10 | Efecto Dunning-Kruger | Kruger & Dunning, 1999, JPSP | Los menos competentes sobreestiman sus capacidades, los más competentes las subestiman. (Amplitud cuestionada por Gignac & Zajenkowski, 2020 — artefacto estadístico de regresión a la media.) |
| 11 | Pensamiento de grupo (groupthink) | Janis, 1972, Victims of Groupthink, Houghton Mifflin | Un grupo cohesivo converge hacia el consenso suprimiendo las opiniones disidentes. |
| 12 | Sesgo del statu quo | Samuelson & Zeckhauser, 1988, Journal of Risk and Uncertainty | Se prefiere la opción por defecto, incluso cuando hay alternativas objetivamente superiores. |
| 13 | Ilusión de control | Langer, 1975, JPSP | Se sobreestima la propia capacidad de influir sobre acontecimientos en gran parte aleatorios. |
| 14 | Error fundamental de atribución | Jones & Nisbett, 1971 ; Ross, 1977 | Se atribuyen los propios fracasos a causas externas, y los de los demás a causas internas. |
| 15 | Sesgo de conformidad | Asch, 1951, 1956 | Se alinea el propio juicio con el del grupo o la autoridad presente. |
| 16 | Efecto de mera exposición (mere-exposure) | Zajonc, 1968, JPSP | La familiaridad con un estímulo aumenta la preferencia, con independencia de la calidad. |
| 17 | Aversión a la pérdida | Kahneman & Tversky, 1979, Prospect Theory, Econometrica | Las pérdidas potenciales pesan más que las ganancias equivalentes. |
| 18 | Heurística de representatividad | Tversky & Kahneman, 1974, Science | Se juzga un elemento por su parecido con un prototipo mental. |
| 19 | Sesgo del superviviente | Concepto operacional, Abraham Wald (análisis de los bombarderos, Segunda Guerra Mundial) ; sin autor fundador canónico único | Se razona sobre los casos visibles ignorando los casos invisibles. |
| 20 | Carga cognitiva y fatiga de decisión | Sweller, 1988, Cognitive Science | La discriminación se degrada cuando la carga informacional supera la capacidad de procesamiento. (La hipótesis "ego depletion" de Baumeister et al., 1998, cuestionada por Hagger et al., 2016 — la carga cognitiva de Sweller sigue siendo el marco consensuado.) |
| 21 | Sesgo de saliencia | Taylor & Fiske, 1978 | Los elementos perceptivamente salientes captan la atención más allá de su importancia real. |
Veintiún sesgos documentados. Cada uno confirmado por décadas de investigación. Ninguno exige mala voluntad para activarse — el cableado cognitivo hace su trabajo en cada decisión.
Los sesgos de la IA — nueve mecanismos documentados
El equilibrio del veredicto exige un inventario serio de los sesgos de la IA. Minimizarlos sería tan deshonesto como ignorar los sesgos humanos.
| # | Sesgo | Fuente | Mecanismo |
|---|---|---|---|
| 1 | Sesgo de representación (data bias) | Barocas & Selbst, 2016, California Law Review | Los patrones sobrerrepresentados en el corpus de entrenamiento se sobrerreproducen en la salida. |
| 2 | Sesgo de media estadística | Propiedad estructural de los modelos de lenguaje | El modelo converge hacia la respuesta más probable, que es también la más banal. |
| 3 | Adulación (adulación algorítmica) | Sharma et al., 2023, Towards Understanding Sycophancy in Language Models, Anthropic | El modelo valida al usuario en lugar de contradecirlo, incluso cuando el usuario se equivoca. Artefacto del RLHF, que recompensa las respuestas juzgadas agradables por los evaluadores humanos. Manifestaciones: adhesión a una hipótesis errónea si el prompt la sostiene, viraje bajo presión («en efecto, tiene usted razón, me he equivocado»), halagos añadidos en la apertura y el cierre. |
| 4 | Alucinaciones (confabulación) | Brown et al., 2020, NeurIPS (GPT-3) ; Ji et al., 2023, ACM Computing Surveys | El modelo genera afirmaciones falsas con la misma fluidez que afirmaciones verdaderas. |
| 5 | Sesgo temporal (knowledge cutoff) | Propiedad arquitectónica de los modelos de entrenamiento fijo | El modelo razona sobre un estado del mundo congelado en su fecha de corte. |
| 6 | Primacía-recencia atencional (Lost in the Middle) | Liu et al., 2023, Lost in the Middle: How Language Models Use Long Contexts | La información situada en el medio de un contexto largo se aprovecha peor que la que está al principio o al final. |
| 7 | Sesgo de positividad (RLHF-induced) | Ouyang et al., 2022, Training language models to follow instructions with human feedback, NeurIPS | El entrenamiento por feedback humano favorece las respuestas entusiastas y diplomáticas. |
| 8 | Sesgo de coherencia narrativa | Propiedad emergente de los modelos generativos ; ligada a la confabulación (Ji et al., 2023) | El modelo construye un relato coherente incluso cuando los hechos subyacentes no lo sostienen. |
| 9 | Ley de Goodhart aplicada al RLHF | Goodhart, 1975 ; Gao et al., 2023, Scaling Reward Model Overoptimization | Optimizar una métrica proxy degrada la medida real que se suponía que debía capturar. |
Nueve sesgos de la IA documentados, cada uno real y medible. El juicio a la IA sobre estos puntos es legítimo.
La asimetría que nadie mide
Veintiún sesgos humanos documentados. Nueve sesgos de la IA documentados. La proporción es elocuente.
La literatura cognitiva es amplia, antigua, replicada. La literatura técnica sobre los sesgos de la IA es reciente — la mayoría de los sesgos inventariados se han identificado en estos tres últimos años — pero también más inspeccionable: un modelo se desmonta, un cerebro no entrega su código fuente.
Esta asimetría de visibilidad no refleja ninguna asimetría de gravedad. Los sesgos humanos se han vuelto invisibles por familiaridad. Los sesgos de la IA son visibles porque son nuevos. El juicio con una sola parte acusadora contra la IA acusa al recién llegado de los defectos que toleramos desde siempre en el habitante histórico.
Aplicación a la preventa
Todos estos sesgos operan en cualquier proceso de decisión. Pero adquieren un relieve particular en la respuesta a licitaciones — terreno donde cada expediente moviliza lectura, interpretación, juicio, negociación interna y decisión final, a ambos lados de la mesa.
Del lado del licitador, el sesgo de recencia empuja a reciclar el último expediente tratado. El anclaje fija un ángulo de ataque a menudo arbitrario desde la primera lectura del CCTP. La disponibilidad hace elegir las referencias que se conocen, no las más pertinentes. La maldición del experto vuelve invisible para el redactor lo que el evaluador leerá en frío. El efecto IKEA infla la autoevaluación de la memoria técnica producida. El groupthink converge en revisión bronce/plata/oro sin objeción. El sesgo del statu quo recicla las plantillas habituales. La falacia de planificación promete una entrega que se deslizará tres días.
Del lado del evaluador, el anclaje del primer expediente leído calibra la escala de puntuación. El halo y su inverso colorean toda la lectura tras unas pocas páginas. La mera exposición favorece al titular saliente. La aversión a la pérdida privilegia al prestatario "seguro" frente al prestatario "mejor pero desconocido". La fatiga de decisión degrada el rigor del quinto expediente del día. El sesgo de conformidad alinea a los coevaluadores con el ponente en comisión.
Veinticinco manifestaciones distintas, trece del lado del bid manager y doce del lado del evaluador, que operan en cada licitación — silenciosamente, sin mala voluntad, por construcción del cableado cognitivo. A comparar con los nueve sesgos de un agente de IA bien arquitecturado.
La IA como contrapoder
El cambio de perspectiva abre una posibilidad que el juicio con una sola parte acusadora oculta: cada sesgo humano puede ser contrarrestado por un uso arquitectónico de la IA.
Contra el sesgo de recencia. Un agente que lee cada CCTP sin historial conversacional entre expedientes trata cada licitación como una instancia aislada. El último expediente del bid manager no contamina el análisis del siguiente.
Contra la maldición del experto. El agente desempeña el papel de lector en frío. Lee la memoria técnica como lo haría el evaluador — sin conocer las tres semanas de contexto acumulado por el redactor. Si una sección es opaca para el agente, lo será para el evaluador.
Contra el pensamiento de grupo en comisión. Un agente produce una evaluación independiente del ponente — un contrapoder explícito que vuelve visibles los desacuerdos antes de la convergencia.
Contra el sesgo del statu quo del evaluador. Una memoria técnica arquitecturada para activar la secuencia sorpresa → curiosidad → exploración en el lector es el antídoto del licitador. Cuando la IA está guiada por un modelo cognitivo del lector, construye ese dispositivo deliberadamente.
Cada uno de estos usos supone una condición: la IA debe funcionar como un sistema cognitivo que explicita las hipótesis y traza las inferencias. Un chatbot espejo amplifica los sesgos del usuario en lugar de corregirlos.
Lo que TenderGraph construye
TITAN funciona como un contrapoder cognitivo. Cada hipótesis es nombrada, cada inferencia es trazada, cada decisión es auditable. El agente pone a prueba el ángulo del bid manager, incluso cuando el redactor desearía una confirmación. Cada CCTP es leído como una instancia nueva. Las fallas se señalan — el confort del redactor no entra en la ecuación.
Suprimir los sesgos humanos es imposible — están cableados. Volverlos visibles en el momento en que operan: ese es el único margen de acción real.
Descubrir el funcionamiento de TenderGraph · Contáctenos
Para recordar: Corregir los sesgos de la IA es un trabajo de editor — relectura, verificación, restricciones de generación. Contrarrestar los sesgos humanos con la IA exige un trabajo de arquitecto — modelo cognitivo, proceso explícito, trazabilidad de las inferencias. La calidad de las decisiones depende de ambos. El segundo sigue estando masivamente subinvertido.
Lea también:
- El peor enemigo del bid manager es él mismo — El diagnóstico fundador de los sesgos cognitivos del lado del redactor.
- Lo que el evaluador nunca le dirá — Del otro lado de la mesa: cómo el evaluador lee, puntúa y compara.
- El mito del executive summary — El executive summary, terreno donde el anclaje produce más daños.
- Por qué sus referencias de clientes no convencen a nadie — El sesgo de disponibilidad en acción en la elección de las referencias.
- Lo que el CCTP no dice — La inferencia silenciosa: el cerebro rellena los vacíos sin señalarlo.
- La revolución informacional de la preventa — Los sesgos cognitivos como fuentes de ruido en el canal CCTP → memoria técnica → puntuación.
- Por qué no logra integrar la IA en sus licitaciones — El bloqueo cognitivo: la organización se representa la IA como un chatbot.
- La aceleración de los ciclos de preventa — El tiempo liberado por la IA permite por fin las relecturas estructuradas.
- La defensa oral: el momento en que todo se decide — En la defensa oral, los sesgos operan en tiempo real.
- El conocimiento del cliente, llave de doble vuelta — El dispositivo sorpresa → curiosidad → exploración que rompe el statu quo del evaluador.
- El marcado epistemológico: la firma humana que los LLM no reproducen — Prolongación directa sobre el exceso de confianza de los LLM: por qué el RLHF produce estructuralmente frases demasiado confiadas, y cómo la calibración humana sigue siendo la firma contractual.
- El encuadre: la frase que decide antes de que empiecen los argumentos — Por encima de los sesgos se escribe el marco: reformular el marco del expediente neutraliza sesgos en cadena y redistribuye la completación del modelo hacia la zona útil.
- La IA gratuita no existe: economía de la inferencia y ventana de oportunidad — El control de los sesgos en cadena agéntica tiene un coste real: cuánto gastar, en qué modelos, con qué change management del lado de los equipos.
- Soberanía de la IA: por qué DeepSeek V4 cambia el cálculo estratégico — Para los sesgos que afectan a datos sensibles, la soberanía técnica del despliegue se convierte en la condición de una política cognitiva creíble.