Sobreconfianza en la IA (overreliance)

La sobreconfianza es el ejemplo clásico de un sesgo cognitivo amplificado por una herramienta. Los humanos calibramos nuestra confianza en una fuente según su tasa histórica de acierto: una compañera de trabajo que acertó muchas veces es creíble la siguiente. La IA dispara este mecanismo: como acierta el 90% de las veces en tareas conocidas, y además presenta sus respuestas con tono confiado y bien estructurado, el usuario tiende a aceptarlas sin verificar. El problema es que el 10% de error no se distribuye al azar de forma evidente. Algunas categorías de error son sistemáticas: cálculos numéricos en tareas matemáticamente complejas, hechos específicos sobre personas o eventos poco comunes, citas inventadas con apariencia de reales (alucinaciones), cifras estadísticas que parecen plausibles pero no aparecen en ninguna fuente. Cuando un usuario sobreconfiado pega esos contenidos en un informe, una sentencia, un artículo o un correo a cliente, el error se propaga. Las profesiones más afectadas son las que combinan alta presión de tiempo con producción de contenido textual: derecho (varios casos en EE.UU. de abogados sancionados por citar precedentes inventados por ChatGPT), medicina (riesgo de diagnostico mediado por IA aceptado sin contraste), periodismo, consultoría. La AI Act la reconoce explícitamente y obliga a sistemas de alto riesgo a incluir mecanismos de verificación humana significativa, no nominal. Las defensas son organizativas, no técnicas: cultura de verificar siempre las cifras y citas con fuente externa, doble firma para contenido crítico, formación específica sobre los modos de fallo de la IA, diseño de procesos donde la IA es asistente y no decisora.