“Rendición cognitiva”: un estudio revela qué pasa cuando dejamos que la IA piense por nosotros
Investigadores de la Universidad de Pensilvania analizaron cómo cambia el razonamiento cuando las personas pueden consultar a una inteligencia artificial. Los resultados muestran una fuerte tendencia a adoptar sus respuestas con poco escrutinio: el desempeño mejora cuando la máquina acierta, pero cae considerablemente cuando entrega información incorrecta.
La clásica distinción entre pensamiento rápido e intuitivo y pensamiento lento y reflexivo podría estar quedando incompleta frente a la expansión de la inteligencia artificial. Steven D. Shaw y Gideon Nave, investigadores vinculados a la Wharton School de la Universidad de Pensilvania, proponen incorporar un “Sistema 3”: una forma de cognición artificial que ocurre fuera de nuestro cerebro, pero que interviene cada vez más en nuestros procesos de razonamiento. El concepto forma parte del trabajo Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender.
Para comprobar qué ocurre cuando ese tercer sistema entra en juego, los investigadores realizaron tres experimentos pre-registrados con 1.372 participantes y 9.593 pruebas, utilizando una adaptación del Cognitive Reflection Test. Los participantes podían consultar a un asistente de IA y decidieron hacerlo en más de la mitad de las oportunidades. Cuando la inteligencia artificial proporcionaba la respuesta correcta, la precisión de las personas aumentaba 25 puntos porcentuales respecto del grupo que no tenía acceso a ella. Pero cuando la IA se equivocaba, el rendimiento caía 15 puntos. Además, recurrir al asistente incrementaba la confianza de los participantes en sus respuestas, incluso cuando habían terminado adoptando una respuesta errónea.
Los autores denominan a este fenómeno “cognitive surrender” o “rendición cognitiva”: aceptar la respuesta proporcionada por una IA con un nivel mínimo de revisión propia, desplazando tanto la intuición como el razonamiento deliberado. El efecto persistió incluso cuando los investigadores modificaron las condiciones: introdujeron presión de tiempo, incentivos económicos y retroalimentación sobre las respuestas. También encontraron que las personas con mayor confianza previa en la IA, menor inclinación hacia el esfuerzo cognitivo y menor inteligencia fluida tendían a mostrar una mayor propensión a esa delegación.
El estudio no plantea que recurrir a la inteligencia artificial sea necesariamente perjudicial. De hecho, cuando el sistema acertaba, podía mejorar considerablemente el desempeño e incluso compensar los efectos de trabajar bajo presión. El problema aparece cuando la confianza en la herramienta reemplaza la evaluación de lo que produce. “No nos limitamos a utilizar la IA; pensamos con ella”, concluyen los investigadores. Si ese “Sistema 3” se convierte en una parte habitual de nuestras decisiones, la cuestión ya no será solamente cuánto puede razonar una inteligencia artificial, sino cuánto razonamiento estamos dispuestos a cederle nosotros.
