Los autores de un estudio de la Universidad de Pennsylvania elaboran el concepto de “renuncia cognitiva” y señalan que no sólo utilizamos la IA, sino que “pensamos con ella”. El pernsamiento humano opera al menos en dos registros según las teorías más extendidas. La tercera vía, mediante la IA, puede llevar a la rendición cognitiva - Francesc Bracero.
En el 2010, Nicholas Carr entró en la lista de superventas de Estados Unidos con su libro Superficiales: ¿Qué está haciendo internet con nuestras mentes? (Taurus). El origen de esta obra es una conversación del autor con un amigo suyo, el médico Bruce Friedman, que le confesó: “ya no puedo leer Guerra y paz. He perdido la capacidad de hacerlo. Incluso un post de más de tres o cuatro párrafos es demasiado para absorber. Lo troceo”. Carr investigó una evidencia de un cambio tecnológico que estaba operando una transformación en nuestros cerebros. En pocos años, pasamos de leer textos largos sin problemas a pasar a ser adictos a pequeñas píldoras de información, que comenzaron con el correo, los mensajes y las notificaciones. El enganche se hizo más compulsivo con las publicaciones en las redes sociales y su adictivo scroll infinito. ¿Afecta también la IA a la mente humana de alguna manera? Un estudio sugiere que la tecnología ha añadido un nuevo sistema de pensamiento a los dos más reconocidos, el reflexivo y el intuitivo.
En la misma época del libro de Carr, el premio Noble de Economía Daniel Kahneman publicó el libro Pensar rápido, pensar despacio (Debate), que expone la teoría de que el cerebro humano utiliza dos modos de pensamiento. Un sistema rápido, automático; y otro lento, deliberativo. Lo que propone el estudio publicado por los profesores Steven D. Shaw y Gideon Nave, de The Wharton School de la Universidad de Pennsylvania, es que en la era de la inteligencia artificial se puede concluir que “más allá de la arquitectura clásica de las teorías de doble proceso”, existe “un nuevo paradigma de toma de decisiones: uno en el que la intuición, la deliberación y la cognición artificial coexisten, compiten o convergen”: el artificial. En el documento consideran demostrado que las personas “no sólo utilizan el Sistema 3 –el de la IA– para ayudar en el razonamiento, sino que a menudo se rinden a sus resultados, ya sean correctos o erróneos”. Esta última consecuencia tiene un nombre: rendición cognitiva.
Para Shaw y Nave, la rendición cognitiva “ilustra el valor y la integración” del nuevo sistema de pensamiento que hemos desarrollado con la IA “pero también pone de relieve la vulnerabilidad de su uso”. Los autores advierten que hay que distinguir entre la rendición cognitiva, que está “marcada por la confianza pasiva y la evaluación acrítica de la información” y que procede de la inteligencia artificial, de la “descarga cognitiva”, que implica delegar la cognición únicamente durante el proceso de deliberación, pero sin perder el espíritu crítico en ningún momento. Quienes tienen una alta confianza en la IA, tienen 3,5 más probabilidades de seguir consejos erróneos propuestos por la inteligencia artificial.
Los autores apuntan que esta teoría de los tres sistemas “no es una advertencia sobre los peligros de la IA, sino un reconocimiento de la presencia psicológica” del nuevo sistema de pensamiento. Lo que explican es que “no sólo utilizamos la IA, sino que pensamos con ella”. Y al hacerlo, señalan una serie de cuestiones importantes que todavía no tienen respuestas: ¿Qué ocurre cuando nuestros juicios están condicionados por mentes que no son las nuestras? ¿Qué ocurre con la intuición y el esfuerzo cuando un socio generativo y artificial está listo para responder? ¿Cómo preservamos la agencia, la reflexión y la autonomía en un mundo en el que los usuarios se rinden cognitivamente?
La caída en la “rendición cognitiva” implica una doble pérdida respecto a la “descarga”. Por una parte, se aceptan más respuestas incorrectas como si fueran correctas y, por otra, se renuncia a la habilidad de hacer comprobaciones. Observan Shaw y Nave que existe una gran diferencia entre dejar que la IA participe en el proceso de razonamiento lento de los humanos o que lo haga en el pensamiento rápido intuitivo, un proceso que consideran “muy peligroso”. Pero pese a ello, creen que en lugar de dar una voz de alarma, hay que aprovechar esas vulnerabilidades como “un reto de diseño y educación”.
En la práctica, esta teoría de los tres sistemas abre la posibilidad de que se diseñen “sistemas de IA que apoyen el razonamiento humano”. Shaw y Nave proponen que “los diseñadores de interfaces de IA deben considerar cuándo y cómo activar los diferentes sistemas cognitivos. En lugar de automatizar completamente las elecciones, un diseño eficaz de la IA puede fomentar una colaboración calibrada, en la que el Sistema 3 mejora y colabora con la cognición interna”. Lo que proponen es que haya modos para personalizar los sistemas de inteligencia artificial para adaptarlos a cada usuario. La idea parece razonable. Sólo hace falta que quienes diseñan la IA estén interesados en abordar ese nuevo enfoque basado en una nueva alfabetización digital.
A todo esto, el Pew Research Center publicó ayer una encuesta que revela que uno de cada diez adolescentes de Estados Unidos hace todos o la mayoría de sus deberes con la ayuda de chatbots de inteligencia artificial. Un porcentaje mayor asegura que hace algunas de esas tareas (21%), mientras que hacen pocos son el 23%. Cerca del 45% no los ha utilizado. Si la pregunta se centra en investigación para un trabajo, el porcentaje es de casi la mitad (48%). Aproximadamente cuatro de cada diez adolescentes (43%) afirman haberlos utilizado para resolver un problema matemático, mientras que el 35% los ha usado para editar un texto. Los estudios de futuro podrán investigar cuántos de ellos han caído en la rendición cognitiva y qué problemas pueden tener. Caso abierto.
Comentarios
Publicar un comentario