El Papa León XIV publicó recientemente, con motivo de su primera encíclica “Magnifica Humanitas”, un documento enfocado en la doctrina social de la Iglesia en la edad de la inteligencia artificial. Allí llamó a custodiar “una magnífica humanidad habitada por Dios”, promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz. Además, planteó la necesidad de “desarmar la IA” para relanzar el diálogo y el multilateralismo. Mucho se ha hablado al respecto. Por eso, más allá del punto de vista dogmático, aprovechamos la ocasión como punto de partida para revisar algunos riesgos vinculados al uso de la inteligencia artificial señalados por distintos profesionales.
Sandra Doval Moreno, docente de Psicología General en la Universidad Internacional de La Rioja, se enfoca especialmente en los efectos de esta tecnología sobre los estudiantes. Según explica, uno de los riesgos es la atrofia del pensamiento crítico. Una parte fundamental del trabajo de investigación implica reflexionar, leer y sintetizar contenidos para formular nuevas hipótesis. En ese sentido, advierte que depender exclusivamente de los recursos e “ideas” generadas por inteligencia artificial dificulta la producción de pensamiento propio.
Moreno explica que esto se debe a las “alucinaciones” de la inteligencia artificial. Existen estudios que muestran la aparición de referencias falsas o inventadas en textos producidos con asistencia de IA. Esto representa una grave afrenta al método científico, que depende de materiales verificables para producir conocimiento. Además, sostiene que se delega la responsabilidad principal del trabajo a herramientas que no ofrecen garantías sobre la calidad de la información. Aunque muchas veces se plantea que estos errores pueden solucionarse verificando el contenido, ya existen numerosos casos de errores cómicos y trágicos provocados por la confianza automática en respuestas generadas por IA.
Por otro lado, el autor y empresario Santiago Bilinkis analiza cómo el uso habitual de la tecnología puede derivar en una obediencia ciega a los algoritmos. Según explica, las personas pierden capacidad de reflexión sobre cómo quieren hacer las cosas y las particularidades de cada situación, siguiendo automáticamente las propuestas de las aplicaciones que estructuran sus vidas. El uso de la inteligencia artificial en la vida cotidiana potencia este fenómeno.
Bilinkis introduce así el concepto de “sedentarismo cognitivo”, entendido como la tendencia a delegar pensamientos y decisiones en sistemas tecnológicos. Históricamente los seres humanos fueron trasladando capacidades a distintas herramientas y perdiendo ciertas habilidades en el proceso. Esto en sí no es nada nuevo, pero advierte en no dejarse llevar y delegar a las máquinas tareas esencialmente humanas y subyugar la voluntad a ellas. Actualmente el desarrollo de una máquina con menos posibilidad de equivocación amplifica un rechazo generalizado hacía el error, cuando el error es justamente, para bien y para mal, un componente esencial de la humanidad.
De forma similar, el educador y diseñador canadiense Charlie Gedeon aborda este problema desde el concepto de “Cognitive Offloading”. En sus análisis sostiene que estas herramientas están dejando en evidencia las fallas de los sistemas educativos: muchos estudiantes estudian para aprobar y no para aprender. Gedeon afirma que las empresas tecnológicas conocen esta lógica y apuntan especialmente a los jóvenes durante períodos de exámenes finales. También cuestiona la idea de perfección promovida por ciertos sectores tecnologistas y sostiene que aprender no es simplemente la acumulación de información, sino una habilidad que implica método y proceso.
El educador también advierte que muchas personas toman las respuestas de herramientas como ChatGPT y Claude como hechos consumados cuando pueden llegar a contener recomendaciones sin fundamento. El problema no se limita a estudiantes: también profesionales pueden caer en hábitos de dependencia y automatización intelectual. En ese marco, señala el riesgo de vivir en “piloto automático”, dominados por la noción de certeza que genera esta nueva tecnología. La cuestión no pasa entonces por rechazar la inteligencia artificial, sino por aprender a reconocer cuándo utilizarla, cuándo no y cómo.
