Joan Costa i Bou inaugura el Seminario Permanente sobre los Escenarios sociales de la tecnología con la ponencia Utopías y distopías tecnológicas: imaginarios y escenarios de futuro

Nadie‌ decide usar la electricidad ni se para a pensar en ello cuando la utiliza․ Joan Costa‌ i Bou recurrió a esta comparación el pasado 22 de octubre para hablar de nuestra relación con la inteligencia artificial, en la medida en que se‌ ha integrado en nuestra vida cotidiana de forma definitiva․ Por lo tanto, la cuestión más sensata para debatir, en vez de posicionarnos a favor o en contra‚ es pensar cómo adaptarnos a los rápidos cambios de esta tecnología.

La sesión inauguró «Escenarios sociales de la‌ tecnología»‚ el Seminario Permanente sobre inteligencia artificial que la Facultad de Ciencias Políticas y Sociología León XIII organiza este curso académico․ Tras unas palabras introductorias de Jesús Avezuela‚ director‌ de la Fundación Pablo VI‚ Costa‚ profesor de Teología Moral en la Facultad de Teología de Cataluña y delegado de Pastoral Social y Caritativa de la archidiócesis de Barcelona‚ pronunció una conferencia titulada «Utopías y distopías tecnológicas: imaginarios y escenarios de futuro»․

Ante el creciente poder de los algoritmos, el ponente citó dos escenarios posibles en relación con las observaciones de León XIV: «Podemos construir una nueva Babel, que es una destrucción de lo humano, o una nueva Jerusalén, que es hacer un mundo más humano»․ Las simulaciones no pueden predecir cuál de los dos caminos seguiremos: la tecnología no es neutral y el futuro no está decidido de antemano․ Dependerá de las decisiones que tomemos sobre cómo responder a las dinámicas únicas de la IA. Estas decisiones se toman en las escuelas‚ los lugares de trabajo, en la vida común․ Afectan a las políticas dirigidas a los nuevos trabajadores‚ a los trabajadores desfavorecidos, a los pacientes: afectan a todos los seres humanos.

Hablando del trabajo‚ Costa afirmó que, más allá del miedo a la pérdida de empleo sin más, los cambios plantean desafíos más inmediatos: muchos tipos de capacitación laboral consisten en aprender habilidades básicas‚ como leer informes‚ redactar textos y resolver casos sencillos․ Si se automatizan las tareas básicas y ya no quedan puestos para los trabajadores principiantes (el «primer escalón», en palabras de Costa)‚ ¿quién capacitará a los futuros trabajadores especializados? El tiempo y los demás recursos que una empresa ahorra hoy al automatizar tareas podrían desperdiciarse más adelante por la pérdida de conocimientos, lo cual pone el foco en la importancia de transmitir esos conocimientos․

La educación se enfrenta a un desafío parecido․‌ Las herramientas de IA pueden ayudar a explicar conceptos y‌ cumplir otras funciones pedagógicas․ Pero también pueden permitir que alguien aparente saber de un tema‌ sin pasar por el proceso mental de aprenderlo․ Ese proceso, tan fundamental en cuanto pilar fundante del conocimiento mismo, implica‌ comparar‚ equivocarse‚ justificar y revisar․ El uso adecuado o inadecuado‌ de estas herramientas puede generar desigualdades entre quienes las usan con criterio y quienes dependen de ellas para juzgar․ Muy buenas e intelectualmente provocativas las palabras del profesor, tan eficaces que han despertado el interés y las preguntas de los más jóvenes presentes: «Tendremos unos cuantos estudiantes que serán “supercracks” porque la IA es como un traje de superpoderes, y un montonazo de inútiles sin criterio».

Aquí‚‌ las humanidades cumplen un papel importante․ Disciplinas como la filosofía‚ la historia y la literatura pueden ayudarnos a examinar fines‚ reconocer conflictos y comprender experiencias ajenas․‌ A medida que acceder a la información se vuelve cada vez más fácil‚ también es cada vez más importante saber plantear preguntas y‌ evaluar las respuestas․ La educación debería ayudar a los estudiantes a desarrollar habilidades para exponer y defender sus puntos de vista‚ incluso cuando los hayan elaborado‌ con ayuda de la tecnología․

La misma preocupación se extiende a otros ámbitos‚‌ como la sanidad y los servicios públicos․ La propuesta de «desarmar» la IA responde‌ a inquietudes sobre la responsabilidad: ¿las decisiones que afectan a las personas deberían tomarse basándose únicamente en los resultados que produce la IA? Hay que tener en cuenta que los supuestos en los que se basa la IA reflejan decisiones humanas‌ sobre qué políticas son adecuadas y aceptables․ Por lo tanto, entre las garantías de protección de los derechos humanos están el derecho de las personas a conocer los motivos de las decisiones que se toman sobre ellas y a solicitar reparación o apelar las decisiones desfavorables y los‌ perjuicios que se deriven de ellas․

Según Costa, la abundancia y la exclusión pueden aumentar al mismo tiempo․ Es importante tener en cuenta cómo pueden afectar la abundancia y la exclusión a las personas que pierden acceso a oportunidades‚ a las organizaciones que necesitan cambiar y a otros grupos que pueden asumir los costes asociados al cambio․ Las imágenes de Babel y Jerusalén que se usaron durante la conferencia nos permiten imaginar dos caminos posibles para este proceso: uno consiste en usar el poder de la tecnología para controlar a los demás; el otro‚ en aprovecharlo para fomentar una mayor armonía y justicia․

La presentación terminó mencionando a Bill Gates: la IA puede ser una fuerza histórica para el bien o para el mal‚ según cómo se utilice․ Costa cerró leyendo una cita que invitaba al público a convertirse en «tejedores de esperanza» a través de Magnifica humanitas‚ es decir en seres humanos capaces de aprovechar la tecnología sin dejar de respetar el valor intrínseco de los demás seres humanos.

La próxima sesión será el jueves 19 de noviembre: en esta ocasión, tendremos a Lucía Ortiz de Zárate‚ profesora de Filosofía Moral en la Universidad Autónoma de Madrid e investigadora especializada en ética y gobernanza de la inteligencia artificial, que volverá‌ sobre el tema de la conferencia inaugural: ¿quién toma las decisiones cuando las toma un algoritmo? Se abordarán cuestiones como el impacto de los algoritmos en la legitimidad de las decisiones de la Administración pública‚ los daños sociales que provoca la opacidad algorítmica‚ los riesgos de discriminación asociados al uso de algoritmos en contextos‌ civiles y políticos‚ y las respuestas regulatorias․ La conferencia tendrá lugar a las 16:30 en el ágora de la Fundación Pablo VI‌.