La Inteligencia Artificial, la universidad y la sociedad.

Marcela Varas

Profesora Asociada, Departamento de Ingeniería Informática y Ciencias de la Computación, Facultad de Ingeniería, Universidad de Concepción.

El 25 de mayo se publicó Magnifica Humanitas, carta encíclica del Papa León XIV que versa sobre la persona humana en el tiempo de la inteligencia artificial (IA). El texto llama a poner en el centro la dignidad de la persona, para que el progreso técnico no reduzca al ser humano a un objeto explotable, dentro del paradigma tecnocrático.

Sin ser una persona católica ni religiosa, esta encíclica resuena con mis convicciones y aprehensiones con relación a la industria asociada a inteligencia artificial. Más allá de lo disruptivo y de sus beneficios (hay bastante material y publicidad al respecto), me quedo con relevar los aspectos éticos que deben tenerse en cuenta al usar tecnologías que utilizan IA, en particular, IA generativa.

La tecnología no tiene conciencia, ni experiencia, ni moral, por lo que los impactos en la vida de las personas producidos por alguna herramienta cualquiera, en este caso una IA, siempre deben ser asumidos por un individuo u organización. Asimismo, se debiera garantizar que el diseño de tales artefactos tecnológicos cuide principios de justicia, equidad, trazabilidad y transparencia. Debido a la naturaleza de los algoritmos que usa la IA, muchas veces no se puede proveer de dichas características.

Los beneficios que se obtienen del uso (y abuso) de la IA se concentran mayoritariamente entre privados, sin regulaciones éticas garantizadas. Las personas estamos desprovistas de derechos ante las grandes corporaciones.

Existe también una gran precarización laboral al alero de la industria de la IA, pues los modelos no se etiquetan ni se entrenan solos. Además, quien domina la industria determina los criterios que definirán procesos que impactarán la vida de muchas personas. No sólo clasifican perfiles para identificar a quienes son aptos para un empleo, ni reemplazan a trabajadores en actividades “rutinarias”, sino que cumplen la promesa de “apoyarnos en tareas mucho más complejas”, corriendo el riesgo de que seamos nosotros mismos quienes le concedamos agencia a las máquinas y les demos el poder de tomar decisiones que debieran ser de exclusiva responsabilidad y autoridad de humanos.

Estamos ante una dependencia tecnológica global, donde se genera un nuevo tipo de colonialismo digital, dice el Papa León XIV, en un contexto en el que se están formando generaciones de personas con deuda cognitiva por no utilizar sus propias habilidades y dejando, de paso, una gran huella de carbono.

Por su parte, la universidad es un espacio ideal para desarrollar habilidades profundamente humanas, como el pensamiento crítico, la búsqueda de la verdad, la empatía, la emoción, la solidaridad y la curiosidad. El pensamiento profundo y reflexivo, la valoración de la creatividad y la naturaleza, permitirán que las personas puedan evaluar y discernir acerca de lo que las herramientas digitales le ofrecen y evaluar la conveniencia o no de su uso.

La universidad no debe sustraerse del progreso de la IA, pero tampoco permitir su uso irreflexivo, sino que debe promover la comprensión de su funcionamiento y lógica, sus riesgos, beneficios y las implicancias políticas, sociales y ambientales que conlleva, manteniendo a la par un espacio propicio para el desarrollo de las ideas y la búsqueda de la verdad.

Es clave aquí recordar una de las competencias genéricas de nuestro modelo educativo UdeC, la responsabilidad social: “hacerse cargo de las consecuencias de acciones y omisiones”, incluidas las decisiones tomadas con apoyo de IA.