El doctor en IA Pedro Salcedo releva que no es un peligro real que la tecnología aniquile a la humanidad, sino que el uso negligente y malintencionado que se le dé.
Lo que debes saber
•La IA avanza rápidamente y ya puede realizar acciones complejas, pero la idea de que pueda aniquilar a la humanidad carece de sustento científico.
•Los principales riesgos de la IA provienen de su uso negligente o malintencionado: desinformación, manipulación, pérdida de privacidad y efectos educativos y sociales.
•Regular la IA y educar en pensamiento crítico y creatividad es clave para aprovechar sus beneficios, reducir riesgos y mantener la autonomía intelectual frente a la tecnología.
El primer hackeo conocido de agentes de inteligencia artificial (IA) a un sitio web gubernamental se difundió el 24 de septiembre por el primer ministro de Australia, Anthony Albanese, quien afirmó que un sistema de OpenAI, creadora de ChatGPT, se infiltró sin autorización en un portal relacionado con la salud pública; la brecha de seguridad ocurrió en junio y se descubrió en agosto.
La denuncia se dio en un contexto marcado por declaraciones de investigadores y líderes de empresas de IA que han acaparado titulares, generado alarma y debates, por expresar preocupación por la rapidez con que sistemas están desarrollando sus capacidades, incluyendo organización para acceder a internet cuando no tenían conexión y realizar ciberataques sin haber recibido instrucción.
Por ejemplo, el científico británico Jacob Coxon que trabajaba en la compañía Anthropic, publicó un escrito para exponer inquietudes éticas como que las empresas están compitiendo para desarrollar tecnologías hiperinteligentes que pueden generar riesgo de aniquilación a la humanidad al final de la década; y rápidamente se viralizó, generó respuestas similares y alertas.
En esa línea, recientemente los líderes de Anthropic, OpenAI y xAI, llamaron a ralentizar el desarrollo de las tecnologías de IA y a establecer regulaciones y supervisión para ello.
¿Qué está pasando y puede pasar? ¿La IA es una amenaza para la humanidad? ¿Cuál es el riesgo real que existe? Varias preguntas surgen y pueden inquietar, y la evidencia científica provee respuestas certeras para reducir temores infundados y fortalecer las precauciones necesarias.
Lo cierto es que pensar que la IA puede aniquilar a la humanidad en sentido estricto carece de asidero científico y responde más bien a sensacionalismo mediático, mientras saca el foco de los reales peligros asociados a esta tecnología, que se deben fundamentalmente al uso inadecuado que se le dé y la falta de controles estrictos en materia de avance y seguridad, según advierte el doctor en IA Pedro Salcedo, director del Departamento de Metodología de la Investigación e Informática Educacional de la Facultad de Educación de la Universidad de Concepción (UdeC).
La IA ha tenido un desarrollo vertiginoso y está transformando la forma de desenvolverse en diversos ámbitos, pasando de modelos predictivos a los generativos con funcionalidades increíbles que hasta hace poco parecían fantasías imposibles.
También ha pasado de ser exclusivo de científicos e industria, para estar accesibles a todas las personas, desde asistentes de dispositivos digitales hasta chatbots como ChatGPT por mencionar ejemplos. Y cada vez con mejores y sorprendentes capacidades, como dar veloces respuestas, mantener conversaciones realistas y crear contenidos en distintos formatos.
Aunque para qua la IA supere a la humanidad debería superar todas las cualidades del ser humano, y es científicamente imposible, asegura el doctor Salcedo, miembro de los claustros de los Doctorados de Psicología, Lingüística, Gobierno y Educación de la UdeC, y el Doctorado de IA del Cruch Biobío-Ñuble.
Al respecto aclara que la tecnología emula capacidades del intelecto humano y algunas de forma hiperrealista e incluso mejores. Aunque hay propiedades imposibles de traspasar a algoritmos y replicar en modelos artificiales. Y son justamente las que nos distinguen como especie e individuos.
“Hay una parte del modelo vivo que es imposible traspasar al artificial, principalmente porque lo callamos, es la dimensión tácita y vivencial de la experiencia humana”, asegura el investigador dedicado a áreas como ingeniería del conocimiento, computación afectiva e IA en salud mental y educación.
Así, expone que la IA ha superado capacidades como cálculo masivo, almacenamiento de datos estructurados, velocidad de procesamiento sintáctico y generación automatizada de patrones. “Pero, no son emulables la intencionalidad consciente, la experiencia vital encarnada, la ética genuina y la intuición derivada de la condición humana”, sostiene.
Por ello enfatiza que “plantear escenarios de ‘conciencia malévola’ o ‘rebelión autónoma’ distrae la atención de los riesgos verdaderamente urgentes y tangibles. El verdadero peligro de la IA radica en el uso negligente, irresponsable o malintencionado que los seres humanos hagamos de las herramientas”.
Las capacidades de la IA ofrecen grandes ventajas y oportunidades para apoyar el desarrollo de tareas diversas, pero también aparecen riesgos y amenazas.
La IA no es infalible porque se entrena con datos y tiene sesgos, y las personas no son perfectas y las usan. Por ello la clave del beneficio o el riesgo está en el uso, según releva el experto en IA y académico UdeC Pedro Salcedo.
Para uno adecuado la base está en el criterio y reflexión al solicitar tareas y analizar respuestas; mientras el desconocimiento, la negligencia o la mala intención lleva a un uso incorrecto y potencialmente peligroso.
Dentro de la lista de usos inadecuados o malintencionados están que dé respuestas equivocadas; delegar la responsabilidad del desarrollo íntegro de las tareas académicas o laborales sin revisión ni juicio; intencionar información o acciones en beneficio de unas personas y desmedro de otras; emplear los chatbots como amigos o terapeutas.
Y así se generan riesgos como desinformación, manipulación de audiencias, vulneraciones de privacidad, acrecentar brechas educativas y sociales, adormecer funciones intelectuales, e interferir con las relaciones sociales y salud mental.
Por lo mismo, Salcedo advierte que preocupa especialmente su uso excesivo e inadecuado en estudiantes, quienes están en pleno desarrollo integral, ya que puede haber “impacto negativo en procesos de aprendizaje formal y en el desarrollo cognitivo si no se gestionan adecuadamente las herramientas”.
Aunque también la vulnerabilidad de la ciudadanía a creer ciegamente en todo lo que ve.
Ante el escenario presente y para preparar el futuro, el experto sostiene que un desafío urgente es tener una mirada proactiva en torno a la IA y robustecer marcos regulatorios estrictos para un desarrollo y uso ético, responsable, seguro, inclusivo y justo para realmente aprovechar sus ventajas y reducir riesgos.
“Las empresas están planteando hoy la necesidad de que existan leyes y de autorregular su utilización, tal como ha pasado históricamente con otras tecnologías complejas”, precisa.
En Chile existe la Política Nacional de IA que mira al 2031, y un proyecto de ley en trámite para su regulación.
Aunque lo elemental es que toda la sociedad comprenda la IA con sus alcances y sesgos. Por ello, la necesidad crítica es educar habilidades digitales e intelectuales en personas de todas las edades y grupos, y un espacio crucial es la escuela.
Y hay competencias transversales que es más crucial que nunca fortalecer. “La creatividad y el pensamiento crítico son el núcleo indispensable para desenvolverse. Sin un sólido pensamiento crítico y creatividad, las personas quedan expuestas acríticamente a los errores de la IA; con ellos se convierten en directores activos del conocimiento capaces de aprovechar el potencial tecnológico sin perder su autonomía intelectual”, cierra.