Comunidad escolar acusa que un alumno generó una serie de imágenes falsas con connotación sexual que afectan a otras estudiantes del recinto. Experto en esta tecnología hace el llamado a utilizar el recurso bajo el punto de vista ético.
Los y las estudiantes del Instituto San Pedro, establecimiento particular subvencionado, realizaron una manifestación, producto de lo que acusan fue el uso indebido de Inteligencia Artificial por parte de un alumno en contra de varias estudiantes del recinto, utilizando sus rostros para hacer imágenes de connotación sexual.
Ante esta situación, los apoderados también realizaron un llamado junto a sus hijas a la expulsión del joven sindicado como culpable.
Frente a aquello desde la Superintendencia de Educación ingresaron una denuncia por oficio.
Constanza Ibarra, jefa (s) de la División de Protección de Derechos Educacionales, indicó que “como Superintendencia de Educación ingresamos una denuncia de oficio, a la cual se le ha dado el carácter de crítica, por lo que se le ha solicitado al establecimiento remitir un informe sobre los hechos ocurridos, para lo que cuenta con un plazo de tres días hábiles”.
“Una vez evaluados todos los antecedentes proporcionados, tanto por el establecimiento como por la comunidad educativa, como Superintendencia de Educación fiscalizaremos al establecimiento”, manifestó Ibarra.
Desde la institución hicieron un llamado a los establecimientos a implementar estrategias que apunten a estar alerta a los usos que los estudiantes puedan dar a las nuevas herramientas tecnológicas.
Por su parte, desde el recinto educacional, mediante un comunicado informaron que se tomaron una serie de medidas inmediatas, destacando “entrevistas individuales a los y las estudiantes involucrados y afectados, garantizando su derecho a ser oídos”.
Además de “contención emocional y apoyo a los estudiantes que lo requieran, a través del equipo de convivencia escolar e inspectoría, comunicación directa con las madres, padres y apoderados de los estudiantes implicados”, y la “derivación de los antecedentes a los organismos competentes, según la naturaleza de los hechos, con el objetivo de resguardar los derechos de todos los involucrados y garantizar una intervención adecuada y transparente”.
Sobre los alcances que tiene el mal uso de la IA, el Dr. Pedro Salcedo, académico titular del Departamento de Metodología de la Investigación e Informática Educativa de la Facultad de Educación de la Universidad de Concepción, comentó que “el incidente en el Instituto San Pedro es una llamada de atención urgente”.
“La IA es una herramienta poderosa con un enorme potencial positivo, pero su uso debe estar guiado por una sólida formación ética y límites claros que protejan la dignidad y el bienestar de todas las personas”, afirmó.
Lo esencial en la ecuación para un buen uso de la IA, según el Dr. Salcedo, son un trabajo de educación en el pensamiento crítico y la ética del uso de estas herramientas que debe ser tanto desde la familia como la escuela.
Por un lado, debe haber alfabetización digital y en IA, desde temprana edad, explicar qué es la IA, cómo funciona, sus capacidades y, crucialmente, sus limitaciones y potenciales sesgos, detalló el profesor Pedro Salcedo.
Por otro lado, estableció que “la educación debe incorporar fuertemente la ética digital. Esto incluye el respeto por la privacidad (…) el concepto de consentimiento. Deben entender que usar la imagen de alguien sin permiso es incorrecto, y usarla para crear contenido degradante o falso es inaceptable”.
“Es vital enseñar a los estudiantes a cuestionar la información y los contenidos generados por IA. Deben aprender a identificar posibles deepfakes o información sintética, a verificar fuentes y a comprender que no todo lo que ven o leen online es real o veraz”, aseguró.
El alcalde Juan Pablo Spoerer, señaló que “desde la Municipalidad de San Pedro de la Paz gestionamos de inmediato la intervención de nuestra Oficina Local de Niñez y la Oficina de la Mujer porque no podíamos permanecer indiferentes ante una situación que ha generado un profundo daño emocional y social. Nuestra prioridad es contener a las víctimas, apoyar a las familias y acompañar a la comunidad educativa en este difícil momento”.
Spoerer, también enfatizó en la necesidad de que los jóvenes y las comunidades educativas aborden temas como el uso responsable de herramientas digitales y redes sociales, pues pueden fácilmente transformarse en instrumento que causen daño a la honra de las personas.
Respecto a las manifestaciones, el alcalde hizo un llamado al respeto. “Comprendemos profundamente la rabia y la impotencia que sienten muchos estudiantes frente a hechos tan graves como los que conocimos esta semana (…) Sin embargo, no podemos justificar ni validar la destrucción de espacios que son de todos”, afirmó en relación a videos dados a conocer durante la jornada del viernes en que se observaban acciones de destrucción de mobiliario escolar.
Sobre este caso, la Directora Regional del Biobío del Servicio de Protección Especializada a la Niñez y Adolescencia, Andrea Saldaña, señaló que “nosotros actuamos una vez que se abre alguna medida de protección respecto de algún lactante, niño, niña o adolescente y desde ahí se nos solicita el ingreso a alguno de los programas del servicio”.
“Por tanto, frente a esa denuncia que en primer lugar actúa es la Oficina Local de Niñez que tienen a cargo la protección de los niños, niñas y adolescentes de toda la comuna y desde ahí ellos deben, en el caso de requerir la atención especializada de algún programa, por ejemplo, de reparación del maltrato, solicitarnos la asignación a través de ese canal”, explicó Saldaña.
Cabe mencionar que el 17 de diciembre de 2024, se ingresó a la Cámara Alta por el senador Karim Bianchi (de la Región de Magallanes y la Antártica Chilena), el proyecto de ley que “Modifica el Código Penal, con el objeto de tipificar la generación y difusión de imágenes o hechos de carácter privado o íntimo, creados con herramientas de inteligencia artificial”. El proyecto establece la pena de reclusión menor y multas de hasta 500 UTM (más de $33 millones 640 mil), está en Primer Informe de Comisión de Constitución desde la fecha de su ingreso.