Una alerta fue lanzada por especialistas en la Conferencia Internacional sobre Aprendizaje Automático (ICML), cita en la que se advirtió de la fragilidad de la Inteligencia Artificial ante una nueva generación de hackers.
La acotación, consignada por la revista Science, precisa que los nuevos piratas informáticos pueden desorientar completamente a la Inteligencia Artificial de un modo mucho más sencillo que lo estimado por sus diseñadores.
Bajo este marco, se afirma en la publicación que esta nueva generación de hackers puede convencer a la tecnología que la imagen de una tortuga es un fusil, o hacerla interpretar como una taza de café expreso a una pelota de béisbol, por nombrar dos ejemplos.
Lo anterior refleja que con tan solo alterar ligeramente una imagen, un sonido o un objeto, se puede burlar los más sofisticados sistemas de Inteligencia Artificial hasta desorientarlos, lo que representa un gran riesgo para la seguridad, dado que estas tecnologías comienzan el proceso de aprendizaje con tareas delicadas que prevén una interacción directa con el hombre.
Desde el Massachusetts Institute of Technology (MIT), un grupo coordinado por Anish Athalye propone contramedidas para combatir los ataques de los piratas informáticos en esta área del desarrollo. “Tenemos necesidad de repensar completamente nuestra concepción de aprendizaje automático para volverlo más seguro”, reveló Aleksander Madry, del MIT.
Por su parte, el especialista de la Universidad de Berkeley, California, Dawn Song, advirtió que las fallas pueden ser consideradas “una lente de aumento a través de la cual comprender qué sabemos del aprendizaje automático”.