Correo Electrónico
DNINFOA - SIA
Bibliotecas
Convocatorias
Identidad UNAL
Sedes
IA puede reproducir desigualdades si no se transforma la cultura que la produce
El evento se realizó en las instalaciones de la UNAL Sede Bogotá. Fotos: Nicol Torres, Unimedios.
La IA plantea retos en términos de privacidad y también sobre los límites que debería tener.
Profesor Leopoldo Múnera Ruiz, rector de la UNAL.
Los asistentes conocieron el impacto de la IA en la educación, su futuro y la integración de la diversidad.
Con diferentes ponencias, expertos hablaron sobre la IA y su visión a futuro.
El académico destacó que “dicho aspecto hace susceptible esta tecnología de reproducir los sesgos, las desigualdades y dinámicas de control que, por su naturaleza, forman parte de las sociedades que la desarrollan, de ahí la importancia de abordarla desde una perspectiva ética y democrática”.
En su opinión, la IA, lejos de ser imparcial, refleja los valores y problemas de la sociedad, por lo que es crucial repensar cómo se crea y se utiliza para asegurar que beneficie a todos, no solo a unos pocos.
También anotó que con el acelerado crecimiento de la implementación de la IA se ven importantes aplicaciones en áreas como la educación, la comunicación, e incluso la salud, y a su vez retos para la sociedad.
Durante su intervención, el Rector de la UNAL también advirtió sobre los peligros de adoptar posturas extremas frente a la tecnología, como la tecnofobia o el tecno-optimismo desmedido, que calificó como “dos caras de una misma moneda”. Estas posturas “cancelan la posibilidad de deliberar democráticamente sobre los futuros posibles y perciben la tecnología como herramienta pasiva que conduce al paraíso o al Apocalipsis”.
En este sentido, propone una evaluación rigurosa de cada tecnología basada en IA, diferenciando entre aquellas que deben ser promovidas, reguladas o incluso prohibidas. “Es posible, por ejemplo, que el desarrollo de las armas autónomas letales deba ser frenado y prohibido en todo el mundo, como sucedió con el desarrollo de las armas químicas y biológicas”, afirmó.
El profesor Jorge Alejandro García González, de la Facultad de Artes, dio un ejemplo no muy aislado al referirse al uso de la IA generativa de imágenes. Hace unos años él impulsó experimentos con estas herramientas en sus cursos de realización audiovisual, y aunque los estudiantes lograron buenos resultados al generar imágenes, también identificaron un riesgo preocupante: el potencial uso de estas tecnologías para manipular la opinión pública mediante la creación de deepfakes (ultrafalso). Estas técnicas permiten producir imágenes, videos e incluso audios falsos que parecen reales.
“El alcance de los resultados de la IA solo depende de los propósitos individuales de las personas que manipulen la herramienta. Es importante y necesario reflexionar sobre este problema”, dijo el académico.
La ministra de Ciencia, Tecnología e Innovación, Yesenia Olaya, manifestó que “la IA es el presente y el futuro de las grandes transformaciones que requiere la humanidad”.
“Nosotros encontramos varios entornos educativos que son prioritarios desde la perspectiva científica para el desarrollo de la IA. El primero es el acceso a tecnologías de vanguardia, pues estas requieren complejidades del espacio físico, el almacenamiento y el funcionamiento. El segundo es fomentar la investigación en instituciones de educación superior”, dijo la ministra.
También puntualizó en la necesidad de desarrollar el talento humano colombiano en temas como programas de ciberseguridad, IA y computación de alto rendimiento para formar talento joven.
Al respecto, el viceministro de Transformación Digital del MinTIC, Belfor García Henao, señaló que “las entidades deben desarrollar modelos en los cuales toda la información de la ciudadanía que se encuentra en los servidores no sea vulnerada”.
“La información en salud es el primer objetivo para robar esta información de los ciudadanos. Existe una industria criminal que está en la busca de esta información y por eso debemos desarrollar softwares que garanticen la seguridad de estos datos”.
Por último, los profesores asistentes al evento señalaron en la discusión que la UNAL, al contar con 115 grupos de investigación enfocados en IA distribuidos en todas sus sedes, debe aprovechar este potencial para avanzar en reflexiones críticas y fomentar el desarrollo de la IA en campos menos explorados como las artes, las humanidades y las ciencias sociales.
El evento fue organizado por la Vicerrectoría de Investigación con sus direcciones adscritas, y la Dirección Nacional de Estrategia Digital.
