La Unión Europea marca un hito al convertirse en la primera región en regular de manera exhaustiva el uso de la inteligencia artificial (IA). El acuerdo, alcanzado el pasado 8 de diciembre entre los estados miembros y el Parlamento Europeo, establece un nuevo reglamento que define las obligaciones y normas para el desarrollo de esta tecnología. Se espera que la legislación entre en vigor en 2026, tras la ratificación de ambas partes.

Las negociaciones, que se extendieron durante 36 horas, se centraron en equilibrar la limitación de los riesgos de la tecnología con las oportunidades de desarrollo. Los puntos más controvertidos fueron los modelos de IA generativa, como ChatGPT, y los sistemas de vigilancia biométrica. Para los modelos de propósito general, se establecen criterios de transparencia, obligando a especificar el origen de las creaciones, proporcionar información detallada sobre el entrenamiento y cumplir con las leyes de derechos de autor.

En cuanto a la vigilancia biométrica, se prohíben sistemas de categorización por creencias políticas, religiosas, orientación sexual o raza. También se limita la generación indiscriminada de bases de datos faciales, el reconocimiento de emociones en entornos laborales y educativos, el scoring social y la explotación de vulnerabilidades mediante IA.

Te puede interesar: Meta e IBM lanzan ‘AI Alliance’, iniciativa de código abierto para promover el uso seguro de la IA

Las fuerzas del orden podrán utilizar la vigilancia biométrica en tiempo real en espacios públicos para buscar víctimas de ciertos delitos, prevenir amenazas y localizar sospechosos. Se espera que la legislación entre en vigor a principios del próximo año, una vez ratificada formalmente, y se aplique dos años después.

El acuerdo, denominado AIAct, es celebrado como histórico y busca garantizar que la IA en la UE sea segura y respete los derechos fundamentales. Se clasifica la inteligencia artificial según niveles de riesgo, estableciendo requisitos estrictos para aquellas de alto riesgo. Además, se contemplan sanciones, incluyendo multas significativas y la creación de una Oficina de IA supervisada por un panel científico y la sociedad civil.

La normativa también aborda la compleja relación entre la IA y los derechos de autor, exigiendo transparencia en los modelos de alto impacto. Con este enfoque, la Unión Europea espera convertirse en un referente para otras regiones y superar las diferencias para regular la IA de manera responsable y eficiente.

Imagen: Guillaume Périgois

Para entrar en contexto, la superinteligencia es un modelo de la IA hipotético que es más inteligente que la IA, incluso que el ser humano más inteligente. Así mismo, este tipo de tecnología no solo se especializa en un área como los chatbots que conocemos, sino que tiene dominio de múltiples conceptos y campos.

Desde OpenAI consideran que este tipo de modelos podrían llegar antes de que finalice la década. “La superinteligencia será la tecnología más impactante que la humanidad haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo”, dijo la organización sin fines de lucro.

Así mismo, explican que el poder de la IA es impactante pero el de la IA superinteligente puede llegar a ser tan grande como devastador. “El vasto poder de la superinteligencia también podría ser muy peligroso y podría llevar a la pérdida de poder de la humanidad o incluso a la extinción humana”, comentan desde OpenAI.

Te puede interesar: El vaticano publicó su propio manual de ética para el uso de la inteligencia artificial

Lo cierto es que el nuevo equipo de “guardianes de la IA superinteligente” estará codirigido por el científico jefe de OpenAI, Ilya Sutskever y Jan Leike, el jefe de alineación del laboratorio de investigación. Por otro lado, la empresa comunicó que dedicarán el 20 por ciento de su poder de cómputo actual a esta iniciativa. Con esto, pretenden desarrollar un investigador de alineación automatizada.

En teoría, este nuevo sistema estaría alineado con los valores humanos, de manera que pueda ayudar a OpenAI a garantizar que la superinteligencia sea segura de usar. “Si bien este es un objetivo increíblemente ambicioso y no tenemos garantizado el éxito, somos optimistas de que un esfuerzo concentrado y concertado puede resolver este problema”, dijo OpenAI.

Desde el laboratorio de la compañía de IA aseguran que harán pública su hoja de ruta en un futuro. Este anuncio surge cuando países como Estados Unidos y la Unión Europea buscan crear equipos y políticas que regulen el uso de la IA.

Imagen: Maximalfocus 

David Luna comienza un año difícil al frente del Ministerio TIC. Desde los problemas de presupuesto y las ideas de gravar el internet y los computadores, hasta la solución del déficit de profesionales de TI –que, dice, “es el principal problema del sector“–, son muchos los nudos que tendrá que soltar en este período.

ENTER.CO habló con él sobre todos estos temas para hacer una radiografía de lo que viene el próximo año en el sector.

¿Cómo va a afrontar los recortes de presupuesto?
Este año ya hubo un recorte de 1%, unos 13.000 millones de pesos. Nosotros tenemos asignados 1,3 billones de pesos. En la gran mayoría son recursos propios, producidos directamente por la industria. Habrá que hacer ajustes, pero hasta el momento no vemos afectadas la metas del plan Vive Digital para la gente.

Será un año donde tendremos que ser lo suficientemente activos para presentar, por ejemplo, alianzas público-privadas, o para presentar herramientas que nos permitan prestar servicios financiados de una manera distinta.

Usted ya manifestó su desacuerdo con la propuesta de ponerles IVA a los computadores y al acceso a internet. Pero, suponiendo que usted no lograra evitar que pusieran ese impuesto, ¿qué tiene pensado para evitar que esa decisión afecte las metas de conectividad que tiene su Ministerio?
El día que haya un proyecto de Ley radicado en el Congreso al respecto, mi argumento será este: el tener excluidos de IVA a computadores y tabletas, y el tener excluido de IVA el internet en los estratos uno y dos, ha permitido entre 2010 y 2015 pasar del 10% de penetración al 50% de penetración en ambos productos. No creo que el país pueda reversar de esa manera si tiene la intención de ser uno de los mas educados en 2025.

Y si no logra convencer al Congreso de eso, ¿cómo va a hacer para minimizar el impacto?
Acuérdese de que yo fui congresista, téngame fe

“Uber, Easy Taxi y Tappsi son aplicaciones legales en el país”

El año pasado hubo malestar en con varios temas que tienen que ver con el gobierno. Un caso fue el decreto de Uber. Otro, la regulación de drones. ¿Cómo piensa manejar estos temas de vanguardia, en los que el Ministerio TIC no ha estado muy presente?
Este ministerio promueve las aplicaciones, no las prohíbe. Decir que este ministerio se ha ‘zafado’ creo yo que no es justo. Uber es una aplicación que está funcionando, como están funcionando Tappsi o como está funcionando Easy Taxi. Y esas aplicaciones han nacido en este ministerio.  Uber, Easy Taxi y Tappsi son aplicaciones legales en el país.

En el tema de drones, ¿ustedes tuvieron algún contacto con la Aeronáutica Civil? 

Hace unos días le mandé una carta al director de la Aeronáutica Civil, pidiéndole participar en mesas de trabajo sobre ese tema, porque claramente la reglamentación no es adecuada para ese tipo de herramientas. Le propusimos analizar la reglamentación de Finlandia, que es tal vez una de las más avanzadas. Estamos esperando cuál es la respuesta sobre ese tema.

¿No cree que le convendría a usted, al Ministerio y al país que el MinTIC tuviera un rol más proactivo en la regulación de estos temas?
Las herramientas, más allá del debate, están funcionando y están funcionando bien. Con el sector turismo se discutió el tema de AirBnB. Démonos un paseito por otras latitudes, que han tomado otro tipo de decisiones. Hasta que se ponga en riesgo a algún asociado al Estado, nosotros lo que hacemos es promover esa actividad.

Hay estudios internacionales que cuestionan un poco la relación entre resultados académicos y tecnología. ¿Cómo responde a esos estudios?
Está demostrado el impacto que han generado las tabletas en deserción escolar y adicionalmente en mejora de las pruebas Saber. Lo que hemos hecho sobre él es cada día armonizar más el trabajo entre el Ministerio TIC y el Ministerio de Educación. Por ejemplo hoy, todos lo contenidos que ruedan en tabletas y en computadores son enviados por el Ministerio de Educación.

Adicionalmente, el Presidente tomó la determinación que estas herramientas no solamente fueran para los alumnos sino también para los maestros. Había una gran brecha: el estudiante estaba recibiendo tecnología y el profesor no. Por eso, los maestros están ya recibiendo, no solamente el terminal, sino la formación que les va a permitir entender cómo funciona la tecnología.

El déficit de profesionales TIC “es el principal problema del sector”

¿Tiene una estrategia para solucionar el déficit de profesionales TIC?
Ese es el principal problema del sector. Es un problema que no ha recibido la suficiente atención por parte de la sociedad. Tenemos que saber cómo enfrentarlo, o de lo contrario vamos a perder inversión y capital humano.

Yo creo que además de formar gente, hay otros temas que hay que poner en práctica. Tenemos que hacer un esfuerzo mayor para motivar en colegios el ejercicio del aprendizaje de materias afines, como las matemáticas. Hay que pensar en integrar la programación como una actividad en los colegios, si no académica por lo menos lúdica.

Las universidades tiene que darse la posibilidad de revisar los pénsums, e incluso, los nombres de las carreras. ¿Por qué razón? Porque los jóvenes piensan que ingeniero de sistemas es la persona que simplemente ayuda a arreglar el computador cuando se cae la red, y no. El ingeniero de sistemas es quien crea, quien ayuda a resolver problemas estratégicos, quien ayuda a posicionar este tipo de sector como uno de los más importantes.

Espera una versión más completa de esta entrevista con el ministro David Luna en la edición de la revista ENTER.CO de febrero.

Imágenes: Ministerio TIC