La iniciativa se inspira en el enfoque de la Unión Europea, pero con una mirada ajustada a las necesidades nacionales. Su objetivo central es garantizar que la IA se desarrolle de forma segura, confiable y centrada en el ser humano.

El proyecto define un marco ético, técnico y jurídico que busca prevenir riesgos y fomentar un entorno favorable para la innovación. Para ello, clasifica los sistemas de IA según su nivel de riesgo y propone diferentes exigencias regulatorias dependiendo del impacto potencial.

Uno de los aspectos clave es la creación del Sistema Nacional de Inteligencia Artificial (SIA), una instancia interinstitucional de coordinación. Este sistema estará acompañado por la Autoridad Nacional de Inteligencia Artificial, que ejercerá funciones de inspección, vigilancia y control.

Te puede interesar: Más datos, menos agua: la fórmula tecnológica que ya mejora cultivos en Colombia

El proyecto reconoce derechos fundamentales en el contexto de la IA, como la protección de datos, la transparencia algorítmica y el derecho a la explicación de decisiones automatizadas. También promueve principios como la equidad, la inclusión y la no discriminación.

En cuanto a los usuarios, la ley busca asegurar que cuenten con mecanismos de información clara y comprensible sobre los sistemas que interactúan con ellos. Además, se plantea la posibilidad de solicitar revisión humana de decisiones automatizadas que tengan efectos jurídicos o significativos.

Para las empresas, la normativa establece obligaciones diferenciadas. Los desarrolladores y proveedores de IA deberán garantizar el cumplimiento de requisitos de seguridad, trazabilidad, gobernanza de datos y supervisión humana, según el nivel de riesgo de su tecnología.

A nivel práctico, los sistemas de “alto riesgo” —como los usados en salud, transporte o selección laboral— estarán sujetos a evaluaciones técnicas previas y auditorías. En cambio, los sistemas de “riesgo limitado” deberán cumplir con principios de transparencia sin mayores cargas administrativas.

Esta diferenciación busca no frenar la innovación en sectores emergentes, al tiempo que protege a la ciudadanía en ámbitos críticos. Para ello, se incluyen medidas de fomento como entornos de prueba regulatoria (sandboxes), incentivos fiscales y apoyo a PYMES y startups.

El impacto social de esta ley puede ser significativo. Al garantizar derechos y reducir riesgos, se fortalece la confianza pública en la tecnología. Esto es esencial para su adopción en campos como la educación, la justicia, la salud o el transporte inteligente.

Además, el proyecto propone una Estrategia Nacional de Capacidades en IA. Esta incluirá programas de formación técnica, ética y jurídica para servidores públicos, empresas, universidades y ciudadanía en general. Se busca cerrar brechas digitales y evitar un sesgo tecnocrático en el desarrollo del ecosistema.

Para los desarrolladores, el proyecto representa tanto una oportunidad como un reto. Por un lado, tendrán un marco claro que les permitirá crear soluciones alineadas con estándares internacionales. Por otro, deberán adaptarse a nuevas exigencias que requieren documentación, supervisión y evaluación continua.

Uno de los temas más novedosos es la propuesta de crear un Registro Nacional de Sistemas de IA. Este será obligatorio para tecnologías de alto riesgo y permitirá a las autoridades hacer seguimiento y control sobre su uso en el país.

También se incluye un capítulo sobre cooperación internacional. Colombia busca integrarse a iniciativas globales sobre gobernanza de IA y fomentar estándares compartidos. Esto es crucial en un contexto donde las tecnologías no conocen fronteras.

El proyecto, que iniciará su trámite legislativo en comisiones del Senado, cuenta con respaldo técnico de diversas entidades nacionales e internacionales. Entre ellas están la Comisión de la OCDE, la Unión Europea y centros de investigación como el CENIA.

Sin embargo, aún queda camino por recorrer. Expertos advierten que la implementación dependerá de la capacidad institucional y presupuestal del Estado. También será clave lograr una articulación efectiva entre entes públicos, privados y académicos.

El debate público sobre la regulación de la IA apenas comienza en Colombia. Esta ley puede convertirse en una herramienta para aprovechar el potencial transformador de la tecnología, sin perder de vista los riesgos que implica su mal uso o adopción irresponsable.

Imagen: MinCiencias

ENTER.CO habló con Erick Rincón Cárdenas, profesor asociado de la Universidad del Rosario, abogado y  doctor en Derecho de la Universidad Europea de Madrid, sobre la nueva Ley de Inteligencia Artificial aprobada por la Unión Europea (UE). Abordamos varios temas como, cuál es el impacto real de la nueva regulación, no solo en las empresas desarrolladoras y gigantes tecnológicos, sino en los usuarios finales y sobre la posible adopción  de esta Ley en países como Colombia ¿Qué tanto regula y  protege?

Hace algunas semanas la Unión Europea aprobó definitivamente la nueva ley de inteligencia artificial (IA), que se aplicará de forma progresiva hasta el año 2026, cuando entre completamente en vigor.

La normativa es la primera en el mundo, la cual establece un marco robusto para su uso ético y seguro. La ley es extensa y abarca todos los sectores y las industrias que no solo buscan proteger a los ciudadanos y usuarios, sino su usabilidad correcta.

ENTER.CO: con la aprobación de esta ley, la Unión Europea se posiciona como pionera en la regulación de la IA. ¿Cómo se sitúa este marco regulatorio en el contexto global?

RINCÓN: La regulación de la inteligencia artificial ha sido una preocupación central para los países desarrollados debido a los potenciales efectos negativos de la IA generativa. Tecnologías como ChatGPT pueden generar efectos jurídicos indeseables y afectar derechos de ciudadanos y consumidores. La IA tiene la capacidad de emular el pensamiento humano mediante algoritmos avanzados, y esto puede generar fricciones significativas, desde el tratamiento de datos personales hasta el desplazamiento laboral.

Europa ha sido el primer bloque económico a nivel mundial en tomar cartas en el asunto con una regulación sobre el desarrollo de la inteligencia artificial.

Han desarrollado cuatro aspectos importantes: 1. Clasificar la inteligencia artificial en función del riesgo; 2. La mayoría de las obligaciones recaen en los proveedores de sistemas de inteligencia artificial de alto riesgo; 3. Los usuarios de esta inteligencia artificial pueden ser personas naturales o jurídicas; 4. Existe la inteligencia artificial de propósito general. 

La norma clasifica los sistemas de inteligencia artificial en cuatro categorías de riesgo: bajo, limitado, alto e inaceptable. Las aplicaciones de riesgo bajo no presentan dificultades operacionales, mientras que las de riesgo limitado requieren ciertas obligaciones de transparencia para fomentar la confianza. 

Los sistemas de alto riesgo incluyen aquellos utilizados en infraestructuras críticas, educación, seguridad de productos, empleo, servicios públicos y privados esenciales, gestión de migración y administración de justicia. Los riesgos inaceptables incluyen manipulación biométrica y emulación del registro facial.

ENTER.CO: ¿Qué impacto tiene esta ley en los gigantes tecnológicos, como Google, Amazon o Microsoft, que operan en la UE?

RINCÓN: La ley define claramente las reglas del juego para que los desarrolladores e implementadores de inteligencia artificial conozcan sus requisitos y obligaciones. Esto garantiza a los operadores un margen de acción claro y, sobre todo, protege los derechos de los ciudadanos, tratando de que las responsabilidades recaigan en las empresas desarrolladoras. La ley forma parte de un paquete más amplio de medidas políticas en la Unión Europea para apoyar el desarrollo de una inteligencia artificial confiable, incluyendo un paquete de innovación y un plan coordinado sobre el tema.

ENTER.CO: ¿Cómo protege la ley europea a los usuarios y consumidores?

RINCÓN: La normativa europea prohíbe prácticas de IA que son consideradas inaceptables, como evaluar a las personas según su estatus socioeconómico o realizar identificaciones biométricas en tiempo real en espacios públicos. Estas prohibiciones protegen la privacidad y la dignidad de los individuos, estableciendo un estándar de derechos humanos en el contexto digital.

Además, la ley asegura que los desarrolladores e implementadores de IA conozcan claramente sus responsabilidades y límites, protegiendo así a los usuarios finales y creando un entorno más seguro para todos.

ENTER.CO ¿Cuál es el alcance de esta ley fuera de la Unión Europea?

RINCÓN: Aunque la normativa solo aplica a los países miembros de la UE, su influencia es indiscutible a nivel global. Establece un precedente que podría inspirar a otras regiones a desarrollar sus propias leyes sobre IA. Es un modelo que promueve la protección de derechos y la gestión responsable de la tecnología, lo cual es crucial en el contexto actual.

ENTER.CO: Hablemos de Colombia. ¿Cómo está el país en términos de regulación de la IA?

RINCÓN: En Colombia, hemos visto un interés creciente en regular la IA, con varios proyectos de ley presentados en el Congreso. Hoy en día hay siete iniciativas, como la 59 de 2023, pendiente de discusión en segundo debate, y la 91 de 2023, pendiente de primer debate. 

Estos proyectos no han avanzado significativamente. Colombia no es un gran productor de tecnologías de IA, por lo que nuestra regulación debe enfocarse en proteger los derechos de los usuarios y promover un uso responsable de la tecnología.

Sería interesante que los ponentes trabajaran en la unificación de estas iniciativas y promovieran su trámite legislativo para evitar que queden archivadas. Se necesita una ley que en Colombia desarrolle estas temáticas y tome lo mejor de lo que está ocurriendo en Europa y otros lugares. Es esencial que estas regulaciones se adapten a nuestras realidades y necesidades específicas.

ENTER.CO: ¿Cuáles son los desafíos futuros en términos jurídicos para la regulación de la IA?

RINCÓN: La ley europea es un punto de partida crucial, pero no aborda todos los aspectos de la IA. Por ejemplo, no regula específicamente los sistemas autónomos relacionados con robots, vehículos o drones, áreas que también presentan riesgos significativos.

El desarrollo de una normativa integral y dinámica es un proceso continuo. Los avances tecnológicos requerirán adaptaciones constantes para asegurar que los beneficios de la IA se maximicen mientras se minimizan sus riesgos. Es un desafío equilibrar la innovación tecnológica con la protección de los derechos humanos, pero es esencial para crear un entorno donde la tecnología pueda prosperar en beneficio de todos.

ENTER.CO ¿Hay alguna reflexión sobre este tema?

RINCÓN:La regulación de la IA está apenas comenzando. Es fundamental que cada región desarrolle sus propias normativas adaptadas a sus contextos específicos. En Colombia, necesitamos una ley que no solo tome lo mejor de las regulaciones internacionales, sino que también se ajuste a nuestras condiciones y necesidades. La clave está en proteger los derechos de los ciudadanos y fomentar un uso responsable y ético de la tecnología.

 

Ver esta publicación en Instagram

 

Una publicación compartida de ENTERCO (@enter.co)

Imagen: Rafmaster

La ley es extensa y abarca todos los sectores y las industrias que no solo buscan proteger a los ciudadanos y usuarios, sino su usabilidad correcta. Por eso en ENTER.CO realizamos un resumen de las principales provisiones y regulaciones del documento.

¿Qué prohíbe?

Manipulación y engaño: Está prohibido comercializar, poner en servicio o usar sistemas de IA que utilicen técnicas subliminales o engañosas para manipular el comportamiento de las personas de manera significativa, causando potenciales daños importantes.

Explotación de vulnerabilidades: No se permite el uso de IA que explote vulnerabilidades de individuos debido a su edad, discapacidad o situación socioeconómica, distorsionando su comportamiento y causando daño.

Te puede interesar: Polémica en la Unión Europea por propuesta que busca vigilar conversaciones de usuarios

Puntuación social: Queda prohibido el uso de IA para clasificar a personas o grupos según su comportamiento social o características personales, resultando en trato injusto o perjudicial en contextos no relacionados con los datos originales.

Evaluación de riesgo penal: Se prohíbe usar IA para predecir la probabilidad de que alguien cometa un delito basándose únicamente en perfiles personales, salvo para apoyar evaluaciones humanas basadas en hechos objetivos.

Reconocimiento facial: Está prohibido crear o usar bases de datos de reconocimiento facial obtenidas de internet o CCTV sin consentimiento.

Inferencia de emociones: No se permite usar IA para inferir emociones en lugares de trabajo o instituciones educativas, excepto por razones médicas o de seguridad.

Categorización biométrica: Está prohibido usar IA para categorizar a personas según datos biométricos para inferir raza, opiniones políticas, creencias religiosas, orientación sexual, etc.

Te puede interesar: TikTok también podría ser bloqueado en la Unión Europea ¿Por qué?

Identificación biométrica en tiempo real: El uso de identificación biométrica a distancia en tiempo real en lugares públicos con fines policiales está prohibido, salvo en situaciones específicas como la búsqueda de víctimas de delitos graves o la prevención de ataques terroristas, y requiere autorización judicial o administrativa previa.

 Uso de identificación biométrica ¿Quiénes la pueden usar?

El uso de sistemas de identificación biométrica por parte de las fuerzas del orden está restringido, con excepciones claramente definidas. La identificación biométrica “en tiempo real” solo puede utilizarse bajo estrictas salvaguardias, incluyendo limitaciones temporales y geográficas, y está sujeta a autorización previa.

Estos sistemas pueden emplearse en situaciones como la búsqueda de personas desaparecidas o la prevención de ataques terroristas. Para usos posteriores (“RBI post-remoto”), se consideran de alto riesgo y requieren autorización judicial vinculada a delitos penales.

Ley vela para poner en riesgo sistemas como salud o seguridad

Los sistemas de IA considerados de alto riesgo deben cumplir con varias obligaciones debido a su potencial de causar daños significativos a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho.

Estos sistemas incluyen aplicaciones en infraestructuras críticas, educación, empleo, servicios públicos y privados esenciales, ciertos sistemas de aplicación de la ley, gestión de fronteras, justicia y procesos democráticos. Las obligaciones incluyen evaluar y mitigar riesgos, mantener registros de uso, ser transparentes y precisos, y garantizar la supervisión humana. Además, los ciudadanos tendrán derecho a presentar quejas y recibir explicaciones sobre las decisiones tomadas por sistemas de IA de alto riesgo.

Requisitos de transparencia

Los sistemas de IA de propósito general (GPAI) deben cumplir con requisitos de transparencia, incluyendo el cumplimiento de la ley de derechos de autor de la UE y la publicación de resúmenes detallados del contenido utilizado para su capacitación. Los modelos GPAI que podrían plantear riesgos sistémicos enfrentan requisitos adicionales como la realización de evaluaciones de modelos, la mitigación de riesgos sistémicos y la presentación de informes sobre incidentes. Además, las imágenes, el contenido de audio o de vídeo manipulados (“deepfakes”) deben etiquetarse claramente como tales.

Medidas de apoyo a la innovación y a las PYMEs

Para fomentar la innovación y apoyar a las pequeñas y medianas empresas (PYMEs) y startups, la ley prevé el establecimiento de entornos de pruebas regulatorios y pruebas en el mundo real a nivel nacional. Estos entornos serán accesibles para desarrollar y capacitar una IA innovadora antes de su comercialización.

Imagen: Rafmaster