Sin embargo, para las empresas que buscan adoptar estas herramientas, cumplir con la ley es solo la mitad de la batalla. La verdadera barrera, según los expertos internacionales, radica en cómo las organizaciones logran que esta gobernanza funcione operativamente en su día a día.

Actualmente, el panorama regulatorio en la región avanza con distintos niveles de madurez. Mientras que Perú y El Salvador ya cuentan con una legislación específica vigente, Colombia se ha posicionado en el grupo que lidera la segunda ola regulatoria, junto a Brasil, Chile y México.

El país avanza firmemente a través del Proyecto de Ley 043 de 2025 (Senado) y 324 de 2025 (Cámara), una iniciativa que ya ha recibido ponencia positiva para establecer reglas claras sobre el desarrollo, implementación y supervisión de los sistemas de IA.

Colombia lidera la segunda ola de regulación de IA en América Latina

Este modelo colombiano propone una arquitectura institucional encabezada por el Ministerio de Ciencia, Tecnología e Innovación, trabajando en conjunto con la Superintendencia de Industria y Comercio (SIC), entidad que vigilará aspectos críticos como la protección de datos personales, los derechos del consumidor y la competencia económica. Además, la propuesta se alinea con las tendencias internacionales al adoptar un enfoque basado en riesgos, según el último informe de Deloitte, donde las obligaciones de las empresas dependerán del impacto potencial de cada sistema de IA sobre la sociedad.

Como señala Jose Luis Jerez, Socio de Impuestos y Servicios Legales de Deloitte Spanish Latin America, “la regulación de la inteligencia artificial representa una oportunidad para generar confianza y acelerar una adopción responsable de esta tecnología”. El enfoque colombiano exige estudios de impacto, así como mecanismos que evalúen la calidad y trazabilidad de los datos utilizados, con el fin de reducir los efectos negativos sobre los derechos fundamentales.

Si bien proyectos de ley como el de Colombia sientan las bases legales para la transparencia y la gestión de riesgos, la implementación interna dentro de las empresas es un reto completamente distinto. Tener una política de IA para cumplir con la normativa no garantiza que la tecnología sea escalable o exitosa.

Imran Aftab, CEO y cofundador de 10Pearls, advierte que el éxito escalable de la IA a nivel empresarial tiene menos que ver con las capacidades del modelo en sí, y mucho más con asegurar que las bases operativas y organizacionales estén firmes.

En la práctica, la brecha estratégica más común que frena a las empresas es la falta de operativización. Aftab explica: “El bajo rendimiento de la IA no siempre indica un problema con el modelo. Lo más probable es que el marco de gobernanza detrás de la tecnología no haya logrado dar el salto del papel a la práctica”.

Aunque una empresa cuente con políticas alineadas a la regulación de entidades como MinCiencias o la SIC, persisten vacíos en cómo estas reglas se aplican a las operaciones diarias. El experto señala que los derechos de decisión, las vías de escalamiento, los controles aplicables y la rendición de cuentas son áreas donde la gobernanza debe volverse completamente operativa. “Tenga en cuenta que la gobernanza de la IA es tanto una preocupación corporativa como de TI”, subraya Aftab, enfatizando que solo el 41% de las empresas con una estrategia de IA están trabajando para que esta gobernanza sea accesible a nivel de toda la organización.

El factor humano: El puente entre la ley y la operación

Tanto la emergente legislación colombiana como las mejores prácticas corporativas coinciden en un punto vital: la supervisión. El proyecto de ley en Colombia busca identificar riesgos y mitigar impactos negativos, algo que a nivel corporativo solo se logra si las personas siguen siendo parte de la ecuación.

Aftab denomina a esto el principio de mantener a los “humanos en el bucle” (Humans In The Loop). Para resolver el rompecabezas de la gobernanza operativa, es indispensable diseñar un entorno que integre la participación humana junto a la IA. “Las organizaciones deben centrarse en dónde se necesitan personas, qué decisiones y etapas del flujo de trabajo requieren supervisión y cómo debe operativizarse la IA para facilitar estas intervenciones”, puntualiza el directivo.

A medida que Colombia se convierte en un referente latinoamericano de inteligencia artificial responsable, las organizaciones públicas y privadas deben entender que la IA ya no es únicamente un desafío tecnológico. La clave para triunfar en este nuevo ecosistema no solo será cumplir con las exigencias de MinCiencias y la SIC, sino construir una estrategia interna donde la gobernanza se mida, se aplique y empodere el talento humano para escalar con seguridad.

Imagen: Unsplash / Getty Images

¿Qué es Data Pública y cómo funciona?

Data Pública es una plataforma en línea diseñada para ayudar a cualquier persona a ejercer su derecho a la información pública de forma rápida y efectiva. Su objetivo es democratizar el acceso a la información, facilitando la elaboración de solicitudes bien estructuradas que cumplan con los requisitos legales.

El funcionamiento de la herramienta es intuitivo y solo requiere unos pocos pasos:

Accede a la plataforma

Completa el formulario: la plataforma te guía en el proceso de redacción, solicitando datos clave como:

• Nombre de la entidad o institución a la que va dirigida la petición.
• Nombre y cargo del funcionario responsable (si se conoce).
• Ciudad y fecha.
• Datos del peticionario (nombres, apellidos y número de identificación).
• Detalles específicos de la solicitud.

Te puede interesar:  Esta es la cifra que debe pagar abogado por usar ChatGPT para ganar demanda contra Avianca

Genera el documento: una vez completados los campos, la herramienta crea un documento en formato descargable, listo para ser enviado a la entidad correspondiente.

Data Pública está diseñada para que cualquier persona pueda hacer su solicitud de manera sencilla y sin costo. La herramienta estructura la petición según los requisitos legales establecidos en la Ley 1755 de 2015, asegurando que la solicitud sea clara y tenga mayor posibilidad de respuesta efectiva.

De acuerdo con la entidad, su plataforma está diseñada para prevenir errores frecuentes en la redacción de derechos de petición, asegurando que los datos esenciales sean incluidos.

¿Qué esperar tras enviar tu derecho de petición?

Según la legislación colombiana, las entidades tienen los siguientes tiempos de respuesta:

• 10 días hábiles: para solicitudes de información y documentos.
• 15 días hábiles: para peticiones generales o particulares.
• 30 días hábiles: para consultas especializadas.

Si la entidad no responde en estos plazos, puedes presentar una queja ante la Procuraduría o la Defensoría del Pueblo.

Imagen: Docusign

La implementación de sistemas de IA en el ámbito judicial tiene como objetivo principal mejorar la eficiencia y productividad del sistema. La IA puede automatizar tareas repetitivas, como la revisión de documentos, expedientes y precedentes, permitiendo que los jueces se concentren en aspectos más complejos de la toma de decisiones. 

Estos sistemas tienen la capacidad de procesar grandes cantidades de datos con rapidez y precisión, facilitando así la recopilación y análisis de información esencial para la toma de decisiones judiciales. Esto no solo agiliza el trabajo, sino que también mejora la calidad de las decisiones al reducir el riesgo de errores humanos.

Te puede interesar: ONU llama a regular la inteligencia artificial: plantea beneficios y riesgos en juego

Un ejemplo de la aplicación de IA en la justicia se encuentra en Estonia, donde se ha desarrollado un “juez robot” para resolver casos menores. En China, el asistente legal Xiao Zhi 3.0 asiste a los jueces en el análisis de documentos y preparación de providencias judiciales. En Brasil, el proyecto Sócrates permite identificar y acumular procesos judiciales similares para emitir decisiones más eficientes.

“En Colombia, aunque no existe un marco jurídico especializado para la IA, actualmente, se están tramitando varios proyectos de ley en el Congreso para regular la aplicación de IA, pero hasta que se promulgue una ley, el uso que se le dé a estos sistemas depende de la autorregulación y autocontroles, aplicados al sector justicia, así como, por su puesto, las disposiciones de orden público que son aplicables a los jueces en la adjudicación de controversias”. afirmó Lorenzo Villegas-Carrasquilla, Socio de CMS Rodríguez-Azuero.

Te puede interesar: OpenAI lanza academia de inteligencia artificial para preparar talento TI en países no desarrollados

De conformidad con la sentencia T-323 de 2024,  el uso de IA en el sistema judicial plantea importantes desafíos relacionados con el debido proceso y la garantía del juez natural. La Corte identificó preocupaciones sobre cómo la IA puede afectar la imparcialidad y la transparencia en la toma de decisiones.

En particular, se ha discutido cómo asegurar que la IA respete los derechos fundamentales y no comprometa la independencia judicial. La garantía de un juez competente e imparcial es fundamental y debe ser protegida a pesar de la incorporación de nuevas tecnologías.

“Uno de los retos destacados por la Corte es la garantía del debido proceso probatorio, entendido como el derecho de los usuarios de la administración de justicia a solicitar el decreto y práctica de pruebas con respecto a las cuales la sentencia estará basada. La adopción de un sistema de IA -como lo ha apuntado la Corte- podría conducir a que en el proceso de toma de decisión se tenga en cuenta una respuesta desacertada de la herramienta de IA, con respecto a estándares legales o constitucionales para ordenar un medio probatorio en específico”, añade Lorenzo Villegas-Carrasquilla.

Te puede interesar:  “Riesgos catastróficos” de la IA según científicos; ¿qué harán gobiernos para protegernos?

A nivel internacional, la regulación de la IA está en desarrollo, con instrumentos de soft law que, aunque no vinculantes, ofrecen directrices para el desarrollo ético de estas tecnologías. Recomendaciones de organizaciones como la OCDE, la UNESCO, y el Foro Económico Mundial abogan por la transparencia, la responsabilidad y la participación en el desarrollo de la IA. Estas recomendaciones incluyen la necesidad de establecer terminología precisa, sensibilizar a la opinión pública y garantizar la trazabilidad de los contenidos generados por IA.

En octubre de 2021 se emitió en Colombia el “Marco Ético para la Inteligencia Artificial”, que ofrece directrices para la implementación ética de la IA en entidades públicas, enfatizando la transparencia, la privacidad, la seguridad y la responsabilidad.

La Corte determinó que la IA puede ser utilizada por jueces de manera razonada, siempre que respete la racionalidad humana y cumpla con principios éticos y de debido proceso. Además, estableció que la IA puede apoyar en áreas administrativas y judiciales, pero no reemplazar funciones jurisdiccionales esenciales. 

Te puede interesar: IA genera gran cantidad de CO2 para energizarse; ¿cómo mitigar la amenaza ambiental?

“La ética es esencial para la implementación de la IA en los sistemas judiciales, ya que guía el uso transparente y justo de esta tecnología, previniendo abusos y discriminación. La ética asegura la protección de derechos fundamentales como la privacidad y la igualdad, exige transparencia y rendición de cuentas, y promueve decisiones basadas en hechos objetivos sin sesgos. Además, garantiza la fiabilidad y seguridad del sistema, y enfatiza la necesidad de supervisión humana para mantener la imparcialidad y adaptar las decisiones al contexto específico de cada caso.” concluyó Villegas-Carrasquilla. 

Imagen: Archivo ENTER.CO

Esta nueva ley aún está en «proceso de acuerdo». Se espera que se apruebe y entre en vigencia en 2024. No obstante, el impacto que tendrá es decisivo.

Las grandes firmas de tecnología, incluso varias en el país como EPAM, tienen claro que la medida se enfocará en identificar, mitigar y eliminar riesgos derivados de la nueva inteligencia. Para ello, se han planteado cuatro niveles de riesgos que permitirán determinar el momento en que los sistemas o productos de cada empresa infrinjan la ley: inaceptable, alto, bajo y mínimo riesgo.

Los cuatro niveles de riesgo de la inteligencia artificial

Riesgo inaceptable: es la categoría de mayor riesgo. Aquí entran las prácticas prohibidas por la Unión Europea en todo sentido y que representan amenazas inmediatas para la sociedad, como sistemas biométricos en tiempo real e información personal protegida, algoritmos de puntuación social y sistemas manipuladores. También cualquier aplicación de IA que interfiera en la toma de decisiones, manipule el comportamiento físico o psicológico, ponga en peligro la privacidad, la protección de datos, la salud pública o el medio ambiente, o pueda utilizarse con fines ilícitos.

Riesgo alto: es el riesgo más común presente en las IA que funcionan actualmente y pueden ser potencialmente dañinas para grupos de individuos. Hablamos aquí de la identificación biométrica, los sistemas de categorización y los sistemas de infraestructuras críticas (como los servicios públicos relacionados con la seguridad, los sistemas relacionados con el empleo, los componentes de seguridad de los productos, las aplicaciones sanitarias y los sistemas de moderación de contenidos). Un sistema de IA que agrupe, utilice y prevea grandes cantidades de datos, específicamente datos personales, podría ser analizado como un sistema de alto riesgo.

Riesgo bajo: Aquí entran las IA que no representan gran amenaza para las personas, pero sí requieren mecanismos de transparencia y rendición de cuentas para garantizar que se mantienen en este nivel de riesgo. Nos referimos aquí a las IA utilizadas en servicios de atención al cliente o chatbots. En estos casos se deben proporcionar información y documentación claras sobre las capacidades y limitaciones del sistema de IA, y asegurarse de que funcione de manera continuamente justa y transparente.

Te puede interesar: Abogado usó ChatGPT para ganar demanda contra Avianca, pero la aerolínea lo descubrió

Riesgo mínimo: las IA de este grupo no entrarían a la regulación de la AIA, pero sí se les exige que se acoplen a la nueva normativa. Nos referimos aquí a las IA utilizadas en videojuegos y reconocimiento de imágenes, muy utilizadas por empresas de los medios de comunicación y entretenimiento para sus modelos de negocio y ofertas.

Un llamado a la innovación responsable
Con estas regulaciones no se pretende poner freno al avance tecnológico. No obstante, el futuro debe ser responsable con la sociedad, pues está comprobado que un avance tecnológico desmedido e inconsciente trae consecuencias que afectan, de una u otra manera, el bienestar de los individuos. Las empresas tecnológicas tienen una gran responsabilidad en sus manos.

Imagen: Pixabay

El gobierno chino acaba de aprobar una ley de ciberseguridad que era –y es– temida por las grandes compañías de tecnología que operan en este país. La legislación, que se dio como una medida anti terrorista, pone en evidencia el creciente interés que están adoptando los gobiernos de todo el mundo frente a internet.

Reuters informa que la nueva ley le exige a las empresas relacionadas con tecnología y telecomunicaciones descifrar la información, entre otros requerimientos. Esto obviamente afecta el estado actual del ciberespacio, por lo que las potencias occidentales y Obama mismo han hecho saber su preocupación.

La polémica ley, sin embargo, no le exige a las compañías instalar ‘puertas traseras’ de seguridad (como estaba previsto inicialmente) lo cual es valioso en términos de privacidad. Asimismo, el nuevo estatuto abarca otros temas, entre los cuales, se destaca el permiso a los militares para ir al extranjero en operaciones antiterroristas.

Según las autoridades chinas, su país podría verse expuesto a amenazas de los militantes y los separatistas, principalmente en la región occidental de Xinjiang donde la actividad rebelde es constante. De hecho, como reporta CNN, el gobierno está convencido de que la violencia fue un problema creciente en China.

“Los ataques terroristas han causado grandes pérdidas de vidas y propiedades, lo que representa una seria amenaza para nuestra seguridad, estabilidad, desarrollo económico y unidad étnica”, dijo An Weixing, funcionario del Ministerio de Seguridad Pública de dicho país.

Imagen: Perspecsys Photos (vía Flickr).

Y si estás en el bus, manejando o simplemente quieres escucharnos sin necesidad de abrir un video, esta es la versión de audio del programa:

Recuerda que nos puedes encontrar en iTunes o en cualquier repositorio de podcasts en línea:

Imagen: ENTER.CO.

La sentencia está plasmada en un texto publicado por la Asociación el pasado lunes, 24 de junio. Sin embargo, un juez dictaminó que la prohibición al uso comercial de aviones no tripulados por parte de la FAA es ilegal, pues no tomó en cuenta la opinión del público para hacerla, lo que se considera una violación a la Ley Federal. Por eso, reguladores de vuelo apelaron contra la decisión de la administración.

La FAA prometió que, en el futuro cercano, revisará la aplicación comercial de aviones no tripulados. Ahí podrían aplicar nuevas reglas para su uso, que entrarían en vigencia a finales de 2015. Por ahora, el uso comercial de los drones, con el que sueña Jeff Bezos, todavía está prohibido.

Según Arstechnica, Amazon esperaba salvarse de la sentencia al hacer los envíos con drones gratuitos. Si no cobran por el envío, el dron no estaría siendo utilizado comercialmente. Sin embargo, la FAA fue clara en decir que, así no se cobrara por el envío, el uso de estos vehículos está prohibido, porque funciona alrededor de una transacción comercial.

Imagen: Amazon.

Todo lo que se ha hablado de PRISM y la NSA sobre recoger información de todas las llamadas telefónicas y uso de redes sociales e internet de los usuarios, se ha justificado para interceptar a terroristas o personas que vulneren la seguridad y libertad de los ciudadanos norteamericanos.

La NSA cree imperativo entonces rastrear llamadas celulares, videollamadas de Skype o conversaciones de Facebook. Pero la pregunta es: ¿los terroristas usan todas estas redes, teniendo en cuenta que pueden ser rastreados con facilidad?

Los terroristas están en todas partes, son peligrosos y, por desgracia, pocas veces saben que están en el ojo de las autoridades y deben cuidarse de no ser ‘pillados mal parqueados’. Por ende, poco o nada usan Facebook o Skype, según afirma  Motherboard.

Los Estados Unidos entraron a fortalecer los sistemas de inteligencia luego del fatídico septiembre del 2001. Sin embargo la información que muestra Bloomberg afirma que los terroristas poco o nada usan los servicios de comunicación que la NSA quiere interceptar. Un informe de 2012 sobre el terrorismo encontró que los más grandes terroristas se alejan de los teléfonos celulares y de redes como Google, Skype o Facebook.

Quizá no sea muy obvio, pero las personas o agrupaciones que están a margen de la ley tienen muy bien estructuradas sus formas de comunicación. Hablan en clave, cambian de móvil con extrema frecuencia, no usan servicios comunes –esto es lo ultimo que necesitan, pues no sería útil publicar una foto del entrenamiento matutino del grupo delincuencial-. La misión de la NSA es más compleja que solo interceptar, deben decodificar y buscar redes y sitios que no sean obvios.