El Parlamento Europeo aprobó la ‘Ley de Inteligencia Artificial’ que pretende garantizar la seguridad y el cumplimiento de los derechos fundamentales, al tiempo que se impulsa la innovación de esta tecnología.
La nueva ley fue aprobada para proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental frente a la IA de alto riesgo, al tiempo que impulsa la innovación y establece a Europa como líder en este campo. El reglamento establece obligaciones para la IA en función de sus riesgos potenciales y nivel de impacto.
¿Qué prohíbe? ¿Qué regula?
De acuerdo con el organismo, que hace parte de la Unión Europea que representa directamente a los ciudadanos europeos, la nueva normativa prohibirá ciertas aplicaciones de inteligencia artificial que puedan amenazar los derechos de los ciudadanos.
Por ejemplo, en tanto a los sistemas de categorización biométrica basados en características sensibles y la extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial.
Sin embargo, esta tecnología sólo se podrá implementar si se cumplen estrictas salvaguardas, es decir, su uso estará limitado en el tiempo y el alcance geográfico y está sujeto a una autorización judicial o administrativa previa específica.
Te puede interesar: Lanzan nuevo ‘ingeniero de software’ de IA autónomo que te ayuda a programar de manera fluida
Dichos usos pueden incluir, por ejemplo, la búsqueda selectiva de una persona desaparecida o la prevención de un ataque terrorista. El uso de dichos sistemas post-facto (“RBI post-remoto”) se considera un caso de uso de alto riesgo, que requiere autorización judicial vinculada a un delito penal.
Por otra parte, estarán prohibidos el reconocimiento de emociones en el lugar de trabajo y las escuelas, la puntuación social, la vigilancia policial predictiva (cuando se base únicamente en perfilar a una persona o evaluar sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
En tanto, a las obligaciones establecidas para los sistemas de inteligencia artificial (IA) de alto riesgo, la ley mitigará posibles daños significativos en diversas áreas clave como:
Evaluación y reducción de riesgos: Los desarrolladores y usuarios de sistemas de IA de alto riesgo están obligados a llevar a cabo evaluaciones exhaustivas de los riesgos asociados con sus aplicaciones. Además, deben implementar medidas efectivas para reducir esos riesgos y garantizar un funcionamiento seguro y ético.
Te puede interesar: Estas son las carreras STEM mejores pagadas en Colombia en este 2024
Registros de uso: Se exige mantener registros detallados sobre el uso de los sistemas de IA de alto riesgo. Esto puede incluir información sobre el entrenamiento del modelo, la toma de decisiones y otros aspectos relevantes. Estos registros son esenciales para la rendición de cuentas y la transparencia.
Transparencia y precisión: Los sistemas deben ser transparentes en su funcionamiento, lo que implica que los usuarios deben comprender cómo operan y cómo toman decisiones. Asimismo, se espera una precisión adecuada en la ejecución de las tareas para evitar resultados inesperados o sesgos.
Supervisión humana: A pesar de la automatización avanzada de estos sistemas, se requiere la presencia de supervisión humana. Esta medida busca garantizar que haya intervención y control humano en situaciones críticas, lo que es esencial para preservar los derechos fundamentales y la seguridad.
Te puede interesar: ¿IA comienza a desafiar la muerte? Así conversa y gestualiza una Marylin Monroe lograda por OpenAI
Derecho a presentar quejas: Los ciudadanos tienen el derecho de presentar quejas relacionadas con el uso de sistemas de IA de alto riesgo. Esto refuerza la participación ciudadana y permite que los individuos expresen preocupaciones o inconformidades respecto a las aplicaciones de inteligencia artificial.
Explicaciones sobre decisiones: Se establece el derecho de los ciudadanos a recibir explicaciones detalladas sobre las decisiones que afecten sus derechos y que estén basadas en sistemas de IA de alto riesgo. Esto busca mejorar la comprensión y la rendición de cuentas en el proceso de toma de decisiones automatizado.
El reglamento aún está sujeto a una revisión final por parte de los juristas lingüistas y se espera que sea adoptado definitivamente antes de que finalice la legislatura (mediante el llamado procedimiento de corrección de errores ). La ley también necesita ser respaldada formalmente por el Consejo.
Entrará en vigor veinte días después de su publicación en el Diario Oficial, y será plenamente aplicable 24 meses después de su entrada en vigor, excepto: prohibiciones de prácticas prohibidas, que se aplicarán seis meses después de la fecha de entrada en vigor.
Imagen: dimitrisvetsikas1969
