Un informe encargado por el Departamento de Estado de EE. UU. a la startup de IA Gladston, ha generado preocupación al señalar que el avance de la inteligencia artificial (IA) podría representar una amenaza tan grave como la introducción de armas nucleares para la seguridad global. ¿La IA no solo acabaría con algunos empleos, sino con la humanidad?
El documento advierte sobre los posibles peligros de una carrera armamentística de inteligencia artificial general (AGI) y la proliferación descontrolada de tecnologías avanzadas de IA, lo que podría aumentar el riesgo de accidentes catastróficos a escala mundial y desencadenar conflictos interestatales.
Según el informe, la madurez de la IA avanzada y la expansión de la cadena de suministro de IA plantean el riesgo de que los países compitan por adquirir recursos para desarrollar capacidades soberanas en este campo. De no gestionarse adecuadamente, estas dinámicas competitivas podrían desatar una carrera armamentística de AGI, con consecuencias impredecibles para la seguridad internacional.
Te puede interesar: La Unión Europea ya tiene ‘Ley de Inteligencia Artificial’: ¿Qué prohíbe? ¿Qué regula?
Para hacer frente a estos desafíos, el informe propone una serie de acciones diplomáticas a corto plazo y medidas a largo plazo que podrían ser adoptadas por el gobierno de Estados Unidos. Estas incluyen la construcción de un consenso nacional e internacional sobre los riesgos catastróficos de la IA y la necesidad de salvaguardias, la incorporación de estas salvaguardias en el derecho internacional, y el establecimiento de una Agencia Internacional de IA (IAIA) para supervisar el cumplimiento de estas medidas.
Además, sugiere la creación de un Régimen de Control de la Cadena de Suministro de IA (ASCCR) con aliados y socios para limitar la proliferación de tecnologías avanzadas de IA.
Dicho informe reconoce que estas acciones requieren una respuesta audaz y sin precedentes, dada la naturaleza única de los riesgos planteados por el avance de la IA. Se destaca la necesidad de abordar la gravedad de los peores escenarios, la incertidumbre en cuanto a los plazos y el grado de riesgo, así como la propensión a la proliferación en la cadena de suministro de IA.
Te puede interesar: Lanzan nuevo ‘ingeniero de software’ de IA autónomo que te ayuda a programar de manera fluida
Expertos en seguridad han respaldado las conclusiones del informe, destacando la importancia de tomar medidas preventivas para mitigar los riesgos asociados con el desarrollo y la adopción de la IA avanzada. Se espera que este informe genere un debate más amplio sobre la regulación y la supervisión de la IA a nivel nacional e internacional, con el objetivo de garantizar su uso seguro y responsable en beneficio de la humanidad.
Imagen: Archivo ENTER.CO
