El debate sobre los modelos abiertos de inteligencia artificial tomó un nuevo rumbo tras la posición fijada por Anthropic. La empresa aseguró que nunca ha promovido la prohibición de los modelos de pesos abiertos (open-weights) y sostuvo que una medida de ese tipo tendría poco efecto frente a los riesgos que realmente preocupan a la compañía.
La aclaración surge luego de que en Estados Unidos aparecieran versiones sobre una posible restricción al uso de modelos abiertos desarrollados en China por parte de empresas estadounidenses. Al mismo tiempo, varias compañías tecnológicas respaldaron una carta en defensa de este tipo de inteligencia artificial, mientras algunos críticos señalaban que Anthropic impulsaba restricciones para favorecer a los desarrolladores de modelos cerrados.
El director ejecutivo de Anthropic, Dario Amodei, rechazó esa interpretación. Explicó que los modelos abiertos que no presentan capacidades peligrosas representan un beneficio para investigadores, desarrolladores y empresas, ya que pueden utilizarse sin costos de licencia, más allá de la infraestructura necesaria para ejecutarlos.
Para la compañía, el verdadero desafío está en otro lugar. Amodei advirtió que su mayor preocupación es que gobiernos autoritarios logren desarrollar sistemas de inteligencia artificial más avanzados que los de Estados Unidos y los empleen para fortalecer capacidades militares o ampliar mecanismos de vigilancia sobre la población. Bajo esa perspectiva, si un modelo es abierto o cerrado resulta secundario frente al uso que pueda dársele.
Las tres medidas que propone Anthropic
En lugar de impulsar una prohibición general, Anthropic plantea tres acciones concretas. La primera consiste en reforzar las restricciones para impedir que China acceda a chips avanzados y equipos destinados a fabricarlos, además de combatir las redes de contrabando que permiten obtener este tipo de hardware. Según la empresa, limitar ese acceso tendría un impacto mucho mayor sobre el desarrollo de modelos de frontera.
La segunda propuesta busca frenar las operaciones industriales de destilación de modelos, una técnica que permite crear sistemas más eficientes a partir de otros ya entrenados utilizando muchos menos recursos computacionales. Amodei considera que esta práctica puede reducir la ventaja tecnológica de Estados Unidos cuando es utilizada a gran escala por actores respaldados por gobiernos.
El tercer punto plantea que todos los modelos con capacidades avanzadas, abiertos o cerrados, deban superar pruebas obligatorias de seguridad antes de su lanzamiento. Esas evaluaciones tendrían que medir riesgos relacionados con ciberataques, amenazas biológicas y posibles fallas de alineación para determinar si los sistemas pueden ser desplegados de forma responsable.
Te puede interesar: OpenAI nombra al colombiano David Vélez en sus consejos directivos
Anthropic también reconoció que coincide con varios de los argumentos planteados por quienes defienden los modelos abiertos. Entre ellos menciona que amplían el acceso a la inteligencia artificial, favorecen la competencia y ofrecen mayor control a empresas y desarrolladores. Sin embargo, la compañía no comparte la idea de que abrir el acceso a estos modelos fortalezca automáticamente las capacidades de defensa o facilite la creación de mecanismos de protección.
Como ejemplo, Amodei señaló que modelos con un nivel de capacidad muy alto podrían facilitar el desarrollo de amenazas biológicas antes de que existan herramientas capaces de responder a ellas. Por esa razón, considera que el impacto de estas tecnologías debe evaluarse mediante pruebas técnicas antes de asumir que su apertura traerá más beneficios que riesgos.
Más que entrar en la discusión sobre si los modelos abiertos deben permitirse o prohibirse, Anthropic intenta desplazar el foco hacia los factores que, según su análisis, tendrán mayor influencia en la evolución de la inteligencia artificial durante los próximos años. Para la empresa, controlar el acceso al hardware más avanzado, vigilar prácticas como la destilación de modelos y establecer evaluaciones de seguridad para los sistemas más potentes tendría un efecto mucho más relevante que restringir una categoría completa de modelos por su forma de distribución.
