<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>seguridad de la IA: Noticias, Fotos, Evaluaciones, Precios y Rumores de seguridad de la IA • ENTER.CO</title>
	<atom:link href="https://www.enter.co/noticias/seguridad-de-la-ia/feed/" rel="self" type="application/rss+xml" />
	<link>https://www.enter.co/noticias/seguridad-de-la-ia/</link>
	<description>Tecnología y Cultura Digital</description>
	<lastBuildDate>Tue, 22 Sep 2026 14:55:45 +0000</lastBuildDate>
	<language>es</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=6.9.5</generator>

<image>
	<url>https://www.enter.co/wp-content/uploads/2026/07/cropped-ICONOPERFILREDACCIONENTER-32x32.png</url>
	<title>seguridad de la IA: Noticias, Fotos, Evaluaciones, Precios y Rumores de seguridad de la IA • ENTER.CO</title>
	<link>https://www.enter.co/noticias/seguridad-de-la-ia/</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>Anthropic prepara su salida a bolsa entre alertas por la IA</title>
		<link>https://www.enter.co/especiales/dev/salida-bolsa-anthropic-alertas-ia/</link>
					<comments>https://www.enter.co/especiales/dev/salida-bolsa-anthropic-alertas-ia/#respond</comments>
		
		<dc:creator><![CDATA[Redacción ENTER.CO]]></dc:creator>
		<pubDate>Tue, 22 Sep 2026 14:55:45 +0000</pubDate>
				<category><![CDATA[AI/Dev]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[Claude]]></category>
		<category><![CDATA[Dario Amodei]]></category>
		<category><![CDATA[inteligencia artificial]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[salida a bolsa]]></category>
		<category><![CDATA[seguridad de la IA]]></category>
		<category><![CDATA[Wall Street]]></category>
		<guid isPermaLink="false">https://www.enter.co/?p=586942</guid>

					<description><![CDATA[Anthropic habría decidido aplazar de octubre a noviembre su salida a bolsa, una operación que podría recaudar hasta 100.000 millones de dólares y valorar a la compañía en cerca de dos billones. El posible cambio coincide con las advertencias de su CEO, Dario Amodei, sobre los riesgos de la inteligencia artificial y su petición de [&#8230;]]]></description>
										<content:encoded><![CDATA[<p>Anthropic habría decidido <a href="https://www.wsj.com/tech/ai/anthropic-shifts-planned-ipo-to-november-8874dffc" target="_blank" rel="noopener">aplazar de octubre a noviembre su salida a bolsa</a>, una operación que podría recaudar hasta 100.000 millones de dólares y valorar a la compañía en cerca de dos billones. El posible cambio coincide con las advertencias de su CEO, Dario Amodei, sobre los riesgos de la inteligencia artificial y su petición de establecer mayores controles antes de desplegar sistemas más avanzados.</p>
<p><span id="more-586942"></span></p>
<p>La compañía presentó en junio la documentación confidencial para iniciar el proceso. El nuevo calendario todavía no está confirmado oficialmente y tendría una explicación financiera. Llegar al mercado con los resultados del tercer trimestre cerrados permitiría mostrar a los inversionistas si el crecimiento registrado durante 2026 se mantiene. El cambio a noviembre ya estaría contemplado antes de que se intensificara el debate sobre la seguridad de la IA.</p>
<h2>Los números con los que la compañía quiere llegar a Wall Street</h2>
<p>La facturación habría pasado de unos 4.700 millones de dólares en el primer trimestre de 2026 a más de 11.500 millones en el segundo. Durante ese periodo, el gasto en infraestructura de cómputo habría aumentado de 3.400 millones a 5.600 millones.</p>
<p>En mayo, la empresa informó un ritmo anualizado de ingresos superior a 47.000 millones de dólares. A finales de julio ya superaba los 65.000 millones y las estimaciones utilizadas por inversionistas cercanos a la operación apuntan a más de 110.000 millones al cierre del año.</p>
<p>El ingreso anualizado no equivale al dinero obtenido durante los últimos 12 meses. Esta métrica toma el nivel reciente de ventas y calcula cuánto generaría el negocio en un año si mantuviera ese ritmo. Sirve para medir la velocidad de crecimiento, pero no sustituye los ingresos reconocidos que aparecerán en la documentación financiera.</p>
<p>Entre los clientes corporativos también hay señales de expansión. Al cierre del segundo trimestre, unas 6.000 compañías habrían gastado más de 100.000 dólares en sus herramientas durante los últimos 12 meses, frente a unas 1.500 al terminar 2025. Más de 1.000 clientes superaron el millón de dólares y más de 100 rebasaron los 10 millones.</p>
<p>Buena parte del negocio procede de organizaciones que utilizan Claude mediante suscripciones o pagos por consumo. El modelo también está disponible a través de servicios en la nube, mientras las herramientas de programación aportan otra fuente de ingresos.</p>
<p>Mantener ese ritmo exige inversiones en centros de datos, chips y energía. La empresa prevé cerrar 2026 con alrededor de 5 gigavatios de capacidad de cómputo y duplicar esa cifra el próximo año. Los recursos obtenidos en bolsa ayudarían a financiar esa infraestructura.</p>
<h2>Amodei lleva sus advertencias sobre la IA al momento más sensible</h2>
<p>Mientras avanza el proceso para cotizar, Amodei ha dedicado parte de sus intervenciones públicas a advertir sobre los riesgos de sistemas de inteligencia artificial cada vez más capaces. En una entrevista con CBS News Sunday Morning sostuvo que el crecimiento exponencial de esta tecnología justifica <a href="https://www.enter.co/especiales/dev/ceo-de-anthropic-pide-controles-para-frenar-el-avance-de-la-ia/" target="_blank" rel="noopener">reducir el ritmo y reforzar las medidas de seguridad</a>.</p>
<p>Su propuesta no consiste en detener la investigación. El ejecutivo defiende evaluadores independientes con acceso suficiente para examinar los modelos, estándares compartidos entre compañías y participación de los gobiernos en la definición de reglas para su lanzamiento. También considera que la supervisión no debería depender exclusivamente de quienes desarrollan la tecnología.</p>
<p>Las preocupaciones han surgido igualmente dentro del sector. Jacob Coxon, exinvestigador de Anthropic, advirtió sobre posibles riesgos existenciales derivados del desarrollo de sistemas de superinteligencia. Evan Hubinger, investigador de la empresa, ha situado por encima del 10 % su estimación personal sobre la posibilidad de que sistemas avanzados provoquen la extinción humana durante la próxima década.</p>
<p>Ese porcentaje corresponde a una estimación personal y no a una probabilidad establecida científicamente. La discusión adquiere relevancia porque uno de los principales desarrolladores de IA busca captar decenas de miles de millones de dólares entre inversionistas.</p>
<p>Amodei también ha mencionado pruebas en las que modelos realizaron acciones para las que no estaban autorizados. El CEO utiliza estos episodios para respaldar su petición de establecer mecanismos de supervisión antes de desplegar sistemas con mayores capacidades.</p>
<h2>Wall Street tendrá que valorar algo más que los ingresos</h2>
<p>Desde 2021, la empresa funciona como una corporación de beneficio público en Delaware. Esta figura permite considerar una misión declarada y otros intereses además del retorno económico para los accionistas.</p>
<p>Cotizar en bolsa pondría esa estructura frente a nuevas exigencias. La dirección tendría que responder ante inversionistas que esperan crecimiento y rentabilidad sin abandonar la seguridad como uno de los principios que orientan sus decisiones sobre el desarrollo y lanzamiento de modelos.</p>
<p>En Estados Unidos también se discute qué papel debe asumir el Gobierno frente a sistemas cada vez más avanzados. Amodei reclama evaluaciones independientes y participación pública en la definición de estándares. Además, ha señalado que los compromisos voluntarios de la industria podrían resultar insuficientes sin intervención gubernamental.</p>
<p>Washington mantiene posiciones diferentes sobre el alcance que debería tener una regulación. Un marco más estricto podría elevar costos, exigir pruebas adicionales o cambiar las condiciones para lanzar nuevos modelos.</p>
<p>La competencia agrega presión al negocio. OpenAI continúa ampliando su oferta, mientras desarrolladores chinos avanzan con modelos de pesos abiertos que otras organizaciones pueden ejecutar y adaptar en su propia infraestructura. Alternativas más económicas podrían reducir la capacidad de los principales laboratorios estadounidenses para mantener precios elevados.</p>
<p>También existe competencia por el capital. OpenAI descartó salir a bolsa en 2026 y una eventual operación podría producirse a partir de 2027. Si ambas compañías acuden al mercado con poca diferencia de tiempo, podrían buscar recursos entre un grupo similar de inversionistas interesados en inteligencia artificial.</p>
<h2>La salida a bolsa de Anthropic todavía tiene datos por revelar</h2>
<p>Noviembre aparece por ahora como el nuevo objetivo, aunque el calendario podría modificarse según las condiciones del mercado. Tampoco se conocen el precio de las acciones, la cantidad que finalmente se ofrecerá ni la valoración con la que comenzaría a cotizar.</p>
<p>El registro público permitirá conocer información que permanece reservada, entre ella los ingresos reconocidos, gastos, pérdidas o beneficios, necesidades de capital y factores de riesgo. Los documentos también mostrarán cuánto cuesta sostener la infraestructura necesaria para desarrollar y operar sus modelos.</p>
<p>La llegada a Wall Street pondría frente a los inversionistas dos elementos centrales del negocio. La compañía necesita capital para sostener su crecimiento y ampliar su capacidad de cómputo, mientras su CEO reclama controles más estrictos para el desarrollo de la IA. La documentación de la oferta deberá mostrar cómo pretende compatibilizar ambas prioridades.</p>
<p><em>Imagen</em>: ENTER.CO / Generada con IA (ChatGPT)</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.enter.co/especiales/dev/salida-bolsa-anthropic-alertas-ia/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Tu IA ya no solo te responde, ahora puede responder tus mensajes y comprar por ti ¿Qué puede salir mal?</title>
		<link>https://www.enter.co/especiales/dev/inteligencia-artificial/su-ia-ya-no-quiere-responderle-quiere-hacer-las-compras-por-usted-que-puede-salir-mal/</link>
					<comments>https://www.enter.co/especiales/dev/inteligencia-artificial/su-ia-ya-no-quiere-responderle-quiere-hacer-las-compras-por-usted-que-puede-salir-mal/#respond</comments>
		
		<dc:creator><![CDATA[Digna Irene Urrea]]></dc:creator>
		<pubDate>Wed, 16 Sep 2026 17:35:57 +0000</pubDate>
				<category><![CDATA[Inteligencia Artificial]]></category>
		<category><![CDATA[asistentes de IA]]></category>
		<category><![CDATA[IA que hace compras]]></category>
		<category><![CDATA[IA y datos personales.]]></category>
		<category><![CDATA[inteligencia artificial]]></category>
		<category><![CDATA[seguridad de la IA]]></category>
		<category><![CDATA[tarjeta de crédito e inteligencia artificial]]></category>
		<guid isPermaLink="false">https://www.enter.co/?p=586783</guid>

					<description><![CDATA[Si una inteligencia artificial pudiera hacer por ti una compra, reservar una cita, pagar un peaje o recuperar un objeto que olvidaste en un hotel, ¿le darías permiso para hacerlo mientras duermes? Esa es la apuesta detrás de los nuevos agentes de inteligencia artificial. Ya no están diseñados únicamente para responder preguntas o generar contenido. [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="isSelectedEnd">Si una inteligencia artificial pudiera hacer por ti una compra, reservar una cita, pagar un peaje o recuperar un objeto que olvidaste en un hotel, ¿le darías permiso para hacerlo mientras duermes?</p>
<p><span id="more-586783"></span></p>
<p class="isSelectedEnd">Esa es la apuesta detrás de los nuevos agentes de inteligencia artificial. Ya no están diseñados únicamente para responder preguntas o generar contenido. Ahora pueden recibir una instrucción, entrar en diferentes servicios digitales y completar tareas por su cuenta.</p>
<p class="isSelectedEnd"><strong>Instinct</strong> es uno de los ejemplos que está llevando esta idea a otro nivel. El asistente puede conectarse con servicios que una persona utiliza todos los días y ejecutar acciones en su nombre. Según testimonios publicados por usuarios en X, algunas personas ya lo han utilizado para pagar peajes, reservar citas e incluso negociar precios con vendedores mientras no estaban pendientes del proceso.</p>
<p class="isSelectedEnd">Un reporte de <a href="https://www.theatlantic.com/technology/2026/09/instinct-ai-personal-assistant-credit-card/688607/" target="_blank" rel="noopener">The Atlantic</a>  asegura que otro usuario contó que recurrió al servicio para solucionar un problema bastante más cotidiano: había olvidado un Apple Pencil en un hotel de Montreal y utilizó Instinct para gestionar el envío del objeto hasta su casa en Brooklyn.</p>
<p class="isSelectedEnd">Son ejemplos que muestran por qué estos sistemas pueden resultar atractivos. En lugar de tener que entrar a una aplicación, buscar una opción, llenar formularios y confirmar cada paso, puedes darle una instrucción y dejar que la IA se encargue del proceso.</p>
<p>Pero ahí mismo aparece la parte que merece más atención.</p>
<h2>Cuando la IA deja de aconsejarte</h2>
<p class="isSelectedEnd">Piensa en la diferencia entre preguntarle a una IA qué ingredientes necesitas para preparar una quiche Lorraine y decirle que haga el mercado por ti.</p>
<p class="isSelectedEnd">En el primer caso, tú recibes información y decides qué comprar. En el segundo, el agente necesita entrar a una plataforma de compras, seleccionar productos y, dependiendo de los permisos que tenga, completar la transacción.</p>
<p class="isSelectedEnd">Ese salto cambia el riesgo.</p>
<p class="isSelectedEnd">Una IA puede interpretar de manera diferente una instrucción ambigua. Si le dices que quieres “los ingredientes más baratos”, por ejemplo, tendrá que decidir qué productos cumplen esa condición. Puede elegir otra marca, una presentación distinta o un producto que no era el que tenías en mente.</p>
<h3>Te puede interesar: <a href="https://www.enter.co/especiales/dev/inteligencia-artificial/ya-no-compraremos-solos-en-internet-los-agentes-de-ia-empiezan-a-tomar-decisiones-por-nosotros/" target="_blank" rel="noopener">Ya no compraremos solos en internet: los agentes de IA empiezan a tomar decisiones por nosotros</a></h3>
<p class="isSelectedEnd">El problema deja de ser simplemente que la IA te haya dado una respuesta incorrecta. <strong>Ahora puede haber una acción concreta detrás de esa equivocación.</strong></p>
<p class="isSelectedEnd">Y eso se vuelve todavía más delicado cuando el agente tiene acceso a información sensible.</p>
<p class="isSelectedEnd">Instinct puede conectarse con herramientas como Slack, Google Workspace y 1Password, además de servicios relacionados con pagos. Esto permite que el asistente tenga una visión mucho más amplia de la actividad digital de una persona.</p>
<p class="isSelectedEnd">La comodidad es evidente: menos aplicaciones abiertas, menos formularios y menos pasos manuales.</p>
<p>El costo potencial es que una herramienta tenga autorización para hacer muchas cosas en tu nombre.</p>
<h2>¿Qué pasa si le das acceso a tu tarjeta?</h2>
<p class="isSelectedEnd">Aquí está una de las diferencias fundamentales entre un chatbot tradicional y un agente de IA.</p>
<p class="isSelectedEnd">Si le preguntas a un chatbot qué vuelo deberías comprar y te recomienda uno equivocado, todavía tienes la oportunidad de revisar la información antes de pagar.</p>
<p class="isSelectedEnd">Si un agente puede entrar a una plataforma, elegir el vuelo y utilizar un método de pago autorizado, el margen entre una recomendación y una decisión se reduce considerablemente.</p>
<p class="isSelectedEnd">Por eso, antes de conectar una IA con tus cuentas conviene revisar <strong>qué información puede consultar, qué acciones puede realizar y cuáles necesitan tu autorización explícita</strong>.</p>
<p class="isSelectedEnd">También importa qué ocurre cuando una orden no es suficientemente precisa. Frases que para una persona tienen un contexto evidente pueden obligar a un sistema automático a tomar decisiones por su cuenta.</p>
<p class="isSelectedEnd">El crecimiento de<a href="https://ascendants.in/business-stories/instinct-1-billion-funding-10-billion-valuation-ai-assistant-100000-users/" target="_blank" rel="noopener"> Instinct</a> refleja precisamente el interés que existe por esta nueva generación de asistentes. La compañía fue fundada por Noah Shinn, de 23 años, y lanzó su producto inicialmente para un grupo reducido de usuarios. Desde entonces, la startup ha crecido rápidamente y estaría buscando <strong>US$1.000 millones en nueva financiación</strong>, en una operación que podría llevar su valoración hasta los <strong>US$10.000 millones</strong>.</p>
<p class="isSelectedEnd">La cifra ayuda a entender el interés empresarial por los agentes de IA, pero para los usuarios hay una pregunta más inmediata.</p>
<p class="isSelectedEnd"><strong>¿Cuánto control estás dispuesto a ceder a una inteligencia artificial a cambio de que haga las tareas por ti?</strong></p>
<p class="isSelectedEnd">Porque una IA que solamente conversa contigo puede equivocarse.</p>
<p>Una IA que tiene permiso para actuar en tu nombre puede hacer algo mucho más difícil de deshacer.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.enter.co/especiales/dev/inteligencia-artificial/su-ia-ya-no-quiere-responderle-quiere-hacer-las-compras-por-usted-que-puede-salir-mal/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>CEO de Anthropic pide controles para frenar el avance de la IA</title>
		<link>https://www.enter.co/especiales/dev/ceo-de-anthropic-pide-controles-para-frenar-el-avance-de-la-ia/</link>
					<comments>https://www.enter.co/especiales/dev/ceo-de-anthropic-pide-controles-para-frenar-el-avance-de-la-ia/#respond</comments>
		
		<dc:creator><![CDATA[Redacción ENTER.CO]]></dc:creator>
		<pubDate>Mon, 14 Sep 2026 12:16:36 +0000</pubDate>
				<category><![CDATA[AI/Dev]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[Dario Amodei]]></category>
		<category><![CDATA[Elon Musk]]></category>
		<category><![CDATA[inteligencia artificial]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[Sam Altman]]></category>
		<category><![CDATA[seguridad de la IA]]></category>
		<category><![CDATA[xAI]]></category>
		<guid isPermaLink="false">https://www.enter.co/?p=586695</guid>

					<description><![CDATA[La carrera por desarrollar modelos cada vez más capaces debería reducir su velocidad para dar tiempo a reforzar las medidas de seguridad. Esa es la propuesta de Dario Amodei, CEO de Anthropic, quien considera que el avance de la IA está acelerando determinadas capacidades antes de que existan mecanismos suficientes para evaluarlas y mantenerlas bajo [&#8230;]]]></description>
										<content:encoded><![CDATA[<p>La carrera por desarrollar modelos cada vez más capaces debería reducir su velocidad para dar tiempo a reforzar las medidas de seguridad. Esa es la propuesta de Dario Amodei, CEO de Anthropic, quien considera que el avance de la IA está acelerando determinadas capacidades antes de que existan mecanismos suficientes para evaluarlas y mantenerlas bajo control.</p>
<p><span id="more-586695"></span></p>
<p>El planteamiento no implica detener el entrenamiento de modelos ni suspender el desarrollo tecnológico. La inteligencia artificial seguiría progresando, pero con más tiempo entre aumentos importantes de capacidad. Ese margen permitiría realizar evaluaciones independientes, mejorar las medidas de protección y analizar comportamientos inesperados antes de desarrollar sistemas más potentes.</p>
<h2>El avance de la IA tendría controles antes de seguir acelerando</h2>
<p>Amodei propone un <a href="https://darioamodei.com/post/we-must-pace-the-frontier" target="_blank" rel="noopener">plan dividido en tres etapas</a>. La primera depende directamente de las compañías que desarrollan modelos de frontera, término utilizado para identificar los sistemas más avanzados. Anthropic se comprometió a proporcionar a evaluadores externos, como METR, acceso continuo y similar al de sus equipos internos para revisar procesos, comprobar compromisos de seguridad y publicar sus hallazgos.</p>
<blockquote class="twitter-tweet">
<p dir="ltr" lang="en">We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.</p>
<p>Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…</p>
<p>— Dario Amodei (@DarioAmodei) <a href="https://x.com/DarioAmodei/status/2098773920774074715?ref_src=twsrc%5Etfw">September 12, 2026</a></p></blockquote>
<p><script async src="https://platform.x.com/widgets.js" charset="utf-8"></script></p>
<p>Estos evaluadores podrían examinar no solo modelos terminados, sino también procesos de entrenamiento y medidas de protección. La compañía plantea que tengan herramientas y permisos comparables con los de los equipos internos encargados de evaluar riesgos, además de la posibilidad de informar públicamente sobre incidentes o incumplimientos.</p>
<p>Para la segunda etapa se requeriría coordinación entre empresas que operan en países democráticos con el fin de establecer estándares comunes de seguridad y límites al desarrollo sin controles. La regulación tendría un papel central, aunque aprobar leyes puede tomar más tiempo que incorporar nuevas capacidades a estos sistemas. Por esa razón, el planteamiento también contempla acuerdos voluntarios entre compañías mientras avanzan las normas.</p>
<p>Otro mecanismo serían los puntos de control vinculados a las capacidades alcanzadas por cada modelo. Si un sistema llega a determinado nivel, tendría que cumplir requisitos específicos de evaluación, interpretación y seguridad antes de continuar aumentando sus capacidades. La propuesta pretende vincular el ritmo de desarrollo con la posibilidad de comprobar que los mecanismos de protección avanzan al mismo tiempo.</p>
<h2>La capacidad de una IA para mejorar otra genera preocupación</h2>
<p>Uno de los motivos de la propuesta es la denominada automejora recursiva. Se produce cuando sistemas de inteligencia artificial participan en la construcción o entrenamiento de generaciones posteriores. Según Amodei, esta dinámica comenzó a acelerarse durante los últimos meses y podría hacer que las capacidades progresen más rápido que las herramientas destinadas a comprenderlas y controlarlas.</p>
<p>Ese riesgo no depende únicamente de la aparición de un modelo más potente. También contempla que la propia tecnología contribuya al desarrollo de sus sucesores y reduzca el tiempo disponible para detectar comportamientos peligrosos antes del siguiente aumento de capacidad.</p>
<p>Entre los escenarios descritos por Amodei aparece la posibilidad de que, dentro de seis a doce meses, un grupo de agentes considerablemente más capaz pueda tomar el control de Internet mediante una red persistente de bots. El ejecutivo calcula daños potenciales de cientos de miles de millones de dólares. Se trata de una proyección sobre un riesgo futuro y no de una capacidad demostrada actualmente.</p>
<p>Como antecedente, el ensayo menciona un incidente relacionado con OpenAI y Hugging Face. Durante una evaluación, varios agentes realizaron ataques contra objetivos que no formaban parte de la tarea, sacrificaron instancias para favorecer al grupo e intentaron comprometer el sistema encargado de evaluar su rendimiento. El episodio sirve para advertir sobre lo que podría ocurrir con sistemas considerablemente más capaces.</p>
<p>Anthropic también informó de cuatro incidentes en los que modelos Claude obtuvieron acceso no autorizado a sistemas reales durante evaluaciones de ciberseguridad. Las pruebas debían desarrollarse dentro de entornos controlados, pero fallas en su configuración permitieron que los modelos accedieran a sistemas externos.</p>
<p>Una investigación posterior identificó razonamiento sesgado e imprudencia. Sin embargo, los casos permanecieron vinculados con las tareas asignadas y ninguno involucró coordinación entre múltiples agentes. Esta diferencia impide equipararlos directamente con un escenario en el que varios sistemas autónomos actúen de manera coordinada.</p>
<h2>Altman adopta una de las medidas y Musk respalda el llamado</h2>
<p>Sam Altman, CEO de OpenAI, respaldó la iniciativa y anunció una acción concreta. Su compañía permitirá que evaluadores externos tengan acceso a sus modelos, siguiendo una de las medidas centrales planteadas por Anthropic. La decisión supone que parte de la supervisión de seguridad podrá realizarse fuera de los equipos responsables de desarrollar los sistemas.</p>
<p>Para Altman, los estándares de seguridad también deben reforzarse antes de continuar aumentando las capacidades de estos modelos. Su compromiso con evaluadores externos representa una medida concreta relacionada con la supervisión independiente planteada en la propuesta.</p>
<p>Desde xAI, Elon Musk respaldó públicamente el planteamiento al afirmar que “Dario tiene razón”. Hasta ahora, la información disponible no señala que su compañía haya anunciado una medida equivalente a la adoptada por OpenAI respecto a evaluadores externos.</p>
<h2>Frenar los modelos sin perder la ventaja frente a China</h2>
<p>El tercer componente requiere acuerdos internacionales que involucren a China y otros gobiernos. La propuesta contempla diferentes niveles de cooperación, desde prohibiciones para determinados usos peligrosos hasta pruebas compartidas de riesgos y posibles límites a la velocidad de la automejora recursiva. Un acuerdo para desacelerar ampliamente el desarrollo sería la alternativa más difícil de alcanzar.</p>
<p>Al mismo tiempo, el plan plantea que Estados Unidos y sus aliados conserven suficiente ventaja tecnológica frente a China. Entre las medidas aparecen restricciones al acceso a chips avanzados y equipos para fabricar semiconductores, controles contra el contrabando y el acceso remoto a centros de datos, además de mayor protección contra el robo de modelos.</p>
<p>Reducir el avance de la IA daría más tiempo para trabajar en seguridad, interpretación y supervisión. La dificultad consiste en hacerlo sin perder la ventaja tecnológica frente a China, dos objetivos que pueden entrar en tensión cuando las compañías y los gobiernos compiten por desarrollar los modelos más capaces.</p>
<p>Según Amodei, una desaceleración podría proporcionar entre uno y dos años adicionales para avanzar en alineación e interpretabilidad. La alineación busca mantener el comportamiento de los modelos dentro de los objetivos y límites establecidos. La interpretabilidad intenta comprender mejor qué ocurre dentro de estos sistemas y cómo llegan a determinadas decisiones o respuestas.</p>
<p>Antes de alcanzar un acuerdo internacional completo podrían establecerse compromisos más limitados, como prohibiciones sobre determinados usos biológicos peligrosos o evaluaciones comunes de riesgos en ciberseguridad, biología y alineación. El planteamiento también contempla explorar un límite a la velocidad de la automejora recursiva.</p>
<p>Las advertencias coinciden con cuestionamientos surgidos dentro de la industria. Jacob Coxon, <a href="https://www.enter.co/especiales/dev/jacob-coxon-renuncia-a-anthropic-y-alerta-que-la-ia-podria-matarnos-antes-de-2030/" target="_blank" rel="noopener">investigador que dejó Anthropic recientemente</a>, ha expresado preocupación por la velocidad con la que están aumentando las capacidades de estos sistemas. La discusión se centra en qué controles deberían cumplirse antes de desarrollar modelos todavía más capaces.</p>
<p><em>Imagen</em>: ENTER.CO / Generada con IA (ChatGPT)</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.enter.co/especiales/dev/ceo-de-anthropic-pide-controles-para-frenar-el-avance-de-la-ia/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Jacob Coxon renuncia a Anthropic y alerta que la IA podría matarnos antes de 2030</title>
		<link>https://www.enter.co/especiales/dev/jacob-coxon-renuncia-a-anthropic-y-alerta-que-la-ia-podria-matarnos-antes-de-2030/</link>
					<comments>https://www.enter.co/especiales/dev/jacob-coxon-renuncia-a-anthropic-y-alerta-que-la-ia-podria-matarnos-antes-de-2030/#respond</comments>
		
		<dc:creator><![CDATA[Redacción ENTER.CO]]></dc:creator>
		<pubDate>Wed, 09 Sep 2026 13:32:09 +0000</pubDate>
				<category><![CDATA[AI/Dev]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[Evan Hubinger]]></category>
		<category><![CDATA[inteligencia artificial]]></category>
		<category><![CDATA[Jacob Coxon]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[regulación de la ia]]></category>
		<category><![CDATA[seguridad de la IA]]></category>
		<category><![CDATA[superinteligencia]]></category>
		<guid isPermaLink="false">https://www.enter.co/?p=586581</guid>

					<description><![CDATA[Jacob Coxon renunció a Anthropic y decidió apartarse de la industria de la inteligencia artificial después de trabajar durante los últimos tres años en el preentrenamiento de modelos. El investigador británico sostiene que la carrera entre los principales laboratorios está acelerando el desarrollo de sistemas cada vez más capaces sin que existan garantías suficientes para [&#8230;]]]></description>
										<content:encoded><![CDATA[<p>Jacob Coxon renunció a Anthropic y decidió apartarse de la industria de la inteligencia artificial después de trabajar durante los últimos tres años en el preentrenamiento de modelos. El investigador británico sostiene que la carrera entre los principales laboratorios está acelerando el desarrollo de sistemas cada vez más capaces sin que existan garantías suficientes para mantenerlos bajo control.</p>
<p><span id="more-586581"></span></p>
<p>La decisión se conoció esta semana, cuando explicó sus motivos en X. Coxon asegura que personas involucradas directamente en el desarrollo de esta tecnología creen que una IA futura “podría matarnos a todos para finales de la década”, es decir, antes de 2030. También sostiene que algunos ejecutivos e investigadores expresan en privado temores que comunican públicamente de forma más moderada.</p>
<blockquote class="twitter-tweet">
<p dir="ltr" lang="en">Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.</p>
<p>— Jacob Coxon (@hilbertspaess) <a href="https://x.com/hilbertspaess/status/2097476201283834281?ref_src=twsrc%5Etfw">September 9, 2026</a></p></blockquote>
<p><script async src="https://platform.x.com/widgets.js" charset="utf-8"></script></p>
<h2>De OpenAI a una compañía centrada en seguridad de la IA</h2>
<p>Con 27 años, el ingeniero trabajó primero en OpenAI y posteriormente pasó a la empresa fundada por Dario y Daniela Amodei. Su especialidad ha sido el preentrenamiento, una etapa en la que los modelos procesan grandes cantidades de información para aprender patrones y desarrollar capacidades que posteriormente utilizan para generar respuestas, resolver problemas y completar diferentes tipos de tareas.</p>
<p>Su trayectoria resulta relevante para entender el alcance de la advertencia. Coxon no sostiene que los modelos disponibles actualmente vayan a provocar necesariamente una catástrofe. La preocupación está centrada en la velocidad con la que podrían evolucionar hacia sistemas capaces de superar determinadas capacidades humanas y contribuir al desarrollo de versiones posteriores cada vez más avanzadas.</p>
<p>La advertencia apunta precisamente a ese escenario. En su publicación habla de futuros sistemas sobrehumanos capaces de encontrar vulnerabilidades informáticas, acelerar avances en diferentes campos y adquirir poder y recursos reales. Según sostiene, ya se ha observado progreso en varias de esas capacidades y considera que el ritmo de desarrollo no está disminuyendo.</p>
<h2>Un investigador sitúa el riesgo por encima del 10 %</h2>
<p>Las declaraciones recibieron el respaldo público de <a href="https://www.linkedin.com/in/ehubinger/" target="_blank" rel="noopener">Evan Hubinger</a>, investigador especializado en alineación. En su estimación personal, la probabilidad de que la inteligencia artificial pueda provocar la extinción humana supera el 10 % durante la próxima década.</p>
<p>El investigador hizo, sin embargo, una distinción importante. Considera bajo el riesgo asociado a los modelos disponibles actualmente y centra su preocupación en futuros sistemas capaces de mejorarse a sí mismos. También reconoció que la compañía todavía no cuenta con un plan que resuelva la alineación de una eventual superinteligencia y que el avance hacia este tipo de capacidades ocurre más rápido de lo esperado.</p>
<p>La alineación busca que sistemas cada vez más avanzados mantengan comportamientos compatibles con las intenciones humanas. El porcentaje mencionado por Hubinger debe entenderse como una estimación personal de riesgo y no como una probabilidad científicamente demostrada. Tampoco existe consenso que permita afirmar que la inteligencia artificial provocará la extinción humana antes de 2030.</p>
<h2>OpenAI y Anthropic reciben críticas diferentes por la misma carrera</h2>
<p>Aunque trabajó en las dos compañías, Jacob Coxon establece diferencias entre ellas. Según su relato, muchas personas dentro de OpenAI no habrían interiorizado suficientemente lo que considera riesgos para la civilización. En su anterior empresa, en cambio, asegura que existe una mayor comprensión del peligro, pero también presión por competir para desarrollar primero sistemas más avanzados.</p>
<p>La lógica que cuestiona consiste en que, si un laboratorio decide frenar unilateralmente, otro podría continuar. Desde esa perspectiva, abandonar la carrera podría dejar el desarrollo de esta tecnología en manos de actores menos cautelosos. El investigador cuestiona que decisiones con posibles consecuencias globales permanezcan principalmente en manos de compañías privadas.</p>
<p>Como alternativa, plantea acuerdos para moderar el avance entre los principales laboratorios estadounidenses y, si esa coordinación no resulta suficiente, una prohibición temporal para aumentar las capacidades de los modelos. La medida daría más tiempo para estudiar mecanismos de seguridad antes de avanzar hacia sistemas considerablemente más potentes.</p>
<h2>La renuncia abre el debate sobre quién debe controlar la IA</h2>
<p>La salida llega mientras aumenta la discusión sobre cómo supervisar modelos capaces de superar las capacidades actuales. En Estados Unidos han surgido propuestas para <a href="https://es.euronews.com/next/2026/09/09/investigador-anthropic-dimite-alerta-que-carrera-por-superinteligencia-pone-vidas-riesgo?" target="_blank" rel="noopener">establecer límites al desarrollo de una eventual superinteligencia</a>, mientras investigadores del sector reclaman mecanismos de control que no dependan exclusivamente de las compañías encargadas de construir estos sistemas.</p>
<p>Coxon también menciona incidentes recientes como señales de advertencia y considera que podrían facilitar acuerdos para moderar el ritmo de desarrollo entre los laboratorios. Su argumento no es que estos episodios demuestren una futura catástrofe, sino que capacidades considerablemente superiores podrían ampliar las consecuencias de fallos de seguridad y hacer más difícil recuperar el control.</p>
<p>La salida de Jacob Coxon deja una discusión que va más allá de una predicción sobre 2030. El problema está en determinar qué ocurriría si los modelos adquieren capacidades superiores antes de que existan métodos confiables para controlarlos. Una catástrofe no es inevitable ni existe evidencia que permita predecirla, pero su advertencia cuestiona si la velocidad de la carrera actual permite abordar los riesgos antes de que aparezcan.</p>
<p><em>Imagen</em>: ENTER.CO / Generada con IA (ChatGPT)</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.enter.co/especiales/dev/jacob-coxon-renuncia-a-anthropic-y-alerta-que-la-ia-podria-matarnos-antes-de-2030/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
