La iniciativa no proviene solo de científicos, pues en ella también hay políticos, religiosos, artistas y empresarios que coinciden en algo: la inteligencia artificial avanza demasiado rápido y sin suficiente control.

La carta fue promovida por el Future of Life Institute, una organización que busca garantizar que el progreso tecnológico beneficie a la humanidad. En su texto, los firmantes piden una pausa global en los desarrollos más avanzados de IA hasta tener garantías claras de seguridad y mecanismos de regulación robustos. 

¿Regulación o freno total a la inteligencia artificial?

No se trata de detener por completo la investigación, sino de poner límites antes de que los sistemas se vuelvan tan poderosos que nadie pueda controlarlos. Según un estudio del FLI, la mayoría de los estadounidenses comparten ese miedo: casi siete de cada diez opinan que el gobierno no está haciendo lo suficiente para regular la IA, y más del 70 % quiere leyes más estrictas.

La advertencia llega justo cuando empresas como OpenAI, Meta o xAI compiten por crear sistemas más grandes y complejos. Meta, por ejemplo, formó  un equipo dedicado a construir una “superinteligencia”, mientras que Sam Altman, director de OpenAI, asegura que espera alcanzarla antes de 2030. 

Elon Musk, quien antes se mostraba entre los más escépticos, ahora lidera proyectos que siguen empujando los límites de esta tecnología, aunque él mismo calcula un “20 % de posibilidades de aniquilación” si las máquinas superan a los humanos.

Geoffrey Hinton, una de las figuras más respetadas del campo, advierte que dentro de pocos años las máquinas podrían superar a la mayoría de las personas en casi todas las tareas mentales, algo que, si no se maneja bien, podría tener consecuencias impredecibles. 

Te puede interesar: Google Skills: así funciona la nueva plataforma para aprender inteligencia artificial gratis

Yoshua Bengio, su colega y también firmante, asegura  que el público debe tener una voz mucho más fuerte sobre el futuro que está en juego. Stuart Russell, otro de los pioneros de la IA moderna, refuerza la idea de que no se trata de una prohibición permanente, sino de una pausa responsable para desarrollar sistemas realmente seguros.

El debate, que antes parecía lejano o puramente técnico, hoy se ha vuelto parte de la conversación global. Lo que está en juego ya no es solo el futuro del trabajo o la tecnología, sino algo más profundo; el papel del ser humano frente a una inteligencia que podría, en teoría, superarlo.

Imagen: Growtika en Unsplash

Hinton no habla en abstracto, pues  según explicó recientemente, los tutores basados en inteligencia artificial no solo replicarán las capacidades de un buen maestro, sino que las potenciarán, multiplicando su efectividad hasta cuatro veces. Para los actuales programas universitarios, esto implica una amenaza existencial que ya comienza a gestarse.

Durante años, los expertos anticiparon que la IA cambiaría el mundo laboral, pero el foco estaba en tareas mecánicas o rutinarias. El giro que plantea Hinton es más profundo: la IA no solo reemplazará a operadores o administrativos, sino que ahora también podría asumir el rol de guía académico en disciplinas técnicas.

¿Por qué justamente en la informática?  por su razonamiento ya que la programación, con su lenguaje lógico y estructura basada en reglas, es un terreno fértil para que la IA entregue respuestas precisas, soluciones rápidas y adaptabilidad casi instantánea a las necesidades del estudiante. Un escenario en el que el humano pierde ventaja.

Te puede interesar: Mejor no diga “gracias” ni “por favor”: esto cuesta en dólares ser decente con ChatGPT

Plataformas como ChatGPT, Gemini o DeepSeek ya permiten hoy que un aprendiz obtenga explicaciones detalladas de algoritmos, detecte errores en su código o perfeccione su lógica de programación. Y todo esto en cuestión de segundos, sin necesidad de agendar una tutoría presencial ni asistir a una clase.

Hinton plantea que si un tutor humano ya ofrece ventajas frente a la educación masiva, un tutor de IA podría hacerlo de manera más efectiva, personalizada y continua. Esto rompería el modelo tradicional universitario, basado en grupos grandes, horarios fijos y currículos que evolucionan a menor velocidad.

La accesibilidad también juega un rol crucial en este cambio. A través de suscripciones mensuales a plataformas de IA educativa, un estudiante podrá aprender a programar a su propio ritmo, en cualquier momento y desde cualquier lugar. Este modelo flexible ya seduce a muchos jóvenes que prefieren aprender Python o JavaScript en línea.

Sin embargo, la advertencia de Hinton no es apocalíptica. El científico también señala que la educación universitaria ofrece algo que las máquinas aún no pueden replicar: la formación en pensamiento crítico, creatividad, ética y resolución de problemas ambiguos. La IA enseña el “cómo”, pero no siempre el “por qué”.

En esa línea, académicos como Álvaro Soto, del Centro Nacional de Inteligencia Artificial de Chile, recalcan que el rol del profesor podría evolucionar, no desaparecer. Según Soto, los docentes tendrán que guiar a los alumnos en un uso ético y efectivo de estas herramientas, no competir contra ellas.

Las universidades, entonces, enfrentan un dilema histórico: adaptarse o resistirse. Algunos centros ya exploran integrar tutores de IA como apoyo en sus programas, mezclando la personalización tecnológica con el acompañamiento humano que fomente habilidades superiores de razonamiento y colaboración.

El temor a la obsolescencia no debe paralizar a las instituciones, sino impulsarlas a innovar. Como bien advierte Hinton, los beneficios de contar con IA como tutor personalizado son evidentes para los estudiantes, pero peligrosos para las universidades que se queden ancladas en esquemas del siglo pasado.

Te puede interesar: “Ya vemos implementaciones sólidas en inteligencia artificial”, revela Google Cloud Colombia

Para los futuros programadores, la ruta será distinta. Tener acceso a mentores virtuales hiperpersonalizados puede acortar su curva de aprendizaje, pero también demandará mayor autogestión, ética profesional y un pensamiento más estratégico que técnico. Aprender código ya no será suficiente: entender el impacto del software en la sociedad será vital.

Hinton nos invita a mirar más allá del reemplazo. El desafío no es evitar que la IA eduque, sino asegurarnos de que también enseñemos a pensar en un mundo donde las respuestas automáticas estarán al alcance de un clic. La pregunta no es si cambiará la educación, sino cómo decidimos que ese cambio nos beneficie a todos.

Imagen: © Julian Simmonds/Shutterstock.com

La Real Academia Sueca de las Ciencias ha anunciado el premio Nobel de Física 2024 para quienes considera, han sentado las bases para que “las máquinas aprendan”, aspecto clave para el desarrollo de la inteligencia artificial.

Ellos son los profesores John Hopfield y Geoffrey Hinton, galardonados en esta especialidad del Nobel, por sus “descubrimientos e invenciones” estimados por el jurado como “fundamentales para el aprendizaje automático con redes neuronales artificiales”.

Te puede interesar: ¿ChatGPT podría dejarnos sin agua en un futuro? Estos son los costos ambientales de chatbots

Como es tradición, el secretario general de la organización, Hans Ellegren, leyó los nombres de los científicos desde Estocolmo (Suecia), con previa argumentación de la designación.

“El aprendizaje es una capacidad fascinante del cerebro humano”, argumentó Ellen Moons, presidenta del Comité Nobel de Física.

“Nosotros podemos reconocer imágenes y asociarlas con memorias y experiencias pasadas. Billones de neuronas que están conectadas entre sí nos dan una capacidad cognitiva única. Las redes neuronales artificiales (desarrolladas por los premiados) están inspiradas en las redes neuronales de nuestro cerebro”, prosiguió.

Te puede interesar: Así ha evolucionado el arte y la tecnología; “El pánico con la IA es que dejaremos de pensar, es todo lo contrario”, Carmen Gil

También sostuvo que el trabajo de los premiados no solo ha permitido avances en la astrofísica o el estudio de las partículas, sino que ya es “nuestra vida cotidiana”, a través de tecnologías como “el reconocimiento facial y la traducción de lenguajes”.

“Estoy estupefacto. No tenía idea de que esto sucedería”, declaró Geoffrey Hinton, a quien se ha apodado como “el padrino” de la inteligencia artificial.

Hinton, profesor en la Universidad de Toronto (Canadá), desarrolló un método que permite a una máquina encontrar propiedades en los datos de forma autónoma. Por ende, realizar tareas como identificar elementos específicos en imágenes.

Por su parte Hopfield, profesor en la Universidad de Princeton (Estados Unidos), creó una memoria asociativa en 1982, la cual podía almacenar y reconstruir imágenes y otros tipos de patrones en los datos.

Implementando estos conceptos y métodos fundamentales de la física, los científicos desarrollaron tecnologías que utilizan estructuras en redes para procesar información. Algunas de esas estructuras ya se utilizan a diario.

La investigación de Hinton abrió la senda para sistemas de inteligencia artificial como ChatGPT. La Academia aseveró que los estudios de Hopfield y Hinton pueden “ayudar a los seres humanos a tomar decisiones más rápidas y confiables a la hora de diagnosticar enfermedades”.

Te puede interesar: Nvidia lanza modelo IA que entiende humor de memes “superando a GPT-4o”

No obstante, también aceptó que este desarrollo abre puertas a situaciones peligrosas y riesgosas. Cabe notar que Hinton, en 2023 renunció a su puesto como asesor de Google alertando sobre los riesgos que implicaba el avance acelerado de la inteligencia artificial.

“No tenemos experiencia sobre lo que es tener cosas más inteligentes que nosotros. Va a ser maravilloso en muchos aspectos, en áreas como la atención médica”, aseveró, pero acto seguido indicó que “también tenemos que preocuparnos por una serie de posibles consecuencias negativas. En particular, la amenaza de que estas cosas se salgan de control”, declaró en la conferencia de prensa.

“Mi suposición es que, dentro de cinco o 20 años, habrá una probabilidad del 50% de que tengamos que afrontar el problema de que la inteligencia artificial intente tomar el control de nuestras vidas”, concluyó.

Imagen: Collision Conf

A través de su cuenta de Twitter el científico informático que renunció a Google, explicó que su decisión estuvo impulsada con el objetivo de “poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google”, además aclaró que el buscador más grande del mundo “ha actuado de forma muy responsable” frente al ‘boom de las IA’.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

En sus primeras entrevistas luego de su renuncia, el año pasado, ha dicho que esta tecnología no debería ampliarse más “hasta que hayan entendido si pueden controlarla”. En conversación con la BBC, dijo, por ejemplo, que “su preocupación más inmediata es que el internet se llene con fotos, videos y textos falsos y el usuario promedio ya no pueda saber qué es verdad”.

Sobre una de las preguntas que se hacen muchas personas, si sobre las máquinas puede llegar a tener una inteligencia humana, explicó al medio britanico que, estos lenguajes aún no son tan inteligentes como nosotros, pero advirtió que “pronto lo serán”.

“Algunas personas creían en la idea de que estas cosas podrían volverse más inteligentes que las personas (…) Pero la mayoría pensó que estaba muy lejos. Yo pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.

Te puede interesar: Inteligencia artificial: «Estos programas o robots son una emulación de la inteligencia humana»

Por otro lado, frente a cómo las inteligencias artificial han revolucionado el mercado laboral, Hinton comentó que muchas de estas en vez de ayudar a los humanos a optimizar tareas para tener más tiempo libre, simplemente las IA los reemplazaría , sobre todo aquellos oficios en los que se tienen que llevar a cabo tareas y procesos repetitivos.

“Llegué a la conclusión de que el tipo de inteligencia que estamos desarrollando es muy diferente de la inteligencia que tenemos. (…) La gran diferencia es que con los sistemas digitales, tienen muchas copias del mismo juego de pesas, el mismo modelo del mundo”, señaló Hinton al medio britanico.

Es decir, “todas estas copias pueden aprender por separado pero compartir sus conocimientos al instante. Así que es como si tuvieras 10.000 personas y cada vez que una persona aprendiera algo, todos lo supieran automáticamente. Y así es como estos chatbots pueden saber mucho más que cualquier persona”, explicó a la BBC.

Otra de las preocupaciones de no solamente el científico informático, sino de líderes y académicos, es que esta tecnología pueda ser manipulada para fines no tan buenos. “Si un sistema logra la capacidad de crear sus propios “objetivos secundarios”, por ejemplo, dijo Hinton, podría decidir de forma independiente comenzar a buscar el poder por sí mismo. Este resultado sería “un escenario de pesadilla”, dijo.

Finalmente, comentó que tienen la “esperanza de que los principales científicos del mundo colaboren en formas de controlar esta tecnología”.

Imagen: JULIAN SIMMONDS