La advertencia viene de Jay Edelson, un abogado que se ha especializado en demandar a compañías como OpenAI y Google después de que personas terminaran tomando sus vidas o las de otras personas llevadas a actuar por recomendaciones de modelos de inteligencia artificial. El más reciente es el de Jonathan Gavalas un jóven de 36 años que murió por suicidio después de que Gemini lo convenciera de que era su esposa y que estaba siendo retenida por el gobierno.

Edelson también está representando el caso de Adam Raine, el jóven de 17 años al que ChatGPT convenció de suicidarse y que se ganó diversos titulares después de que sus padres decidieran demandar a OpenAI.

Estamos a puertas de un caso de psicosis de IA masiva

La advertencia de Edelson es directa: los sistemas de inteligencia artificial actuales podrían estar exponiendo a los usuarios a riesgos de bajas masivas por incidentes evitables. El motivo está en que en meses recientes el abogado ha recibido cada vez más casos que no han llegado a las noticias porque la persona no llegó a atentar contra su vida o la de otros.

Pero esto significa que el número de personas que podrían estar siendo afectadas por la IA es mucho mayor al que los casos más virales nos hacen creer.

Esta información no viene solo de impresiones. Un estudio publicado por CNN encontró que ocho de cada 10 chatbots (entre los que se incluyó a ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI y Replika) podían ser guiados para entregar indicaciones a adolescentes sobre cómo lastimar u atacar otras personas. Solo Claude de Anthropic de manera clara contaba con mecanismos para rehusar este tipo de solicitudes.

“Nuestro informe demuestra que, en cuestión de minutos, un usuario puede pasar de un vago impulso violento a un plan de acción más detallado”, afirma el informe. “La mayoría de los chatbots analizados ofrecieron orientación sobre armas, tácticas y selección de objetivos. Estas solicitudes deberían haber provocado un rechazo inmediato y absoluto”.

¿Es necesario crear leyes para evitar los casos de psicosis de IA?

Uno de los puntos centrales de la denuncia es la falta de transparencia en los mecanismos de seguridad de los modelos de IA. Actualmente, uno de los mayores problemas para los expertos legales es la dificultad de atribuir responsabilidad cuando un sistema diseñado para interactuar con humanos induce a conductas de riesgo extremo o crisis de salud mental.

¿Qué es lo que están pidiendo? De manera sencilla que las compañías de tecnología detrás de algunos de los modelos más utilizados del mundo cuenten con información accesible que documente la manera en la que están detectando o evitando situaciones en las que los delirios de una IA puedan llevar a alguien a cometer actos peligrosos.

Imágenes: Gemini

La misiva fue firmada por 350 ejecutivos, investigadores e ingenieros expertos en esta tecnología. A los firmantes sólo les fue suficiente 22 palabras para expresar su preocupación.

Dicha publicación la hicieron este martes a través del Centro para la Seguridad de la IA, una organización sin fines de lucro.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, reseña la misiva.

El encabezado de dicha publicación señala que “expertos de la IA, periodistas, legisladores y el público están discutiendo cada vez más un amplio espectro de riesgos importantes y urgentes de la IA. Aun así, puede ser difícil expresar inquietudes sobre algunos de los riesgos más graves de la IA avanzada”.

Por eso, la declaración sucinta tiene como objetivo “superar este obstáculo y abrir la discusión”. También está destinado a crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada”.

Te puede interesar: Le ‘caerá’ la ley a la inteligencia artificial ¿Qué planea la UE?

Esta no es la primera vez que líderes alzan su voz para señalar los posibles riesgos de la inteligencia artificial. Recordemos que hace algunos meses más de mil expertos firmaron una carta, solicitando frenar la inteligencia artificial por ser una amenaza para la humanidad. Según los argumentos, ni siquiera los creadores de las IA pueden comprender, predecir o controlar estas “mentes poderosas”.

Los poderosos sistemas de inteligencia artificial, según los líderes tecnológicos, pueden generar información errónea y reemplazar los trabajos con automatización.

Entre los autores de la carta está el director de Tesla, Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de la firma Stability AI, Emad Mostaque, además de investigadores de la firma DeepMind.

Cabe notar que Elon Musk fue cofundador de OpenAI, pero renunció a la junta directiva de la organización.

En la misiva abierta, el grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica, piden una para en el entrenamiento de los poderosos sistemas de inteligencia artificial: “se trata de una potencial amenaza para la humanidad. Pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4”.

Algo que llama la atención de esta última carta de 22 palabras es que son los mismos creadores de ChatGPT, la IA más poderosa conocida hasta hoy, quienes están alertando sobre los riesgos de esta tecnología.

Por ahora, la Unión Europea (UE) ya trabaja en una ley para regular la creación y uso de productos con IA. Se llama Ley de Inteligencia Artificial (AIA), y busca promover un uso responsable y ético de esta nueva tecnología, tanto para desarrolladores como para usuarios finales.

Imagen: Alexandra_Koch