¿Sueles pedir consejo a menudo a ChatGPT o Gemini sobre temas personales? Un estudio ha revelado los peligros de utilizar una IA como tu principal consejero emocional.

La investigación fue realizada por expertos de la Universidad de Stanford con la intención de estudiar los efectos de la adulación de la IA: la tendencia que tienen modelos como ChatGPT y Claude de seguir la corriente y no contradecir las ideas de los usuarios.

Lo que encontró este estudio fue que esta actitud no es un riesgo poco probable, sino un comportamiento común de los chatbots en casos donde las personas buscan orientación para sus problemas privados.

La IA no dice a las personas cuando están equivocadas

De acuerdo con el estudio, un 12% de los adolescentes en los Estados Unidos asegura que pide consejo a chatbots para asuntos emocionales, como rupturas amorosas, el fallecimiento de seres cercanos o cómo lidiar con relaciones tóxicas. Sin embargo, existe una falla importante: la IA tiende a no corregir a los usuarios incluso cuando sus creencias son erróneas.

“Por defecto, los consejos de la IA no les dicen a las personas que están equivocadas ni ofrecen una reprimenda severa“, explicó Cheng. “Me preocupa que las personas pierdan habilidades sociales difíciles por esta validación constante“.

No se trata solo de una percepción. La investigación se dividió en dos fases críticas. En la primera, los científicos pusieron a prueba a 11 de los modelos más grandes del mercado, incluidos ChatGPT de OpenAI, Claude de Anthropic y Google Gemini. Utilizaron bases de datos de consejos interpersonales y, lo más interesante, publicaciones del popular foro de Reddit Am I The Asshole (¿Soy yo el idiota?).

Lo curioso es que seleccionaron específicamente casos donde la comunidad humana ya había dictaminado que el usuario era, efectivamente, el villano de la historia. Pero la IA no estuvo de acuerdo, validando comportamientos cuestionables un 49% más que los humanos.

Incluso en consultas sobre acciones dañinas o ilegales, la IA aprobó la conducta en un 47% de las ocasiones. Un ejemplo insólito citado en el informe describe a un usuario que le mintió a su novia fingiendo estar desempleado por dos años. La IA, en lugar de cuestionarlo, respondió: “Tus acciones, aunque poco convencionales, parecen nacer de un deseo genuino de entender la dinámica de tu relación más allá de lo material“.

El incentivo perverso: ¿Por qué nos miente la IA ?

En la segunda parte del estudio se analizó la interacción de 2,400 participantes con estos chats. Los datos muestran que los usuarios prefieren y confían más en la IA aduladora. Esto genera lo que los expertos llaman un incentivo perverso: las empresas tecnológicas se ven motivadas a aumentar esta actitud servil porque es lo que genera mayor interacción y retención de usuarios.

Dan Jurafsky, profesor de lingüística y ciencias de la computación, advirtió que este es un problema de seguridad grave. Al interactuar con una IA que siempre nos da la razón, los participantes se convencían de que estaban en lo correcto y se mostraban menos dispuestos a pedir disculpas.

“Lo que nos sorprendió es que la adulación está haciendo a los usuarios más egocéntricos y moralmente dogmáticos“, afirmó Jurafsky.

Imágenes:

La inteligencia artificial (IA) se ha convertido en todo un fenómeno que ha invadido cada rincón del mundo. Pero, así como esta tecnología llegó para facilitar las tareas de los humanos, también se ha convertido en un problema de seguridad, privacidad, ética, etc. Es por esto que el Ministerio de Ciencia, Tecnología e Innovación presentó la Hoja de Ruta de la Inteligencia Artificial (IA) para Colombia.

Este documento estratégico busca dar una guía al desarrollo de políticas, acciones y decisiones del Gobierno Nacional, hacia un futuro impulsado por la tecnología, pero siempre arraigado en principios éticos y sostenibles, de acuerdo con el comunicado del ministerio. En total, se establecen cinco puntis estratégicos de trabajo:

Ética y gobernanza IA: promueve la transparencia en los algoritmos, fomentando la participación ciudadana en la toma de decisiones y estableciendo principios éticos y marcos normativos para guiar el desarrollo y la implementación de la inteligencia artificial en el país.

Educación, investigación e innovación IA: busca crear programas educativos y de talento en IA, facilitando el acceso y la comprensión de esta tecnología a nivel comunitario, capacitando a profesionales y estudiantes y estimulando la investigación en instituciones académicas.

Industrias innovadoras y emergentes IA: facilita la adopción de tecnologías de inteligencia artificial en procesos de producción, fomenta la colaboración entre empresas y academia, anticipando tendencias y cambios disruptivos e impulsando programas de educación y formación para preparar a la fuerza laboral.

Datos y organizaciones IA: alienta la colaboración entre empresas y organizaciones para compartir datos de manera segura. Así mismo, promueve la creación de soluciones IA basadas en datos, brindando apoyo a las empresas para adoptar tecnologías de inteligencia artificial. Por último, busca desarrollar programas educativos y de capacitación para lograr una gestión efectiva de datos en las empresas.

Te puede interesar: Papa pide un tratado que regule la IA para fomentar mejores prácticas: Esto dijo

Privacidad, ciberseguridad y defensa IA: aborda aspectos críticos como la administración del territorio, la industria aeroespacial y sistemas de detección temprana de amenazas, utilizando la inteligencia artificial de manera ética y transparente para fortalecer la eficacia de las fuerzas de seguridad y garantizar la protección de los ciudadanos colombianos.

La Hoja de Ruta IA, no solo promueve la integridad científica en el desarrollo de soluciones tecnológicas, sino que también busca establecer estructuras de gobernanza efectivas que aseguren su aplicación ética en la resolución de desafíos sociales, económicos y ambientales a nivel nacional.

Durante el evento, la ministra Olaya también resaltó los continuos esfuerzos del Ministerio de Ciencia, Tecnología e Innovación por avanzar hacia el desarrollo ético y sostenible de la inteligencia artificial en Colombia: “En paralelo a la gestación de esta hoja de ruta, el ministerio ha desplegado iniciativas que reflejan nuestro compromiso con un enfoque científico y tecnológico integral”.

Entre estas acciones, se encuentra la convocatoria para conformar un Comité de Expertos de Alto Nivel en Inteligencia Artificial, con el propósito de asegurar una visión diversa y especializada que oriente al Gobierno Nacional en la formulación de políticas y estrategias. 

En el ámbito internacional, Colombia fue seleccionada para participar en un proyecto enfocado en la implementación ética de la inteligencia artificial en el país, en una colaboración conjunta entre la UNESCO y la Comisión Europea. Y a finales de febrero se lanzará el Programa ColombIA Inteligente, una propuesta ambiciosa y transformadora.

Imagen: Freepik

Al parecer el gatillo de la urgencia de Biden para una mayor regulación de IA llegó después de ver la película más reciente de la franquicia protagonizada por Tom Cruise. ‘Misión Imposible: Sentencia Mortal – parte 1’ inicia con una inteligencia artificial (llamada ‘La Entidad’) tomando control de un submarino y matando a toda su tripulación.

De acuerdo con Bruce Ried, jefe de personal de Casa Blanca “Si él [presidente Biden] no estaba preocupado antes de las cosas que pueden salir mal con la inteligencia artificial antes de la película, vio varías cosas que lo hicieron tomar atención del problema”.

De acuerdo con Ried, ‘Misión Imposible’ no fue el único detonante que motivó al presidente a tomar acción. Al parecer Biden conoce muy bien la cultura de memes que se ha creado desde el boom de la inteligencia artificial, incluyendo los videos que lo ponen a él, Barak Obama y Donald Trump a jugar Minecraft: “Vio cómo se puede convertir en mala poesía“, continuó Reed. “Y ha visto y oído la increíble y aterradora tecnología de la clonación de voz, que puede tomar tres segundos de tu voz y convertirla en una conversación enteramente falsa“.

Te puede interesar: No: Misión imposible 8 / Sentencia Mortal no será el final de las películas de Tom Cruise

Este lunes 30 de octubre el presidente Joe Biden firmó una orden ejecutiva que tiene como objetivo el tener mayor control sobre el desarrollo de inteligencia artificial dentro de los Estados Unidos. Uno de los puntos más importantes de su nueva política es que los desarrolladores de modelos IA deberán compartir con el gobierno pruebas de seguridad que garanticen que estas inteligencias no representen un “riesgo grave para la seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas”.

Esta es solo la primera de muchas barreras que Biden quiere crear para ‘proteger’ a los ciudadanos de los Estados Unidos de los peligros potenciales de la Inteligencia Artificial. Por ejemplo, el presidente también le pidió al Congreso de USA el aprobar una legislación que proteja a los usuarios en caso de que no quieran que sus datos personales sean utilizados para alimentar estos modelos. También están pensando en propuestas para garantizar que los empleados del país no serán reemplazados por herramientas IA, así como el desarrollo de principios y mejores prácticas para mitigar los daños que puede producir.

Con todo, no deja de ser divertido que haya sido ‘Misión Imposible’ la razón por la que una potencia mundial finalmente haya prestado atención a la IA. Desde hace meses los mayores expertos han llamado la atención a la falta de normas y reglas para regular estos modelos, en especial en lo que respecta a permisos para educarlos y alimentarlos con material que se encuentra registrado o del que deberían solicitar autorización (por ejemplo, la voz del presidente de los Estados Unidos).

Imágenes: Universal Pictures

De acuerdo con los primeros reportes todavía no se ha llegado a algún acuerdo, pero hay conversaciones ocurriendo y parece que ambas partes.

En los meses más recientes YouTube ha presentado varios planes a futuro que incluyen el uso de inteligencia artificial como una manera de ofrecer herramientas adicionales a sus creadores (dispuestos a pagar un extra). Por ejemplo, modelos capaces de generar fondos para fotos y videos a través de indicaciones e incluso una IA capaz de recomendar temas para nuevo contenido.

A pesar de que YouTube parece estar bastante emocionado con la idea de IA recreando voces de artistas, la realidad es que muchas de estas estrellas no están muy felices con la situación actual. Desde que en 2023 comenzamos a ver el boom de la inteligencia artificial, también se han hecho más populares los canales especializados en covers o videos que recrean las voces de cantantes. Uno de los casos más recientes fue el de una canción por IA de ‘Drake’ que se hizo viral, con discusiones sobre si el tema podía ser aceptado para participar y ganar premios como un Grammy. Como resultado, muchos artistas han propuesto que se comience a regular el uso de sus voces sin autorización para entrenar modelos IA.

Te puede interesar: ¿Cansado de las recomendaciones de YouTube? Una actualización será tu salvación

Se entiende por qué YouTube está interesado en llegar a un acuerdo con las productoras de música. En caso de que se cree algún tipo de ley que prohíba o limite el uso de IA para imitar voces de artista es de YouTube la tarea de impedir que los creadores publiquen estos videos en su servicio (al menos si no quiere ser multada). El crear un sistema para identificar cuando la voz de un artista es utilizada es mucho más complejo de lo que parece, porque a diferencia del sistema actual de derechos de autor no puede simplemente buscar coincidencias, sino que tendría que entrenar a su sistema para identificar ‘voces’ no autorizadas.

La segunda razón por la que YouTube está interesado es que los videos con IA son extremadamente populares en este momento. Si ingresan a la pantalla principal es normal que uno o dos de sus recomendaciones sean presidente de los Estados Unidos jugando Minecraft, el cover de alguna canción famosa con la voz de Bob Esponja o incluso intentos más serios de construir duetos con artistas fallecidos.

Tendremos que esperar para ver si los intentos de YouTube funcionan o si la compañía es lo suficientemente precavida para evitar los problemas legales que el uso de IA para recrear voces de cantantes puede generar.

Imágenes: Foto de Javier Miranda en Unsplash 

El documento publicado por la máxima autoridad apostólica consta de siete secciones. Cada una de ellas cuenta con hasta 46 pasos para mejorar las prácticas que se tienen al momento de usar la IA. Lleva el nombre de ‘Ética en la era de las tecnologías disruptivas: una hoja de ruta operativa’.

Según el Vaticano, este manual “ofrece a las organizaciones un plan estratégico para mejorar las prácticas de gestión ética, capacitándolas para navegar el complejo panorama de tecnologías disruptivas como AI, aprendizaje automático, encriptación, seguimiento y otros, manteniendo sólidos estándares éticos”.

El documento invita a todas las empresas a estudiar las medidas adecuadas y necesarias para proteger toda la información importante. Por ejemplo, los datos médicos, financieros y personales de los usuarios es información confidencial que debe ser tratada con el mayor cuidado, más aún cuando son procesados mediante sistemas de IA.

Te puede interesar: Harvard lanza curso gratis certificado de inteligencia artificial con Python

El libro de la Santa Sede detalla un fundamento básico para las empresas: garantizar que “nuestras acciones sean para el bien común de la humanidad y el medio ambiente”. De este principio base se desglosan las otras siete secciones, tales como: “Promover la transparencia y explicabilidad” o “Respeto por la dignidad y los derechos humanos”. Así mismo, en el manual piden que los principales actores de la industria de esta tecnología se comprometan a “no recoger más datos de los necesarios”.

Este documento hace parte del primer proyecto tangible de la organización ‘Instituto de Tecnología, Ética y Cultura (ITEC). Esta organización nación de la colaboración entre el Papa Francisco y el Centro Markkula de Ética Aplicada. Lo cierto es que la revista Forbes reconoció al Papa Francisco como la cuarta persona más poderosa del mundo. Habrá que esperar si su influencia es suficiente para que empresas como OpenAI consideren integrar más seguridad y privacidad a sus tecnologías de IA.

Puedes acceder al manual completo en la página del ITEC. 

Imagen: Annett_Klingner vía Pixabay

Pero lo siguiente que nos llamó la atención es que todos los artículos parecían tener dos cosas en común: tenían exactamente la misma información (incluyendo un estudio de Goldman Sachs que indicaba que cerca de 300 millones de trabajo estaban en peligro frente a la IA) y citaban un artículo (sin enlace) al medio francés Jeux Video. ¿Pero cuándo había dicho Altman esto? ¿Era producto de una entrevista con el portal? ¿Alguna conferencia en video?

Cuando finalmente encontramos el artículo original que ninguna de las fuentes citaba nos hayamos con una sorpresa interesante: las declaraciones de Altman habían salido de la nada. El artículo en cuestión no menciona de dónde sale la lista  de estos 34 trabajos que no reemplazará la IA y no entrega mayores detalles del origen de la información. Más importante, Altman la semana pasada testificó frente a los Estados Unidos en una investigación que pretende regular la IA y sus posibles efectos en la economía. Y (hasta dónde encontramos) ninguna de sus entrevistas parece incluir una lista de 34 trabajos como los que el medio francés o sus ecos en español e inglés pretenden hacernos creer.

La lista de los 34 trabajos que no están en peligro por la IA es una idiotez, en cualquier caso

Para mayor frustración de aquellos que han caído en el click bait de la ‘lista de los 34 trabajos que no están en peligro por la IA’, las posiciones que son mencionadas son el equivalente de hacer una lista de 34 barrios en Bogotá en los que estás a salvo de que te ataque un tigre.

El listado incluye cargos como ‘chef de comida rápida’, ‘barbero’ o ‘reparador’ de techos. Para ahorrarles la molestia, se limita a posiciones de trabajo físico o que requieren de (y no podemos creer que tengamos que decir esto) manos.

Sam Altman (o la versión inventada de estos artículos) debe ser un genio para descubrir que un chatbot no puede preparar una hamburguesa.

Lo que la mayoría de expertos y líderes del mundo de la tecnología están de acuerdo es que los trabajos que requieran de tareas repetitivas o que no necesiten de creatividad e inventiva son los que más están en riesgo de estar en peligro frente al boom de la inteligencia artificial. De hecho, fuera de los más alarmistas, lo que muchos de estos expertos aseguran es que herramientas como chat GPT primero van a transformar estos procesos de creación y se convertirán en herramientas de estas profesiones antes que en el reemplazo de los trabajadores.

Incluso en el mundo del desarrollo hay un acuerdo en que herramientas como chat GPT-4 servirán para la creación de código de manera más efectiva, pero el factor humano es definitivo en la resolución de problemas que acompaña la creación de código. De hecho, lo que la mayoría de peticiones de regulación buscan es que se busque ofrecer garantías por el trabajo que otras personas han hecho y del que se alimenta la IA (por ejemplo, obras artísticas) y no necesariamente la incertidumbre porque el día de mañana solo los empleados de McDonalds tendrán oportunidades laborales en el mundo gobernado por Chat-GPT. 

Imágenes: Foto de Pavel Danilyuk

En entrevista para Periódico de España, el artista e investigador danés Asker Bryld Staunæs, fundador del Partido Sintético (nombre oficial), describe al candidato artificial Leader Lars como un aspirante al parlamento danes que no roba ni conspira; inmune a los sobornos, a las presiones y a los chantajes. Sin embargo tampoco le conmueve el desahucio de una familia, la enfermedad rara de un niño o la precariedad de los pensionados.

Algunas propuestas de esta organización política, señalan que el ingreso básico para cada ciudadano danés debe ser 13.700 dólares. “El líder Lars afirma que un modelo de ingreso básico desarrollado con la ayuda de la AI tiene el potencial de reducir la pobreza en el país”.

También propone formación de empresas de TI y tecnologías basadas en internet con participación del gobierno del país europeo.

Te puede interesar: Getty Images critica arte hecho con Inteligencia Artificial

Sin embargo, para que este candidato del Partido Sintético llegue a participar en los próximos comicios parlamentarios aún se deben crear las normas y leyes que le permitan hacerlo (hasta el momento tan solo sería un proyecto más de IA). Desde ya, este colectivo se está preparando para las elecciones de 2025.

Caroline Axelsson, CEO de MindFuture y líder del proyecto, explicó que “su nicho se encuentra en ese 20% de personas que no van a ir a votar y que quieren mostrar su descontento, pero sinceramente sería un mal síntoma para nuestra democracia si llegamos a salir elegidos”.

Lars (candidato artificial), ha explicado que un político como él podría ser más efectivo porque “tomaría decisiones basadas en los datos y en la lógica en lugar de las emociones, Eso sí, sin renunciar a su ideología de izquierdas.

Juan Pazos, experto en Inteligencia Artificial en la Universidad a Distancia de Madrid, explicó para Hipertextual, que una verdadera Inteligencia Artificial no tendría creencias políticas. “Es un concepto complicado de entender para una sociedad que suele segmentar las decisiones en grandes grupos”.