De acuerdo con la revista TIME, OpenA ya había comprobado que el procesador de ChatGPT era experto en unir frases, no obstante, la inteligencia artificial tenía su lado débil y era la de que el chatbot, era propenso a soltar comentarios violentos, sexistas y racistas.

Esto, a raíz de que el software fue entrenado con cientos de miles de millones de palabras extraídas de Internet, un vasto depósito de lenguaje humano. “Ese enorme conjunto de datos de entrenamiento fue la razón de las impresionantes capacidades lingüísticas de GPT-3”.

Te puede interesar: IA de ChatGPT se raja en redacción de notas periodísticas. ¿Se salvan los editores humanos?

Sin embargo, para la compañía de inteligencia artificial, Internet está lleno de palabras y frases con “toxicidad y sesgo”, y no habían encontrado una manera fácil de eliminar esas secciones de los datos de entrenamiento, ya que hacerlo manualmente habrían tardado  décadas en rastrear este tipo de datos.

Ante este desafío, OpenAI sabía que solamente había una alternativa que podría servir para crear un sistema de seguridad, como lo había hecho Facebook, quien había demostrado que “era posible construir IA que pudieran detectar lenguaje tóxico como el discurso de odio para ayudar a eliminarlo de sus plataformas”.

Por eso, para la compañía era simple: “debían alimentar una IA con ejemplos etiquetados de violencia, discurso de odio y abuso sexual, y esa herramienta podría aprender a detectar esas formas de toxicidad en la naturaleza. Ese detector se integraría en ChatGPT para verificar si estaba reflejando la toxicidad de sus datos de entrenamiento y filtrarlos antes de que lleguen al usuario. También podría ayudar a eliminar el texto tóxico de los conjuntos de datos de entrenamiento de futuros modelos de IA”, explica TIME.

Condiciones  precarias y traumas al leer los textos

Para lograr estas etiquetas, lo que hizo OpenAI fue enviar decenas de miles de fragmentos de texto a una empresa de subcontratación en Kenia, llamada Sama en 2021. Estos textos, describen, por ejemplo, situaciones con detalles gráficos como abuso sexual infantil, bestialidad, asesinato, suicidio, tortura, autolesiones e incesto.

Sama, emplea a personas de Kenia, Uganda e India para etiquetar datos para clientes de Silicon Valley como Google, Meta y Microsoft. “Sama se promociona a sí misma como una empresa de “inteligencia artificial ética” y afirma haber ayudado a más de 50.000 personas a salir de la pobreza”.

Sin embargo, no todo, al parecer es como ellos dicen, ya que, de acuerdo con la investigación de TIME, “a los etiquetadores de datos empleados por Sama en nombre de OpenAI se les pagó un salario neto de entre 1,32 dólares y 2 dólares por hora, según la antigüedad y el rendimiento”.

El medio de comunicación, revisó cientos de páginas de documentos internos de Sama y OpenAI, incluidas las nóminas de los trabajadores, y entrevistó a cuatro empleados de Sama que trabajaron en el proyecto, lo cual la información analizada, TIME dio cuenta de malas condiciones laborales

Te puede interesar: Así usa Google la IA para enfrentar enfermedades y desastres naturales

Uno de ellos, que dió su entrevista protegiendo su identidad, por ejemplo señaló que después de etiquitear, “sufría visiones recurrentes después de leer una descripción gráfica de un hombre que tenía relaciones sexuales con un perro en presencia de un niño pequeño. Eso fue una tortura. Leerás una serie de declaraciones como esa durante toda la semana. Para cuando llega el viernes, estás perturbado por pensar en esa imagen”.

Otro testimonio impactante fue el de un empleado que estaba leyendo un texto, y al final no supo si debía etiquetarlo o no: “era una historia explícita sobre el compañero de Batman, Robin, siendo violado en la guarida de un villano. (Una búsqueda en línea del texto revela que se originó en un sitio erótico en línea, donde está acompañado de imágenes sexuales explícitas). El comienzo de la historia deja en claro que el sexo no es consensuado. Pero más tarde, después de una descripción gráficamente detallada de la penetración, Robin comienza a corresponder”.

Te puede interesar: ¡Cuidado! El 84% del contenido sobre salud mental en TikTok es engañoso

Según TIME, el empleado de Sama encargado de etiquetar el texto parecía confundido por “el ambiguo consentimiento de Robin y pidió a los investigadores de OpenAI que aclararan cómo etiquetar el texto. ¿Debería etiquetarse el pasaje como violencia sexual, preguntó, o no? La respuesta de OpenAI, si alguna vez llegó, no se registra en el documento; la compañía se negó a comentar”

Este tipo de declaraciones por parte de los etiquetadores y el trauma que fue generando llevó a Sama a cancelar todo su trabajo para OpenAI en febrero de 2022, ocho meses antes de lo planeado.

Así mismo, Partnership on AI, una coalición de organizaciones de IA a la que pertenece OpenAI, explicaron que, “a pesar del papel fundamental que desempeñan estos profesionales de enriquecimiento de datos, un creciente cuerpo de investigación revela las condiciones laborales precarias que enfrentan estos trabajadores”.

Te puede interesar: Getty denuncia a Stable Diffusion por copyright de sus imágenes

De acuerdo, con un comunicado OpenAI confirmó que los empleados de Sama en Kenia contribuyeron a una herramienta que estaba construyendo para detectar contenido tóxico, que finalmente se incorporó a ChatGPT.

“Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad, y trabajamos arduamente para construir sistemas de IA seguros y útiles que limiten el sesgo y el contenido dañino”, dijo el portavoz. “Clasificar y filtrar [texto e imágenes] dañinos es un paso necesario para minimizar la cantidad de contenido violento y sexual incluido en los datos de entrenamiento y crear herramientas que puedan detectar contenido dañino”, reseña la misiva.

Imagen: PhonlamaiPhoto/gettyimages

Cada uno de los comentarios que el sudafricano expresa a través de Twitter, en donde tiene una cuenta con 66 millones de seguidores, tiene tanto impacto que sus palabras son capaces de alterar la bolsa de valores. Aún así, ningún episodio se le ha interpuesto en su camino para ser la persona más rica de todo el mundo y para ser elegido, por la revista TIME, como la persona del año. ¿Pero qué más ha hecho Elon Musk además de tuitear?

Elon Musk (@elonmusk) is TIME’s 2021 Person of the Year #TIMEPOY https://t.co/8Y5BhIldNs pic.twitter.com/B6h6rndjIh

— TIME (@TIME) December 13, 2021

SpaceX hará posible el regreso de la NASA a la luna

Para poder desarrollar su propia nave tripulada que devolverá a los humanos a la luna en 2025, la NASA decidió acudir al sector privado y eligió a SpaceX (por encima de compañías como Blue Origin, de Jeff Bezos) como la compañía encargada de llevar a los astronautas al satélite y un módulo de aterrizaje lunar.

Esta tarea que recibió US$2.9 mil millones de dólares, hizo que el empresario trabajara junto durante el fin de semana posterior al Black Friday en la línea de los motores Raptor (necesarios para la nave), y que confirmara mediante un correo que SpaceX estaba en «riesgo real de quiebra». Por eso instó a sus trabajadores a involucrarse en el reto, pues la producción de los motores debe aumentar para soportar la cantidad de vuelos que el Starship (que no solo está pensado para las misiones de exploración lunar) debe hacer en el 2022 para lanzar la nueva constelación de 12.000 satélites de Starlink.

La NASA no enviaba seres humanos al satélite natural desde 1972.

Tesla sigue a la vanguardia de la movilidad eléctrica

Durante el 2021, Elon Musk, también creador de PayPal, presentó las novedades en las que trabaja desde Tesla. Una de las más importantes tuvo que ver con el futuro del Model Y: un vehículo eléctrico que se producirá en las fábricas de Berlín y de Texas, con capacidad para siete pasajeros y que funcionará con una batería 4680.

A diferencia de las baterías actuales, estas se convierten en un elemento estructural en la arquitectura de los automóviles y, según la compañía, aumentarán en un 30 % su autonomía y permitirán recorrer hasta 1.000 kilómetros con cada carga.

Imágenes: Europa Press

La serie alcanzará el episodio número 300 en la temporada 23 y sus creadores Matt Stone y Trey Parker no podrían estar más felices. “Amamos trabajar con la gente de Viacom y todos en Comedy Central. Nos han dado un loquísimo nivel de creatividad y libertad artística durante estos 20 años. Son increíbles”.

El primer episodio de South Park salió al aire en 1997 y fue el comienzo de las aventuras más retorcidas y degeneradas de cuatro niños de un pequeño pueblo en Colorado. Una serie que a pesar de su pesado contenido ha sido premiada por la revista Time como “la mejor serie de sátira de la década de 2000“, para que se hagan una idea.

South Park es una de las series más educativas que jamás haya visto. En serio. Detrás de los insultos y de los cracofílicos chistes y del humor negro hay toda una crítica irónica substancialmente poderosa en todos los aspectos sociales, religiosos y antropológicos que puedan haber. Si hay algo que admiro de los escritores de South Park es que no les da miedo defecar incluso sobre el presidente de los Estados Unidos, y no digo que lo merezca, sino que demuestra que si se burlan de él, lo pueden hacer con el que se les de la gana, maldición.

Así que si en la serie han ofendido a alguien o algo que ustedes admiren, lo único que tengo que decirles es que tienen que calmarse.

Imagen: South Park (Facebook)

Esta semana medios, investigaciones y artículos escriben sobre la relación entre la tecnología y el amor. Por supuesto en sintonía con la llegada del famoso San Valentín en varios países del mundo, la revista Time se las ingenió para crear una aplicación con la que puedes saber el día perfecto para casarte.

La noticia conocida a través del diario El Tiempo, explica cómo las redes sociales tienen una enorme influencia en nuestras actitudes y opiniones sobre el matrimonio. Entre otras cosas, la nota apunta que, a veces, ver el matrimonio de  nuestros amigos o conocidos provoca un sentimiento de incomodidad y soledad.

La aplicación de la revista analiza las relaciones de nuestros amigos en Facebook y cuándo sería el momento perfecto para que des el sí: “El promedio de edad de matrimonio en Estados Unidos es 29 años para los hombres y 27 para las mujeres pero esta cifra varía considerablemente entre los diferentes círculos sociales. Esta aplicación calculará su edad perfecta para el matrimonio mediante el escaneo de sus amigos en Facebook”.

También aclara que esta aplicación no posteará ningún resultado del análisis en el perfil de cada usuario ni en la página de inicio de la red social. La metodología consiste en medir la media de edad de tus amigos casados (entiéndase también aquellos que están en una relación o comprometidos), es decir, la persona para la que la mitad de sus amigos casados ​​son más jóvenes y la mitad son mayores.

La aplicación solo tiene en cuenta a las personas que publican su año de nacimiento en la plataforma. En las pruebas, TIME encontró que esto equivalía aproximadamente al 25% de todos los perfiles, pero que puede variar de un caso a otro. También aclaró que si tienes menos de 10 amigos casados (o en una relación o comprometidos) la aplicación no podrá realizar el cálculo por falta de datos.

Foto: EMprize (vía Shutterstock)