Tu plataforma de IA puede no estar muy bien, cuando hasta la madre de uno de tus hijos te está demandando. Diferentes medios internacionales reportan que Ashley St Clair, madre de uno de los hijos de Elon Musk, ha presentado una demanda contra xAI asegurando que Grok sexualizó y creo deepfakes desnudos de ella.
La demanda fue presentada en Nueva York y, de acuerdo con los documentos obtenidos, asegura que Grok creó imágenes explicitas de St Clair. En respuesta xAI ha presentado una contra demanda asegurando que la mujer había violado los términos de servicio de la herramienta IA. “Los usuarios de X encontraron fotos de St Clair completamente vestida a los 14 años y luego le pidieron a Grok que la desvistiera y le pusiera bikini”, lee el documento. “Los usuarios incluso le dieron un bikini lleno de esvásticas” – St Clair es judía.
“Pretendemos exigir responsabilidades a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público, a fin de evitar que la IA se utilice como arma para el abuso“, declaró a BBC News Carrie Goldberg, abogada de St Clair. “Al crear imágenes sexualmente explícitas no consentidas de niñas y mujeres, xAI es una molestia pública y un producto poco seguro“, añadió Goldberg.
Ashley St Clair el año pasado reveló, a través de una publicación en X/Twitter que había dado luz a un hijo del multimillonario – uno de los 13 hijos que se cree que Musk ha reconocido. Documentos legales aseguran que actualmente hay una batalla legal por la custodia de este hijo.
Ashley St Clair, la madre del hijo de Elon Musk, que ha presentado la demanda contra Grok.
Deepfakes y desnudos: el dolor de cabeza de Grok
La IA de Elon Musk ha tenido una semana complicada después de que decenas de reportes fuera publicados, asegurando que los usuarios de X estaban utilizando el modelo de inteligencia artificial para crear deepfakes de mujeres desnudas o en ropa interior. Las acusaciones aseguraban que la falta de moderación dentro del modelo no solo permitía a las personas el solicitar a la IA imágenes realistas de desnudos, sino que Grok incluso modificaba estas imágenes cuando se trataba de menores de edad.
Como resultado X y Musk fueron objetivo de fuertes críticas por parte de entes regulatorios, grupos defensores de los derechos de las mujeres e incluso figuras políticas que exigían respuestas por parte de la compañía.
Pero la respuesta de la compañía no fue la esperada. La empresa cambió las reglas de la IA para que solo los usuarios pagos pudieran solicitar a la IA el realizar estos deepfakes – porque nada habla de tu compromiso con los derechos de las mujeres como monetizar desnudos no solicitados. La reacción fue inmediata en ciertos sectores, incluso llegando a contemplar la posibilidad de prohibir la red social en ciertos territorios como el Reino Unido.
El pasado miércoles 14 de enero X finalmente cedió y aseguró que todos los usuarios en adelante no podrían crear desnudos utilizando su IA… con el pequeño añadido de que la restricción solo aplicaría para aquellos territorios en el que fuera ilegal crear estas imágenes. Un sablazo legal impresionante considerando que son muchos los países y territorios sin normas claras sobre la creación de deepfakes con connotación sexual.
Pero ni siquiera este parche legal funcionó, pues diferentes usuarios han reportado que incluso en los territorios en los que debería estar prohibido todavía se pueden crear estas imágenes de desnudos.
X no parece estar muy preocupado por la ola de críticas o las posibles demandas. La era de Musk en la plataforma se ha caracterizado por una falta de moderación y una inclinación a monetizar algunos de los aspectos más problemáticos de su tecnología – por ejemplo, el incremento de estafas y spam en anuncios -. Como olvidar cuándo una de las primeras promesas de Grok fue la posibilidad de tener conversaciones picantes con una chica anime creada con IA. Con estos precedentes la situación actual de xAI debería set todo, menos inesperada.
Imágenes: Montaje ENTER.CO y BBC
