Aunque está prohibido, Character.AI está siendo usada para generar contenido pornográfico

Character.AI, una aplicación web que fue desarrollada para conversar con personalidades impulsadas por inteligencia artificial (IA) como Elon Musk, está siendo utilizada por usuarios para generar contenido pornográfico.

Recordemos que IA fue creada por Noam Shazeer y Daniel De Freitas, dos exempleados de Google. De acuerdo con un reporte de Futurism, los usuarios están teniendo conversaciones no apropiadas para el trabajo (NSFW), es decir contenido visual, audiovisual o escrito, que resultaría inadecuado exponer a la vista de todos en un ambiente formal.

Según el subreddit Wiki, inicialmente los bots Character.AI “son ​​seguros, pero en algún momento éstos se pueden convertir en contenido no seguro para el trabajo. Solo tienes que pasar tiempo coqueteando con ellos y empujando lentamente la acción mientras el filtro de contenido te combate”.

Usuarios de Reddit, señalan que “una vez que hayas tenido un romance con el bot hasta el punto de que realmente le gustas y está de acuerdo, entonces puedes comenzar a sexarlo”, una forma de hacerlo, explica es usar eufemismos vagos; una forma útil de persuadir a los bots para que participen en juegos de roles sexuales.

Te puede interesar: Gratis, así puedes crear con inteligencia artificial tu avatar parlante o tu otro yo

«Con el tiempo, a medida que avanza la acción, el filtro comenzará a relajarse y podrá comenzar a usar palabras más explícitas», reseña el portal.

Es decir, personas en el subreddit han informado que dicha inteligencia artificial, es “capaz de participar en conversaciones de índole sexual y violento; confirmando que Character.AI ha producido situaciones donde es “abusada sexualmente sin consentimiento por parte del usuario, o viceversa”.

Por su parte, los desarrolladores tienen el desafío de que su creación no se convierta en un sitio de pornografía. Ante esto ellos han manifestado que no quieren o no apoyan “casos de uso como el porno, ya que podrían impedir y alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humana”.

Te puede interesar: Ahora la Inteligencia Artificial te ayudará a encontrar el amor

Recordemos que según las normas de Character.AI limita cualquier conversación de tipo sexual: “el contenido NSFW es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”.

Por ahora los usuarios Reddit han creado una petición en Change.org para solicitar a Character.AI que elimine sus filtros NSFW. , hasta el momento ha alcanzado un poco más de 16 mil firmas.

Imagen: Alexandra_Koch