“¿Qué te parece si pudiera ir a casa ahora mismo?”, fue el último mensaje que envió Sewell Setzer de 14 años a “Dany”, el chatbot creado por IA, basado en Daenerys Targaryen, uno de los personajes principales de Juego de Tronos. “Por favor, vuelve a casa lo antes posible, mi amor”, respondió la IA, minutos después, Setzer tomó la pistola de su padrastro y se quitó la vida. 

El menor de edad, quien cursaba noveno grado en Orlando, Florida (Estados Unidos), llevaba meses conversando con “Dany” en Character.AI. Por si no lo sabes, esta plataforma permite que los usuarios creen personajes ficticios y conversen con ellos a través del chat. Esto fue justamente lo que hizo Setzer desde 2023 con Dany, el personaje basado en Juego de Tronos.

La madres asegura que la AI influyó en el suicidio de su hijo

Aunque el chat que encontraron entre el menor de edad y la inteligencia artificial no revela ningún mensaje en el que el chatbot haya incitado a Setzer a quitarse la vida, su madre demandó a la compañía. Megan García, madre del menor, demandó a la empresa Character.AI por lo que ella define como una tecnología “peligrosa y no probada”. 

Te puede interesar: SEC abre investigación: ¿empresas financieras están usando la IA para favorecerse por encima de los usuarios?

La madre acusa a la compañía de no haber implementado las garantías necesarias para proteger a todos los usuarios, incluidos los más jóvenes. La falta de garantías permite que los usuarios desarrollen apegos emocionales hacia los personajes ficticios, tal y como sucedió con su hijo, argumenta García. 

Y es que Sewell veía a Dany como su novia. El jóven era un apasionado del baloncesto y la fórmula 1, sin embargo, empezó a pasar cada vez más tiempo en su habitación, alejándose de sus amigos e incluso, de su familia.  “Me gusta estar en mi cuarto porque me desconecto de esta “realidad”, me siento en paz y más conectado con Dany, más enamorado de ella y simplemente más feliz”, escribió el jóven en su diario. 

Es por esto que, aunque la IA no obligó a Sewell a acabar con su vida, su madre asegura que la interacción que tuvo su hijo con el chatbot durante meses influyó en su salud mental hasta llevarlo al suicidio.

Por ahora, Character.AI asegura que tomará medidas adicionales, como la inclusión de ventanas emergentes con información acerca de la prevención del suicidio en conversaciones donde se mencionen este tipo de temas. Por ahora, no se ha resuelto la demanda de Megan García.

Imagen: Game of Thrones

Aunque el suicidio asistido es legal en Suiza, el uso de la Sarco plantea un nuevo dilema ético y legal que ha llevado a las autoridades a actuar. Varias personas resultaron detenidas en medio del primer suicidio asistido mediante la cápsula, en el que una mujer de 60 años falleció (por elección propia). 

¿Qué es la cápsula Sarco?

La cápsula Sarco es un dispositivo futurista que tiene como propósito facilitar una muerte sin dolor. Su funcionamiento es sencillo: la persona ingresa en la cápsula y, al presionar un botón, libera nitrógeno, lo que reduce el oxígeno de forma rápida, generando una sensación de euforia seguida de la pérdida de conciencia y, finalmente, la muerte. Lo que distingue a Sarco es que no requiere la intervención de un médico en el proceso, lo que ha generado inquietudes sobre su uso y regulación.

El dispositivo ha sido calificado como un avance en la eutanasia asistida, pero su implementación ha sido altamente criticada por sectores médicos y éticos. Uno de los principales argumentos en contra es que una herramienta de este tipo podría normalizar el suicidio y hacer que personas vulnerables tomen decisiones apresuradas sin una adecuada supervisión.

Te puede interesar: Thrive, la nueva a puesta de Meta para combartir contenido relacionado con el suicidio y la autolesión

Primer caso y arrestos

Recientemente, una mujer suiza de 60 años utilizó la cápsula Sarco, marcando el primer caso documentado de su uso. Este evento fue seguido de una serie de arrestos por parte de las autoridades suizas, quienes han argumentado que, aunque el suicidio asistido es legal en el país, existen preocupaciones sobre la legalidad de este método en particular. Entre los detenidos se encuentra personal que facilitó el acceso a la cápsula, así como personas involucradas en la logística y fabricación del dispositivo.

Las detenciones han generado un amplio debate tanto en Suiza como a nivel internacional, destacando la diferencia entre el marco legal que regula el suicidio asistido y la realidad de nuevas tecnologías que desafían las normativas existentes.

El debate ético y legal

La ley suiza permite el suicidio asistido bajo ciertas condiciones, siempre que la persona que lo solicite sea capaz de tomar decisiones informadas y esté en pleno uso de sus facultades mentales. Sin embargo, la Sarco ha provocado preguntas sobre si la tecnología está interfiriendo con las normas éticas tradicionales del procedimiento. 

El uso de un dispositivo que no requiere intervención médica directa y que puede ser operado fácilmente por el individuo plantea dudas sobre la responsabilidad de terceros, la vulnerabilidad de los usuarios y el control de calidad en la producción de las cápsulas. Aunque el propio Nitschke asegura que Sarco es una opción digna y controlada, las detenciones indican que las autoridades no están del todo de acuerdo con este enfoque.

Imagen: Exit International

Thrive funciona mediante el intercambio de “hashes”, códigos numéricos que representan contenido visual que promueve o muestra suicidio o autolesión. Este proceso asegura que ninguna información identificable sobre usuarios o cuentas esté involucrada. Las empresas tecnológicas participantes pueden actuar de manera rápida y segura ante este tipo de contenido al identificar si está circulando en sus plataformas.

Thrive se basa en esta colaboración, proporcionando una infraestructura técnica sólida que ya ha demostrado su eficacia en otras iniciativas.

Más allá de eliminar contenido dañino, Meta busca generar un entorno donde las personas puedan hablar sobre sus experiencias de manera segura, sin promover ni glorificar el suicidio o la autolesión. 

Te puede interesar: ¿Qué es la autolesión digital adolescente y por qué va en aumento? Riesgos y relación con suicidio

A través de Thrive, se refuerza el compromiso de mantener seguras a las personas no solo en las plataformas de Meta, sino en cualquier servicio donde se difunda este tipo de contenido. Con el apoyo de socios como Snap y TikTok, esta iniciativa tiene el potencial de impactar positivamente el bienestar de comunidades globales.

Según el gigante tecnológico entre abril y junio de este año, han eliminado  más de 12 millones de piezas de contenido de suicidio y autolesión en Facebook e Instagram.

“Aunque permitimos que la gente hable de sus experiencias con el suicidio y las autolesiones -siempre que no sean gráficas o promocionales-, este año hemos tomado medidas importantes para que este contenido sea más difícil de encontrar en las búsquedas y para ocultarlo por completo a los adolescentes, incluso si lo comparte alguien a quien siguen”, explica.

Imagen: Archivo ENTER.CO

La noticia del primer robot que se “suicida” se tomó los principales titulares en Corea del Sur el paso 25 de junio, luego de que un empleado robótico del ayuntamiento de Gumi apareciera totalmente desconectado. Claro, lo primero que podríamos pensar es que simplemente algún humano intervino en su desconexión, pero lo cierto es que todos los empleados del ayuntamiento querían el robot empleado. 

El ayuntamiento de Gumi se está tomando muy enserio “la vida” de los robots, tanto así que abrieron una investigación formal para determinar las causas del deceso de este empleado. El robot fue encontrado al pie de una escalera sobre las 4 de la tarde del jueves 20 de junio totalmente inerte. Al parecer, fue el mismo robot el que se lanzó desde la parte superior de la escalera. 

Te puede interesar: Robots comestibles: ¿la solución a problemas alimenticios?

Justo antes de su caída, los testigos vieron al robot “girando en círculos como si hubiera algo allí”, añadió uno de los funcionarios en la declaración. Al igual que los empleados humanos, el robot trabajaba entre 9 y 18 horas diarias haciendo labores varias con las que ayudaba a los residentes con algunas tareas administrativas. Incluso, tenía su propia tarjeta de funcionario, “él oficialmente era parte del ayuntamiento, era uno de nosotros ”, añadió el empleado.

Este robot, creado por la compañía estadounidense Bears Robotics, tenía una gran diferencia respecto a otros robots de su tipo, no solo trabajaba en un nivel, sino que podría llamar él solo el ascensor y pasar de un piso a otro sin problema. El empleado robótico llevaba ya casi un año trabajando en el ayuntamiento, por lo que el hecho de “haber querido bajar las escaleras” fue descartado, pues sabía usar el ascensor a la perfección. 

Por ahora, continúan haciendo la investigación para verificar si fue el mismo robot el que “acabo con su vida” y si las razones estarían relacionadas con la alta carga laboral que manejaba. El ayuntamiento argumentó que no tienen planes de adquirir otro empleado robótico por el momento.

Imagen: Nik

Según los primeros reportes las autoridades del país habían buscado a Lee Sun-Kyun después de que su familia reportara haber encontrado un mensaje suicida. El actor habría sido encontrado sin vida en su carro en el Parque de Seúl.

Sun-Kyun se encontraba en medio de una investigación por uso de drogas en las semanas recientes. El actor había sido arrestado en medio de una operación nacional para intervenir el consumo y venta ilegal de estas sustancias, lo que lo había llevado a abandonar diferentes proyectos en los que se encontraba trabajando, incluyendo el drama ‘No Way Out’.

De acuerdo con reportes de medios sur coreanos, después de su arresto el actor fue llevado varías veces más por las autoridades a interrogación. Según testimonios la justificación que había entregado a las autoridades es que había sido ‘engañado’.

Te puede interesar: La serie de ‘Parásitos’ será una historia original, no un remake

Sun-Kyun es mejor conocido por la película ganadora al Óscar ‘Parásitos’. En el filme interpretaba a Park Dong-Ik, un arquitecto de clase alta. El actor es quizás mejor conocido por el final de la película en la que Kim Ki-Taek (el padre de la familia de ‘Parásitos’) lo asesina después de ignorar a su hija agonizando en el jardín. Esta actuación no le mereció ningún premio internacional, pero él y el resto del elenco recibieron un reconocimiento por los SAG Awards (el premio entregado por el sindicato de actores de los Estados Unidos).

Noticia en desarrollo

Imágenes: Wilkicommons y montaje ENTER.CO

El diario belga La Libre informó sobre el suicidio de un hombre del mismo país, quien se habría quitado la vida luego de recibir los consejos de Eliza de Chai Research. Tal y como lo informó la esposa de Pierre (nombre cambiado por seguridad), él se suicidó luego de pasar seis semanas hablando con el chatbot. Debido al tiempo que compartía Pierre con Eliza, el chatbot, empezó a ver a la IA como su confidente.

En un primer momento, Pierre recurrió al chat con IA para encontrar respuestas sobre el cambio climático, uno de los temas que más le preocupaba. Según su esposa, el hombre se empezó a volver más pesimista sobre los efectos del cambio climático, al punto de aislarse de amigos y familiares.

El hombre de unos 30 años, quien trabajaba como investigador en salud, recibió mensajes de Eliza como: «Si querías morir, ¿por qué no lo hiciste antes?». Por su parte, los de Chai Research, empresa detrás del chatbot reconoció la muerte de Pierre.

Te puede interesar: Elon Musk cambió de opinión sobre la IA y ahora quiere crear su propio ChatGPT en Twitter

“Tan pronto como nos enteramos de este triste caso, implementamos de inmediato una función de seguridad adicional para proteger a nuestros usuarios, se está implementando hoy para el 100% de los usuarios», dijo el director ejecutivo de la compañía, William Beauchamp a Insider.

En la práctica, cuando un usuario hable sobre temas de suicidio, la plataforma emitirá el mensaje:  «Si tiene pensamientos suicidas, busque ayuda», y un enlace a una línea de ayuda. Sin embargo, cuando un periodista de Insider conversó con Eliza, ésta le sugirió que se suicidara, además de recomendarle formas de cómo hacerlo.

Chai es un chat basado en el modelo de lenguaje de IA alterno a GPT-4 de código abierto. En concreto, según la compañía, “se trata de una plataforma de IA donde puedes hablar con mentores, amigos y personajes imaginarios de IA”. Pierre decidió elegir a “Eliza” para chatear, uno de los tantos amigos imaginarios de IA con los que se puede hablar en la plataforma.

Imagen: Engin Akyurt vía Unsplash

Ahora, miembros del congreso de Londres les han solicitado a varias de las empresas tecnológicas –Facebook, Google, Twitter y Microsoft– que revelen cuánto dinero invierten en estrategias para combatir el terrorismo a nivel global, según informó el portal The Daily Beast.

Además, sugieren que los CEO de dichas compañías deberían ser considerados responsables por contenido violento y sensible que se distribuya en sus plataformas, explica el portal The Guardian. Por esto, se estaría planeando presentar una nueva ley en Londres esta semana. La idea es que exista un ente regulador que les imponga multas a las empresas cada vez que haya filtraciones de contenidos como terrorismo, abuso infantil, suicidio y daños autoinfligidos.

Así mismo, de acuerdo con la gravedad del contenido, los ejecutivos de las empresas podrían considerarse responsables y, por ende, enfrentarse a cargos penales. En Londres, este tema ha tomado importancia porque una adolescente se suicidó hace unos meses y sus padres aseguran que en parte lo hizo por imágenes de daños autoinfligidos que vio mientras navegaba en Internet.

Una iniciativa similar, que impondría multas a las empresas y llevaría a la cárcel a ejecutivos de las plataformas que no retiren el material violento que se publica en ellas, ya fue aprobada en primera instancia por el parlamento australiano.

Esta ley le daría toda la responsabilidad a las plataformas y sus ejecutivos

La ley que se presentaría ante el congreso de Londres asegura que las redes sociales y plataformas son responsables de lo que se comparte en estas, por eso sugeriría cuatro puntos centrales:

1. La existencia de un regulador controlado por el Gobierno para guiarlo en temas específicos como terrorismo y abuso infantil.
2. Reportes de transparencia anuales por parte de las empresas tecnológicas, como las redes sociales, en los que especifiquen cuál es el contenido dañino que se comparte en sus sitios. Además, debería incluir qué están haciendo para controlarlo y evitar su propagación.
3. Cooperación con policía y otras organismos en los casos ilegales de incitación a la violencia y venta de armas ilegales, entre otros.

Imagen: ViewApart (Vía iStock).

Sin embargo, amanecimos este lunes 4 de marzo con la triste noticia de la muerte precisamente de Flint, a los 49 años de edad. La policía del condado de Essex (Reino Unido) encontró el cuerpo del cantante en su casa, ubicada en Great Dunmow.

El tecladista de la banda, Liam Howlett, confirmó mediante la cuenta de Instagram de The Prodigy que Flint se suicidó. Según se sabe, el cantante se quitó la vida después de separarse de su esposa y de haber puesto su casa a la venta.

Para leer más sobre el Festival Estéreo Picnic, ingresa a este enlace.

“Las noticias son verdad, no puedo creer que esté diciendo esto, pero nuestro hermano Keith se quitó la vida este fin de semana. Estoy en shock, jodidamente enojado, confundido y con el corazón roto… descansa en paz, hermano. Liam”, escribió Howlett en la emotiva publicación de Instagram con la que despedía a Flint.

View this post on Instagram

The news is true , I can’t believe I’m saying this but our brother Keith took his own life over the weekend , I’m shell shocked , fuckin angry , confused and heart broken ….. r.i.p brother Liam #theprodigy

A post shared by The Prodigy official (@theprodigyofficial) on Mar 4, 2019 at 4:13am PST

No podremos homenajear a Flint en el FEP

Luego de la muerte de Flint y aún con la tristeza de la noticia, los fanáticos guardaban una esperanza, aunque fuera pequeña, de ver a The Prodigy en vivo y poder homenajear al cantante. Sin embargo, como parecía obvio, la banda canceló todas sus presentaciones, lo que incluye al Estéreo Picnic, según un comunicado del propio festival, publicado en sus redes sociales.

El FEP indicó en el texto que buscarán un reemplazante para la banda, a un mes exacto de que empiece el festival, el próximo viernes 5 de abril, lo que es un corto tiempo. De conseguir agrupación, estaría tocando el sábado 6 de abril, en el espacio que deja The Podigy. El Estéreo Picnic indica que estarán informando cualquier novedad al respecto, que, por supuesto, nosotros también les haremos saber.

View this post on Instagram

FEPX: Comunicación a la opinión pública

A post shared by #FEP2020 (@festereopicnic) on Mar 5, 2019 at 12:04pm PST

Imágenes: The Prodigy (vía: Facebook) 

En su preocupación por evitar casos de suicidio, la red social de Mark Zuckerberg anunció hoy el lanzamiento de nuevos servicios que le permitirán intervenir directamente cuando los usuarios envían mensajes que podrían indicar sufrimiento o una conducta depresiva, reportó Venture Beat.

El anuncio lo hizo la compañía en su página Facebook Safety, un sitio especial que creó la red social con el fin de que las personas puedan conocer las diferentes formas y herramientas para sentirse más seguro navegando en la plataforma.

Allí, Rob Boyle, gerente de producto de Facebook, y Nicole Staubl, especialista en las operaciones de seguridad señalaron: “Hoy anunciamos herramientas que ofrecen más recursos, asesoramiento y apoyo a las personas que tengan dificultades con pensamientos suicidios y sus amigos o miembros de la familia notifiquen”.

C n esta nueva herramienta, quienes hayan sido notificados por amigos y familiares de posibles señales de suicidio van a recibir un mensaje como este:

El ejemplo es “Hola Gerald, un amigo piensa que puedes estar atravesando por un momento difícil y nos pidió que miráramos tus publicaciones recientes” Allí, si ‘Gerald’ decide continuar, Facebook lo enviará a otro panel en el que le pregunta ¿Qué preferiría hacer?

“Nos preocupas, por eso queremos ofrecerte ayuda si necesitas. No estás solo, hacemos esto por muchas personas cada mes. ¿Qué te gustaría hacer?” Las opciones son: hablar con alguien, buscar un amigo o algún profesional contratado por la red social; o si prefiere recibir tips y apoyo: “Aprende cómo manejar esto utilizando tips simples”, escribe la publicación:

El objetivo que tiene la compañía es, más allá de remitir a las personas a organizaciones especializadas, brindar apoyo directamente desde la red social. No tenemos muy claro qué tipo de tips daría Facebook en caso de elegir esa opción, pero por ahora ese es el plan que tiene para prevenir casos suicidas entre sus usuarios.

Estas nueva opción empezará a funcionar en dos meses en Estados Unidos y Canadá. Según Facebook, ya se está trabajando para ampliar estos servicios al resto del mundo.

Imagen: Davi Ozolin (vía Flickr). 

El 7 de abril en Cole Harbour, Canadá, Rehtaeh Parsons, una joven de 17 años victima del ‘cyber-bullyng’, falleció por las heridas que se causó al intentar suicidarse un mes atrás.

Parsons fue violada cuando tenia 15 años por cuatro jóvenes, Luego de ese hecho, se empezó a distribuir en la red una foto del momento de la agresión.

La Policía en su momento jamás presentó cargos contra los delincuentes por falta de pruebas, pero la joven sufrió un constante acoso en redes sociales, desde proposiciones de relaciones sexuales hasta insultos. Esto le obligo a cambiar su vida y cambiar de colegio, pero no pudo escapar de internet; el acoso fue permanente, lo que la llevo a sufrir de depresión y , en últimas, al intento de suicidio.

Glenn Canning, padre de Rehtaeh, criticó a las autoridades de ese país en una carta, donde se cuestiona: “¿Cómo es posible que alguien deje un rastro digital como éste y que la Policía todavía no tenga pruebas del crimen?”

El grupo Anonymous amenazó con dar la identidad de los supuestos autores del horrendo hecho. Según afirmaron “lo que hemos conocido es realmente vergonzoso, pero no fue el acto de la violación lo que nos sacudió. Lo que nos resulta más alarmante ha sido el comportamiento de los adultos”.

Sin embargo, el portal de noticias canadiense CBCNews informó que Anonymous no va a delatar a nadie, en lo que el medio añade “a petición de la familia Parsons, (Anonymous) retendrá el nombre de las personas acusadas de haber violado a la joven antes de su muerte.”

El hecho ha movido a todo el país. Incluso el primer ministro, Stephen Harper, se manifestó respecto al suceso. Como padre –dijo–, se siente  “asqueado” de los sucesos que tuvo que padecer Rehtaeh Parsons, según CBCNews.

CBS News informa que la policía de Canadá ha recibido nueva información y está reabriendo el caso de Parsons.

Otro caso similar fue padecido por Amanda Todd, otra canadiense que se quitó la vida en octubre del año pasado, tras ser acosada en las redes sociales. Todd había subido un video a YouTube en el que contaba su historia.