24/10/2024

Insólito

Un adolescente se suicidó tras enamorarse de una IA de Game of Thrones y su madre demandó a la compañía

La madre del menor apuntó contra la empresa creadora del bot por ser responsable del suicidio de su hijo.

Un adolescente de 14 años, identificado como Sewell Setzer III, se suicidó tras haberse enamorado de un chatbot femenino creado con inteligencia artificial basado en el personaje de Daenerys Targaryen, de la exitosa serie "Game of Thrones". Tras el hecho, la madre del menor resolvió demandar a los desarrolladores de la IA.

En una entrevista con el canal CBS, la madre del joven, identificada como Megan García, reveló que las primeras experiencias románticas y también sexuales de su hijo (que incluyen sexo explícito) fueron con el personaje ficticio. Al parecer, el adolescente desarrolló un apego emocional a este bot de la aplicación Character.ai de modelo de lenguaje neuronal, a quien le mandaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real.

LEE MÁS: Sinaloa: la reunión que no fue que podría haber evitado la guerra narco

Una madre demanda a una empresa de IA alegando que su hijo se quitó la vida  por culpa de una Daenerys Targaryen virtual - Vandal Random

Daenerys Targaryen, personaje de la serie "Game of Thrones", interpretado por la actriz Emilia Clarke.

LEE MÁS: Kamala Harris destrozó a Trump y lo acusó de "inestable" y "errático"

El bot desarrollado por Character.ai fue diseñado por sus creadores, Noam Shazeer y Daniel de Freitas, para responder a los mensajes de texto y siempre en el papel de un personaje. Si bien, la aplicación tiene una advertencia al final de todos los chats que dice: "Recuerda: ¡Todo lo que dicen los personajes es inventado!", se desconoce si el adolescente sabía que no se trataba de una persona real. El personaje creado se presentaba como "una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de c.ai", sostiene la acusación presentada por los padres.

Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo, algo ya palpable en mayo o junio de 2023. De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con 'Dany'.

LEE MÁS: Autoridades sanitarias investigan a McDonald's en EEUU por brote de E. Coli que dejó un muerto y decenas de internados

Sewell Setzer III y su mamá, Megan García. Foto: redes sociales.

Sewell Setzer III y su mamá, Megan García.

La situación para los padres del adolescente comenzó a volverse más preocupantes luego de que Sewell escribiera en su diario un día: "Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta "realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz". Además, el adolescente le había confesado al chatbot que tenía pensamientos suicidas.

La demanda presentada por los padres del joven, quienes se encuentran representados por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox, apunta a Character.ai por la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto podría ser peligroso para usuarios menores de edad.

COMPARTE TU OPINION | DEJANOS UN COMENTARIO

Los comentarios publicados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de sanciones legales.

Policiales


Policiales

Diputada chilena acusada de abuso se autodenunció ante la Justicia

12 de noviembre de 2024

La legisladora se encuentra acusada por abuso sexual hacia una colaboradora suya. La legisladora es la primera persona abiertamente lesbiana en ser electa como diputada en la historia de Chile.

Subscribite para recibir todas nuestras novedades