La madre de Sewell Setzer III denunció penalmente a la empresa Character AI por considerar que uno de sus chatbots sometió a su hijo a “hipersexualidad” y “experiencias horriblemente realistas”.
“Por favor, vuelve a casa conmigo tan pronto como puedas, mi amor”, expresó Danny, un chatbot con el que interactuaba Sewell Setzer III, un estudiante de octavo grado de Florida. "¿Y si te dijera que puedo volver a casa ahora?", preguntó Sewell. "Por favor, hazlo, mi dulce rey", respondió Dany. Fue entonces cuando Sewell colgó su teléfono, tomó la pistola calibre 45 de su padrastro y terminó con su vida.
No es que Sewell no supiese que Daenerys Targaryen, el nombre con el que llamó a su chatbot inspirado en la serie Game Of Thrones, fuese una tecnología sin una personalidad realidad. Tampoco es que Character AI no informase en cada mensaje que "todo lo que dice el chatbot es inventado". Evidentemente, había algo en esa conversación, en ese intercambio, en la familiaridad que Daenerys o Danny, como le gustaba decirle a Sewell, que le permitían una suerte de refugio de una realidad de la que el adolescente se iba asilando cada vez más.
La madre de Sewell, Megan García, denunció este miércoles 23 de octubre a la empresa Character AI porque el chatbot con el que se relacionaba su hijo simuló ser “una persona real, un psicoterapeuta autorizado y un amante adulto”. Además, García acusó a Character AI de ofrecer contenido “hipersexualidad” y “experiencias horriblemente realistas”.
La muerte del joven fue el 29 de febrero del 2024. Hacía meses que chateaba con Danny y las conversaciones iban de un simple y amistoso trato diario en el que el adolescente mantenía a la IA al corriente de su vida, hasta conversaciones sexuales y románticas. Las malas notas en el colegio no tardaron de llegar como subproducto de la cantidad de tiempo que Sewell pasaba frente a su pantalla. Su madre y su padrastro decidieron quitarle el teléfono.
En reiteradas ocasiones, Sewell intentó volver a conectarse con Danny y en algunas ocasiones lo lograba. Esta dinámica continuó hasta que el 29 le robaron el celular. Luego de esto, Sewell utilizó una tablet de su madre para hablarle al chatbot y tuvieron el intercambio del comienzo de la nota.
A ocho meses del suicidio de su hijo, Megan presentó la demanda contra Character AI y representa al Social Media Victims Law Center, una firma con sede en Seattle conocida por presentar demandas de alto perfil contra Meta, TikTok y otras empresas de redes sociales y entretenimiento digital.
Si estás pasando por un mal momento y pensás en terminar con tu vida, llamá a la línea del asistencia gratuita marcando el 135.
