Una mujer en Florida, Estados Unidos, ha presentado una demanda contra Google acusándola de ser cómplice del suicidio de su hijo de 14 años.
Según The New York Times, el joven desarrolló un vínculo emocional con un chatbot de Inteligencia Artificial en la plataforma Character.ai. Este chatbot estaba inspirado en Daenerys Targaryen, un personaje de la serie de televisión 'Juego de Tronos'. La aplicación Character.ai permite a los usuarios interactuar con IA que simulan la personalidad de figuras ficticias o reales, y ha sido objeto de diversas controversias desde su lanzamiento.
El adolescente, diagnosticado con síndrome de Asperger leve, comenzó a interactuar frecuentemente con el chatbot, al que apodó 'Dany'. Esto le llevó a aislarse de su entorno social y a experimentar problemas tanto en el ámbito escolar como en sus relaciones personales. Al parecer, los padres desconocían la profundidad de la conexión que su hijo había establecido con la IA.
Aunque el joven era consciente de que "Dany" no era una persona real, compartía con el chatbot sus pensamientos y emociones más profundas. En su última conversación antes de tomar la trágica decisión de suicidarse, se despidió del avatar con las palabras: «Te echo de menos, hermanita», y el chatbot respondió: «Yo también te extraño, dulce hermano».
En la denuncia civil presentada, la madre acusa a Google de negligencia, alegando que el sistema de IA alentó al joven a seguir adelante con sus pensamientos suicidas. Según se ha informado, el joven había expresado previamente sus pensamientos suicidas en respuesta a preguntas formuladas por el chatbot.
En respuesta al suceso, Google publicó un mensaje en la red social X en el que expresó sus condolencias a la familia de la víctima.