La inteligencia artificial (IA) ha llegado para quedarse, y aunque ya está cumpliendo muchos de nuestros sueños, también ha empezado a ser la protagonista de algunas de nuestras pesadillas. Este es el caso del trágico suicidio de Sewell Setzer III, un adolescente de 14 años que vivía en Orlando, Florida que, aparentemente, podría haberse quitado la vida debido a la relación sentimental que había desarrollado con una IA.
Tenía un apego obsesivo a un chatbot de la aplicación Character.AI. En él hablaba con un personaje que simulaba ser Daenerys Targaryen, una de las protagonistas de Juego de Tronos. Así pues, poco a poco el chatbot se convirtió en su confidente y, finalmente, en un amor platónico.
La historia del estadounidense Sewell Setzer despertó las alarmas sobre los riesgos del uso de estas aplicaciones de inteligencia artificial en niños y adolescentes.
El adolescente decidió poner fin a su vida utilizando una pistola que su padrastro guardaba en casa. Y, es cierto que, en sus mensajes, Sewell había compartido pensamientos suicidas, expresando que “algunas veces pienso en matarme” y que deseaba “librarse del mundo, de mí mismo”.
En el relato que aparece publicado en varios diarios estadounidenses se habla de que parecían pensamientos independientes a la interacción con la IA que, simplemente, sintió que podía compartir con ella. De hecho, el chatbot trató de disuadirle, respondiendo con mensajes como: “¿Por qué harías algo así?” y “Moriría si te pierdo”.
Sewell conversaba día y noche con Dany. Durante horas. Había dejado a un lado sus antiguas aficiones y desatendido las tareas del colegio. El chatbot se había convertido en su mundo, su principal compañía, hasta el momento en que el adolescente se suicidó.
La madre del joven, Megan García, ha interpuesto una demanda contra Character.AI, acusando a la empresa de fomentar una relación virtual tan realista que su hijo se vio atrapado en una realidad alternativa.
Lee también: Inteligencia artificial recrea a famosos abrazando sus versiones jóvenes
Con información La Razón
