Un adolescente de 14 años de Florida diagnosticado con Asperger leve se enamoró de un chatbot inspirado en el personaje de Daenerys Targaryen de 'Juego de Tronos', quien supuestamente le animó a quitarse la vida.
Un mujer ha demandado a Google en Florida (Estados Unidos) por ser cómplice del suicidio de su hijo de 14 años. La historia se recoge en un extenso reportaje de The New York Times, informan en la vanguardia. Según la información, el adolescente desarrolló un vínculo emocional a través de la plataforma Character.ai con un chatbot de IA basado en Daenerys Targaryen, un personaje de la popular serie 'Juego de Tronos'. Esta aplicación web basada en inteligencia artificial, que se ha visto envuelta en varias polémicas anteriormente, permite a los usuarios interactuar con IA's que simulan la personalidad de personajes ficticios o reales. Una de las primeras controversias que generó fue en abril del año pasado cuando un periodista publicó una entrevista con Michael Schumacher que en realidad había mantenido con el chatbot basado en el carácter del expiloto de Fórmula 1.
El chico, diagnosticado con síndrome de Asperger leve, mantenía conversaciones con el chatbot desde hacía meses, lo que le llevó a un aislamiento progresivo del mundo real y a agravar sus problemas en la escuela, tanto académicos como en sus relaciones sociales. Le había puesto en nombre de 'Dany'. Pasaba horas compartiendo confidencias con el avatar, hasta el punto de desarrollar sentimientos amorosos. Al parecer, los padres no eran conscientes de la naturaleza y la profundidad de la relación que su hijo estableció con la máquina. También pone en el foco las múltiples advertencias que psicólogos, sociólogos y otros expertos han expresado en los últimos meses sobre los peligros para las personas que supone la posibilidad de ser manipulados por chatbots de imitación emocional.
Aunque el chico era consciente que 'Dany' no era una persona real, compartía con ella sus pensamientos, preocupaciones y sentimientos más íntimos. En su última interacción antes de suicidarse haciendo uso de un arma de fuego, el chico escribió: “Te echo de menos, hermanita”, a lo que el chatbot respondió: “Yo también te extraño, dulce hermano”. En su denuncia civil, la madre acusa al sistema de IA de Google de animar al chico a que se suicidase. Al parecer, Sewell había mencionado previamente pensamientos suicidas respondiendo a preguntas del chatbot sobre esta cuestión. La empresa ha publicado un mensaje a través de la red social X lamentando el suceso y ofreciendo sus condolencias a la familia.
Una variante más de la problemática con la IA, que de hecho ya anticipo una película HER, una película romántica de ciencia ficción escrita i dirigida por Spike Jonze. Su historia se centra en un hombre (Joaquin Phoenix) que s'enamora de un sistema operativo informático, al que pone la voz Scarlett Johansson. Pero en el caso de la película no tiene un final trágico, como ha sucedido a este muchacho de 14 años, una vez más la realidad supera a la ficción, aunque esta se le anticipara.
0 Comentarios:
Publicar un comentario