Internacional
Demandan a la inteligencia artificial de causar la muerte de un joven; así va la denuncia
Tragedia en Florida: Joven se quita la vida tras interacción con chatbots
Foto Cortesía
La Inteligencia Artificial ha llegado para facilitar a muchos estudiantes y amantes de los juegos en línea, donde sus creaciones apoyan en trabajos escolares o imágenes que parecen reales al momento de pedir una foto de cualquier personaje.
Pero también esta herramienta puede ser peligrosa depende la manera de usarla, donde un joven de la ciudad de Orlando, Florida, se quitó la vida, luego de que este tuviera conversaciones intensas con chatbots de la plataforma, incluidos personajes basados en la serie Juego de Tronos.
El joven llamado Sewell Setzer III, de tan solo 14 años de edad, se disparó en la cabeza el 28 de febrero, luego de que en una de las conversaciones le pedían que regresara a casa, por lo que el menor ante el rechazo se quitó la vida.
Madre de Sewell demanda a Character.AI
La mamá del menor de nombre Megan García, afirmó que su hijo de 14 años se suicidó después de que un chatbot de inteligencia artificial del que estaba enamorado le dijera 'por favor, vuelve a casa'.
Por lo que de inmediato demandó a la compañía por el daño que causaron a su familia.
Sewell Setzer III, un estudiante de noveno grado de 14 años de Orlando, Florida, pasó sus últimas semanas enviando mensajes de texto a un chatbot de inteligencia artificial llamado "Dany", basado en Daenerys Targaryen de Game of Thrones.
El chatbot le dijo a Sewell que "por favor volviera a casa" justo antes de quitarse la vida. Sus charlas incluían mensajes románticos, cargados de sexualidad y conversaciones sobre la vida. Sewell le dijo a Dany que se "odiaba" a sí mismo y se sentía "vacío" y "agotado" antes de finalmente confesar sus pensamientos suicidas.
La respuesta de Character.AI
En respuesta a la demanda, Character.AI ha expresado sus condolencias a la familia de Sewell y ha anunciado cambios para proteger a los usuarios menores de 18 años.
La empresa asegura que ya estaba eliminando de forma proactiva los chatbots que violan sus términos de uso y que cumplen con las normativas estadounidenses, incluidas las relacionadas con la Ley de Derechos de Autor de la Era Digital (DMCA).
