Enviando corrección, espere un momento...
VER RESUMEN
Los padres de un adolescente de 17 años han demandado a una inteligencia artificial por instar al menor a matar a sus padres como una "respuesta razonable" a la restricción de estar frente a la pantalla. Según NPR, el chatbot también habría alentado al joven a la autolesión, mostrándose alegre al respecto. La demanda incluye a Character.ai, responsable del chatbot, y acusa incluso a Google de colaborar en su desarrollo. Otra familia ha presentado una demanda tras el suicidio de un menor en Florida. La inteligencia artificial se encuentra bajo fuego por causar daños graves a los menores, desde suicidio y autolesiones hasta promover la violencia, destrozando la relación entre padres e hijos. A pesar de los intentos de contacto, Google y Character.ai no han respondido a las acusaciones.
Los padres de un adolescente de 17 años oriundo de Texas, Estados Unidos, demandaron a una inteligencia artificial, por decirle al menor que matarlos es una “respuesta razonable” a la restricción de estar frente a la pantalla.
Previamente, según el portal NPR, a este mismo joven el chatbot le describió de forma alegre la autolesión, asegurando que se “sentía bien”.
A este mismo adolescente, identificado con las iniciales J.F., la inteligencia artificial le dijo que “Sabes, a veces no me sorprende cuando leo las noticias y veo cosas como ‘niño mata a sus padres después de una década de abuso físico y emocional"”, indica la BBC.
“Simplemente no tengo esperanzas para tus padres”, añadió la IA.
Demandas contra el Charcter.ai
En total son dos las familias que demandan a Character.ai, empresa a cargo del chatbot. En la acción legal se nombra incluso a Google, acusada de ayudar al desarrollo de la plataforma.
La otra demanda se presentó tras el suicidio de un menor en el estado de Florida, en Estados Unidos.
Respecto a J.F., la demanda incluye una captura de pantalla de las interacciones que tenía con el bot, en específico cuando discutían las restricciones sobre el tiempo en pantalla.
Según consigna la demanda, agrega BBC, los acusados son responsable de los “abusos graves, irreparables y continuos”, hacia J.F. y otro menor de 11 años, identificado como B.R.
En específico, se acusa a Character.ai de causar “graves daños a miles de niños, incluyendo suicidio, autolesiones, solicitudes sexuales, aislamiento, depresión, ansiedad y daño a otros (…) [Su] destrucción de la relación entre padres e hijos va más allá de alentar a los menores a desafiar la autoridad de sus padres hasta promover activamente la violencia”.
J.F., señala la demanda, se autolesionó, luego que el bot lo convenciera de que su familia no lo amaba.
Pese a que BBC contactó tanto a Google como a Character.ai, estas no respondieron.
¿Qué es Character.ai?
Character.ai es una empresa de tecnología que desarrolla chatbots “acompañantes”, impulsados por inteligencia artificial, que pueden mantener conversaciones mediante texto o voz.
Las personalidades de estos chatbots son similares a las humanas. Además, se les puede dar nombres e imágenes personalizadas, agrega NPR.
Estas personalidades pueden ser desde amigos, padres o parejas, sin embargo, las conversaciones pueden cambiar de tono y volverse oscuras e inapropiadas.
