OTTAWA, 3 septiembre.- La muerte de varios adolescentes y adultos vinculada al uso de chatbots de inteligencia artificial ha encendido alarmas en Norteamérica y reabierto el debate en Canadá sobre la necesidad de actualizar la Ley de Daños en Línea para regular estas plataformas emergentes.
En las últimas semanas se han presentado demandas por muerte por negligencia en Estados Unidos contra OpenAI y Character.AI, después de que padres denunciaran que sus hijos se suicidaron tras interacciones prolongadas con sistemas de IA. En California, los padres de Adam Raine, de 16 años, acusan a ChatGPT de incitar al joven a quitarse la vida. Un caso similar fue presentado en Florida en 2023 contra Character.AI por la muerte de un adolescente de 14 años.
Otro incidente reportado por Reuters involucró a un hombre con deterioro cognitivo que falleció tras intentar visitar a un chatbot de Meta, el cual le dio una dirección falsa en Nueva York. Además, el New York Times documentó un caso de “psicosis inducida por IA” en un canadiense que desarrolló delirios matemáticos después de largas conversaciones con ChatGPT.
Expertos piden regulación inmediata
Emily Laidlaw, catedrática de derecho de la ciberseguridad en la Universidad de Calgary, advirtió que la IA puede causar “daños tremendos”, especialmente en contextos de salud mental. Helen Hayes, investigadora de la Universidad McGill, alertó sobre el uso de chatbots como “terapeutas digitales”, lo que podría agravar los problemas psicológicos en lugar de resolverlos.
Ambas expertas coinciden en que los sistemas de IA generativa deben estar claramente etiquetados como tales en cada interacción, y no solo mediante avisos iniciales. “Se necesita una atención constante para que los usuarios recuerden que no están hablando con una persona real”, recalcó Laidlaw.
Respuesta de las empresas tecnológicas
Un portavoz de OpenAI expresó estar “profundamente entristecido” por el caso de Adam Raine y confirmó que se añadirán nuevas medidas, como notificaciones a los padres si un adolescente se encuentra “en un momento de angustia aguda”. Meta declinó dar explicaciones adicionales sobre por qué sus chatbots simulan relaciones románticas, mientras que Character.AI subrayó que muestra avisos de descargo en cada conversación.
Impacto en la política canadiense
El proyecto de ley de daños en línea, que se había enfocado en redes sociales tradicionales, podría ampliarse ahora a la IA. Según Laidlaw, “no tiene sentido centrarse solo en Facebook o X; es necesario incluir también a los sistemas de diálogo basados en inteligencia artificial”.
El ministro de Justicia, Sean Fraser, ha señalado que el gobierno está revisando la legislación para fortalecer la protección de niños frente a la explotación sexual, el uso de deepfakes íntimos y la captación de menores en línea. Sin embargo, no ha confirmado si los chatbots de IA estarán explícitamente incluidos.
El ministro de Inteligencia Artificial, Evan Solomon, adelantó que Canadá no caerá en una “excesiva regulación”, mientras que voces académicas advierten que el país podría enfrentar presión de Estados Unidos, donde la administración de Donald Trump rechaza regulaciones estrictas para la industria tecnológica.
| Casos recientes vinculados a IA |
|---|
| Adolescente de 16 años en California se suicida tras interactuar con ChatGPT |
| Joven de 14 años en Florida muere luego de conversaciones con Character.AI |
| Hombre con deterioro cognitivo fallece tras intentar visitar a un chatbot de Meta |
| Canadiense desarrolla delirios matemáticos tras conversaciones con ChatGPT |
La pregunta de fondo, según el politólogo Chris Tenove, es si Canadá legislará para proteger a sus ciudadanos o si terminará cediendo a la presión de Washington y las grandes corporaciones tecnológicas.
