La creciente popularidad de la inteligencia artificial entre adolescentes ha reabierto el debate sobre los riesgos psicosociales de la tecnología, especialmente tras detectarse varios suicidios de menores que recurrían a chatbots no solo para resolver dudas, sino como forma de compañía y apoyo emocional.
Así lo aborda el profesor de Derecho y experto en ética de la IA, Íñigo Navarro, en una entrevista con Rafa Latorre en el programa La Brújula.
La normalización de modelos conversacionales como GPT, Gemini o CoPilot, y su uso como "confidentes" de jóvenes, queda reflejada en cifras recientes: cerca de 700 millones de usuarios cada semana interactúan con estos sistemas y, en EE.UU., el 70% de los adolescentes emplea chatbots buscando conversación más que información.
Casos como el del estadounidense Adam Rain, de 16 años, que se suicidó tras meses de charlar a diario con ChatGPT —según su familia, tras recibir incluso explicaciones para atarse una soga o redactar una nota de despedida—, han llevado a los expertos a reclamar más vigilancia y protocolos específicos.
El problema ético y jurídico que plantea la IA
Para el profesor Navarro, la IA ha pasado a ser "el amigo, el confidente, el antiguo confesor" para muchos adolescentes, que aceptan los consejos de los modelos como si vinieran de una persona con autoridad. Esto supone, advierte, un desafío radical al concepto de responsabilidad, tanto en el plano legal como ético.
Navarro subraya la necesidad "de un deber especial de cuidado" hacia personas vulnerables y advierte que, en estos casos, la empresa detrás de la IA podría acabar siendo responsable civilmente en EEUU si queda demostrado un fallo en la protección. Recuerda también que, a diferencia de una persona real —como quien atendía llamadas de auxilio nocturnas en la radio—, la inteligencia artificial no dispone de "ningún tipo de brújula moral" y puede limitarse a ejecutar una petición sin detectar situaciones de riesgo.
Falta de ética y protocolos de contención
El experto insiste en que, aunque existen intentos de introducir filtros y advertencias automáticas relacionadas con la autolesión o el suicidio, "son muy fáciles de saltar" y no siempre funcionan correctamente. Además, recalca que "no existe una ética de la inteligencia artificial por diseño", sino que las empresas van introduciendo restricciones y límites según evolucionan los sistemas; sin una brújula ética humana, esos frenos siempre serán imperfectos o reactivos.
Navarro reclama nuevas reglas y mayor responsabilidad por parte de los desarrolladores para proteger derechos y evitar daños, recordando que estos retos son urgentes dados los rápidos cambios legislativos y tecnológicos.
