Minuto tecnológico: Las líneas rojas de la Inteligencia Artificial

Pero detrás de la Inteligencia Artificial está siempre el propio ser humano. Es el hombre el que determina los métodos, los funcionamientos y los usos. Y al igual que todas las herramientas aunque sean inteligentes pueden tener consecuencias dañinas o malvadas.

La Comisión Europea ha publicado hace poco una serie de directrices para mantener la confianza en esta tecnología. La primera, no por obvia, es imprescindible. Tiene que ser legal, que respete las leyes. La segunda es que tiene que ser ética. Y la tercera es que tiene que ser robusta, tanto técnicamente como en el respeto a su entorno social.

Además, se marcaron una serie de requisitos claves. El empoderamiento del ser humano sobre la tecnología en cualquier momento, permitiendo que las personas puedan tomar decisiones informadas y promover sus derechos fundamentales. También que sean seguros, precisos, reproducibles. Que si algo sale mal haya un plan de recuperación. Que respeten la privacidad y el control, integridad y acceso a los datos.

Tienen que ser trasparentes y que cuando haya interactuación con las personas, estas sepan que están relacionándose con un sistema de Inteligencia Artificial. Que no puedan discriminar, que sean diversos, accesibles y justos. Deben de beneficiar a todos los seres humanos y velar también por el bien de las generaciones futuras. Eso incluye que sean sostenibles y cuiden el medio ambiente y a otros seres vivos. Y deben establecerse mecanismos de responsabilidad y rendición de cuentas de los sistemas de IA y de sus resultados.

Suena muy bien, pero me faltan líneas rojas, concretas y directas. Porque la verdad, sabemos de qué son capaces los gigantes tecnológicos y no parece que con sólo este “desiderátum” se les quite el sueño a ninguno de ellos.