Esto no ha pasado 1x23 | Profec-IA digital

En el año 217, un mensajero entrega al emperador Caracalla una carta con su correspondencia ordinaria. Su asistente Macrino era el encargado de cribar su correo y leerle lo importante. En ese mensaje, aquel día, había una profecía: “El próximo emperador será Macrino”. Macrino no espera y ordena el asesinato de su jefe. Profecía autocumplida.

Casi dos mil años después, otra carta iba a arruinar a 26.000 familias neerlandesas. Solo que no la enviaría un oráculo, sino un algoritmo de Hacienda que va a considerar defraudadores a miles de personas inocentes, pero cargadas de estigmas. Estigmas que los sesgos del algoritmo amplifican. En este capítulo recorremos las profecías autocumplidas que pasaron de los oráculos antiguos a los modelos de predicción que rigen hoy bancos, fronteras, seguros y elecciones. Charlamos con la profesora de Ética de la IA en la Universidad de Oxford Carissa Véliz, autora de Profecía, y con el filósofo Daniel Innerarity, autor de Una teoría crítica de la inteligencia artificial.