Minuto tecnológico: La ética del algoritmo

Pero hay más riesgos. Hace un par de años, Cathy O,Neill, licenciada y doctora en matemáticas por Harvard y el MIT, escribió "Armas de destrucción matemáticas", un libro que ha tenido mucho impacto porque avisaba de los riegos que tenía la humanidad al estar regida por los algoritmos. Se diseñan para ser más justos y racionales en las tomas de decisiones, pero nos pueden traer también mucha decisiones inhumanas. Su ejemplo más famoso era el del algoritmo que determinaba cuando se conceden o no, prestamos en función, por ejemplo, de los índices de riqueza territoriales basados en códigos postales. Y lo hará perfectamente. Pero denegará el préstamo al estudiante pobre que lo pide para acceder a la Universidad. Sin la intervención humana, ese estudiante nunca estudiará. La culpa será de un algoritmo cerrado, opaco y sin apelación ni regulación, que fue desarrollado por programadores según los criterios objetivos de la entidad financiera.

Por eso a la hora de trabajar con el "big data" y los algoritmos se necesitan personas que contemplen las excepciones y sobre todo las consecuencias. Que tengan un sentido ético porque si no el big data aplastará muchos derechos individuales que han costado siglos conseguirlos. Ya son muchas las empresas tecnológicas que están contratando licenciados en Filosofía. Ellos con su sentido ético ayudarán a distinguir donde un algoritmo que busca el bien puede acabar provocando el mal.