Les advertències sobre el possible perill existencial de la intel·ligència artificial han reobert el debat sobre el desenvolupament d’aquesta tecnologia. A La Ciutat, la catedràtica en Ciència de la Computació i Intel·ligència Artificial de la Universitat Rovira i Virgili i presidenta de l’Associació Catalana d’Intel·ligència Artificial, Aïda Valls, ha rebaixat el to d’aquestes alertes, però ha reclamat controls i barreres de seguretat.
Uns advertiments “massa alarmistes”
Valls considera “una mica exagerades” les declaracions que apunten que la intel·ligència artificial podria arribar a provocar la desaparició de la humanitat. Segons l’experta, existeixen riscos perquè molts sistemes es desenvolupen sense una supervisió independent suficient, però cal recordar què són realment: “No deixen de ser programes informàtics basats en càlculs matemàtics”.
Per aquest motiu, assegura que “des de la comunitat científica creiem que aquests anuncis que diuen que ens destruiran són massa alarmistes”.
Desinformació, ciberestafes i robatori de dades
Això no significa, però, que la IA sigui inofensiva. Valls assenyala que aquests sistemes poden facilitar campanyes de desinformació, influir en les decisions de les persones o accedir indegudament a informació privada.
També poden multiplicar l’abast de les ciberestafes. Tasques que abans requerien delinqüents amb coneixements informàtics avançats ara es poden executar de manera molt més ràpida i massiva. “Moltes d’aquestes coses que abans estaven controlades i feien alguns delinqüents molt puntuals ara podrien fer-se molt més massivament”, ha advertit.
La catedràtica insisteix, però, que darrere d’aquests usos sempre hi ha persones: “No són elles les que fan les coses”. Els sistemes actuen a partir de les instruccions dels usuaris i de les decisions de les empreses que els desenvolupen, sovint condicionades també pels interessos dels governs.
La IA no té consciència pròpia
Sobre la possibilitat que la intel·ligència artificial adquireixi una autonomia total, Valls és clara: “Això no existeix encara”. Per actuar com una persona, explica, necessitaria tenir consciència de si mateixa i entendre què està fent.
“Per molt que es digui que pensen o que decideixen, van seguint una sèrie de patrons o d’instruccions informàtiques”, afirma. Tot i que aquests programes poden aprendre, adaptar-se o reajustar-se, no tenen autoconsciència ni capacitat per rebel·lar-se voluntàriament contra els humans.
El perill apareix quan se’ls dona accés sense control a internet, correus electrònics o bases de dades. En aquests casos, poden executar accions incorrectes perquè no comprenen les conseqüències de les seves decisions.
Supervisió humana i regulació
Valls defensa que abans de dur a terme determinades accions, els sistemes hagin de demanar una validació. “La IA pot determinar que estaria bé fer una cosa, però abans de fer-la s’ha de validar”, explica. Per això, considera que aquesta tecnologia ha d’anar sempre acompanyada d’una persona que supervisi els seus resultats.
L’experta recorda que Europa ja disposa de regulació en aquest àmbit i que també s’hi treballa des d’Espanya i Catalunya. El problema és que moltes de les grans empreses que desenvolupen aquests sistemes són nord-americanes o xineses i no sempre estan sotmeses als mateixos marcs normatius.
Davant d’una tecnologia que avança a gran velocitat, Valls defensa la necessitat d’establir controls obligatoris i coordinats internacionalment. La idea principal, conclou, és no delegar completament les decisions: “No hem de deixar de pensar nosaltres”.
