Esto no ha pasado 1x30 | La IA tramposa y el fin del mundo

En 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general?