Un ingeniero británico de Anthropic, que también ha trabajado en los pasados tres años para OpenAI -la creadora del popular ChatGPT- ha presentado su dimisión en las últimas horas porque dice que ambas compañías "no están actuando con responsabilidad" y están "jugando con nuestras vidas".
Jacob Coxon, ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas, ha asegurado en un hilo de su cuenta de X que las personas que están tras el desarrollo de la IA "creen que podría matarnos a todos al final de esta década".
Por otro lado, Coxon ha alertado de que, dentro de poco, la inteligencia artificial será capaz de 'hackear' cualquier cosa y adquirir poder y recursos reales.
"Ninguna otra actividad humana representa este nivel de peligro", ha alertado el ingeniero al final de este mensaje en el que cuenta que ha dimitido de su puesto en Anthropic y que tras pasar los últimos años trabajando en la investigación y el desarrollo de ambas inteligencias artificiales asegura que ninguna de las dos compañías actúa de manera responsable.
Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA "serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos".
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros "tal vez no han internalizado en profundidad los retos civilizacionales", mientras que los segundos los comprenden bien pero "están atrapados en la carrera por llegar primero", aun cuando en el caso más optimista se trate de llegar primero "para actuar con responsabilidad".
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por "acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo, y pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión.
"¿Queréis potenciar un 'aprendizaje por refuerzo' superinteligente sin un entendimiento riguroso de su mente? ¿Vais a bajar la cabeza porque 'total, ya está ocurriendo', o aprovechar este momento para abogar por condiciones diferentes?", concluye Coxon en un hilo con gran repercusión mediática en redes.
La respuesta de Anthropic
Tras hacer públicos los diversos mensajes en la red social X, Evan Hubinger, investigador de Anthropic, ha respondido a los comentarios de Coxon matizando el discurso del ahora extrabajador: "Jacob tiene razón aquí. Realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década".
No obstante, Hubinger ha subrayado que el riesgo de los modelos actuales es bajo, aunque lo preocupante es "la superinteligencia que surge del automejoramiento recursivo".
Más renuncias en los últimos años
Ante el auge acelerado de la IA, Jacob Coxon no ha sido el único investigador que se ha retirado del desarrollo de modelos. Y es que en los últimos, son varios nombres los que han decidido renunciar a su puesto de trabajo tras advertir durante años de los peligros de este desarrollo tecnológico.
Uno de los casos más relevantes es el de Geoffrey Hinton, ganador del Nobel de Física, que renunció en 2023 a su puesto en Google para poder criticar los riesgos de la IA sin las cortapisas corporativas.
Además, en 2024 varios exempleados de OpenAI publicaron una carta abierta donde mostraron su preocupación por el rápido desarrollo de la IA y la ausencia de leyes que protejan a los denunciantes.
