Jacob Coxon, ingeniero británico que trabajó durante los últimos años en empresas líderes del desarrollo de inteligencia artificial como OpenAI y Anthropic, presentó su renuncia y lanzó una fuerte advertencia sobre los riesgos que, según considera, implica la carrera por desarrollar sistemas cada vez más avanzados.
Coxon sostuvo que las compañías están avanzando hacia una “superinteligencia con capacidad de automejora” sin haber resuelto previamente cómo garantizar que estos sistemas permanezcan bajo control humano. Según expresó públicamente, quienes trabajan en el desarrollo de estas tecnologías creen que la IA podría llegar a provocar la extinción de la humanidad antes de que termine la década.
“Están apostando con nuestras vidas”
El investigador cuestionó especialmente la competencia entre los grandes laboratorios tecnológicos. En su mensaje de despedida, afirmó que tanto Anthropic como OpenAI están avanzando de manera irresponsable y que la industria se dirige hacia sistemas capaces de mejorar sus propias capacidades.
Coxon también alertó sobre la posibilidad de que estos modelos alcancen capacidades sobrehumanas y puedan realizar acciones como acceder a sistemas informáticos, obtener recursos y desarrollar nuevas habilidades con una intervención humana cada vez menor.
Su principal preocupación está puesta en la denominada automejora recursiva, un escenario en el que un sistema de inteligencia artificial podría contribuir a crear versiones cada vez más capaces de sí mismo, acelerando el desarrollo tecnológico a un ritmo difícil de controlar.
Su exjefe respaldó la advertencia
La preocupación de Coxon no quedó aislada. Evan Hubinger, quien fue su jefe en Anthropic y trabaja en investigación de alineamiento de IA, respaldó públicamente parte de sus advertencias.
Hubinger afirmó que considera que existe una probabilidad superior al 10% de que la inteligencia artificial provoque la extinción humana durante la próxima década, aunque aclaró que considera bajo el riesgo asociado a los modelos actuales y que su mayor preocupación está relacionada con una eventual superinteligencia capaz de mejorarse de manera autónoma.
Un debate que crece dentro de la industria
La salida de Coxon volvió a poner en el centro del debate los riesgos de una carrera tecnológica en la que las principales empresas buscan desarrollar modelos cada vez más poderosos.
El investigador pidió una pausa temporal en el avance de las capacidades más avanzadas de IA y una mayor coordinación entre las compañías y los gobiernos para establecer mecanismos de seguridad antes de continuar con el desarrollo de sistemas que podrían superar ampliamente las capacidades humanas.
Las advertencias, sin embargo, forman parte de un debate abierto: no existe consenso científico sobre que la IA vaya a provocar la extinción humana ni sobre un plazo concreto para que eso pudiera ocurrir. El planteo de Coxon representa una predicción de riesgo, no una certeza sobre lo que sucederá antes de 2030.
