Jacob Coxon, quien también trabajó en OpenAI, dejó Anthropic y cuestionó la carrera de las empresas de inteligencia artificial hacia sistemas capaces de mejorarse por sí mismos. Su advertencia reavivó el debate sobre los riesgos de una IA avanzada.
El desarrollo acelerado de la inteligencia artificial vuelve a generar preocupación dentro de la propia industria. Jacob Coxon, ingeniero británico de 27 años que trabajó tanto en OpenAI como en Anthropic, presentó su renuncia y lanzó una fuerte advertencia sobre el rumbo que está tomando la tecnología.
Coxon explicó en un mensaje publicado en X que durante los últimos tres años realizó investigación de preentrenamiento en ambas compañías y que, a su juicio, ninguna está actuando de manera suficientemente responsable. Su principal preocupación es la carrera hacia una superinteligencia capaz de mejorar sus propias capacidades, un escenario que plantea desafíos de control y seguridad.
“Podría matarnos a todos”
El investigador sostiene que quienes desarrollan estos sistemas son conscientes de que existe un riesgo potencial extremadamente elevado. En su publicación, afirmó que algunos expertos creen que la inteligencia artificial podría convertirse en una amenaza para la humanidad antes de que termine esta década.
Coxon también cuestionó la velocidad con la que avanza la tecnología. Según su análisis, los futuros sistemas podrían superar las capacidades humanas en distintos ámbitos, acceder a recursos y sistemas informáticos y desarrollar nuevas habilidades a una velocidad difícil de controlar.
Su crítica apunta especialmente a la competencia entre los principales laboratorios de IA. Mientras considera que en Anthropic existe una mayor conciencia sobre los riesgos, sostiene que la empresa está atrapada en una carrera tecnológica para llegar primero. Sobre OpenAI, en cambio, considera que parte de sus integrantes todavía no dimensiona completamente las implicaciones de desarrollar sistemas cada vez más avanzados.
Su exjefe también reconoce el riesgo
Las declaraciones de Coxon tuvieron una respuesta particularmente llamativa dentro de Anthropic. Evan Hubinger, investigador principal de ciencia de alineación de la compañía y exjefe de Coxon, respaldó públicamente parte de sus advertencias.
Hubinger afirmó que considera superior al 10% la posibilidad de que la IA pueda provocar la extinción humana durante la próxima década. También reconoció que Anthropic todavía no cuenta con un plan definitivo para resolver el denominado problema de alineación de una eventual superinteligencia, es decir, garantizar que sus objetivos y comportamientos permanezcan bajo control humano.
Esta declaración no constituye una predicción científica consensuada sobre el futuro de la humanidad, sino la estimación personal de un investigador especializado en seguridad y alineación de IA. Otros expertos consideran que los escenarios de extinción deben diferenciarse de riesgos más inmediatos, como la desinformación, la pérdida de empleos, los ciberataques o el uso indebido de agentes autónomos.
La discusión sobre seguridad vuelve al centro
La renuncia de Coxon se produce en un momento en que investigadores, empresas y gobiernos discuten cómo establecer límites para el desarrollo de sistemas cada vez más capaces. Su propuesta es avanzar hacia una mayor coordinación entre laboratorios y considerar medidas como una pausa temporal en el incremento de las capacidades de los modelos más avanzados.
Más allá de la advertencia sobre una eventual superinteligencia, el caso vuelve a plantear una pregunta que acompaña a la industria desde hace varios años: ¿puede la innovación avanzar al mismo ritmo que las medidas necesarias para garantizar que sus consecuencias sean controlables?
