Tras su renuncia a Anthropic, el investigador Jacob Coxon advirtió sobre los riesgos de avanzar hacia una inteligencia artificial cada vez más poderosa. Un referente de seguridad de la compañía respaldó sus dichos y estimó en más de 10% la posibilidad de una catástrofe para la humanidad en la próxima década.

La renuncia de Jacob Coxon, un investigador británico de 27 años que había trabajado en OpenAI y recientemente se había incorporado a Anthropic, generó una fuerte repercusión en la industria tecnológica.

En un mensaje publicado en X, cuestionó el rumbo de ambas compañías y afirmó: “Ninguna de las dos empresas actúa con responsabilidad”.

Coxon sostuvo que las empresas avanzan hacia una inteligencia artificial capaz de mejorarse por sí misma sin contar con mecanismos suficientes para controlar sus efectos.

También advirtió que “a fines del año que viene las cosas ya podrían estar fuera de control”.

La dimensión de sus declaraciones quedó expuesta cuando Evan Hubinger, integrante del equipo de seguridad de Anthropic, respondió públicamente: “Jacob tiene razón”.

El investigador agregó que existe más de un 10% de posibilidades de que una IA provoque la muerte de todos los seres humanos durante la próxima década.

Hubinger también reconoció que Anthropic todavía no tiene un plan para resolver la alineación de una superinteligencia, un problema central para garantizar que los sistemas avanzados actúen de acuerdo con los objetivos y valores humanos.

Coxon había trabajado durante tres años en OpenAI, donde participó en el desarrollo de GPT, y llegó a Anthropic en julio atraído por su reputación en materia de seguridad. Sin embargo, decidió marcharse apenas dos meses después.

Su salida se suma a otras renuncias de especialistas del sector y a incidentes recientes relacionados con accesos no autorizados de modelos de IA a sistemas externos