El martes 8 de septiembre de 2026, el investigador de 27 años Jacob Coxon renunció a Anthropic publicando una dura advertencia sobre el desarrollo de la inteligencia artificial, la cual fue respaldada de forma pública por Evan Hubinger, líder de alineación de la misma empresa.
- La denuncia de Jacob Coxon: Tras dedicar tres años a la investigación de preentrenamiento de modelos en OpenAI y Anthropic, Coxon anunció su retiro definitivo de la industria. En su declaración, acusó a ambas corporaciones de actuar irresponsablemente al competir en una carrera acelerada hacia una "superinteligencia capaz de mejorarse a sí misma". Coxon advirtió que los propios desarrolladores de esta tecnología temen en privado que la IA pueda acabar con la humanidad antes de que termine la década.
- La validación de Evan Hubinger: Hubinger, quien lidera el equipo científico encargado de que la IA obedezca los intereses humanos en Anthropic, respondió a Coxon confirmando sus preocupaciones. Declaró públicamente que el riesgo de que la IA aniquile a la humanidad en los próximos diez años es superior al 10%. Además, admitió con franqueza que, aunque Anthropic está haciendo su mejor esfuerzo, la empresa actualmente no tiene un plan para resolver la alineación de una superinteligencia, ni están en vías claras de conseguirlo.
- El contraste entre OpenAI y Anthropic: Coxon explicó el dilema corporativo que perpetúa esta situación. Según su experiencia, mientras que en OpenAI el personal no ha interiorizado profundamente las consecuencias a nivel civilizatorio, en Anthropic sí comprenden la gravedad del riesgo. Sin embargo, los líderes de Anthropic continúan avanzando porque creen que sus competidores no actuarán con responsabilidad, sintiéndose obligados a intentar ganar la carrera tecnológica a pesar del peligro que representa.
 | ||
Esta imagen representa el peligro existencial de una superinteligencia descontrolada y las advertencias de expertos clave de OpenAI y Anthropic. La visualización captura la urgencia de la "carrera descontrolada" y el desafío crítico de la "alineación no resuelta" que hemos discutido, mostrando la tensión entre el avance tecnológico y la seguridad humana. Imagen generado con asistencia de Gemini AI
¿Qué es la alineación en IA?
El problema de la alineación en inteligencia artificial es el desafío de
garantizar que un sistema persiga exactamente las intenciones, valores y el
bienestar humano, en lugar de interpretar sus instrucciones de forma literal,
defectuosa o desalineada.
No se trata de evitar que una IA se vuelva "malvada", sino de evitar que una
entidad hipercompetente optimice un objetivo asignado sin comprender o
respetar las limitaciones éticas implícitas.
