El ingeniero de software Jacob Coxon presentó su renuncia ante la firma Anthropic tras acusar a las principales empresas tecnológicas de actuar sin responsabilidad.
El especialista, con trayectoria previa en OpenAI, afirmó que la industria está apostando de manera peligrosa con el futuro de la humanidad.
Coxon, de 27 años y participante en proyectos como GPT-4o, utilizó su cuenta de X para lanzar una severa advertencia sobre el avance desmedido de la tecnología.
A su juicio, los desarrolladores líderes sostienen en privado que los sistemas sobrehumanos podrían amenazar la existencia humana antes de finalizar la década.
La dimisión revive el debate global sobre los límites éticos y de seguridad en la carrera comercial de la inteligencia artificial.
El especialista enfatizó que no existe otra actividad humana actual que implique un nivel de riesgo comparable para la civilización.
Una peligrosa carrera por la superinteligencia
El investigador señaló una diferencia estructural entre las dos plataformas más influyentes del sector.
Afirmó que OpenAI no ha internalizado los retos civilizatorios, mientras que Anthropic comprende los peligros pero permanece atrapada en la competencia por llegar primero.
Relacionado con el tema: La ONU advierte que la IA es un riesgo existencial para la humanidad
Para Coxon, el desarrollo acelerado permitirá la creación de sistemas capaces de hackear infraestructuras y acaparar recursos sin control.
El ingeniero urgió a implementar pausas temporales en el entrenamiento de capacidades y solicitó mayor coordinación entre las corporaciones.
Investigadores respaldan la alerta sobre alineación
La postura del renunciante encontró eco inmediato en Evan Hubinger, investigador de Anthropic, quien admitió públicamente que existe más del 10 % de probabilidad de un escenario catastrófico en los próximos diez años.
Hubinger sostuvo que la industria carece actualmente de un plan efectivo para resolver el problema de alineación.
Ambos analistas coincidieron en que el mayor peligro reside en el automejoramiento recursivo de la tecnología.
La velocidad del avance supera las metodologías actuales diseñadas para garantizar que los modelos avanzados obedezcan a intereses humanos de forma segura.
Un patrón recurrente de renuncias en la industria
La salida de Coxon se suma a un historial de dimisiones de alto perfil dentro de los laboratorios de tecnología.
Creadores y científicos de datos continúan abandonando sus puestos para señalar abiertamente las carencias en la regulación y la falta de protección a denunciantes.
Casos previos, como la renuncia de Geoffrey Hinton a Google y las cartas abiertas de exempleados de OpenAI, consolidan la preocupación técnica.
La comunidad científica insiste en frenar el aprendizaje por refuerzo superinteligente hasta contar con un entendimiento riguroso de su funcionamiento.
De tu interés: OpenAI asegura resolver problema matemático del Milenio
