Un exinvestigador de OpenAI y Anthropic dimite y alerta sobre los riesgos de la Inteligencia Artificial: "Podría matarnos a todos"

La tensión interna en las principales empresas de Inteligencia Artificial (IA) ha alcanzado un nuevo punto de inflexión. Jacob Coxon, hasta ahora figura clave en dos de las principales empresas del sector, ha anunciado su dimisión tras tres años de trabajo en el desarrollo de modelos de preentrenamiento en dos de las mayores firmas del sector, denunciando la falta de prudencia con la que se están gestionando estos avances. "Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", ha declarado tajante Coxon para advertir sobre la velocidad con la que se están sobrepasando los límites de seguridad. El investigador ha alertado sobre la magnitud de los sistemas que se están incubando en los laboratorios de Silicon Valley. "No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", afirmó, subrayando que el progreso no muestra signos de desaceleración. Asimismo, Coxon destapó la brecha existente entre el discurso público de las empresas y la preocupación real tras bambalinas. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing", enfatizó, agregando que "muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado". Respecto a las dinámicas corporativas que alimentan esta inercia, el especialista analizó los dilemas estratégicos que mueven a ambas firmas. "En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero", explicó sobre cómo la competencia encarnizada prevalece sobre cualquier intento de cautela. Frente a este peligroso escenario, Coxon rechaza firmemente que las decisiones que afectan a toda la humanidad se tomen a puerta cerrada por un reducido grupo de ejecutivos. "Aceptar esta carrera e ingresar al 'endgame' es una apuesta hubrista que no debería lanzarse desde el Slack de una empresa privada", criticó, cuestionando el intento de acelerar el alineamiento sin contar con trayectorias más seguras. Finalmente, el exinvestigador hizo un llamamiento directo a sus antiguos compañeros de profesión para intentar frenar esta escalada antes de que sea demasiado tarde. "Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente?", concluyó, instando al sector a dejar de agachar la cabeza y exigir nuevas reglas de juego.