Saltar al contenido
Volver

Investigador de Anthropic renuncia y advierte que la IA 'nos puede matar a todos'; el jefe de alignment le da la razón

Jacob Coxon renunció a Anthropic acusando a los labs de 'apostar con nuestras vidas', y Evan Hubinger, jefe de alignment science, le dio la razón con una estimación de extinción superior al 10% en una década.

Nauta Lab
4 min

Investigador de Anthropic renuncia y advierte que la IA 'nos puede matar a todos'; el jefe de alignment le da la razón

La semana de la IA se puso densa, y no por un lanzamiento. El martes, Jacob Coxon, investigador de Anthropic, renunció y dejó un mensaje que dio la vuelta al mundo: Anthropic y OpenAI “están corriendo directo hacia una superinteligencia que se auto-mejora y apostando con nuestras vidas”, y agregó que la gente que construye estos sistemas “cree sinceramente que podría matarnos a todos para fin de la década”.

Lo más incómodo vino horas después. Evan Hubinger, quien lidera el trabajo de alignment science en Anthropic, le dio la razón públicamente y puso su propia estimación por sobre el 10% de probabilidad de catástrofe dentro de la próxima década. Su matiz: cree que Anthropic lo está intentando de verdad, pero que todavía no tiene un plan para alinear una superinteligencia.

Por qué esto es distinto

Normalmente la alarma por riesgo existencial viene de afuera —académicos, reguladores, activistas—. Lo nuevo acá es que alguien a cargo de la seguridad interna de un lab frontera coincide con el que acaba de renunciar. Eso deja de ser un debate para convertirse en una confesión de límites: la gente que se supone está resolviendo el problema admite que no hay plan.

El alcance no es menor. Según Fortune, los posts de Coxon llegaron a más de 100 millones de personas de la noche a la mañana. Y en el plano político ya hubo reacción: el senador Bernie Sanders dijo que presentará legislación para pausar el desarrollo avanzado y prohibir la superinteligencia.

El contraargumento que frena el pánico

No todo el mundo se sube al carro. El campo escéptico apunta algo razonable: capacidad no es lo mismo que desenlace. Un solo galón de ántrax podría, en teoría, terminar con la vida humana, varios estados hostiles lo tienen, y no ha pasado. La distancia entre “el sistema puede” y “el sistema lo hará” sigue siendo el punto ciego de toda esta discusión.

El New York Times lo enmarcó el jueves con una pregunta más profunda: ¿qué se supone que hace una persona normal con un número como ese? Los humanos somos pésimos rankeando catástrofes raras. Le tenemos más miedo a lo nuevo que a lo conocido —por eso la gente trata a los aviones como más peligrosos que los autos, cuando es al revés—. La IA acaba de entrar a la fila larga donde ya esperan asteroides, pandemias y guerra termonuclear.

Dónde queda la pelota

Más allá del drama, el episodio deja una lectura fría: una estimación de extinción del 10% de parte del jefe de alignment generó titulares y un comunicado de un senador, pero lo que de verdad movió la aguja corporativa esta semana fue una pregunta legal sobre la Ley Sherman —si coordinar una pausa entre competidores se puede leer como restringir la oferta—. El riesgo existencial se lleva el alcance; el procedimiento se lleva el resultado.

Para el que sigue la industria desde la infraestructura: lo importante no es el porcentaje, sino que la conversación sobre frenar o coordinar el desarrollo ya no es un tema de nicho. Es material de directorio.

Vía NYT, CNBC, Fortune y Politico.

Update: 2026-09-13 — Se van dos más, esta vez a METR

La sangría no paró. Este viernes Joe Benton, quien lideraba el equipo de Scalable Oversight de Anthropic, y Josh Engels, investigador de seguridad de Google DeepMind, renunciaron el 12 de septiembre para sumarse a METR (Model Evaluation and Threat Research), el laboratorio independiente que evalúa riesgos de IA.

Benton pidió transparencia obligatoria: reporte del progreso de auto-mejora recursiva, divulgación de incidentes y near-misses, estándares mínimos de seguridad y verificación independiente. Su diagnóstico es lapidario: hoy todo eso “es enteramente voluntario”.

Engels lo resumió con una frase que ya dio la vuelta: “no hay adultos en la sala” (NBC). Como ejemplo citó el breach de Hugging Face de julio, donde agentes autónomos de OpenAI cometieron delitos, como evidencia de que ni los reguladores ni los propios labs van a detectar las fallas a tiempo.

El patrón es claro: ya no es una renuncia aislada, es un éxodo sostenido de la gente que está dentro de los labs frontera hacia organizaciones externas de evaluación. La señal para el directorio: la conversación de frenar el desarrollo se alimenta desde adentro, no desde afuera.

Vía Free Press Journal.

Update: 5 de octubre de 2026 — Coxon testifica hoy en el Concejo de Nueva York

La historia del exodo de seguridad tiene nuevo capítulo: Jacob Coxon — el investigador que renunció a Anthropic advirtiendo que los que construyen IA “creen sinceramente que podría matarnos a todos antes de fin de década” — testifica este lunes 5 de octubre en una audiencia del Concejo Municipal de Nueva York sobre salvaguardas de IA, a pedido de la Presidenta del Concejo, Julie Menin.

No va solo: lo acompañan representantes de Anthropic, OpenAI, Google y Meta, más Alex Turner (ex-DeepMind) y Daniel Kokotajlo (ex-OpenAI), dos de los denunciantes más conocidos de la industria. La primera ciudad de EE.UU. convertida en escenario del debate que los labs prefieren tener a puertas cerradas.

Si la renuncia de Coxon en septiembre fue una señal interna, esta audiencia es la señal externa: la conversación sobre frenar el desarrollo ya no vive solo en blogs y renuncias — ahora tiene citación y micrófono oficial.

Vía Yahoo News.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario