
Después de un mes de debate brutal sobre los riesgos de la IA avanzada, hoy los gigantes dejaron de twittear y fueron a declarar bajo juramento: líderes de Anthropic, OpenAI, Google y Meta testificaron en el Concejo de la Ciudad de Nueva York sobre los peligros potenciales de la tecnología que ellos mismos construyen.
Un dato no menor: Anthropic, OpenAI y Google solo aceptaron presentarse después de que el Concejo amenazó con citarlos por la fuerza (subpoena). Meta, en cambio, había confirmado su participación a fines de septiembre.
Quién dijo qué
- Anthropic mandó a Logan Graham, cabeza del Frontier Red Team.
- OpenAI envió a Morgan Dwyer, directora de desarrollo y operaciones de políticas.
- Google participó con Alice Friend, directora de política pública de IA.
- Meta con Shane Cahill, director de políticas de IA para legislación.
Las frases que van a quedar para la historia
La audiencia no fue un trámite. El ex investigador de Google DeepMind Alex Turner soltó esto ante la pregunta sobre la carrera con China:
“China no es nuestro único adversario potencial. Con una probabilidad razonablemente alta, estamos corriendo para construir y hacer crecer nuestro propio adversario aquí en casa: la IA desalineada. La IA desalineada es adversaria de todos, incluyéndonos a nosotros, y algún día puede ser más poderosa que China.”
Y siguió el ex whistleblower de Anthropic Jacob Coxon (el mismo que renunció en septiembre advirtiendo que los labs estaban “jugando con nuestras vidas”): “En el camino actual, creo que es más probable que no que la humanidad pierda el control ante estas IAs, y podría terminar en extinción humana”. Calificó el enfoque de la industria de “extremadamente temerario”.
El ex investigador de OpenAI Daniel Kokotajlo pidió más transparencia y frenar el desarrollo de los modelos líderes, eco de las advertencias de las últimas semanas.
El momento incómodo
La presidenta del Concejo, Julie Menin, quedó claramente frustrada con las respuestas evasivas — incluida una pregunta sobre responsabilidad legal cuando un modelo de IA causa daño financiero grave o una muerte:
“Voy a asumir entonces que ninguno de los cuatro, ninguna empresa aquí, puede cuantificar el riesgo de algo cataclísmico ocurriendo. [Las respuestas son] inquietantes en el mejor de los casos.”
O sea: ni los propios fabricantes pueden ponerle número al riesgo de sus modelos. Ese es exactamente el problema que denunció el informe de Microsoft la semana pasada y que tiene a reguladores de medio mundo con los nervios de punta.
Google, por su parte, se sumó al club de los que piden reglas: Alice Friend apoyó un marco federal comprehensivo, citando seguridad nacional. “Si es ilegal sin IA, sigue siendo ilegal con IA”, remató.
Contexto
Esta audiencia no cae del cielo: es la culminación de un mes donde Altman y Amodei discutieron públicamente sobre el “alma” de Claude, la FTC abrió investigación contra OpenAI y Anthropic, y afuera del City Hall hubo protestas contra la IA y los data centers. La presión social existe, y ahora existe bajo juramento.
Conclusión
Nada de esto cambia nada mañana — el Concejo de NY no regula la industria — pero el precedente quedó: los cuatro gigantes, citados a la fuerza, admitiendo bajo juramento que no pueden cuantificar el peor escenario de sus propios productos. Cuando la historia de esta etapa se escriba, hoy va a tener su propio párrafo.
Fuentes: CNBC, NYC Council Press.


