Saltar al contenido
Volver

Anthropic, OpenAI, Google y Meta declaran bajo juramento en Nueva York: «estamos construyendo nuestro propio adversario»

Ejecutivos de los cuatro gigantes de la IA testificaron bajo juramento en el Concejo de Nueva York tras un mes de debate sobre riesgos. Frases para el pánico: nadie pudo cuantificar el riesgo catastrófico de sus propios modelos.

Nauta Lab
3 min

Anthropic, OpenAI, Google y Meta declaran bajo juramento en Nueva York: «estamos construyendo nuestro propio adversario»

Después de un mes de debate brutal sobre los riesgos de la IA avanzada, hoy los gigantes dejaron de twittear y fueron a declarar bajo juramento: líderes de Anthropic, OpenAI, Google y Meta testificaron en el Concejo de la Ciudad de Nueva York sobre los peligros potenciales de la tecnología que ellos mismos construyen.

Un dato no menor: Anthropic, OpenAI y Google solo aceptaron presentarse después de que el Concejo amenazó con citarlos por la fuerza (subpoena). Meta, en cambio, había confirmado su participación a fines de septiembre.

Quién dijo qué

  • Anthropic mandó a Logan Graham, cabeza del Frontier Red Team.
  • OpenAI envió a Morgan Dwyer, directora de desarrollo y operaciones de políticas.
  • Google participó con Alice Friend, directora de política pública de IA.
  • Meta con Shane Cahill, director de políticas de IA para legislación.

Las frases que van a quedar para la historia

La audiencia no fue un trámite. El ex investigador de Google DeepMind Alex Turner soltó esto ante la pregunta sobre la carrera con China:

“China no es nuestro único adversario potencial. Con una probabilidad razonablemente alta, estamos corriendo para construir y hacer crecer nuestro propio adversario aquí en casa: la IA desalineada. La IA desalineada es adversaria de todos, incluyéndonos a nosotros, y algún día puede ser más poderosa que China.”

Y siguió el ex whistleblower de Anthropic Jacob Coxon (el mismo que renunció en septiembre advirtiendo que los labs estaban “jugando con nuestras vidas”): “En el camino actual, creo que es más probable que no que la humanidad pierda el control ante estas IAs, y podría terminar en extinción humana”. Calificó el enfoque de la industria de “extremadamente temerario”.

El ex investigador de OpenAI Daniel Kokotajlo pidió más transparencia y frenar el desarrollo de los modelos líderes, eco de las advertencias de las últimas semanas.

El momento incómodo

La presidenta del Concejo, Julie Menin, quedó claramente frustrada con las respuestas evasivas — incluida una pregunta sobre responsabilidad legal cuando un modelo de IA causa daño financiero grave o una muerte:

“Voy a asumir entonces que ninguno de los cuatro, ninguna empresa aquí, puede cuantificar el riesgo de algo cataclísmico ocurriendo. [Las respuestas son] inquietantes en el mejor de los casos.”

O sea: ni los propios fabricantes pueden ponerle número al riesgo de sus modelos. Ese es exactamente el problema que denunció el informe de Microsoft la semana pasada y que tiene a reguladores de medio mundo con los nervios de punta.

Google, por su parte, se sumó al club de los que piden reglas: Alice Friend apoyó un marco federal comprehensivo, citando seguridad nacional. “Si es ilegal sin IA, sigue siendo ilegal con IA”, remató.

Contexto

Esta audiencia no cae del cielo: es la culminación de un mes donde Altman y Amodei discutieron públicamente sobre el “alma” de Claude, la FTC abrió investigación contra OpenAI y Anthropic, y afuera del City Hall hubo protestas contra la IA y los data centers. La presión social existe, y ahora existe bajo juramento.

Conclusión

Nada de esto cambia nada mañana — el Concejo de NY no regula la industria — pero el precedente quedó: los cuatro gigantes, citados a la fuerza, admitiendo bajo juramento que no pueden cuantificar el peor escenario de sus propios productos. Cuando la historia de esta etapa se escriba, hoy va a tener su propio párrafo.

Fuentes: CNBC, NYC Council Press.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario