Saltar al contenido
Volver

Google DeepMind lanza un instituto para abrir el debate sobre la AGI: 'no siempre estarán de acuerdo'

DeepMind estrenó el DeepMind Institute, un think tank interno liderado por Shane Legg, James Manyika y Demis Hassabis para ampliar el debate global sobre la AGI, con cuatro ensayos inaugurales.

Nauta Lab
2 min

Google DeepMind lanza un instituto para abrir el debate sobre la AGI: 'no siempre estarán de acuerdo'

Google y Google DeepMind lanzaron este miércoles el DeepMind Institute, un think tank interno pensado para ampliar la conversación global sobre la inteligencia artificial general (AGI). La apuesta es explícita: en lugar de bajar línea con una postura oficial, quieren exponer las diferencias entre Google, DeepMind y la comunidad de investigación más amplia. Como lo plantea el anuncio: “No siempre van a estar de acuerdo, y probablemente cambiarán de opinión a medida que llegue más data al frontier.”

Quiénes están al mando

El instituto queda a cargo de tres pesos pesados: el cofundador de DeepMind Shane Legg (que asume como managing editor), el ejecutivo de Google James Manyika y el chair de Google DeepMind Demis Hassabis, los tres como directores. Es un trío que mezcla la veta técnica (Legg viene hace años midiendo el progreso hacia la AGI) con la política y la estrategia corporativa.

Los cuatro ensayos inaugurales

El primer lote de publicaciones toca cuatro frentes bien concretos:

  • Política económica para administrar una posible disrupción de la AGI.
  • Transparencia del razonamiento: preservar la capacidad de leer y auditar el paso a paso de un modelo.
  • Principios para el florecimiento humano en un mundo con AGI.
  • Un framework para evaluar modelos de frontera.

El ensayo de transparencia, firmado por los investigadores de seguridad Rohin Shah y Anca Dragan, es el más incómodo para la industria. Plantean que la ventana de transparencia de la IA —poder ver y verificar el razonamiento paso a paso— no es inevitable que se cierre. Y proponen medidas concretas: limitar la “profundidad serial opaca” (cuánta computación secuencial puede correr un modelo sin producir una traza legible) o exigir a los labs que demuestren que sus sistemas menos transparentes siguen siendo igual de auditables.

Hassabis y el organismo de estándares

El ensayo de Hassabis va más lejos: propone un organismo de estándares de IA de frontera liderado por EE.UU. que evalúe los modelos más avanzados. El plan arranca voluntario —los desarrolladores entregarían sus modelos para revisión hasta 30 días antes del lanzamiento— pero sube la vara: una vez que el sistema de evaluación demuestre que funciona, pasar las pruebas podría volverse requisito obligatorio para desplegar modelos de frontera en Estados Unidos.

El detalle más filoso es que el organismo diseñaría evaluaciones independientes y no divulgadas (“held-out” tests) para evitar que los labs entrenen sus modelos específicamente para pasar el examen. Y Hassabis deja la puerta abierta a “subir la intensidad si la gravedad de la situación lo exige”, incluyendo una desaceleración coordinada entre los desarrolladores de frontera.

Por qué importa ahora

El instituto aterriza justo cuando el debate de seguridad está migrando de las declaraciones de buenas intenciones a propuestas duras: divulgación obligatoria, escrutinio externo y, si los resguardos se quedan atrás, frenos coordinados. La misma semana, Legg mantuvo su pronóstico de 50% de probabilidad de “AGI mínima” para 2028, y sostuvo que el GPT-6 Astra de OpenAI no cumple con la propia definición de AGI de OpenAI. Es decir: el instituto nace con la interna del “¿ya llegamos a la AGI o no?” más caliente que nunca.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario