Saltar al contenido
Volver

Baseten y Hugging Face se unen para blindar la seguridad de los modelos open-weight

Baseten (vía su brazo Base Labs) se alía con Hugging Face y Goodfire AI para crear un estándar de infraestructura de seguridad para modelos de pesos abiertos.

Nauta Lab
1 min

Baseten y Hugging Face se unen para blindar la seguridad de los modelos open-weight

La seguridad de los modelos open-weight se está tomando la conversación, y ahora hay tres jugadores que quieren ponerle orden. Baseten —a través de su brazo de investigación Base Labs— se alió con Hugging Face y Goodfire AI para construir una infraestructura abierta de evaluación y monitoreo de seguridad para modelos de pesos abiertos.

¿Cuál es el problema?

La cosa parte de una técnica que viene subiendo fuerte: la abliteración. Básicamente, alguien toma un modelo open-weight, le “borra” las salvaguardas de seguridad que trae de fábrica y lo convierte en un modelo que responde cosas que el original jamás haría. El problema es que hoy no existe una forma estándar y transparente de detectar cuándo un modelo fue intervenido así.

¿Qué van a hacer?

La alianza quiere cubrir el ciclo completo del modelo, desde el entrenamiento hasta el serving en runtime. La idea es entregar herramientas públicas para:

  • Evaluar qué tan seguro es un modelo antes de ponerlo en producción.
  • Monitorear su comportamiento una vez desplegado.
  • Detectar modelos “abliterados” o con salvaguardas removidas.

Con Hugging Face (el hub más grande de modelos) y Goodfire (especialistas en interpretabilidad) a bordo, la propuesta apunta a convertirse en el estándar de facto para auditar modelos abiertos.

Por qué importa

El debate sobre los modelos open-weight viene caliente: son fáciles de descargar, modificar y desplegar, pero también de “destripar” para fines maliciosos. Que una infraestructura de seguridad sea abierta y colaborativa —en vez de un servicio propietario de un solo vendor— es un paso lógico para un ecosistema que justamente se define por ser abierto.

Estaremos atentos a si otras plataformas y labs se suman a la mesa.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario