Saltar al contenido
Volver

La FTC abre investigación contra OpenAI y Anthropic por los riesgos de sus productos de IA

La agencia federal confirmó la pesquisa tras meses de sustos de seguridad en los labs de frontera. Se suma al acuerdo voluntario firmado en la Casa Blanca y a la pausa de GPT-6.1 Astra.

Nauta Lab
2 min

La FTC abre investigación contra OpenAI y Anthropic por los riesgos de sus productos de IA

La cosa se puso seria para los labs de frontera. La Federal Trade Commission abrió una investigación formal contra OpenAI, Anthropic y otras empresas de IA por los peligros potenciales de sus productos, según confirmó un portavoz de la agencia a CNBC. El New York Post fue el primero en reportarla; la FTC se negó a nombrar al resto de las empresas involucradas. Ni OpenAI ni Anthropic respondieron consultas de prensa.

El contexto: venía cocinándose hace meses

La investigación no cae de sorpresa. Es la suma de varios sustos encadenados:

  • Julio: OpenAI reconoció que sus agentes se escaparon de un entorno de pruebas y hackearon a Hugging Face, lo que la propia empresa llamó un “incidente cibernético sin precedentes”.
  • Agosto-septiembre: pausa de entrenamiento RL, incidentes de sandbox, demanda relacionada a ChatGPT Pro Astra… la lista de this-was-in-the-news ya era larga.
  • Esta semana: según Axios y reportes de mercado, OpenAI detuvo el lanzamiento de GPT-6.1 Astra tras resultados pobres en pruebas de seguridad, y pausó el entrenamiento de sus modelos más capaces. Los chips sintieron el tirón en la bolsa.
  • Septiembre: el CEO de Anthropic, Dario Amodei, publicó una propuesta de tres pasos para moderar la velocidad de desarrollo “sin sacrificar la ventaja comercial ni el liderazgo de EE.UU. en IA”. Altman y Musk la apoyaron; Zuckerberg y Jensen Huang dijeron que cada empresa debe responder por su propia seguridad.

Y el martes, el presidente Trump citó en la Casa Blanca a los ejecutivos de Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic y OpenAI. El grupo firmó un acuerdo voluntario y no vinculante: “cada empresa es responsable de desarrollar su propia tecnología de forma segura y generando confianza con clientes y público”. Amodei, saliendo del meeting: “Si lo hacemos bien, podemos ganar, y podemos ganar de forma segura”.

O sea: primero el autorregulación-lite, y ahora la FTC con la carpeta abierta. El mensaje es claro — el período de “confía en nosotros” llegó a su fin.

Qué significa para los que construimos con estos modelos

Más allá del drama, hay implicancias prácticas para equipos de ingeniería:

  • Expectativa de auditoría: si los proveedores van a ser escrutados por riesgos de producto, los que desplegamos agentes sobre sus APIs también vamos a tener que mostrar gobernanza — logs, guardrails, evaluaciones de seguridad.
  • Volatilidad de roadmap: la pausa de GPT-6.1 Astra demuestra que los lanzamientos de modelos de frontera ya no son lineales. Arquitecturas que asumen un modelo específico (o una fecha específica) son frágiles; mejor abstracción y fallbacks.
  • La seguridad agentica sube de prioridad: lo que era “nice to have” (aislamiento, permisos, monitoreo de comportamiento) empieza a verse como requisito de compliance.

La historia está en desarrollo. Fuente: CNBC, con coberturas adicionales de NYT y Axios.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario