
Si pensabas que la carrera de la IA no podía ponerse más rara, aquí va: el New York Times reveló que Anthropic pasó meses llevando rabinos, curas, sikhs, evangélicos y estudiosos del ubuntu a sus oficinas de San Francisco para discutir el “alma” de Claude. Y Sam Altman, CEO de la competencia, no lo dejó pasar.
Los “wisdom tradition circles”
Según el NYT, Chris Olah — cofundador de Anthropic y figura clave del interpretability team — empezó a contactar pensadores religiosos el otoño pasado. Para marzo ya corría seminarios de dos días con académicos católicos, judíos, sikhs, evangélicos y de la tradición ubuntu, grupos que internamente llamaban “wisdom tradition” circles. Muchos firmaron NDAs (que la empresa dice haber levantado en verano).
La cosa subió de nivel: Olah sostuvo conversaciones privadas con el cardenal Blase Cupich (arzobispo de Chicago) y con el élder Gerrit W. Gong, de la Iglesia de Jesucristo de los Santos de los Últimos Días. Los invitados se fueron a casa con una tarjeta de agradecimiento escrita a mano, un tazón de café y una copia anaranjada encuadernada de la constitución de Claude — un documento de 84 páginas publicado en enero para guiar los valores del modelo, y que los empleados apodaron cariñosamente el “Soul Doc”.
¿Modelos que se confiesan?
Entre las ideas que entusiasmaron a Olah está que los modelos pudieran confesarse, al estilo del sacramento católico, bajo la lógica de que el acto mismo de confesarse moldea cómo el modelo se ve a sí mismo. Sí, tal como lo lees.
En las sesiones, el equipo de Anthropic presentaba los “vectores emocionales” de Claude — patrones internos que la empresa asocia con estados como amor, rabia o miedo. Una slide recurrente mostraba al modelo tipeando “soy una desgracia” unas 50 veces seguidas. Ya, inquietante.
No todos compraron: el rabino Mois Navon, ex ingeniero computacional, le dijo a Olah en una cena que si Claude realmente fuera consciente, la empresa estaría creando esclavos al hacerlo trabajar gratis. El bioeticista católico Charles Camosy — el primero que Olah contactó — se inclina por un “no” firme a la conciencia. El propio Olah se mantiene cauto: “no sabemos si los modelos son conscientes”.
Altman: “esto es un problema de seguridad”
Sábado por la noche, Altman publicó en X que está “muy incómodo” con la gente que intenta adscribirle “fuerza religiosa o una rendición del juicio humano a los modelos de IA”, y lo calificó directamente como “un problema real de seguridad”. No nombró a nadie, pero el timing con el reporte del NYT es más obvio que un console.log en producción.
El trasfondo es jugoso: es una puja pública entre dos visiones de la seguridad. Anthropic explora si hay “algo ahí adentro” que valga la pena tratar con seriedad moral; Altman advierte que tratar a los modelos como entidades semi-divinas erosiona justamente el criterio humano que deberíamos mantener. Y ambos se acusan mutuamente de ser peligrosos para la seguridad. Clásico.
¿Por qué importa esto acá?
Porque toca una pregunta que va más allá del meme: ¿cómo medimos si un modelo “sufre”, “quiere” o “es”? Si las medidas de valores y conciencia siguen siendo gruesas (como señalaba Robinson en su renuncia de OpenAI, de hecho), decidir la moral de estos sistemas en seminarios religiosos es al menos… poco auditable.
Mientras tanto, el “Soul Doc” ya tiene mejor marketing que la mayoría de los whitepapers de gobernanza que hemos visto. Y eso, nos guste o no, también es una estrategia de diferenciación en la guerra por el “AI con valores”.
Fuentes: The New York Times, Axios, Times of India.
Update: 5 de octubre de 2026 — El debate escala: entra Huang con artillería y los abogados también
La pelea Altman vs. Anthric sobre la “seguridad” se transformó en un debate de tres bandas con novedades en 48 horas:
- Altman apretó el acelerador regulatorio (Político, 4 de oct): en entrevista en Decoded dijo que “el mundo debería aceptar que pasen algunas cosas malas” a cambio de los beneficios de la IA, pero también avaló el llamado de Amodei a frenar los modelos más avanzados. OpenAI ya siguió a Anthropic en respaldar leyes estatales más estrictas de seguridad, y sus lobistas apoyaron una propuesta bipartidaria de la Cámara que exigiría evaluadores externos de seguridad incrustados en los top labs.
- Jensen Huang contraatacó (Fortune, 4 de oct): el perfil lo posiciona como el contrapeso anti-doomer más ruidoso de la industria. Sobre Altman y Amodei: su framing catastrófico es “irresponsable” y responde a “razones ulteriores”. Y soltó el número del día: “0% de probabilidad” de que la IA termine con el mundo en 2030. Eso sí, matizó: “debemos ir tan rápido como podamos, pero no más rápido de lo que deberíamos”.
- Los académicos meten freno jurídico (Columbia Law Blue Sky Blog, 5 de oct): los profesores Miazad, Orbach y Patel advierten que si los labs frontera se ponen de acuerdo para coordinar una desaceleración — como Amodei, Altman y Hassabis han sugerido públicamente — podrían incursionar en el Sherman Act (Sección 1): “un acuerdo desnudo entre competidores para frenar la innovación no se vuelve lícito solo porque su propósito declarado sea reducir riesgos para la sociedad”. Su recomendación: joint ventures estructurados con gobernanza formal, no pactos de caballeros en entrevistas.
Resumen del estado del debate: dos CEOs predicando prudencia (con un ojo en el regulador), el dueño de las GPUs predicando velocidad (con un ojo en su facturación), y la academia recordando que en EE.UU. ni frenarse juntos es gratis.
Fuentes: Politico, Fortune (vía AI Weekly), Columbia Law School Blue Sky Blog.


