Un Mundo Loco ●

Los hermanos que dejaron OpenAI para fundar Anthropic

Dario y Daniela Amodei representados frente a una interfaz de inteligencia artificial
Anthropic nació como una escisión de OpenAI alrededor de una pregunta incómoda: cómo construir IA potente sin perder el control de sus riesgos.Crédito: OpenAI / Un Mundo Loco · Fuente: Ilustración editorial original
0 / 0

La historia suele contarse como una pelea entre empresas: OpenAI contra Anthropic, ChatGPT contra Claude, Sam Altman contra Dario Amodei. Pero debajo de esa competencia hay una historia más rara y más interesante: dos hermanos que salieron de OpenAI porque no compartían la dirección que estaba tomando la carrera por construir inteligencia artificial cada vez más poderosa.

El dato conviene corregirlo desde el principio. No son "dos hermanas". Son Dario Amodei y Daniela Amodei, hermano y hermana. Dario es cofundador y CEO de Anthropic. Daniela es cofundadora y presidenta. Junto con otros exintegrantes de OpenAI, fundaron Anthropic en 2021, la empresa detrás de Claude.

Lo importante es por qué se fueron.

Quién es Dario Amodei

Dario Amodei no apareció de golpe con Claude. Antes de Anthropic fue una figura central en OpenAI, donde trabajó en investigación de modelos grandes y llegó a ocupar un rol de liderazgo técnico. Su nombre quedó asociado a una etapa clave: la expansión de los modelos de lenguaje que preparó el terreno para GPT-3 y para la explosión posterior de la inteligencia artificial generativa.

Su perfil mezcla dos mundos que no siempre conviven bien: el científico que piensa en escalamiento técnico y el investigador preocupado por los riesgos de ese mismo escalamiento. En otras palabras, Amodei no es un crítico externo de la IA. Es alguien que ayudó a empujarla hacia adelante y, precisamente por eso, insiste en que el problema no puede tratarse como una simple carrera de producto.

Esa tensión explica buena parte de Anthropic.

La empresa no nació para decir que la IA era imposible o indeseable. Nació con una idea más incómoda: si los modelos iban a volverse mucho más capaces, entonces había que construir una compañía donde la seguridad, la evaluación de riesgos y la alineación no quedaran como departamentos laterales.

Quién es Daniela Amodei

Daniela Amodei también venía de OpenAI. Allí trabajó en seguridad y política, una zona menos vistosa que la investigación pura, pero decisiva cuando una tecnología empieza a tocar educación, trabajo, seguridad, salud, defensa y comunicación pública.

En Anthropic ocupa el rol de presidenta. Eso no es un detalle administrativo. Mientras Dario se volvió la cara más visible de la empresa en discusiones técnicas y políticas, Daniela quedó asociada a la construcción institucional: cómo se organiza una compañía que quiere competir con gigantes, levantar miles de millones de dólares y, al mismo tiempo, sostener una narrativa de prudencia.

La palabra clave en Anthropic es seguridad, pero no en el sentido superficial de poner filtros al final. La idea es más ambiciosa: diseñar modelos que puedan ser más confiables, más interpretables y más gobernables desde el proceso de entrenamiento.

Por qué renunciaron a OpenAI

La respuesta corta es que los Amodei y otros investigadores no estaban de acuerdo con la dirección de OpenAI.

La respuesta larga es más interesante.

OpenAI había nacido como un laboratorio con una misión explícita: desarrollar inteligencia artificial avanzada de manera beneficiosa para la humanidad. Pero a medida que los modelos crecían, también crecían los costos de entrenamiento, la necesidad de infraestructura, la presión comercial y los acuerdos estratégicos. En ese contexto, varios investigadores empezaron a sentir que la discusión sobre seguridad quedaba subordinada a la carrera por lanzar productos y competir.

Los Amodei no fueron los únicos. Anthropic fue fundada por un grupo de ex OpenAI que incluía a personas como Tom Brown, Chris Olah, Jack Clark, Jared Kaplan, Sam McCandlish y Ben Mann. El punto común era una preocupación por cómo controlar sistemas cada vez más capaces antes de que fueran demasiado difíciles de entender.

No fue una renuncia por un detalle menor de oficina. Fue una diferencia de filosofía: qué se prioriza cuando una tecnología empieza a ser demasiado poderosa para tratarla como una app más.

Qué quiso hacer Anthropic de otra manera

Anthropic se presentó desde el comienzo como una empresa de investigación en seguridad de IA. En su anuncio de financiación de 2021, la compañía dijo que quería construir sistemas de IA más confiables, interpretables y robustos. Esa tríada resume su identidad.

Con Claude, la empresa intentó convertir esa obsesión en producto. Una de sus ideas más conocidas es la IA constitucional, un método para entrenar modelos con principios explícitos que orientan sus respuestas. La promesa no es que eso resuelva todos los problemas. La promesa es que hace más visible el sistema de valores que guía al modelo, en vez de dejarlo escondido dentro de millones de ejemplos y ajustes humanos.

Ahí Anthropic encontró su lugar: no como la empresa que rechaza la carrera de la IA, sino como la que intenta decir que la carrera necesita frenos, mediciones y reglas internas más claras.

La contradicción inevitable

El problema es que Anthropic también compite.

Y competir en IA hoy significa levantar capital, vender acceso a empresas, comprar cómputo, negociar con gobiernos y sacar modelos cada vez más capaces. Esa es la contradicción central de la compañía: nació criticando la velocidad y la presión comercial del ecosistema, pero opera dentro de ese mismo ecosistema.

Por eso Dario Amodei se volvió una figura incómoda. Para algunos, representa una forma más seria de pensar la IA: menos espectáculo, más evaluación de riesgos. Para otros, Anthropic usa el lenguaje de la seguridad como ventaja competitiva mientras participa de la misma carrera que dice querer moderar.

Las dos lecturas pueden convivir. Una empresa puede tener una preocupación real por la seguridad y, al mismo tiempo, estar atrapada en incentivos comerciales enormes.

Por qué importa esta historia

La salida de los Amodei de OpenAI importa porque muestra una fractura dentro del propio mundo que construyó la IA moderna. No fue una disputa entre tecnólogos y humanistas. Fue una disputa entre tecnólogos que compartían el diagnóstico general, pero no la estrategia.

Unos creían que había que avanzar rápido y desplegar productos para aprender del uso real. Otros creían que la velocidad podía volver inmanejables los riesgos antes de tener herramientas suficientes para medirlos.

Anthropic nació de esa segunda intuición.

La pregunta de fondo es otra: qué pasa cuando las personas que saben construir los modelos empiezan a desconfiar del modo en que se están construyendo.

La versión corta

Dario Amodei y Daniela Amodei son hermanos, ex OpenAI y cofundadores de Anthropic.

Renunciaron junto a otros investigadores porque tenían diferencias sobre la dirección de OpenAI, especialmente alrededor de seguridad, velocidad de desarrollo, presión comercial y control de riesgos.

Anthropic nació como una respuesta a esa tensión: una empresa que quiere competir en la frontera de la IA, pero con la seguridad como centro de identidad.

Esa es su fuerza.

Y también su contradicción.

Fuentes

Fuente: Anthropic / Fortune / Time / Observer

seguir por tema

Rutas relacionadas con esta búsqueda

seguir leyendo

Rutas internas para ampliar contexto

seguir en ia

Más notas de esta sección