‘MANGOS’, parte 5 | Anthropic: la empresa que prometía una IA segura y ya inquieta al poder que la vigila 

Dario y Daniela Amodei salieron de OpenAI alertando sobre los riesgos de la inteligencia artificial. En 2026, Anthropic es la nueva favorita del sector y también una pieza bajo vigilancia por el potencial de sus propios sistemas.

LA ESCISIÓN MORAL QUE ACABÓ EN GIGANTE

Anthropic nació con una historia perfecta para Silicon Valley: dos perfiles brillantes abandonan el laboratorio más famoso de inteligencia artificial porque creen que allí no se están tomando la seguridad lo bastante en serio. Hay conflicto, hay principios, hay ruptura y hay promesa. La vieja épica de la empresa que viene a corregir los pecados de otra empresa. Suena bien. Demasiado bien.

A finales de 2020, Daniela Amodei, entonces vinculada a Seguridad y Políticas en OpenAI, y Dario Amodei, vicepresidente de Investigación, decidieron marcharse. Unos meses después, en 2021, fundaron Anthropic. La explicación era clara: OpenAI avanzaba demasiado rápido, demasiado pendiente de la carrera comercial, demasiado poco atenta a los riesgos profundos de la IA. Ellos y ellas harían otra cosa. Una inteligencia artificial más prudente, más alineada, más responsable. Una IA con conciencia de sus propios peligros.

El relato funcionó. Y no solo funcionó en términos reputacionales. Funcionó también en el mercado. En 2026, Anthropic ha conseguido algo que parecía casi imposible hace muy poco: superar a OpenAI como referencia del sector. Su valoración ronda los 830.000 millones de euros en su última ronda de financiación privada. Dario Amodei, con 43 años, figura como director ejecutivo. Daniela Amodei ocupa la presidencia y gestiona la salida a bolsa de la compañía. La fortuna personal atribuida a Dario se sitúa en torno a 13.500 millones de euros.

Ahí está la primera contradicción. Una empresa que nació denunciando los peligros de una carrera descontrolada se ha convertido en una de las piezas más codiciadas de esa misma carrera. Anthropic forma parte de los MANGOS, el nuevo acrónimo que agrupa a Meta, Anthropic, Nvidia, Google, OpenAI y SpaceX como bloque llamado a dominar la inteligencia artificial. Es decir, ya no está fuera del problema. Está dentro. En el centro. Con inversores, valoración gigantesca, ambición bursátil y presión para crecer.

Y la presión importa. Mucho.

Porque el capitalismo no absorbe discursos éticos sin transformarlos. Puede vestirlos, financiarlos, repetirlos en conferencias, colocarlos en presentaciones y convertirlos en ventaja competitiva. Pero una compañía valorada en 830.000 millones de euros no vive solo de principios. Vive de contratos, clientes, escalabilidad, beneficios esperados y promesas de retorno. La seguridad, en ese punto, deja de ser solo una convicción técnica. También se vuelve marca.

Anthropic ha sabido ocupar ese espacio. Frente al vértigo de OpenAI, se presenta como la opción seria. Frente al ruido de Musk, como la opción responsable. Frente al dominio publicitario de Meta o Google, como la empresa enfocada en usos empresariales y modelos avanzados. Claude, su familia de sistemas, se ha convertido en referencia para compañías, programadores y programadoras, consultoras, departamentos legales, equipos de producto y estructuras corporativas que quieren integrar IA sin entregarse del todo al caos.

No hay que negar sus avances. Anthropic representa hoy una de las vanguardias técnicas de la inteligencia artificial. Su apuesta empresarial parece más consistente que la de otros actores. Su discurso sobre seguridad ha forzado debates necesarios en un sector acostumbrado a correr primero y pedir perdón después. Pero esa es solo una parte de la fotografía. La otra es más áspera: cuando una compañía privada se convierte en árbitro de lo que considera seguro, alineado o aceptable, la democracia queda mirando desde la grada.

No basta con que una IA sea “segura” según quienes la venden. La pregunta es segura para quién, bajo qué intereses y con qué control público.

SEGURIDAD PRIVADA, RIESGO PÚBLICO

El ascenso de Anthropic no ha pasado desapercibido para la Casa Blanca. Su éxito la ha colocado bajo vigilancia por una razón inquietante: la capacidad de sus inteligencias artificiales para explotar brechas informáticas. Dicho sin maquillaje: la misma tecnología que se presenta como herramienta productiva puede ayudar a detectar vulnerabilidades, automatizar ataques, escribir código ofensivo, acelerar intrusiones o aumentar el nivel de amenaza en ciberseguridad. No porque Anthropic sea una empresa “malvada” en el sentido de caricatura. Porque el poder técnico tiene usos múltiples. Y cuanto más potente es, más difícil resulta contenerlo dentro del folleto comercial.

El caso de Fable, el modelo cuyo uso ha sido vetado a ciudadanos extranjeros, marca un punto de inflexión. No hablamos de una aplicación menor ni de una función polémica escondida en un menú. Hablamos del primer sistema de la historia con restricciones de acceso de ese tipo por su potencial sensibilidad. Es una señal política enorme. La inteligencia artificial ya no se trata solo como producto. Se trata como capacidad estratégica.

Ahí Anthropic revela la tensión central de los MANGOS. Estas empresas dicen construir herramientas para empresas, usuarios y usuarias, administraciones, educación, ciencia o productividad. Pero sus sistemas se aproximan cada vez más a infraestructuras críticas de poder. Modelos que escriben código, interpretan datos, diseñan estrategias, analizan documentos, automatizan decisiones y pueden operar en sectores sensibles. Sanidad, justicia, banca, defensa, ciberseguridad, empleo. Todo entra en el perímetro.

La seguridad deja entonces de ser un problema interno de ingeniería. Pasa a ser una cuestión democrática. Y aquí el panorama es inquietante. Las compañías avanzan a velocidad de mercado. Los Estados reaccionan a velocidad de burocracia. La ciudadanía se entera tarde, a través de filtraciones, titulares o cambios de condiciones de uso. Las y los trabajadores descubren la IA cuando ya se les exige usarla. Las universidades la regulan después de que el alumnado la haya incorporado. Las administraciones contratan soluciones antes de comprender del todo sus dependencias. Siempre tarde. Siempre por detrás.

Anthropic, como OpenAI, Google o Meta, opera en ese vacío. Puede hablar de alineamiento, de pruebas de seguridad, de evaluación de riesgos, de límites de uso. Todo eso importa. Pero no sustituye al control público. No sustituye a una legislación robusta. No sustituye a auditorías independientes reales. No sustituye a la capacidad de las sociedades para decidir qué tecnologías se despliegan, dónde, para qué y con qué garantías.

Porque el problema no es solo que una IA pueda fallar. El problema es que funcione demasiado bien al servicio de intereses equivocados. Que aumente la productividad de empresas que luego destruyen empleo. Que mejore la capacidad de vigilancia de Estados y corporaciones. Que automatice decisiones opacas. Que reduzca profesiones enteras a supervisar máquinas. Que convierta el conocimiento en servicio privatizado. Que vuelva más barata la ciberdelincuencia. Que haga más eficiente la guerra. Que le ponga una capa amable a una concentración brutal de poder.

Anthropic nació diciendo que había que tomarse en serio estos riesgos. Bien. Entonces hay que tomarlos en serio de verdad. No solo cuando sirven para diferenciarse de OpenAI. No solo cuando atraen inversión de empresas que buscan una IA “más responsable”. No solo cuando ayudan a vender confianza a grandes clientes. Tomarlos en serio significa aceptar que una compañía privada no puede ser juez y parte en la definición de los límites de una tecnología que afectará a millones de personas.

El lenguaje del sector ayuda poco. Se habla de “alineamiento” como si fuera una cuestión técnica, cuando en realidad es profundamente política. Alinear una IA significa decidir con qué valores responde, qué bloquea, qué permite, qué prioriza, qué considera dañino, qué interpreta como neutral, qué fuentes privilegia, qué sesgos reproduce y a quién protege. Eso no puede quedar encerrado en manuales internos ni en comités diseñados por la propia empresa.

Daniela y Dario Amodei conocen mejor que nadie ese dilema. Su legitimidad pública procede de haber advertido sobre los peligros de la IA. Pero su poder económico procede de construir una de las empresas más avanzadas, valiosas y deseadas del sector. Esa doble posición es incómoda. Casi imposible. Ser bombero y vendedor de gasolina al mismo tiempo exige mucha retórica.

La salida a bolsa que gestiona Daniela Amodei puede consolidar a Anthropic como uno de los grandes actores de la década. También puede intensificar todas las presiones que ya deforman el sector: crecer más rápido, vender más, ampliar mercados, reducir cautelas, agradar a inversores, competir con OpenAI, no dejar espacio a Google, no perder la carrera frente a Meta. La bolsa no premia la prudencia ética. Premia expectativas de dominio.

Y esa es la cuestión de fondo. Anthropic puede ser menos irresponsable que otros actores. Puede tener mejores protocolos. Puede hacer investigación de seguridad más seria. Puede haber nacido de una crítica legítima. Nada de eso elimina el problema estructural: la inteligencia artificial más poderosa del mundo está quedando en manos de empresas privadas que compiten por valoraciones de cientos de miles de millones mientras los gobiernos intentan entender qué han creado.

No hace falta demonizar a Anthropic para exigir límites. Basta con mirar las cifras. Fundación en 2021. Valoración de 830.000 millones de euros. Liderazgo tecnológico en 2026. Un modelo, Fable, vetado a ciudadanos extranjeros. Vigilancia de la Casa Blanca por capacidades de explotación de brechas informáticas. Una salida a bolsa en marcha. Y una promesa permanente de seguridad que no puede ocultar la pregunta esencial: quién vigila a quienes dicen vigilarnos por nuestro bien.

La IA segura no puede depender de la buena conciencia de una empresa valorada como un Estado pequeño; si la seguridad es privada, el riesgo siempre acaba siendo público.