Claude: el chatbot que desafía al Pentágono y a ChatGPT

La inteligencia artificial (IA) es una de las tecnologías más disruptivas de la historia y está seguramente destinada a revolucionar la economía mundial y nuestra vida cotidiana. Si bien el término existe desde el año 1956, cuando fue utilizado por el científico gringo John McCarthy, su entrada en el lenguaje corriente data de noviembre de 2022, con la introducción comercial de ChatGPT, el chatbot, que es un robot de conversación o herramienta informática de preguntas-respuestas, de OpenAI. Esta es una aplicación utilizada diariamente por millones de personas para generar medios de todo tipo, responder preguntas o simplemente entablar conversaciones. Y el éxito de ChatGPT llevó a todos los gigantes informáticos a producir sus propias herramientas de este tipo de IA, llamada generativa o modelos de grandes lenguajes (LLM en inglés): Gemini por Google, Copilot pot Microsoft, etc.

OpenAI fue creada inicialmente como empresa de investigación sin ánimo de lucro, pero Sam Altman, su carismático consejero delegado, se reveló muy rápidamente como un hombre de negocios voraz e insaciable, y la transformó en un colector de gigantescos fondos de inversión. Así, prometió que, en un corto tiempo, se pasaría de la IA generativa al Santo Grial: la inteligencia artificial general (AGI, en su sigla en inglés), o sea, aquella capaz de rivalizar y vencer a la inteligencia humana. Y el paso a la AGI sería simplemente un problema de escala de las infraestructuras de cálculo y de almacenamiento de datos (data centers) necesarios para los entrenamientos de los algoritmos subyacentes a la IA. Las big tech se han lanzado entonces a una carrera desenfrenada de construcción de data centers y de centros de cálculo gigantescos. Pero de esta carrera ha resultado un solo ganador, desde el punto de vista económico: Nvidia, el fabricante de los circuitos de cálculo utilizados casi de manera monopolística en estas infraestructuras. En efecto, el éxito popular de los chatbots de IA no se ha acompañado por beneficios para su industria y las inversiones gigantescas están asociadas a perdidas enormes. Se habla inclusive del peligro de una burbuja financiera que arriesga de explotar en un corto plazo.

En noviembre de 2023, el Consejo de dirección de OpenAI despidió a Altman por “no ser suficientemente sincero” en la evolución que quería darle a la empresa, y abandonó así los objetivos iniciales. Sin embargo, la presión de inversores como Microsoft cambiaron totalmente la situación: el Consejo de dirección renunció y Altman regresó con poderes casi absolutos. Este cambio produjo un éxodo de varios de los científicos fundadores de OpenAI, que partieron para crear sus propias empresas, y les dieron mayor importancia a la seguridad de las aplicaciones y a la búsqueda del bien común. Los más importantes fueron los hermanos Daniela y Dario Amodei, que crearon Anthropic y lanzaron muy rápidamente la aplicación Claude. Dario, CEO de Anthropic, tiene un doctorado en biofísica que le proporcionó las bases de sus trabajos de investigación en redes neuronales artificiales y aprendizaje automático (machine learning). Fue Vicepresidente de investigación en OpenAI. Daniela, Presidenta de Anthropic, fue Vicepresidenta de seguridad y política en OpenAI. Su carrera ha estado orientada a las humanidades y la gestión, y ha hecho estudios de artes liberales y música.

Anthropic, desde un comienzo, se opuso a los objetivos demasiado comerciales que Altman quería para OpenAI y definió “una serie de valores, principios y carácter que deben guiar el comportamiento de Claude”. Estos principios fueron compilados en una “Constitución” redactada por la filósofa escocesa Amanda Askell, otra tránsfuga de OpenAI. Lo importante es que el documento no se limita a hacer una lista de los comportamientos que debe seguir Claude, sino que explica las razones detrás de cada comportamiento, de tal manera que pueda generalizar ante situaciones nuevas e imprevistas. La última versión de esta Constitución fue publicada el 22 de enero de 2026.

De acuerdo con Anthropic, todos los modelos de Claude deben tener cuatro propiedades, ordenadas por prioridad en caso de conflicto: 1) Seguridad amplia: no se puede ir en contra de los mecanismos humanos de supervisión. 2) Ética amplia: ser honesto, actuar según buenos valores y evitar acciones dañinas. 3) Cumplimiento de las directrices de Anthropic. 4) Genuinamente útil: beneficiar a sus operadores y usuarios.

Los principios éticos de Anthropic fueron puestos en una dura prueba con un reciente contrato de 200 millones de dólares firmado con el Departamento de la guerra (DoW) gringo (antiguo Departamento de la defensa), en plena guerra contra Irán: la dirección de Anthropic se negó a que Claude fuera usado para la vigilancia masiva doméstica, asociado a un software de Palantir, la oscura empresa de análisis de datos de Peter Thiele, y para el pilotaje de armas autónomas sin control humano. Ante esta negativa, los productos de Anthropic fueron considerados como “riesgo para la cadena de suministro” y prohibidos de todo contrato con el gobierno gringo. El 27 de febrero, Trump publicó un mensaje en su red social Truth, con su tradicional uso de mayúsculas: “¡LOS ESTADOS UNIDOS DE AMÉRICA NUNCA PERMITIRÁN QUE UNA EMPRESA DE IZQUIERDA RADICAL Y WOKE DICTE CÓMO NUESTRO GRAN EJÉRCITO LIBRA Y GANA LAS GUERRAS! Esa decisión le corresponde a TU COMANDANTE EN JEFE y a los magníficos líderes que nombro para dirigir nuestro Ejército.”

Ante esta situación, Sam Altman aprovechó la ocasión, ofreció sus servicios al DoW, y aseguró que sus servicios podían utilizarse para “todos los usos legales”. Y para que el alineamiento fuera aun más claro, Greg Brockman, el presidente de OpenAI, hizo una donación de 25 millones de dólares a Trump, y se convirtió en su principal donante (junto con su esposa, que donó la misma suma).

El remplazo de Anthropic por OpenAI ha generado un movimiento de boicot de usuarios, simbolizado por los hashtags #deleteChatGPT y #dontTrustSam, así como la dimisión de empleados importantes como Caitlin Kalinowski, jefa del departamento de robótica de OpenAI. Y el número de descargas de Claude ha aumentado sensiblemente en varios países, y ha superado a ChatGPT en el AppStore, por ejemplo.

Anthropic ha reaccionado con una demanda judicial hacia el gobierno gringo, la cual ha recibido el apoyo de importantes grupos industriales, así como una carta firmada por personajes de diferentes ámbitos, que incluyen por ejemplo a Michael Hayden, un antiguo director de la CIA, en la que se le pide al Congreso legislar sobre políticas claras en el uso de la IA en vigilancia doméstica y en sistemas de armas letales autónomas.

Pero, además de las diferencias éticas, ¿qué distingue a Anthropic de Open AI? Ambas compañías tienen valoraciones gigantescas: 380 mil millones de dólares para Anthropic, contra 840 para OpenAI. Técnicamente, Claude tiene mejores resultados que ChatGPT en generación de código y de texto, con tendencia a menos alucinaciones, aunque tiene menos funcionalidades multimedia (generación de imágenes, sonidos, etc). La escogencia inicial de Claude por el DoW se explica seguramente por sus mejores resultados. Finalmente, OpenAI ha anunciado la introducción próxima de publicidad en su versión gratuita, lo que Anthropic ha rechazado. En Colombia, Claude tiene tres planes: Gratuito, Estándar (20 dólares por mes) y Premium (100-200 dólares por mes). La versión gratuita es bastante generosa: vale la pena ensayarla antes de decidirse por una versión pagada. Un punto importante a favor de CharGPT es que su infraestructura en América Latina es mejor que la de Anthropic, lo cual puede resultar en una mayor velocidad de respuesta.

De cualquier manera, cualquiera que sea el chatbot utilizado, hay que tener en cuenta los elementos siguientes: la IA está todavía lejos del razonamiento, a pesar de las opiniones interesadas de sus propagandistas y agentes de marketing, deseosos de tranquilizar a los inversionistas; los errores (alucinaciones) no han sido eliminados completamente; los sesgos en las respuestas son inherentes a la metodología empleada, en la que el “aprendizaje” se hace consultando documentos y los resultados pueden cambiar y modificar esos documentos. En ese sentido es conveniente recordar el caso de Grok, el chatbot de X, que Elon Musk ha anunciado como alejado de la ideología woke e izquierdista que, según él, inunda los otros chatbots comerciales, que utilizan conocimientos académicos cercanos a la izquierda woke y que serán reemplazados por documentos propios. Otro sesgo habitual es el dar respuestas que reconfortan las creencias del usuario, con el fin de mantener su interés: como dice de manera radical Gary Marcus, gran experto crítico de la IA, “¿Quieres sentirte bien contigo mismo? Usa un chatbot. ¿Quieres descubrir la verdad? Busca en otra parte”. Y no hay que olvidar la recomendación ofrecida por el mismo Claude al final de todas sus respuestas: “Claude es una IA y puede cometer errores. Por favor, revisa las respuestas”.