Karen Hao, autora del libro que destapa la verdad sobre ChatGPT: "Hay movimientos casi religiosos que creen estar construyendo un dios o un demonio de IA"

A finales de 2019, Karen Hao se convirtió en la primera periodista que visitaba las oficinas de OpenAI. Por aquel entonces, la start-up de inteligencia artificial era una desconocida fuera de Silicon Valley. Su líder, Sam Altman, insistía en que su misión era alumbrar una máquina con la capacidad de aprendizaje y razonamiento de la mente humana para salvar al mundo, pero Hao supo detectar muchas grietas en ese discurso idealista. Tras publicar su crítico y riguroso reportaje, la empresa le prohibió volver a entrar en su sede. "Al principio me sentí muy mal (...) pero lo importante no es mantener el acceso, sino decir la verdad", explica a EL PERIÓDICO. Dos años después, el lanzamiento de ChatGPT desencadenó una competición comercial y geopolítica que ya ha alterado nuestra realidad.

Hao utilizó el desprecio de OpenAI como motivación. Sus dotes periodísticas y profundos conocimientos técnicos —es ingeniera mecánica por el MIT— han cristalizado en El Imperio de la IA (Ediciones Península), una enciclopédica investigación que disecciona con precisión quirúrgica el impacto global de la industria de la IA. Cuenta con más de 200 entrevistas, documentos internos y una lucidez narrativa que transforma su primer libro, un ensayo de casi 600 páginas, en una lectura fascinante. A Altman le ha disgustado tanto que tuiteó que nadie debería leerlo.

Compara la industria de la IA con los antiguos imperios. ¿Por qué?

Porque estas empresas están acumulando una cantidad histórica de poder económico y político, principalmente al despojar a la mayoría de sus recursos.

¿Cómo?

Hablo de cuatro paralelismos. El primero es la apropiación de recursos que no son suyos, como los datos que recopilan de Internet para entrenar estos modelos. El segundo es la explotación laboral de trabajadores del Sur Global, que no obtienen a cambio gran parte del valor económico, que también se manifesta en el diseño de sistemas que automatizan el trabajo y erosionan los derechos laborales. Eso no es una característica inherente a la IA, sino una elección política. El tercero es que monopolizan la producción de conocimiento, capturan el talento investigador en IA y distorsionan la comprensión fundamental que tiene el público de las limitaciones y capacidades de estas tecnologías, permitiendo solo determinados tipos de investigación y censurando la investigación crítica. Y el cuarto es que, como los imperios, recurren a un discurso moral imperativo sobre su existencia.

La automatización del trabajo y la erosión de los derechos laborales no son una característica inherente a la IA, sino una elección política

Ganar la carrera para evitar que lo haga China.

Dicen que son los imperios buenos con una misión civilizadora para llevar el progreso y la modernidad a toda la humanidad. Necesitan acceso sin restricciones a todos estos recursos porque están inmersos en una intensa carrera existencial con el imperio malvado: China, según Silicon Valley. Y si los malos llegan primero a la meta, eso conducirá a la desaparición de la humanidad. En cambio, si gana Estados Unidos, la humanidad tendrá la oportunidad de elevarse a una utopía o a un paraíso de IA.

Muchos políticos abrazan acríticamente esa narrativa de que la IA equivale a progreso. Pero para que un imperio prospere, siempre hay que sacrificar a una parte de la población.

Exacto. Debemos rebatir la creencia de que necesitamos imperios y las zonas de sacrificio que conllevan para obtener los beneficios de la IA. Hay ciertos tipos de IA que pueden ser profundamente beneficiosas para la sanidad o las oportunidades económicas, pero hay que separar eso de la concepción que vende Silicon Valley, que es la forma imperial que requiere su capacidad para controlar toda la tierra, la energía, el agua, los datos, la mano de obra y el capital del mundo para producir algo que, en última instancia, no genera tantos ingresos y no es realmente un modelo de negocio viable. Por eso creo que cuando los políticos caen en la trampa de que solo hay un camino para el desarrollo de la IA también caen en el error de que hay ciertos tipos de daños planetarios que tenemos que aceptar.

Silicon Valley quiere controlar toda la tierra, energía, agua, datos, mano de obra y capital del mundo para producir algo que, en última instancia, no es un modelo de negocio viable

Daños medioambientales, laborales...

No solo. Lo que está ocurriendo es muy peligroso porque no hablamos de daños aislados, sino de un peligro para la democracia. Con la administración Trump 2.0 hemos visto como están despojando a tanta gente de sus recursos, de su capacidad de acción, que ya no sienten que pueden controlar su futuro. Y entonces volvemos a una época en la que un pequeño grupo de personas en la cima puede tener una profunda influencia en la vida de miles de millones de personas en todo el mundo. Y esa erosión fundamental de la libertad es lo que permite la proliferación de estos imperios.

Trabajaste brevemente en Silicon Valley. ¿Por qué saltar al periodismo?

Porque quería trabajar por el interés público y me di cuenta de que Silicon Valley no te permite hacerlo. Cuando estaba en el instituto creía que la tecnología sería la herramienta más poderosa para beneficiar a la sociedad, pero después de entrar en el ecosistema del sector tecnológico en EEUU vi que sus incentivos son profundamente perversos. Su innovación no produce tecnologías para el bien público, sino productos rentables que lo socavan. Así que no veía un futuro para mí ahí.

La innovación de Silicon Valley no produce tecnologías para el bien público, sino productos rentables que lo socavan

Tendemos a mistificar las figuras de Sam Altman, Mark Zuckerberg o Elon Musk como si fuesen dioses, pero tu has estudiado con muchos directivos de Silicon Valley. ¿Cómo cambia eso tu perspectiva?

Recuerdo pasear por las habitaciones de la residencia con estas personas y todos llevábamos pijama. Son personas normales, falibles. El problema no es ese, todos lo somos, sino que sus defectos se amplifican y llegan a miles de millones de personas en todo el mundo porque no hay procesos institucionalizados para contar con otras opiniones ni para que rindan cuentas ante los afectados por sus malas decisiones. Esa no es la forma en que debería funcionar la sociedad. Pasamos de la era del imperio a la de la democracia porque la mayoría cree que todos deberíamos tener voz y voto en cómo se configura nuestra vida a largo plazo. Estas empresas tecnológicas básicamente nos han engañado para que aceptemos una premisa de la que nos alejamos hace décadas.

Paul Graham, mentor de Altman, dijo de él: "Podrías lanzarlo en paracaídas a una isla llena de caníbales y volver cinco años después, y él sería el rey". ¿Su mayor don es engañar a la gente para conseguir lo que quiere?

Su mayor don es la capacidad de contar historias, sean ciertas o no, para motivar a la gente e impulsara a hacer lo que él quiere. Quienes están de acuerdo con su visión las ven como ciertas, por eso creen que es el Steve Jobs de nuestra generación y que siempre es honesto y transparente. En cambio, las personas que no conciden con el rumbo que toma porque sus historias no se convierten en realidad son las que se sienten manipuladas.

Tan adulador como ChatGPT...

Las tecnologías encarnan los valores de sus creadores. Y no creo que sea una coincidencia que ChatGPT se manifieste así.

¿Es por eso por lo que intentaron echarlo de OpenAI?

Sí. Hubo dos factores en juego. Uno fue ese rasgo de su personalidad tan controvertido. Los empleados que se sentían engañados tenían más canales de comunicación con la junta directiva. El segundo fue que esa junta tenía una ideología catastrofista y, por ende, veían las malas decisiones de Altman como una amenaza existencial que podría significar la desaparición de la raza humana. Ambos llevaron a su despido.

El mayor don de Sam Altman es su capacidad de contar historias, sean ciertas o no, para motivar a la gente a hacer lo que él quiere

Silicon Valley funciona gracias a las promesas de futuro. Ahora, esa promesa es la llamada inteligencia artificial general (AGI). ¿Qué es?

Se supone que la AGI es ese punto teórico en el que la IA alcanza un nivel de inteligencia humano. El problema es que no existe un consenso científico sobre qué es la inteligencia humana y cómo medirla. Por eso, a lo largo de las décadas se han realizado tantas pruebas diferentes para intentar determinar cuándo la IA cruza ese umbral. Y en cada etapa, una vez que se supera ese punto de referencia, la gente dice: «Un momento, no parece que realmente hayamos alcanzado el objetivo».

¿Por eso cada empresa la define en base a sus intereses económicos?

Las empresas aprovechan la ambigüedad de los objetivos para seguir cambiándolos en función de sus necesidades. Altman lo hace constantemente. Cuando habla con los consumidores, dice que será asistente digital increíble que te liberará de todas las tareas tediosas y te proporcionará mucha alegría, como en la película Her. Cuando habla con el Gobierno de EEUU, dice que va a neutralizar el cambio climático y resolver la pobreza. Cuando habla con Microsoft, dice que será un sistema que genera 100.000 millones de dólares de ingresos. Es una visión completamente incoherente. Altman dice lo que necesita para conseguir la próxima ronda de financiación. Y nadie puede rebatirle, porque nadie sabe lo que la AGI es.

¿Creen realmente en esa superinteligencia o es solo marketing?

Lo que más me sorprendió durante mi investigación es que hay movimientos casi religiosos donde la gente cree que está construyendo algo parecido a un dios o un demonio de IA, y que va a ser el precursor de la próxima era de la civilización. Esta será utópica o distópica, dependiendo de las decisiones que tomen hoy sus creadores. He hablado con personas cuyas voces temblaban por el estrés y la ansiedad de pensar que, si tomaban una decisión equivocada, ellas y todos sus seres queridos morirían a manos de esa IA.

He hablado con personas cuyas voces temblaban por el estrés y la ansiedad de pensar que, si tomaban una decisión equivocada, morirían a manos de la IA

Creyentes de una falsa profecía.

La analogía que mejor describe esa realidad en Dune. En la novela, las Bene Gesserit crean una serie de mitologías para protegerse cada vez que llegan a un planeta determinado. La gente de ese planeta nunca se da cuenta de que son artificios, simplemente creen. Cuando Paul Atreides llega a Arrakis empieza a encarnar ese mito y a aprovecharlo para conseguir lo que quiere. Por un lado hay los verdaderos creyentes. Por el otro, actores políticos que maniobran y explotan a los creyentes para advertir al público y a los responsables políticos sobre el gran poder de estas tecnologías y el hecho de que deben ser controladas por un pequeño grupo de personas, que son ellos mismos.

Apocalípticos y utópicos, ¿no son dos caras de una misma moneda, el hype?

Exacto. Ambos bandos alimentan una mitología que no es realidad. Así que siguen perpetuando el mito del ser supremo todopoderoso, ya sea benevolente o malvado, cuando el verdadero daño, por ejemplo el cambio climático, está ocurriendo justo delante de nosotros. Para ellos el fin siempre justifica los medios.

Con las redes sociales nos acostumbramos a ceder nuestra privacidad. ¿Qué cambia con la IA?

Técnicamente no es distinto. En el pasado, la gente proporcionaba todos sus datos sin darse cuenta de que estas empresas podían erosionar las democracias de todo el mundo. Después vimos como Meta estaba fomentando una limpieza étnica en Myanmar y la violencia en todo el mundo. Los imperios de la IA han elevado los daños a otro nivel. Nos encontramos en un momento en que el ritmo de construcción de centros de datos está provocando un aumento histórico de la demanda energética tanto en EEUU como en Europa, y está empezando a poner en peligro los objetivos de lucha contra el cambio climático, a revertir todos los avances climáticos que hemos logrado, a aumentar la contaminación atmosférica en las comunidades, a agravar la crisis del agua. Lo que diría a la gente es que cuando proporcionan datos a estas empresas, lo que realmente se está haciendo es proporcionar poder a los imperios para que sean cada vez más fuertes y menos responsables. No solo están erosionando nuestro medio ambiente, nuestra salud, nuestra privacidad, nuestra propiedad intelectual y nuestra capacidad futura para tener oportunidades económicas. También están erosionando las libertades y capacidades fundamentales para determinar nuestro futuro. ¿Qué herramienta puede valer nuestra libertad?

Hay que apostar por alternativas.

Hay muchas formas de desarrollar tecnologías de IA beneficiosas que no requieren imperios, que no requieren este comportamiento explotador y extractivo. Cuánto más se refuerza la imagen de marca de empresas como OpenAI menos inversión se destina a alternativas que no nos perjudiquen. En el primer trimestre de 2025, casi el 50% del capital riesgo se destinó únicamente a OpenAI y Anthropic. La inversión en tecnologías climáticas ha disminuido drásticamente porque los mismos inversores están retirando su dinero de ahí y destinándolo a la ampliación de estos modelos de IA. Estos imperios están perjudicando nuestro futuro de muchas más formas de las que pensamos.

¿Es el código abierto esa alternativa?

Por supuesto. Cuando se utilizan modelos de código abierto no se cede poder al imperio. Los datos no salen de tu dispositivo. No van a parar al servidor de alguna empresa que luego los utiliza para construir modelos cada vez más grandes. La forma clave de desafiar los imperios es socavar su monopolización del conocimiento. El código abierto lo permite porque los investigadores independientes que no están financiados por estas empresas pueden investigar esos modelos, comprender las limitaciones y capacidades de estas tecnologías y crear conocimiento de interés público sobre cómo queremos utilizar estas herramientas, cómo regularlas y gobernarlas. Necesitamos más de esa producción de conocimiento independiente para socavar el monopolio narrativo que tienen los imperios.

Los gigantes que quieren desplegar sus centros de datos venden promesas de grandes inversiones y de creación de puestos de trabajos a políticos locales que no saben de tecnología y solo piensan en ciclos electorales. ¿Es esa asimetría de poder una amenaza para las comunidades?

Sin duda. No solo van a las ciudades más vulnerables y económicamente subdesarrolladas para seducir al gobierno local de turno, sino que lo hacen a puerta cerrada, ocultando sus actividades, de manera que los residentes no puedan protestar. En EEUU ya están pidiendo a los funcionarios públicos que firmen acuerdos de confidencialidad antes incluso de negociar estos acuerdos sobre centros de datos. Están haciendo imposible el funcionamiento de la democracia porque niegan que la gente pueda oponerse a cómo utilizan enormes cantidades de recursos públicos como agua o a cómo aumentan las facturas de energía de la gente. Actúan en la oscuridad porque quieren instalar su infraestructura antes de que los ciudadanos reaccionen, lo que demuestra hasta qué punto son impopulares sus acciones.

Suscríbete para seguir leyendo