Helen Toner, exconsejera de OpenAI: “Aunque la IA no avance más, su impacto ya es como el de internet”

Helen Toner lleva a sus 33 años (nacida en Melbourne, Australia) una larga y agitada relación con la IA. Su momento clave fue su entrada en la junta directiva de OpenAI en 2021, pero más bien por cómo fue su salida, poco después de votar a favor del despido de Sam Altman como presidente ejecutivo en noviembre de 2023. Toner declina en esta entrevista hablar de aquella experiencia en la empresa creadora de ChatGPT, pero ya ha contado su opinión: Altman no fue honesto con la junta, “nos enteramos de ChatGPT por Twitter”, dijo Toner. También, añadió, el directivo había creado una “atmósfera tóxica” en la compañía, según algunos de los ejecutivos.

Aquella batalla acabó con la reincorporación de Altman. Toner sigue ahora de cerca el desarrollo de la IA en defensa y en China, dos de sus especialidades, desde el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown (Washington, EE UU). Ha testificado ya en el Congreso sobre su visión del futuro de la IA, que explica en esta entrevista por videollamada.

Pregunta. ¿Por qué muchos s dan a la IA propiedades mágicas?

Respuesta. Diría que hay dos motivos. Uno, bastante obvio, es que hemos aprendido sobre la IA por la ciencia ficción, donde la IA suele ser infalible. A veces es buena, a veces mala, pero siempre tiene las respuestas correctas y lo puede todo. Su papel en la ficción es parecido al de hadas, dioses o seres sobrenaturales. Otro motivo es que debemos cambiar cómo pensamos sobre los ordenadores. Hasta ahora, cuando usamos tecnología, funcionaba bien y de forma predecible. Si una calculadora puede hacer una operación, la hace bien siempre, no se equivoca en la tercera cifra de una división larga. Pero estas IA no son así: no son deterministas, dan respuestas distintas, no siguen un algoritmo perfecto. Esto es nuevo y no estamos acostumbrados.

P. ¿Hasta dónde llegará la IA?

R. Hay gente que habla como si hubiese una meta clara: la inteligencia artificial general, que muchos definen como una IA tan buena como un humano. Pero la IA nunca tendrá las mismas habilidades que una persona. Ya hay cosas en las que la IA es mucho mejor que nosotros, y otras en las que es peor. Aunque logremos una IA tan buena como un humano, seguirá siendo diferente. No creo que jamás tengamos robots tan buenos como los humanos bailando salsa o swing improvisado con otra persona. No tiene sentido construir algo así. Pero sí tendremos sistemas muy poderosos, capaces de superar a los humanos en tareas estratégicas o intelectuales. Hablamos como si hubiera un destino claro, pero en realidad no sabemos cómo será el futuro.

P. ¿Cuál es su preocupación principal con la IA?

R. Tiene muchos sabores distintos. Los escenarios malos que me parecen más probables son los que van en la línea de que decidimos darle cada vez más autonomía a los sistemas de IA, y los integramos cada vez más en la sociedad. Ese sería el primer paso. El segundo podría ser muchas cosas distintas. Podría ser que las IA empiecen a cooperar entre ellas y acaben sacando a los humanos del control. Podría ser que vivamos en un mundo que parece agradable, pero que en el fondo no tiene sentido: pasamos el día viendo tiktoks, comiendo comida basura rica, pero sin llevar una vida significativa. O que un pequeño grupo de personas colabore con las IA, se queden con todo el poder y acabemos en un mundo totalitario.

P. ¿De verdad cree que eso puede pasar?

R. Creo que podría salir muy, muy mal. Y creo que hay un abanico mucho más amplio de cosas que pueden ir terriblemente mal que simplemente ‘todos morimos’. Puede que al final sí muramos todos, pero centrarte solo en ese escenario es pobre.

P. Ya estamos viendo estudios donde la IA es capaz de manipular. ¿Le preocupa?

R. Depende de lo que quiera convencerte. Una persuasión que me parece más realista es algo así como sectas basadas en IA, donde la gente crea que la IA es como su amiga, que vela por ellos y es una especie de sabio al que deben seguir. La historia de los cultos humanos dice que es bastante fácil fundar uno y que la gente haga cosas muy locas. Hasta ahora, suelen involucrar a un número pequeño de personas. Seguro que veremos sectas basadas en IA.

P. No parece banal crear una IA capaz de liderar una secta.

R. Será interesante. Como mínimo, muchas personas van a tener relaciones personales con sus IA. Eso ya está pasando.

P. ¿Cómo de avanzada está China en IA?

R. Depende de qué parte de la IA mires. En sistemas más avanzados, EE UU sigue por delante. Yo trabajo en temas de seguridad nacional y ahí creo que es más difícil de saber. Importará más cómo se aplica la IA dentro del ejército. Yo esperaría que EE UU esté haciéndolo mejor que China, pero no es fácil de saber, y es un tipo de problema distinto al de construir modelo más avanzados. Cuando hablamos de modelos frontera, también es difícil medir. No sé si diría que China está uno o dos años por detrás. El dato más reciente que tenemos es el lanzamiento del DeepSeek V3. DeepSeek sacó dos modelos, y mucha gente se entusiasmó con R1, el de razonamiento. Pero entre la gente que trabaja en IA, muchos piensan que el otro, el V3 es más impresionante. Lo sacaron en diciembre, y probablemente estaba entre seis y nueve meses por detrás del modelo equivalente en EE UU, y el de razonamiento unos tres o cuatro meses. Pero desde entonces, las compañías estadounidenses han seguido avanzando, y China todavía no ha respondido. Ahora mismo están entre seis y doce meses por detrás, pero esa brecha podría ampliarse con la entrada en vigor de los controles de exportación de chips.

P. ¿Cuánto miedo debemos tener con la IA militar?

R. La IA es un montón de cosas. Es normal que los ejércitos la usen. Todos los ejércitos tienen una parte istrativa enorme, con recursos humanos, finanzas, así que tiene todo el sentido del mundo que la usen como las empresas. También para analizar imágenes cuando tienes muchísimo más material del que los analistas humanos pueden revisar. Han intentado usarla también para lo que llaman “mantenimiento predictivo”: tienes un montón de helicópteros y quieres saber cuándo hacerles mantenimiento. Si puedes predecir mejor cuándo se va a estropear un motor o cuándo hay que cambiar una pieza.

P. ¿Y las armas autónomas?

R. Los debates sobre IA y ejército se centran demasiado en ese tema. Y es solo una parte pequeña. Centrarse solo en las armas autónomas no es lo más acertado. Me parece más importante que pongamos el foco en las leyes de guerra que ya existen, en el derecho internacional humanitario. ¿Se está diferenciando entre combatientes y civiles? ¿Se está respondiendo de forma proporcional a los ataques? Cuando imaginamos escenarios donde la IA y la guerra salen muy mal, muchas veces es porque, por ejemplo, se está atacando a civiles en vez de a combatientes. Y eso ya es ilegal según las leyes internacionales.

P. ¿El modelo de negocio de la IA será siempre por suscripción?

R. Creo que el dinero grande vendrá de las empresas, no del consumidor. Como es una tecnología que sirve para todo, no solo un chatbot divertido que la gente lleva en el bolsillo, será una herramienta muy potente para todo tipo de productividad económica e innovación. Así que me imagino que los ingresos por el lado empresarial serán muy grandes.

P. Si la IA no avanza más, ¿ya tiene capacidad de cambiar la economía?

R. Sí. Las tecnologías de propósito general, como la IA, tardan décadas en integrarse en la economía. Incluso si el desarrollo de la IA se detuviera, no sé si sería una transformación tan enorme como la que mucha gente predice, pero al menos sería tan grande como la de internet. La transición de no tener internet a tenerlo nos llevó décadas. Aunque paráramos ahora, todavía quedaría muchísimo trabajo por hacer para integrar la IA en la salud, educación, procesos empresariales, derecho, finanzas.

P. ¿Y ya hemos tocado techo en lo que la IA puede hacer?

R. No apostaría por eso. La historia de los últimos 15 años en IA no ha sido de grandes innovaciones que cambien por completo cómo se construye la IA, sino más bien mejoras pequeñas o medianas que se van acumulando y que, al juntarse, logran avances importantes. Ahora mismo tenemos estos grandes modelos de lenguaje, los chatbots, a los que ya nos hemos acostumbrado. Pero las empresas están empujando en dos direcciones principales. Una, los modelos de razonamiento: enseñarles a pensar paso a paso para que puedan resolver problemas más complejos. Y dos, los agentes: hacer cosas por ti, tomar decisiones y ser productivos. Vamos a ver avances muy grandes en esas áreas durante los próximos 25 años.

P. Es imposible de predecir en qué dirección.

R. La IA cambiará el funcionamiento de la economía política de la sociedad. Ahora mismo estamos en un momento inusual. Hay muchos países democráticos donde el pueblo tiene el control. Pero eso parece que se resquebraja. La IA reconfigurará el equilibrio de poder, por ejemplo, en el mercado laboral. ¿Cuánto poder tienen los trabajadores si hacen huelga? ¿Cuántos soldados hacen falta en un ejército si tienes ciertos tipos de IA? Presumiblemente, el poder laboral disminuirá con la IA. Aunque si conseguimos acabar en un mundo donde las personas tengan sus necesidades básicas cubiertas y tengan a la IA, podría ser un mundo maravilloso. Pero también me preocupa que la condición básica de la humanidad, durante la mayor parte de la historia, ha sido que manda quien tiene el poder. Y quienes no lo tienen, viven peor.