EE. UU. y China crean una línea directa para incidentes graves de IA

En un discurso en Nueva York el martes por la noche, dedicado sobre todo a la soja, los aranceles y el comercio, el secretario del Tesoro de EE. UU., Scott Bessent, anunció algo nuevo: Washington y Pekín están estableciendo un canal directo para que cualquiera de los dos países pueda avisar con rapidez al otro de incidentes graves con sus modelos de IA más avanzados. Llega con un nuevo diálogo sobre lo que la administración llama superinteligencia y con el plan de intercambiar buenas prácticas para probar los modelos antes de lanzarlos. Para los dos países que construyen los sistemas de IA más capaces, es una forma de evitar que un incidente en un lado se convierta en un malentendido con el otro, una semana antes de que Donald Trump y Xi Jinping vuelvan a reunirse en Shenzhen.

Tres frases después de la soja

La mayor parte del discurso de Bessent, en la gala del 60.º aniversario del National Committee on U.S.-China Relations, trató de comercio. Citó un trato arancelario más favorable para 30.000 millones de dólares de bienes no sensibles en cada dirección, el compromiso de China de importar al menos 25 millones de toneladas métricas de soja estadounidense y 10 millones de toneladas de carbón en dos años, y una frase que quiso dejar clara con firmeza: el objetivo es «reducir riesgos, no desacoplarse».

Después habló de Henry Kissinger, que se reunió con Xi en Pekín en su último viaje, a los 100 años, y que había llegado a creer que la superinteligencia «podría representar una clase nueva de peligro estratégico». Por indicación del presidente Trump, dijo Bessent, Estados Unidos ha iniciado un nuevo diálogo con China sobre superinteligencia, «concebido para protegerse de riesgos compartidos y evitar un malentendido entre nuestros dos sistemas».

“También prevemos intercambiar buenas prácticas para evaluar y probar modelos avanzados antes de su lanzamiento, y para mantener el juicio humano firmemente al mando de esta tecnología.”— Scott Bessent

El tercer compromiso es el más concreto: «un canal directo para garantizar que cualquiera de las dos naciones pueda avisar con rapidez a la otra de incidentes graves relacionados con sus modelos de superinteligencia». ¿Por qué querrían dos rivales una línea directa para el software?

Una idea de 1963, rehecha para la era de la IA

La idea es más antigua que internet. En 1963, meses después de la crisis de los misiles de Cuba, Washington y Moscú instalaron un enlace directo para que sus líderes no tuvieran que depender de mensajes lentos e indirectos en plena crisis. La lógica sirve para la IA: si un modelo de vanguardia hace algo que sus creadores nunca pretendieron y los efectos cruzan una frontera, la peor respuesta es que el otro lado intente adivinar qué significa.

Los dos gobiernos llevan dos años avanzando hacia esto. Sus primeras conversaciones intergubernamentales sobre IA se celebraron en Ginebra en mayo de 2024, y en noviembre de ese año, en Lima, Joe Biden y Xi afirmaron que los humanos deben mantener el control de las decisiones sobre el uso de armas nucleares. El anuncio de Bessent pasa de los principios a la fontanería: una forma de actuar ante un incidente mientras todavía está ocurriendo.

La parte china habló en la misma cena. El embajador Xie Feng dijo que los esfuerzos conjuntos de los dos países son indispensables en asuntos que van desde los focos de tensión mundiales hasta la mejora de la gobernanza de la inteligencia artificial. Lo que ninguna de las dos partes ha detallado aún es cómo funcionará el canal en el día a día.

Shenzhen la semana que viene, después Miami

Bessent acompañará a Trump a Shenzhen la semana que viene, donde China acoge la reunión de líderes de la APEC el 18 y 19 de noviembre, y los dos presidentes se verán allí antes de un cuarto encuentro en Miami. Trump viajó a Pekín en mayo y Xi fue a Washington en septiembre. «Nunca antes nuestros líderes se habían reunido cara a cara tantas veces en un solo año», dijo Bessent.

Las preguntas abiertas son las prácticas: cuándo se abre el canal, quién responde en cada extremo y qué cuenta como incidente grave. Bessent no lo dijo, y fue franco en que la rivalidad no va a desaparecer. «No debemos hacernos ilusiones sobre las diferencias entre Estados Unidos y China», afirmó, y añadió que sus intereses no siempre coincidirán.

Esa franqueza es lo que hace útil la línea. Los laboratorios de los dos lados seguirán compitiendo; lo que cambia es que un fallo en un país ya no tiene que descifrarse a base de conjeturas en el otro, y que las pruebas que desarrolle un lado pueden influir en cómo revisa el otro sus modelos antes de lanzarlos.

Washington y Pekín seguirán compitiendo por construir la IA más potente. Ahora también construyen una línea para el momento en que esa IA los sorprenda.