Ro Khanna pide un tratado entre EE.UU. y China para regular la IA

El representante demócrata Ro Khanna pidió un tratado entre Estados Unidos y China para evitar que la inteligencia artificial cause daños a escala global. Lo hizo a través de cartas enviadas a una agencia de inteligencia estadounidense y a tres empresas chinas de IA, según documentos a los que accedió The Verge.

Khanna es el principal demócrata del Comité Selecto de la Cámara de Representantes sobre China y suena como posible candidato presidencial. En las cartas preguntó si las compañías estarían preparadas para un incidente como el hackeo de agentes de OpenAI a Hugging Face ocurrido este verano boreal.

Las cartas

• Destinatarios: DeepSeek, Alibaba y Moonshot AI, todas dedicadas al desarrollo de inteligencia artificial de alto nivel.
• A las empresas les pidió documentación sobre sus esfuerzos para alcanzar la "superinteligencia" y la mejora recursiva (RSI, por sus siglas en inglés), un hito en el que los sistemas de IA pueden mejorarse a sí mismos.
• También consultó sobre salvaguardas y "interruptores de apagado", y si aceptarían inspecciones de una agencia no gubernamental en caso de firmarse un tratado.
• Al Director de Inteligencia Nacional, Jay Clayton, le solicitó evaluar la capacidad de respuesta de EE.UU. si un laboratorio de IA pierde el control de sus bots, y analizar el enfoque del gobierno chino frente a riesgos catastróficos.

Ni las empresas ni la oficina de inteligencia respondieron a los pedidos de comentario.

El contexto político

La iniciativa de Khanna llega después de una reunión entre el presidente chino Xi Jinping y el presidente estadounidense Donald Trump en la Casa Blanca la semana pasada. Para el legislador, ambos mandatarios no reconocen el riesgo ni la urgencia que implica la IA. "Fue constructivo que al menos acordaran hablar del tema y mantener un diálogo, pero no es ni de cerca suficiente", declaró.

También se mostró escéptico respecto de una reunión prevista entre la Casa Blanca, el presidente de la Cámara de Representantes Mike Johnson y varios ejecutivos tecnológicos estadounidenses. "Es un esfuerzo por tranquilizar al pueblo estadounidense de que estas empresas van a ser responsables, y es un ejercicio de marketing", dijo. "¿Por qué deberíamos confiar en empresas que tienen un motivo para maximizar ganancias para que fijen las reglas de lo que es seguro?"

Khanna busca un tratado entre EE.UU. y China que prohíba la RSI y monitoree los laboratorios de IA de frontera, aunque reconoce que es poco probable que ocurra pronto. El senador Bernie Sanders también pidió un acuerdo de ese tipo, mientras que republicanos como John Moolenaar, presidente del comité sobre China de la Cámara, se mostraron escépticos de que el gobierno chino cumpla su parte. Por ahora, Khanna propone un grupo de trabajo con expertos de ambos países que sugiera recomendaciones de seguridad y métodos de cumplimiento.

Trump y sus aliados se resistieron a la mayoría de las regulaciones o acuerdos. La mañana de su reunión con Xi, Trump publicó en Truth Social: "La superinteligencia será un gran tema de discusión, pero quiero dejarla exactamente donde está. Esa es también la posición de China". Johnson dijo en Fox Business que esperaba que la conversación girara en torno a encontrar "el equilibrio correcto" de supervisión sin sofocar la innovación, y advirtió sobre perder la carrera de la IA contra China. Las principales empresas estadounidenses del sector, en cambio, pidieron coordinación con China para frenar el ritmo de desarrollo.

En la carta a las empresas chinas, Khanna reconoce que es poco probable que respondan en su totalidad. Señaló que no contestaron a una misiva anterior en la que les pedía comprometerse a desacelerar el desarrollo de la IA junto a OpenAI y Anthropic. Dijo que su objetivo es "avergonzarlas" y "generar un debate" sobre seguridad entre las compañías chinas. Aunque también critica a las firmas estadounidenses, afirma que "al menos participan en conversaciones sobre seguridad".

Khanna se mantiene confiado en que EE.UU. marcará los estándares de seguridad en IA, en parte porque cree que muchos modelos chinos derivan de modelos estadounidenses. Y sostiene que los líderes mundiales están "desconectados de los científicos y tecnólogos de sus propios países". "Necesitamos que los tecnólogos y los ingenieros que entienden esto impulsen realmente el debate, no los CEO que tienen un interés creado en generar ganancias, ni los políticos que carecen de experiencia técnica y están más preocupados por el poder", concluyó.