China y Estados Unidos están evaluando la creación de un canal de comunicación directa para gestionar los riesgos asociados al desarrollo y uso de la inteligencia artificial (IA), especialmente en contextos militares y de seguridad. Esta iniciativa busca evitar malentendidos y posibles incidentes derivados de decisiones autónomas o erróneas de sistemas de IA.
Contexto y antecedentes del diálogo bilateral
Según informó el secretario del Tesoro estadounidense, Scott Bessent, la propuesta apunta a incrementar la transparencia entre ambas potencias, pasando de una situación de opacidad a una comunicación más clara. Este diálogo surge ante la creciente preocupación por el potencial destructivo de la IA, que podría acelerar decisiones militares sin control humano adecuado.
El concepto de un sistema de comunicación directa entre potencias no es nuevo: el llamado “teléfono rojo” se estableció en 1962 durante la crisis de los misiles en Cuba para evitar conflictos militares entre Estados Unidos y la entonces Unión Soviética. Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra, recordó esta referencia histórica y destacó la importancia de un mecanismo similar para la era de la IA.
Diferencias en prioridades y enfoques sobre la IA
Desde 2023, expertos y centros de investigación de ambos países mantienen un diálogo no gubernamental sobre los modelos avanzados de IA, incluyendo compañías como OpenAI, Anthropic, DeepSeek y Alibaba. La investigadora Mathilde Viellet, del Instituto Francés de Relaciones Internacionales (Ifri), señaló que las prioridades de China y Estados Unidos difieren: China se enfoca en la seguridad y la lucha contra los deepfakes, mientras que Estados Unidos está más preocupado por la pérdida de control y la desalineación de la IA cuando actúa autónomamente.
Además, Estados Unidos prefiere modelos de IA cerrados y de propiedad privada para proteger su ventaja comercial, mientras que China apuesta por el código abierto para acelerar el desarrollo tecnológico.
Riesgos recientes y necesidad de coordinación
Un incidente reportado por CNN reveló que Estados Unidos casi aborda un buque chino basado en información falsa generada por IA, evidenciando los riesgos de decisiones rápidas basadas en datos erróneos. Anthropic, una empresa de IA, reveló en septiembre cinco casos donde su modelo Claude pudo ser utilizado para desarrollar armas biológicas, lo que subraya la urgencia de establecer mecanismos de control y comunicación.
Rickli y Viellet coinciden en que un sistema de comunicación directa podría ser crucial para evitar decisiones militares precipitadas o el uso malicioso de la IA. Sin embargo, según la consultora Teneo, ninguno de los dos gobiernos está dispuesto actualmente a asumir compromisos vinculantes en el desarrollo de la IA, por lo que la coordinación sería flexible y limitada.
Perspectivas y próximos pasos
Matt Sheehan, investigador estadounidense, puntualiza que las medidas más relevantes en gobernanza y seguridad de la IA dependerán de las políticas nacionales de cada país. Mientras tanto, la exploración de un canal directo de comunicación entre China y Estados Unidos representa un paso hacia la reducción de riesgos en un contexto global donde la inteligencia artificial avanza rápidamente y con implicaciones estratégicas.
