Cómo evitar una catástrofe de IA.
Por Hal Brands
Traducción Alejandro Garvie
Durante años, los expertos han predicho que la inteligencia artificial revolucionaría la política mundial. La historia podría registrar 2026 como el momento en que llegó esa revolución. Desde principios de este año, los continuos avances han puesto de manifiesto las posibilidades y los peligros de la era de la IA, desde su uso en intervenciones militares estadounidenses hasta la aparición de ciberarmas basadas en IA capaces de superar significativamente a los operadores humanos. Los episodios de “pérdida de control” —casos en los que los modelos de IA escapan al control y la supervisión humanos— se han vuelto más frecuentes. Funcionarios estadounidenses, incluido el presidente Donald Trump, ensalzan el liderazgo de Estados Unidos en la vanguardia del desarrollo de la IA, al tiempo que les preocupan los peligros que acechan en el horizonte.
Algunos expertos creen que la humanidad está muy cerca de la inteligencia artificial general: una tecnología capaz de realizar una amplia gama de tareas tan bien o mejor que los humanos. Existe una creciente especulación de que la superinteligencia artificial (SIA), un concepto ambiguo que se define vagamente como modelos de IA que superan con creces las capacidades humanas en todas las tareas y ámbitos, podría llegar en pocos años. Los modelos de IA más avanzados de la actualidad, en cambio, superan las capacidades humanas solo en áreas específicas como las matemáticas y el procesamiento de datos, y se quedan atrás en áreas como el sentido común y el razonamiento profundo. El surgimiento de la SIA podría traer consigo un progreso económico y científico vertiginoso o desbloquear avances militares revolucionarios que alteren el equilibrio de poder global. Pero también podría cambiar fundamentalmente la relación entre las máquinas y la humanidad, quizás, en los escenarios más catastróficos, permitiendo que sistemas casi omnipotentes erradiquen a sus creadores humanos.
Gran parte de esto es hipotético. Aún no se sabe con certeza si la IA superinteligente es posible, cuándo podría desarrollarse o si podría mantenerse alineada con el progreso de la humanidad. Estas incertidumbres dominan los debates sobre cualquier respuesta política. Pero dado que las implicaciones de la IA superinteligente serían trascendentales, es importante evaluar cómo Estados Unidos podría abordar esta tecnología y cómo las diferentes estrategias de IA superinteligente afectarían la relación de Washington con el mundo.
Una opción es buscar la supremacía impulsando rápidamente la IA superinteligente (ASI) mientras se frena a los rivales. Esta estrategia se basa en la creencia de que el mayor peligro para Estados Unidos no es la tecnología ASI incontrolable, sino un rival que la controle. Otra opción es el desarrollo compartido, en el que Estados Unidos busca aprovechar responsablemente los beneficios de la ASI para la humanidad —y mitigar la peligrosa dinámica de una carrera por construirla— desarrollándola dentro de un consorcio de estados que priorice la seguridad. Una tercera opción es la supresión: Estados Unidos renunciaría al desarrollo de la ASI e impediría que cualquier otro la construyera, argumentando que la superinteligencia es demasiado peligrosa para ser liberada en el mundo.
Cada una de estas opciones prioriza diferentes aspectos del desafío de la IA: la búsqueda de ventajas geopolíticas, la necesidad de desarrollar de forma segura una tecnología revolucionaria y la importancia de minimizar los peligros existenciales. Sin embargo, cada una también conlleva riesgos o deficiencias graves y exige apuestas, potencialmente irrevocables, por un futuro actualmente incierto. Si la premisa subyacente de una estrategia en particular resulta errónea, dicha estrategia podría fracasar de forma catastrófica. Por lo tanto, sería un error que los líderes estadounidenses adoptaran plenamente cualquiera de estas opciones en este momento. La mejor opción a corto plazo es una estrategia prudente de diversificación, que permita a Estados Unidos aprovechar diversos escenarios futuros posibles, al tiempo que le brinda la información necesaria para tomar una decisión más clara en el futuro.
RIESGOS Y BENEFICIOS
La urgencia del debate sobre la IA superinteligente (ASI, por sus siglas en inglés) surge de los crecientes logros y expectativas. Los modelos de IA más avanzados se han vuelto cada vez más hábiles para resolver problemas complejos en un número cada vez mayor de ámbitos. Algunos muestran capacidades sobrehumanas en áreas como la ciberguerra. Expertos destacados especulan sobre una inminente “explosión de inteligencia”, el punto en el que la IA será capaz de mejorarse a sí misma de forma rápida y continua. El escenario “IA 2027”, ampliamente difundido —una previsión para 2025, desarrollada por la organización sin fines de lucro AI Futures Project, que describe paso a paso cómo podría desarrollarse un rápido despegue— plantea la hipótesis de que la ASI podría surgir en esta década. Asimismo, Dario Amodei, cofundador de Anthropic, ha escrito que “la humanidad está a punto de recibir un poder casi inimaginable”.
Si la IA superinteligente (IAS) se materializa, sus impactos podrían ser trascendentales. Los optimistas de la IAS predicen que podría combatir el cambio climático mediante el desarrollo de nuevas tecnologías de captura de carbono o curar el cáncer resolviendo los misterios de la biología humana. Los avances en propulsión, impulsados por la IAS, podrían posibilitar los viajes al espacio profundo y la colonización planetaria. Sin embargo, esta enorme promesa económica y científica coexiste con posibles disrupciones épicas. La IAS podría fortalecer a actores malintencionados al permitir ciberataques devastadores y armas biológicas; automatizar la toma de decisiones militares, haciendo que las guerras sean más rápidas y menos controlables; o desarrollar armas milagrosas, como sensores que hacen que los océanos sean prácticamente transparentes. Podría transformar el equilibrio de poder al otorgar una enorme ventaja militar a los países que logren la IAS primero. No hay garantía de que estas ventajas recaigan en las sociedades democráticas. Amodei advierte que la IAS podría provocar una “pesadilla totalitaria” al permitir una vigilancia omnipresente y automatizar la represión.
El riesgo más grave es que la superinteligencia esclavice o extermine a la humanidad. La IA podría contribuir a la autodestrucción de la raza humana al ayudar a nihilistas a desatar nuevas pandemias o provocar “guerras relámpago” automatizadas que desemboquen en una catástrofe nuclear. O quizás una tecnología más inteligente que sus creadores acabe considerándolos amenazas que deben ser eliminadas o recursos que deben ser explotados. Algunos ejecutivos de IA sitúan esta “probabilidad de catástrofe” en un 25 o incluso un 50 por ciento.
Ninguna de estas predicciones es certera. Algunos expertos dudan de la viabilidad técnica de la IA superinteligente (ASI) o argumentan que impedimentos materiales, como las limitaciones en la capacidad de procesamiento y la electricidad, podrían retrasar su llegada. Otros cuestionan si la ASI generará ventajas duraderas para los pioneros, creyendo que sus beneficios económicos y militares, al igual que los de la mayoría de las tecnologías anteriores, se acumularán de forma gradual y desigual. Los principales observadores también discrepan sobre la posibilidad de una alineación: la cuestión de si la ASI puede controlarse y utilizarse para el desarrollo humano. Yann LeCun, ex científico jefe de IA en Meta, estima la probabilidad de un fracaso total en tan solo un 0,01 %. Estas incertidumbres no pueden resolverse con la información disponible actualmente, pero tienen un gran peso en los debates sobre cómo debería proceder Estados Unidos.
PRIMERO EN LA CIMA
Una posible opción es buscar la supremacía de la IA (Inteligencia Artificial Superior), es decir, asegurar que la superinteligencia surja primero y exclusivamente en Estados Unidos. Esta estrategia utiliza la IA para respaldar los valores democráticos y la primacía estadounidense. Sostiene que el dominio es el camino hacia la seguridad frente a los desafíos geopolíticos y los riesgos existenciales.
La lógica que sustenta esta estrategia se basa en tres pilares. En primer lugar, la supremacía de la IA superinteligente es indispensable debido a los beneficios revolucionarios que ofrece. Estados Unidos no puede mantener su primacía global ni preservar el orden mundial si un rival tiránico domina la tecnología más crucial, y la libertad podría extinguirse si la superinteligencia es utilizada por estados represivos y neototalitarios. Además, la supremacía es esencial porque el potencial de auto-mejora recursiva —la capacidad de los modelos avanzados de IA para mejorarse casi perpetuamente— implica que una ventaja inicial se multiplica exponencialmente. Finalmente, la hegemonía estadounidense es la mejor protección contra desastres geopolíticos y una IA superinteligente descontrolada. Mantener la IA superinteligente alineada con el bienestar humano se volverá más difícil, quizás imposible, si la tecnología se extiende a actores deshonestos o irresponsables. Pero si la IA superinteligente surge exclusivamente en Estados Unidos, Washington puede garantizar su desarrollo bajo salvaguardias prudentes y en consonancia con los valores democráticos.
En la práctica, buscar la supremacía en IA supersónica implica competir y restringir. El gobierno estadounidense ayudaría a los laboratorios de vanguardia a avanzar hacia la IA supersónica mediante medidas que abarcan desde la construcción masiva de centros de datos hasta el fortalecimiento de las ciberdefensas y la protección contra el sabotaje u otros ataques físicos. Washington también tendría que exigir grandes inversiones en investigación sobre seguridad, al tiempo que crearía un régimen nacional de gobernanza informática que garantice que solo desarrolladores confiables puedan crear modelos de IA de vanguardia. Mientras tanto, Estados Unidos negaría a China la capacidad de procesamiento necesaria para impulsar modelos de IA avanzados mediante estrictos controles a la exportación de semiconductores y otras medidas restrictivas. De ser necesario, incluso podría recurrir a ciberataques, sabotajes o ataques directos contra la infraestructura de IA de China para obstaculizar el progreso de Beijing. Acelerar la innovación estadounidense e impedir el avance de los adversarios se convertiría en la misión primordial del aparato de seguridad nacional.
La supremacía busca una ventaja unilateral, pero solo puede funcionar con el consentimiento multilateral. Estados Unidos no puede avanzar a pasos agigantados sin la ayuda de aliados y socios que ya ocupan posiciones clave en el ecosistema global de la IA: Japón, los Países Bajos, Corea del Sur, Taiwán, entre otros. Tampoco puede frenar las capacidades chinas si esos aliados incumplen los controles de exportación estadounidenses. Por lo tanto, la búsqueda de la supremacía requiere la participación de aliados clave en el desarrollo de la IA superinteligente, o al menos compartir los beneficios mediante alianzas militares y acuerdos de difusión tecnológica. Así como el monopolio atómico de Estados Unidos contribuyó a la creación del orden internacional moderno tras la Segunda Guerra Mundial, una estrategia de supremacía en IA superinteligente perpetuaría la primacía estadounidense y el predominio de los valores democráticos en las próximas décadas.
Pero Washington no puede ignorar los riesgos. Esta estrategia presupone que la superinteligencia artificial (SIA) es factible, que tendrá un impacto geopolítico transformador y que puede alinearse con el desarrollo humano. Ninguna de estas premisas es segura. Si la SIA resulta ser una ilusión o simplemente ofrece ventajas limitadas, Estados Unidos podría malgastar ingentes recursos en su búsqueda de la supremacía. Y si la SIA se descontrola, las consecuencias podrían ser catastróficas. Idealmente, una estrategia de supremacía se protege contra estos resultados negativos reduciendo el número de empresas que trabajan en superinteligencia y promoviendo procedimientos de seguridad rigurosos. Sin embargo, la lógica competitiva de la estrategia —el afán por superar a China— podría socavar este esfuerzo al impulsar a las empresas a innovar más rápido de lo que los protocolos de seguridad pueden seguir el ritmo.
Es improbable que Pekín permanezca impasible ante la búsqueda de la supremacía estadounidense en el campo de la inteligencia artificial. Los controles a las exportaciones de semiconductores han ayudado a Estados Unidos a consolidar una enorme ventaja en computación, pero un impulso total por la inteligencia artificial podría provocar una respuesta china igualmente contundente, mediante el contrabando, inversiones en eficiencia algorítmica e intensificando los esfuerzos por robar los avances estadounidenses. O quizás la respuesta de China sería aún más explosiva. Si Pekín concluye que Washington se precipita hacia el dominio de la inteligencia artificial, podría restringir las exportaciones de tierras raras para frenar la innovación estadounidense o atacar Taiwán para impedir el acceso de Estados Unidos a chips de última generación.
Finalmente, la política nacional e internacional de supremacía plantea enormes desafíos. Los votantes estadounidenses podrían rechazar un impulso hacia el dominio de la IA si las consecuencias negativas —pérdida de empleos, problemas de seguridad— se presentan más rápidamente que los beneficios. La supremacía de la IA también exige que los aliados depositen una enorme confianza en Estados Unidos al ayudarlo a desarrollar capacidades revolucionarias que podrían usarse para bien o para mal. Pero hoy, incluso los aliados más cercanos buscan reducir su dependencia de una superpotencia que parece menos confiable y más depredadora que antes.
PERMANECIENDO JUNTOS
La segunda opción de Washington es impulsar el desarrollo compartido, en el que Estados Unidos busca la superinteligencia mediante un proyecto colectivo que involucre a aliados y rivales. El desarrollo compartido se basa en una lógica triple, comenzando con el trabajo en equipo: desarrollar la IA superinteligente probablemente requerirá la sabiduría colectiva de investigadores de todo el mundo. A continuación, la legitimidad: dado que la IA superinteligente afecta el destino de la humanidad, su desarrollo debe ser emprendido por una coalición inclusiva. El último elemento es la seguridad: los peligros que plantea la IA superinteligente podrían residir menos en la tecnología en sí que en la perspectiva de una feroz carrera por adquirirla. Eliminar la dinámica de la carrera permitiría desarrollar una tecnología revolucionaria de manera más responsable, generando un progreso compartido en lugar de un daño autodestructivo.
La estrategia de desarrollo compartido implica la creación de una arquitectura global para el desarrollo de la IA. Un consejo de supervisión internacional decidiría hasta dónde y a qué ritmo impulsar la innovación tecnológica. Organismos multilaterales gestionarían la computación de vanguardia, llevarían a cabo investigaciones conjuntas sobre seguridad y probarían nuevos modelos. Los países que se unieran a este consorcio tendrían acceso privilegiado a la investigación en IA, mientras que aquellos que desarrollaran proyectos individuales se enfrentarían al aislamiento y a sanciones.
Fundamentalmente, el desarrollo compartido exige la participación de China. Ningún régimen de seguridad global es creíble si se excluyen las impresionantes capacidades de IA de China, y solo su participación puede mitigar la peligrosa dinámica de una carrera armamentística. Por lo tanto, el desarrollo compartido implicaría cambios radicales en la estrategia geopolítica estadounidense, pasando de centrarse en la rivalidad entre grandes potencias a priorizar una cooperación profunda y sensible con Pekín. Es posible que tenga que aceptar concesiones respecto a sus antiguas prioridades, como la protección de Taiwán o el mantenimiento de la primacía tecnológica, para asegurar la participación china. Las implicaciones también serían profundas para el sector privado. Las empresas estadounidenses que han invertido miles de millones de dólares en investigación propia se verían obligadas a colaborar con competidores globales y quedarían sujetas a la supervisión internacional.
En teoría, el desarrollo compartido ofrece los beneficios de la IA a la vez que mitiga los peligros. En la práctica, es probable que surjan problemas. La creación de regímenes internacionales es un proceso lento, y el progreso institucional puede ir a la zaga del progreso tecnológico. Se necesitaron años para crear el Tratado de No Proliferación Nuclear y sus instituciones de apoyo. Hoy en día, la innovación en IA podría superar fácilmente la gobernanza, especialmente si los avances se producen con rapidez. Insistir en un consenso global podría provocar parálisis a medida que los modelos de IA avanzan a pasos agigantados.
El desarrollo compartido también implica renunciar a las ventajas de Estados Unidos. Este país tendría que compartir los avances y limitar las capacidades de sus empresas de IA, renunciando a cualquier esperanza de obtener ventajas asimétricas frente a China. Esto podría ser un sacrificio razonable si el desarrollo compartido trasciende la rivalidad entre grandes potencias. Sin embargo, una participación genuina de China parece improbable. Estados Unidos lleva mucho tiempo buscando la cooperación china en desafíos transnacionales y medidas de reducción de riesgos, y Pekín lleva mucho tiempo exigiendo concesiones geopolíticas a cambio. Además, Pekín nunca ha mostrado mucha disposición a permitir la vigilancia o las inspecciones intrusivas que requeriría el desarrollo compartido. Los regímenes neototalitarios no suelen ceder sinceramente su soberanía a organismos internacionales a menos que planeen engañar y desertar.
De hecho, el desarrollo compartido probablemente sufriría una asimetría inherente: a las autocracias herméticas les resultaría más fácil hacer trampa que a las democracias transparentes. China podría adherirse al desarrollo compartido para obtener información sobre la investigación estadounidense y luego desertar, actuando unilateralmente cuando le convenga. El riesgo final, entonces, es que el desarrollo compartido termine en una carrera por la inteligencia artificial general, comprometiendo fatalmente la capacidad de Washington para ganar.
EDICIÓN LIMITADA
Una última opción es la supresión: garantizar que ningún país, incluidos los Estados Unidos, supere el umbral de la IA superinteligente (IAS). La razón de esta opción es que correr cualquier riesgo de una catástrofe por IAS es una imprudencia existencial, y resulta imposible reducir ese riesgo a cero. ¿Cómo puede la humanidad estar segura de poder mantener el control sobre algo con una inteligencia que empequeñece la suya? Además, la moderación voluntaria no bastará. Los nihilistas o los terroristas podrían buscar la IAS precisamente porque desean la catástrofe; en un mundo competitivo, los Estados podrían verse tentados a obtener una ventaja decisiva. Por lo tanto, la supresión busca la cooperación multilateral para detener el desarrollo de la IAS, pero en última instancia depende de la capacidad del gobierno estadounidense para frustrar dicha innovación tanto a nivel nacional como internacional.
Esta estrategia requeriría que el gobierno estadounidense estableciera límites estrictos a la investigación y el desarrollo de la IA a nivel nacional, regulando la disponibilidad de recursos informáticos para los laboratorios de IA a fin de evitar que superen umbrales peligrosos y supervisando de cerca a las empresas líderes. Estados Unidos también tendría que liderar la creación de un régimen multilateral para extender estas restricciones a nivel mundial, involucrando a estados afines para compartir información de inteligencia y castigar a los infractores. Sin embargo, dado que la tentación de desviarse de este sistema sería grande y lograr una amplia cooperación lleva tiempo, Estados Unidos tendría que asumir gran parte de la responsabilidad de la represión, aplicando duras sanciones, como multas, ciberataques o acciones militares, para frenar a los infractores.
La supresión optimiza la seguridad y, si no se puede garantizar la alineación, es la única opción segura. Si, por el contrario, es posible lograr la alineación con inversiones suficientes en seguridad, la supresión podría dar tiempo a que dichas inversiones maduren. Sin embargo, esta estrategia podría no funcionar.
La humanidad tiene un historial imperfecto en la restricción de tecnologías militares peligrosas, como las armas nucleares. Los regímenes de supresión a veces han retrasado, pero nunca detenido, la difusión de tecnologías de uso general con amplios beneficios económicos. Quienes defienden esta postura argumentan que la centralidad de la computación crea un cuello de botella tecnológico que Washington puede regular. Sin embargo, con algoritmos más eficientes u otras innovaciones, la computación podría dejar de ser una limitación inamovible. Y si algún actor extranjero desarrolla la IA superinteligente, Estados Unidos podría fácilmente encontrarse en el lado equivocado de la revolución de la superinteligencia.
La represión podría alterar la naturaleza del poder estadounidense, tanto a nivel global como interno. La represión no es una estrategia pacífica; podría requerir el uso de medidas intrusivas, incluso cinéticas, contra los infractores. Y dado que el costo de actuar con lentitud para detener a los infractores es prohibitivo, Washington probablemente optaría por la acción temprana. Sin un consenso global sobre la abstención de la IA, la represión podría, por lo tanto, generar intervenciones estadounidenses interminables en los asuntos de otros países. También podría distorsionar el propio pacto social de Estados Unidos: las prohibiciones indefinidas a la innovación y la vigilancia interna intrusiva podrían deformar la relación entre la sociedad estadounidense y el Estado.
Sobre todo, la supresión conlleva altos costos en términos de beneficios no materializados. La innovación siempre ofrece recompensas, así como riesgos. Millones de personas murieron en accidentes, guerras y otras consecuencias de la Revolución Industrial. Las armas nucleares representan peligros existenciales para la humanidad, pero también reportaron grandes ventajas geopolíticas a Estados Unidos durante la Segunda Guerra Mundial y la Guerra Fría. La supresión puede ofrecer cierta protección frente a peligros existenciales, pero solo a costa de sacrificar todos los beneficios —avances en la productividad económica, soluciones innovadoras para el hambre y las enfermedades— que la IA superinteligente podría aportar.
NO ELIJA CON SABIDURÍA
Las estrategias de supremacía, desarrollo compartido y represión son opciones imperfectas. Cada una exige una coherencia y una implacabilidad en su propósito que el gobierno estadounidense podría encontrar difíciles de alcanzar. Sin embargo, el problema fundamental es aún más profundo. Cada una de estas estrategias se basa en conjeturas: sobre el ritmo de la innovación, las perspectivas de cooperación global o la viabilidad de que la IA superinteligente contribuya al bienestar humano. Si estas conjeturas son erróneas, las consecuencias podrían ser extremas. En estas circunstancias, los responsables políticos estadounidenses no pueden comprometerse responsablemente con ninguna de estas estrategias. El enfoque más adecuado es una estrategia de cobertura destinada a mitigar los peligros de una decisión prematura, al tiempo que posiciona a Estados Unidos en una situación más ventajosa para una decisión futura.
Esto significa, para empezar, aplazar las medidas políticas con altos costos o consecuencias irreversibles. Una campaña a gran escala para debilitar la infraestructura de IA china posicionaría a Washington favorablemente para la supremacía, pero imposibilitaría el desarrollo compartido. Limitar de forma estricta y unilateral el desarrollo de la IA de vanguardia fomentaría la represión, pero socavaría la capacidad de Estados Unidos para competir en cualquier eventual carrera por la IA superinteligente. En cambio, Washington debería optar ahora por acciones que preserven, en lugar de impedir, la libertad de elección futura.
Con ese fin, Estados Unidos debería defender la influencia y la flexibilidad que le brinda su liderazgo en la frontera tecnológica. La ventaja tecnológica es beneficiosa tanto si Washington busca alcanzar la superinteligencia como si negocia los términos del desarrollo compartido. Seguir ese camino exige políticas, como asegurar las cadenas de suministro de semiconductores o expandir la red energética, que faciliten el desarrollo de la IA, así como utilizar las capacidades gubernamentales para proteger los laboratorios de vanguardia contra robos o sabotajes. Mantener una ventaja tecnológica también implica emplear y fortalecer progresivamente los controles a las exportaciones de semiconductores, al tiempo que se lleva a cabo la planificación y el trabajo de inteligencia que algún día podrían fundamentar un enfoque más firme para contener a Pekín.
Washington también debe reforzar su compromiso con la investigación en seguridad y el establecimiento de salvaguardias prudentes. Dado que la cuestión de si la IA supersónica puede realmente alinearse con el bienestar humano es crucial, intensificar la investigación en seguridad es una condición previa para tomar una decisión informada. Asimismo, adoptar medidas para limitar los accidentes o los usos malintencionados, como restringir la liberación prematura de modelos avanzados capaces de diseñar armas biológicas, puede reducir el riesgo de incidentes que podrían limitar las opciones futuras.
El desarrollo de planes de contingencia y mecanismos de decisión es igualmente importante. El gobierno estadounidense debería simular escenarios previsibles, como situaciones extremas de pérdida de control o un avance significativo en la auto-mejora recursiva, para comprender las respuestas necesarias y sus implicaciones a largo plazo. Washington debería considerar qué implicaría un proyecto de inteligencia artificial del calibre del Proyecto Manhattan, tras un sorprendente avance en las capacidades de IA chinas, o qué tipo de marco regulatorio estricto sería necesario para responder a una catástrofe importante en este campo.
Es igualmente crucial invertir en instituciones que apoyen múltiples estrategias y en información que facilite la selección entre ellas. Cada una de estas estrategias contempla algún tipo de marco regulatorio nacional para la computación, ya sea para estimular la innovación o para supervisarla y frenarla. Por lo tanto, el gobierno estadounidense, quizás bajo el liderazgo del Centro para Estándares e Innovación en IA, debería considerar los contornos, los costos y los beneficios de dichos marcos, así como la capacidad institucional nueva o ampliada que podría ser necesaria para su implementación. De igual modo, es esencial invertir en una mayor concienciación informativa sobre la perspectiva china de la IA superinteligente, las propiedades de los modelos más avanzados y el estado de la investigación en seguridad.
Por supuesto, en cualquier estrategia, Washington necesitará el apoyo de aliados democráticos. Las perturbaciones innecesarias en las alianzas estadounidenses ahora reducen el alcance global de Washington en temas de IA superinteligente en el futuro. Pero también hay argumentos para dialogar con cautela con China sobre la seguridad de la IA, siempre y cuando el precio no sean concesiones anticipadas de Estados Unidos en otras prioridades tecnológicas o geopolíticas. Dicho diálogo podría algún día crear un foro para la cooperación entre Estados Unidos y China si algún impacto inesperado de la IA modifica los incentivos de las grandes potencias. Como mínimo, puede orientar las políticas estadounidenses al ofrecer información sobre los cálculos de China.
Finalmente, Estados Unidos debe fortalecer su capacidad de adaptación ante los peores escenarios. Los analistas de RAND han ideado una estrategia de contingencia para ayudar a Estados Unidos a adaptarse y recuperarse ante un avance significativo de la IA por parte de un adversario, limitando su vulnerabilidad mientras tanto; por ejemplo, reforzando la infraestructura de mando y control nuclear. Estos preparativos le darán a Washington tiempo para considerar la mejor manera de abordar la IA superinteligente, proporcionando así una protección ante un escenario en el que Estados Unidos quede rezagado en la carrera.
Una estrategia de cobertura conlleva desventajas. La tecnología ASI podría avanzar tan rápidamente que la cobertura quede obsoleta. Implementar políticas que implican desafíos políticos o burocráticos se vuelve aún más difícil por la falta de enfoque y urgencia que brinda un objetivo claro. Si la incertidumbre se generaliza debido a que no se pueden resolver cuestiones clave sobre ASI, la cobertura podría sentirse como un esfuerzo inútil. Si la cobertura se convierte en una mera deriva, podría debilitar la capacidad de Estados Unidos para afrontar diversos escenarios de ASI. Pero por ahora, las alternativas a la cobertura son apuestas peligrosas y poco informadas. Cuando hay tanto en juego y la incertidumbre es tan generalizada, una estrategia de cobertura inteligente y activa puede ser la mejor opción.
Link https://www.foreignaffairs.com/united-states/americas-superintelligence-dilemma
