Según Leopold Aschenbrenner, en su ensayo «Situational Awareness: The Decade Ahoead», la llegada de la superinteligencia no sólo cambiará el mundo tecnológicamente, sino que también determinará el equilibrio de poder global. Quien lidere en el desarrollo de la AGI (Inteligencia General Artificial) tendrá una ventaja militar y económica decisiva, comparable solo con el dominio que las armas nucleares ofrecieron en el siglo XX. Pero a diferencia de las armas nucleares, el potencial de la superinteligencia es mucho más abrumador: puede cambiar el orden mundial por completo. A medida que el desarrollo de la AGI se acelera, la competencia entre las democracias liberales y los regímenes autoritarios podría definir el destino del mundo libre.
En este post, exploraremos:
- La ventaja militar decisiva que la superinteligencia otorgará
- Cómo la guerra del Golfo ilustra la importancia de una ventaja tecnológica de décadas
- Por qué la superinteligencia superará incluso la disuasión nuclear
- El potencial de China para competir en esta carrera
- El peligro de los regímenes autoritarios controlando superinteligencia
- La importancia de mantener una ventaja para la seguridad global
- Por qué la superinteligencia es una cuestión de seguridad nacional
La Superinteligencia: Un arma militar decisiva
La superinteligencia no es una tecnología cualquiera. No estamos hablando de hipersónicos o sigilo, tecnologías que son importantes pero no determinantes por sí solas. Quien lidere en el desarrollo de superinteligencia tendrá una ventaja militar incomparable. El mundo nunca ha visto algo como esto desde la era nuclear. La superinteligencia será como tener miles de científicos e ingenieros trabajando las 24 horas del día, 7 días a la semana, en avances militares, generando décadas de progreso en apenas unos años.
Este liderazgo en tecnología superará cualquier ventaja militar convencional. En poco tiempo, el país con acceso a superinteligencia dominará todos los aspectos de la guerra: desde drones autónomos y ejércitos robóticos, hasta hackeo superinteligente y armas de destrucción masiva de nueva generación.
La diferencia será tan abrumadora que, en lugar de simplemente aumentar el arsenal militar, permitirá el desarrollo de nuevas tecnologías que reescribirán las reglas del conflicto global.
La Guerra del Golfo: Cómo una ventaja tecnológica de décadas decide la guerra
Para comprender lo que puede significar esta ventaja tecnológica, miremos la Guerra del Golfo de 1991. En ese momento, Irak tenía el cuarto ejército más grande del mundo. A pesar de sus números y de haber preparado defensas durante meses, Estados Unidos y sus aliados aplastaron al ejército iraquí en solo 100 horas.
Aunque la coalición no tenía una ventaja numérica significativa, la diferencia en tecnología fue completamente decisiva. Municiones guiadas, versiones tempranas de sigilo, mejores sensores y aviones de combate permitieron a las fuerzas estadounidenses destruir más de 3,000 tanques iraquíes mientras solo perdieron 31. Irak sufrió entre 20,000 y 50,000 bajas, mientras que la coalición perdió solo 292 soldados. Todo gracias a una ventaja tecnológica de 20-30 años.
Ahora, imagina lo que podría significar una ventaja tecnológica de décadas comprimida en unos pocos años con la ayuda de la superinteligencia. Una nación con superinteligencia no solo dominará militarmente, sino que podrá reescribir el futuro de la guerra.
La Superinteligencia superará incluso la disuasión nuclear
Una de las preguntas más importantes sobre el poder de la superinteligencia es cómo se relacionará con las armas nucleares. ¿Podrá una ventaja en superinteligencia superar incluso la disuasión nuclear?
Es posible que sí. Las mejoras en sensores y redes de vigilancia podrían permitir localizar submarinos nucleares o lanzadores móviles de misiles, que hasta ahora eran casi imposibles de rastrear. Miles o millones de drones autónomos, con capacidades de sigilo avanzadas, podrían infiltrarse en territorio enemigo y desmantelar las fuerzas nucleares sin que los enemigos siquiera se dieran cuenta.
Además, una explosión en la capacidad industrial permitiría producir miles de interceptores para misiles nucleares, lo que significaría que incluso un ataque nuclear podría ser anulado. En el peor de los casos, la superinteligencia podría desarrollar armas que desactiven remotamente los arsenales nucleares del adversario.
En resumen, una ventaja de solo unos pocos años en la carrera por la AGI podría resultar decisiva incluso frente a naciones con armas nucleares, lo que haría que estas quedaran obsoletas como herramienta de disuasión.
China aún puede competir
Muchos piensan que Estados Unidos y sus aliados tienen una ventaja significativa en la carrera por la AGI debido a su dominio en el desarrollo de algoritmos y hardware. Sin embargo, China sigue siendo un competidor formidable.
1. Capacidad de Cómputo
China ha demostrado que puede fabricar chips avanzados de 7nm, una capacidad crucial para el desarrollo de AGI. Aunque aún no pueden competir con los chips de 3nm o 2nm de Estados Unidos, los chips de 7nm son lo suficientemente buenos para el tipo de computación que se necesita para entrenar grandes modelos de IA.
Más importante aún, China tiene una capacidad sin igual para construir infraestructura a gran escala. Mientras que en Estados Unidos los proyectos de energía y datacenters pueden atascarse en regulaciones durante años, China puede construir rápidamente la infraestructura necesaria para soportar el cómputo masivo que requieren los clusters de entrenamiento para la AGI.
2. Algoritmos
Aunque Estados Unidos tiene una clara ventaja en algoritmos, esto podría ser temporal. Como se mencionó en capítulos anteriores, la seguridad de los laboratorios de IA en Estados Unidos es lamentable, lo que facilita que China pueda robar secretos algorítmicos clave. A medida que Estados Unidos desarrolla avances en algoritmos, China podría simplemente infiltrarse y robar los desarrollos necesarios para ponerse al día.
En resumen, no debemos subestimar la capacidad de China para competir en la carrera hacia la superinteligencia. Con los recursos necesarios, el gobierno chino podría rápidamente cerrar la brecha y ser un rival formidable.
El Peligro de un Régimen Autoritario Controlando la Superinteligencia
El riesgo no es solo que China u otro régimen autoritario compita en la carrera hacia la AGI. El verdadero peligro es qué harán con el poder una vez que lo tengan. Un régimen autoritario con superinteligencia tendría una herramienta incomparable para controlar a su población y expandir su influencia global.
Millones de agentes robóticos podrían vigilar cada rincón de la sociedad, detectando y eliminando cualquier disidencia antes de que siquiera se exprese. La superinteligencia podría asegurarse de que un dictador sea completamente intocable, eliminando cualquier riesgo de golpes de Estado o revueltas populares. El poder concentrado en manos de un solo líder nunca ha sido tan peligroso como lo sería en la era de la superinteligencia.
Pero no solo es peligroso internamente. Un régimen autoritario con superinteligencia podría imponer su voluntad en el escenario global. En un mundo donde la superinteligencia controla cada aspecto militar, económico y social, la democracia y la libertad podrían no sobrevivir.
Mantener una ventaja saludable es clave para la seguridad
La carrera hacia la superinteligencia será extremadamente tensa. Si las democracias occidentales y los regímenes autoritarios están cabeza a cabeza, las decisiones apresuradas y los errores de cálculo serán inevitables, lo que podría llevar a un desastre global.
Solo si el mundo libre mantiene una ventaja clara podremos gestionar con seguridad el riesgo que la superinteligencia representa. Una ventaja de un año o dos podría ser suficiente para navegar por las aguas peligrosas de la transición hacia la superinteligencia sin desatar un conflicto catastrófico. Sin esa ventaja, estaremos atrapados en una carrera armamentista que podría destruirnos.
La Superinteligencia es una cuestión de seguridad nacional
La conclusión es clara: la superinteligencia es el mayor desafío de seguridad nacional que enfrentará Estados Unidos en este siglo. No podemos permitir que la competencia internacional nos sorprenda desprevenidos. Debemos reforzar la seguridad de nuestros laboratorios de IA, invertir en infraestructura y trabajar estrechamente con el sector de defensa.
Si el mundo libre quiere prevalecer, no podemos confiarnos. Los riesgos son demasiado altos.
Enlaces al desarrollo por capítulos del ensayo «Situational Awareness»
En «Situational Awareness», Aschenbrenner no sólo destaca el rápido avance de la IA, sino que también llama a una reflexión profunda sobre los riesgos y beneficios que nos esperan en la próxima década. Si estás interesado en conocer más detalles sobre cada uno de los capítulos, consulta los siguientes enlaces.
- I. De GPT-4 a AGI: Contando los OOMs: El salto cualitativo hacia la AGI.
- II. De AGI a Superinteligencia: La Explosión de Inteligencia: La aceleración exponencial.
- III. Los desafíos
a. Rumbo al cluster de un billón de dólares: La movilización industrial.
b. Seguridad en los laboratorios de AGI: El riesgo de ciberseguridad.
c. Superalineamiento: Controlar a las máquinas más inteligentes.
d. La supervivencia del mundo libre: La competencia geopolítica. - IV. El Proyecto: La intervención del Estado.
- V. Reflexiones finales: ¿Qué pasaría si Leopold Aschenbrenner tiene razón?
Leopold Aschenbrenner es el fundador de una firma de inversión centrada en la Inteligencia Artificial General (AGI), respaldada por importantes inversionistas como Patrick y John Collison, Nat Friedman y Daniel Gross. Antes, trabajó en el equipo de Superalignment de OpenAI, donde contribuyó al avance de la IA avanzada. Además, tiene experiencia en investigación económica, habiendo trabajado en el Global Priorities Institute de la Universidad de Oxford y en la Universidad de Columbia, donde se enfocó en el estudio del crecimiento económico.