Situational Awareness: El futuro de la IA según Leopold Aschenbrenner
En su ensayo «Situational Awareness: The Decade Ahead«, Leopold Aschenbrenner ofrece una visión sobre el futuro de la inteligencia artificial (IA) que desafía las predicciones más optimistas. Desde la carrera hacia la AGI (inteligencia general artificial) hasta los posibles impactos en la seguridad global, este ensayo invita a reflexionar sobre los desafíos y oportunidades que nos esperan en los próximos años.
A continuación, vamos a desglosar los principales puntos del ensayo y qué podemos esperar en la próxima década. Al final, incluimos un esquema con enlaces que explican cada capítulo en mayor profundidad.
Introducción: El epicentro de la revolución tecnológica
Aschenbrenner nos introduce a la creciente escalada en la construcción de clusters de cómputo, que van desde los $10 mil millones hasta los $1 billón, lo cual es sólo el comienzo. Esta carrera hacia una infraestructura masiva no sucede simplemente por razones económicas, sino que está alimentada por el desarrollo de la inteligencia artificial. Las empresas están preparándose para lo que será una de las movilizaciones industriales más grandes en la historia reciente, con Estados Unidos aumentando su producción de electricidad y desplegando millones de GPUs.
Sin embargo, únicamente un pequeño grupo de personas tiene lo que Aschenbrenner llama “conciencia situacional” (situational awareness); es decir, una comprensión clara de lo que se avecina. Ellos ven lo que el resto aún no percibe: el inicio de la carrera hacia la AGI, donde las máquinas serán capaces de pensar y razonar mejor que los seres humanos.
Resumen por Capítulos
I. De GPT-4 a AGI: Contando los OOMs
El progreso hacia la AGI (Inteligencia General Artificial) ya está en marcha. Con base en las mejoras observadas en los sistemas como GPT-4, Aschenbrenner predice que la AGI podría llegar para 2027, con avances cualitativos que superarán a las habilidades humanas en tiempo récord. La velocidad de desarrollo se mide en órdenes de magnitud (OOMs), y estamos a solo unos pasos de una revolución en IA.
II. De AGI a Superinteligencia: La Explosión de Inteligencia
Una vez alcanzada la AGI, la evolución no se detendrá. Aschenbrenner sugiere que las máquinas de inteligencia superior automatizarán la investigación en IA, acelerando el progreso a niveles inimaginables. La superinteligencia tendrá el poder de transformar por completo la investigación científica y otros sectores, pero también presenta riesgos inmensos.
III. Los desafíos
- Rumbo al cluster de un billón de dólares
La carrera hacia la AGI también está marcada por la inversión masiva en hardware y electricidad, una movilización industrial que no se veía desde hace décadas. - Seguridad en los laboratorios de AGI
Aschenbrenner destaca los riesgos de ciberseguridad que aún no se están abordando adecuadamente, especialmente en lo que respecta a los actores estatales. - Superalineamiento
El problema de cómo controlar máquinas más inteligentes que nosotros sigue sin solución, y el tiempo para resolverlo se está agotando. - La supervivencia del mundo libre
La competencia entre potencias globales, especialmente con China, será un factor decisivo en la carrera hacia la superinteligencia.
IV. El Proyecto
Aschenbrenner predice que para 2027 o 2028, el gobierno de los EE.UU. se involucrará formalmente en la carrera hacia la AGI, poniendo en marcha proyectos a gran escala para asegurar que el desarrollo de la superinteligencia esté bajo control nacional.
V. Reflexiones finales
El ensayo cierra con una reflexión sobre el enorme impacto que estos desarrollos tendrán en la sociedad. Aschenbrenner plantea una pregunta inquietante: «¿Qué pasará si estamos en lo cierto?»
En «Situational Awareness», Aschenbrenner no sólo destaca el rápido avance de la IA, sino que también llama a una reflexión profunda sobre los riesgos y beneficios que nos esperan en la próxima década. Si estás interesado en conocer más detalles sobre cada uno de los capítulos, consulta los siguientes enlaces.
Enlaces al desarrollo por capítulos de «Situational Awareness»
- I. De GPT-4 a AGI: Contando los OOMs: El salto cualitativo hacia la AGI.
- II. De AGI a Superinteligencia: La Explosión de Inteligencia: La aceleración exponencial.
- III. Los desafíos
a. Rumbo al cluster de un billón de dólares: La movilización industrial.
b. Seguridad en los laboratorios de AGI: El riesgo de ciberseguridad.
c. Superalineamiento: Controlar a las máquinas más inteligentes.
d. La supervivencia del mundo libre: La competencia geopolítica. - IV. El Proyecto: La intervención del Estado.
- V. Reflexiones finales: ¿Qué pasaría si Leopold Aschenbrenner tiene razón?
Leopold Aschenbrenner es el fundador de una firma de inversión centrada en la Inteligencia Artificial General (AGI), respaldada por importantes inversionistas como Patrick y John Collison, Nat Friedman y Daniel Gross. Antes, trabajó en el equipo de Superalignment de OpenAI, donde contribuyó al avance de la IA avanzada. Además, tiene experiencia en investigación económica, habiendo trabajado en el Global Priorities Institute de la Universidad de Oxford y en la Universidad de Columbia, donde se enfocó en el estudio del crecimiento económico.