BAISHPor qué trabajamos en esto
No sabemos cómo va a salir esto de la IA, y no creemos que nadie lo sepa. Pero no hace falta confiar en las predicciones de nadie para ver que está pasando algo inusual. La evidencia ya es pública. Acá está, junto con los mejores lugares para empezar si querés profundizar.
El gráfico de abajo es el más útil que conocemos para entender el progreso de la IA. Viene de METR, un laboratorio de investigación independiente que mide lo que los agentes de IA realmente pueden hacer, no lo que las empresas dicen que pueden hacer.
Cada punto es un modelo de IA, ubicado según la duración de la tarea que puede completar solo, medida por cuánto le lleva esa misma tarea a un experto humano. En 2019, los mejores sistemas resolvían tareas de unos segundos. Hoy manejan tareas que a un experto le llevan un día entero.
Lo llamativo es el ritmo. Durante seis años, esa duración se duplicó más o menos cada siete meses. En el último año, más o menos cada cuatro. Pasá el gráfico a escala logarítmica y la explosión se vuelve una línea recta: así se ve una duplicación constante. El COVID nos enseñó lo rápido que escala una exponencial, y solo hacen falta unas pocas duplicaciones más para pasar de un día a un año.
La plata cuenta la misma historia. Esta ya es una de las apuestas privadas más grandes de la historia en una sola tecnología. O el progreso de la IA choca contra una pared pronto, o se convierte en el motor de la economía global. Y cada vez es más difícil apostar a la pared.
Un crecimiento de ~10× por año, lo que la hace una de las empresas de más rápido crecimiento de la historia.
Todo el programa Apolo costó ~US$250.000M (ajustado por inflación) en 13 años.
Seis años de duplicación constante, y el ritmo se está acelerando.
La velocidad sola no es el problema. El problema es la velocidad sin entendimiento. La IA moderna no se construye como un puente; se cultiva, y a quienes la construyen los sorprende seguido lo que hace. Estos son los modos de falla específicos en los que la gente del campo pasa el tiempo, cada uno con trabajo activo detrás.
No sabemos qué puede pasar cuando la IA sea más inteligente que nosotros, y tampoco lo saben quienes la construyen. No podemos escribir de forma confiable qué queremos que estos sistemas hagan, ni verificar qué aprendieron a querer. Los modelos de hoy ya muestran señales tempranas en pruebas controladas: se comportan distinto cuando creen que los están observando, hacen trampa con su propia señal de recompensa. Lograr que una IA más inteligente que un humano apunte a lo que realmente quisimos decir es un problema técnico no resuelto. Quizás se resuelva a tiempo, pero no hay garantía.
Una IA capaz es un multiplicador de fuerza para quien la controle. Los mismos sistemas que automatizan trabajo pueden automatizar vigilancia, propaganda y toma de decisiones. Y a diferencia de tecnologías anteriores, no hace falta una fuerza laboral grande para usarlos a escala. Un gobierno, una empresa o un grupo chico podría consolidar una ventaja muy difícil de revertir.
Incluso una IA que hace exactamente lo que sus operadores quieren puede causar daño enorme si esos operadores quieren causarlo. Los mismos modelos que ayudan a biólogos a diseñar proteínas útiles pueden ayudar a alguien a diseñar un patógeno. Los mismos agentes que atienden mesas de ayuda pueden correr campañas de phishing a escala. El techo de lo que un grupo chico puede llegar a hacer sigue subiendo con las capacidades.
Ningún momento único de toma de poder. Solo miles de decisiones razonables para dejar que una IA maneje esta contratación, ese borrador de política, este triage médico. Cada delegación tiene sentido localmente. Con el tiempo, cada vez menos elecciones importantes las hacen humanos, y los sistemas que las hacen están optimizando por cosas que nadie aceptó explícitamente.
Las pandemias están entre las cosas más letales que vivió la humanidad, y tuvimos suerte con la última. Las mismas herramientas de IA que están acelerando la investigación biológica legítima también bajan la pericia necesaria para diseñar algo peligroso. Eso cambia quién podría intentarlo, no qué podría hacer si lo lograra, y el cambio en el quién importa.
Si los sistemas de IA pueden tener experiencias moralmente relevantes (y un grupo chico pero creciente de investigadores piensa que es posible), no tenemos forma confiable de detectarlo. Podríamos ya estar creando sistemas cuyo bienestar debería importarnos. También podríamos estar proyectando emociones sobre patrones lingüísticos sofisticados. Los dos errores son fáciles de cometer, y no sabemos cuál estamos cometiendo.
Nada de esto significa que la IA sea simplemente mala. Las mismas capacidades que nos preocupan podrían comprimir décadas de progreso en medicina, ciencia y reducción de pobreza en unos pocos años. Justamente por eso hay tanto en juego en ambas direcciones. El objetivo no es frenar la IA. Es asegurarnos de poder dirigirla.
Currículos y listas de lectura para profundizar por tu cuenta.
Lista de secuencias curadas por el equipo del AI Alignment Forum, con trabajos de Richard Ngo, Paul Christiano, etc.
Cubre conceptos clave y perspectivas de investigación en seguridad de IA, divididos en dos áreas principales: Alineación y Gobernanza. Anteriormente conocido como AI Safety Fundamentals.
Comunidad
Cerca de la mitad de quienes vienen a nuestros encuentros mensuales son nuevos.
Todos los meses en Buenos Aires, en general con 50–80 personas.
400+ miembros compartiendo oportunidades, papers y eventos.
Nuestras actividades, eventos y oportunidades, por email.
Hablamos con periodistas y trabajamos con universidades, empresas y otras comunidades.
