Por qué una "probabilidad del 60 %" merece una consideración seria
Fuente de la imagen: Tweet del cofundador de Anthropic
En las conversaciones sobre IA, las conclusiones suelen destacar mientras el razonamiento que las respalda pasa desapercibido. Esto se acentúa en los debates sobre la mejora recursiva autónoma (RSI). A simple vista, la controversia gira en torno a una afirmación audaz: para 2028, existe una probabilidad significativa de que la IA alcance capacidades de I+D auto-reforzadas. El problema de fondo es si ya hemos visto suficientes "señales tempranas sistemáticas" para que este escenario deje de ser una hipótesis marginal y pase a formar parte del conjunto central de riesgos que los responsables deben abordar.
Esta cuestión es clave tanto para la política como para la industria, porque RSI no es solo un "mito abstracto de inteligencia general", sino un reto de ingeniería: ¿puede la IA ejecutar cada vez más pasos de alto valor en los flujos de trabajo de I+D y conectar esos pasos en un ciclo cerrado e iterativo? Si se establece ese ciclo, el ritmo del progreso tecnológico cambia, las brechas de capacidad organizativa se redefinen y los ciclos regulatorios tradicionales se ven alterados.
Por eso, el debate sobre RSI debe superar la dicotomía "creer o no creer" y centrarse en si la evidencia es suficiente, las extrapolaciones son prudentes y las preparaciones adecuadas.
Base de evidencia: valor y límites del progreso consistente en múltiples benchmarks
La mejor evidencia de RSI no es el avance de un solo modelo, sino el progreso sincronizado en tareas, escenarios y frameworks de evaluación. Los benchmarks más citados—reproducibilidad de la investigación, optimización tras el entrenamiento, resolución de problemas competitivos reales y desafíos de ingeniería de software—muestran tendencias ascendentes en distinto grado. El verdadero valor está en la "consistencia direccional", no solo en los "valores absolutos": cuando varios indicadores proxy mejoran juntos a lo largo del tiempo, normalmente señalan una mejora generalizada de las capacidades subyacentes.
Sin embargo, hay tres límites clave:
-
Los entornos de benchmark no son equivalentes a los reales. Los benchmarks tienen límites claros, retroalimentación estable y estándares repetibles. En la I+D real, hay cambios de objetivos, colaboración entre equipos, transferencia de conocimiento tácito, restricciones de recursos y fricción institucional. El éxito en entornos controlados no se traduce automáticamente en resultados fiables para la organización.
-
La visibilidad de las métricas no equivale a una capacidad completa. Los benchmarks actuales miden más fácilmente la "capacidad de resolución de problemas", pero no capturan del todo comportamientos superiores de I+D, como definición de problemas, priorización, atribución de fallos o gobernanza entre ciclos. Es decir, los modelos pueden mejorar en "resolver los problemas correctos", pero no necesariamente en "hacer siempre lo correcto".
-
Extrapolar tendencias puede verse afectado por la migración de cuellos de botella. La historia demuestra que el progreso tecnológico no siempre es lineal. Al superar un cuello de botella, pueden surgir otros en la calidad de los datos, el coste del hash rate, la fiabilidad del sistema, el cumplimiento normativo o la aceptación social. Ignorar estas restricciones secundarias puede llevar a sobrestimar el progreso y subestimar la resistencia.
Así, el progreso consistente en múltiples benchmarks es una señal fuerte, pero no una prueba definitiva. Indica que "la dirección importa", no que "el calendario está fijado".
El núcleo del debate: ¿pueden las mejoras en capacidades cerrar el ciclo?
El verdadero debate sobre RSI no es si "la IA es más potente", sino si "las mejoras bastan para formar un ciclo cerrado". Un ciclo cerrado real implica al menos cinco pasos secuenciales: recopilación de información y revisión de literatura, generación de hipótesis, diseño y ejecución de experimentos, evaluación de resultados y diagnóstico de errores, y actualización de estrategias con reiteración. Mejorar un paso aumenta la eficiencia, pero solo la integración robusta de todos los pasos genera retornos compuestos.
Hoy, el progreso se observa sobre todo en los tres primeros y parte del cuarto: los modelos son cada vez más eficientes generando código, escribiendo scripts de experimentos, resumiendo literatura y buscando parámetros. Los mayores retos del ciclo cerrado suelen reducirse a dos capacidades:
-
Diagnóstico robusto: ¿puede el sistema identificar con precisión causas raíz entre datos ruidosos, señales contradictorias o fallos esporádicos, en vez de aplicar solo soluciones superficiales?
-
Alineación de objetivos: ¿puede el sistema ejecutar de forma consistente estrategias "eficaces a largo plazo pero subóptimas a corto plazo" bajo múltiples restricciones, en lugar de limitarse a maximizar puntuaciones locales?
Por eso, "poder hacer" no significa "poder ser responsable". Un ciclo cerrado de I+D no es solo la suma de capacidades del modelo: es el producto de tecnología, diseño de procesos y estructuras de responsabilidad. Sin mecanismos claros de rendición de cuentas y auditoría, las organizaciones tendrán dificultades para delegar autoridad de forma segura, incluso si la tecnología está casi lista.
Calibración metodológica: probabilidad, análisis de escenarios y umbrales de decisión
Decir "60 % para 2028" es útil comunicativamente, porque obliga a reconocer que la ventana temporal podría ser más corta de lo esperado. Pero en la toma de decisiones, estas cifras deben verse como probabilidades subjetivas, no estimaciones estadísticas precisas. Es más práctico convertir probabilidades puntuales en un framework de "escenario-umbral".
Tres niveles de escenario resultan útiles:
-
Base: la IA está profundamente integrada en la I+D, pero los humanos siguen tomando las decisiones clave; es un modelo de "alta automatización con respaldo humano".
-
Aceleración: la IA logra iteración cuasi-cerrada en varios dominios, acortando drásticamente los ciclos de I+D y dando a los líderes una ventaja compuesta.
-
Alto impacto: surgen capacidades de ciclo cerrado entre dominios, la iteración del modelo supera la adaptación regulatoria y la presión de gobernanza aumenta.
Para cada escenario, define métricas de umbral claras en vez de discutir años concretos. Ejemplos: duración de iteración continua sin intervención, tasa de éxito en transferencia entre tareas, tasa de recall en detección de anomalías, tasa de éxito en retroceso automático y proporción de intervención manual en nodos clave. Cuando se alcanzan los umbrales, se activan acciones de gobernanza; cuando caen, se relajan las restricciones. Así, las predicciones abstractas se convierten en gestión operativa.
Si RSI o una variante cuasi-RSI surge, la competencia en la industria pasará de "rendimiento del modelo" a "operaciones en ciclo cerrado". Ganar dependerá menos de quién tenga el modelo más grande y más de quién construya ciclos de I+D más cortos, estables y controlables en organizaciones reales.
Los límites organizativos se redibujarán. Los procesos de I+D tradicionales—antes una secuencia de roles especializados—se convertirán en redes colaborativas de "unas pocas personas clave + grandes afiliados de IA". Los roles no desaparecerán, sino que migrarán hacia la orquestación de sistemas, control de calidad y gobernanza de riesgos.
Las ganancias de eficiencia serán no lineales. Las organizaciones que automaticen procesos primero podrán lograr ventajas generacionales en velocidad de iteración, estructura de costes y escala de experimentación. Quienes solo incorporen IA en áreas aisladas verán mejoras más lineales e incrementales, y tendrán dificultades para cerrar brechas estructurales.
La "capacidad de I+D confiable" será el nuevo foso competitivo. La competitividad futura de alto valor no será solo cuestión de ser "rápido", sino de ser "rápido y demostrablemente seguro". Los registros trazables, experimentos reproducibles, auditorías de cambios de estrategia y sistemas de respuesta a incidentes pasarán de ser costes de cumplimiento a convertirse en activos de confianza de mercado.
Agenda de gobernanza: diseño institucional para la controlabilidad durante la aceleración
A medida que la aceleración es posible, la gobernanza no debe buscar frenar el progreso, sino establecer "controlabilidad verificable". Esto exige avanzar en gobernanza técnica e institucional en paralelo.
Técnicamente, la seguridad debe integrarse en el pipeline de I+D: registro por defecto de decisiones clave, doble aprobación para acciones de alto riesgo, límites de sandbox para la auto-modificación del modelo y revisión obligatoria de saltos anómalos en el rendimiento. El principio central: "observabilidad antes que delegación".
A nivel institucional, la gobernanza debe ser por niveles, no única para todos. Se permite flexibilidad en aplicaciones de bajo riesgo, pero se exige mayor transparencia y responsabilidad en sistemas de alto impacto, con mecanismos de actualización dinámica. Las reglas estáticas no pueden seguir el ritmo de la iteración rápida; la regulación debe poder "recalibrarse de forma continua".
A nivel organizativo, los "anclajes de responsabilidad humana" deben ser explícitos. Cuando la IA participa en decisiones de I+D y despliegue, los puntos clave deben tener firmantes humanos identificables y responsables. Automatizar sin anclajes de responsabilidad solo aumenta la velocidad, no la calidad.
Conclusión: navegar la era RSI con "máxima vigilancia y baja certidumbre"
Volviendo a la pregunta central: ¿es válida esta perspectiva? La dirección es válida, pero la expresión debe ser cauta. Es válida porque la IA avanza en múltiples dimensiones de I+D, y el punto de inflexión del ciclo cerrado podría llegar antes de lo esperado. La cautela es esencial, ya que cualquier fecha o probabilidad concreta implica supuestos subjetivos y tiende a subestimar la fricción del mundo real.
Para los responsables, el mejor enfoque no es oscilar entre el optimismo y el pesimismo, sino construir resiliencia ante la incertidumbre:
Por un lado, prepárate como si la aceleración "pudiera ocurrir antes", evitando respuestas pasivas en momentos críticos. Por otro, limita la expansión del sistema con escenarios escalonados, umbrales cuantificables y anclajes de responsabilidad, asegurando que el crecimiento de capacidades permanezca bajo control.
Si la última fase de la IA fue "permitir que las máquinas completen tareas", la siguiente y más crucial pregunta es: a medida que las máquinas empiecen a ayudar a crear la próxima generación de máquinas, ¿podrá la humanidad adaptar sus sistemas de gobernanza y responsabilidad al mismo ritmo?
Esto no es solo un reto de predicción técnica, sino de redefinir el futuro orden de la innovación.
