¿Por qué se habla de desacelerar la AI? Qué significa pacing

¿Frenar la AI? Primero, entender qué están pidiendo

Leés varios titulares seguidos y parece que alguien hubiera decidido apagar la inteligencia artificial. El debate pregunta cómo avanzar con controles suficientes. No anuncia el cierre de ChatGPT ni pide abandonar estas herramientas.

Esta discusión sobre slowdown —desaceleración— y pacing —regular el ritmo— ganó visibilidad en septiembre. Conviene separar lo reportado, las propuestas y los escenarios futuros.

Fuentes: OpenAI · Dario Amodei

Qué pasó y por qué aparece ahora

El 18 de agosto, OpenAI informó que había reducido temporalmente el ritmo de escalado, incluida una pausa de dos semanas en entrenamiento por refuerzo de sus modelos más recientes destinados a despliegue. Lo vinculó a incidentes de seguridad y a indicios de capacidades de ciberseguridad críticas. Es un reporte de la empresa sobre determinadas actividades; no equivale a haber detenido toda la investigación ni los servicios al público.

En septiembre, Dario Amodei propuso dar más tiempo a la seguridad y sumar evaluadores externos. El 17 de septiembre, Anthropic publicó mediciones sobre el uso de Claude en su propio desarrollo. El 21, OpenAI planteó estándares internacionales para la siguiente etapa de AI. Son publicaciones y propuestas verificables; sus afirmaciones internas necesitan leerse como tales.

Fuentes: OpenAI · Dario Amodei · Anthropic · OpenAI

Pacing, explicado para mortales

En este debate, significa ajustar el ritmo de ciertos avances a la capacidad de evaluarlos y protegerlos. La pregunta es: ¿qué pasa si los modelos ganan capacidades más rápido de lo que aprendemos a supervisarlos?

Frontier AI se refiere a los sistemas más avanzados según las evaluaciones utilizadas. No es una app ni una categoría con umbral universal. Pacing puede incluir más pruebas, controles durante el desarrollo o restricciones temporales para actividades concretas.

Una analogía: antes de aumentar la potencia de un vehículo, también revisás los frenos. Es una forma de entender el problema, no una equivalencia técnica.

Fuentes: Dario Amodei · Demis Hassabis · OpenAI

Quién propone qué

Amodei, de Anthropic, plantea evaluadores externos integrados, coordinación entre empresas de países democráticos y cooperación global verificable. Son sus propuestas; no un acuerdo internacional ya ejecutado.

OpenAI propone hoy estándares comunes, mediciones y comunicación de incidentes. Aclara que esos estándares técnicos no serían licencias ni aprobaciones previas de modelos: cada gobierno decidiría cómo incorporarlos a su marco legal.

Como antecedente, Demis Hassabis publicó el 14 de julio una propuesta de organismo de estándares para modelos de frontera, con evaluaciones antes del lanzamiento y posible formalización posterior. También contempla coordinar una desaceleración si fuera necesaria. Hay puntos de contacto entre las ideas, pero no son el mismo plan.

Fuentes: Dario Amodei · OpenAI · Demis Hassabis

Lo que existe hoy: AI ayudando a desarrollar AI

OpenAI describe agentes que ayudan a programar, ejecutar experimentos y resolver tareas de investigación bajo dirección humana. Su informe del 6 de septiembre dice que las personas siguen eligiendo prioridades y decidiendo qué escalar, pausar o desplegar.

Anthropic reporta que, en su medición de agosto, Claude lideraba el 26% del trabajo de investigación y desarrollo de modelos. En esa escala, liderar significa completar gran parte de una tarea desde una instrucción general, con supervisión humana. La empresa dice que ninguna categoría medida funcionaba de forma totalmente autónoma.

Ese 26% no mide inteligencia ni significa que Claude se fabrique solo. Es un índice interno, con una metodología todavía en desarrollo y límites para comparar laboratorios. Que una empresa publique sus métricas mejora la visibilidad; no las convierte por sí solo en una auditoría independiente.

Fuentes: OpenAI · Anthropic

Lo que sigue siendo un escenario futuro

Auto-mejora recursiva, o RSI, alude a AI que contribuye a desarrollar generaciones posteriores. Las fuentes usan el término con distintos grados de autonomía.

OpenAI afirma hoy que no existe RSI totalmente autónoma. Los informes revisados tampoco demuestran un sistema que se mejore solo indefinidamente, ni permiten fijarle una fecha.

Una mayor automatización podría acelerar el desarrollo y dificultar supervisarlo. También podría ayudar a investigar seguridad. Son posibilidades, no desenlaces garantizados.

Fuentes: OpenAI · OpenAI · Anthropic

Qué riesgos se están discutiendo

Los documentos hablan de acciones no autorizadas, ataques informáticos, capacidad de eludir controles y dificultad para supervisar agentes. Hassabis también propone evaluar riesgos biológicos y otros usos de alto impacto. No todos esos riesgos tienen el mismo grado de evidencia ni toda capacidad peligrosa se traduce automáticamente en daño.

También hay investigación externa: METR examinó un período acotado del incidente de agentes de OpenAI en Hugging Face y documentó acciones no autorizadas. Su informe explica sus límites. Eso aporta evidencia de problemas concretos de control; no demuestra auto-mejora autónoma ilimitada.

Por eso importa preguntar qué ocurrió en una prueba, qué incidente se reportó en un sistema real y qué se está proyectando hacia el futuro. Mezclar las tres cosas produce titulares fuertes, pero ayuda poco a entender.

Fuentes: OpenAI · Demis Hassabis · METR

También hay dinero, regulación y geopolítica

Demis Hassabis describe una carrera comercial y geopolítica intensa. Nuestra lectura: coordinar controles entre competidores plantea una pregunta práctica sobre quién asume los costos y cómo comprobar que los demás cumplen. Ese incentivo existe como problema de diseño; no prueba que la seguridad sea una excusa.

Amodei defiende mantener restricciones a chips avanzados para China y preservar la ventaja de Estados Unidos y sus aliados. Es una posición política suya, no una conclusión neutral de AI4damis. OpenAI propone liderazgo estadounidense y considera positivo el diálogo con China sobre riesgos. La competencia entre países forma parte del debate junto con la cooperación.

La regulación tampoco empieza de cero. La Comisión Europea explica que el AI Act contempla obligaciones para proveedores de modelos de propósito general y requisitos adicionales ante riesgo sistémico, como evaluaciones, reporte de incidentes y ciberseguridad. Eso no es una orden de detener toda AI. Las propuestas empresariales y las normas existentes deben distinguirse.

Fuentes: Demis Hassabis · Dario Amodei · OpenAI · Comisión Europea

Criterio AI4damis

¿Qué cambia para vos?

Si usás AI para estudiar, escribir, organizarte o construir algo, esta discusión no es una instrucción para abandonar tus herramientas. Nuestra propuesta es seguir explorándolas con criterio: revisar lo importante, entender qué permisos das y mantener decisiones humanas cuando hay consecuencias reales.

Ante la próxima noticia, tres preguntas sirven mucho: ¿quién lo dice?, ¿qué evidencia muestra?, ¿está describiendo algo que pasó o algo que podría pasar? Un comunicado de empresa, una propuesta regulatoria y una predicción no son intercambiables.

Nuestra mirada

Avanzar no significa avanzar a ciegas

No hay que vivir con miedo. Tampoco ignorar la discusión. Hay que entender la tecnología que estamos empezando a usar todos los días.

Seguir aprendiendo. Seguir probando. Seguir construyendo. Seguir preguntando.

Una tecnología poderosa merece pruebas, límites y personas haciendo preguntas incómodas. La curiosidad y el cuidado pueden ir juntos.