La industria de la IA pidió frenos esta semana, y además escribió las reglas
Edición del 9 al 11 de septiembre · Panorama de IA para profesionales del sector
El caso de la semana
En setenta y dos horas, la conversación sobre riesgo de la IA pasó de ensayo de laboratorio a texto legal, a informe forense y a política interna de empresa. Los cuatro movimientos vinieron de las mismas compañías que están acelerando.
- Una renuncia con advertencia abrió la semana. Jacob Coxon, investigador de preentrenamiento que había pasado por OpenAI entre 2023 y 2026 y llevaba unos tres meses en Anthropic, renunció el 9 de septiembre y publicó que la industria "corre directo hacia una superinteligencia que se automejora, apostando con nuestras vidas". La cifra que dio contexto a su salida no es suya: un investigador de alineamiento de Anthropic declaró públicamente que asigna más de 10% de probabilidad a que la IA cause la extinción humana esta década.
→ https://www.newsweek.com/anthropic-researcher-quits-warns-ai-could-kill-everyone-12418798
- El mismo día, California promulgó dos leyes que los propios laboratorios respaldaron. La SB 813 crea una comisión estatal de estándares y seguridad de IA que emitirá normas voluntarias; la AB 1405 establece un registro de auditores de riesgo de IA con credenciales verificables. OpenAI y Anthropic apoyaron ambas de forma explícita. Es la primera vez que la regulación estadounidense de frontera avanza con el visto bueno del sector regulado.
→ https://www.gov.ca.gov/2026/09/09/governor-newsom-signs-first-in-the-nation-ai-safeguards-to-protect-californians-calls-on-the-federal-government-to-do-its-part/
- Y el 11 de septiembre OpenAI llevó el argumento a su propia planta. Bloomberg reportó que Sam Altman dijo a su personal que la empresa está abierta a frenar el desarrollo de modelos de frontera. Ninguna de las tres cosas —la renuncia, las leyes, la declaración interna— cambia por sí sola el ritmo de lanzamientos; juntas convierten la seguridad en una posición pública que cada laboratorio necesita ocupar.
→ https://www.bloomberg.com/news/articles/2026-09-11/openai-is-open-to-slowing-cutting-edge-ai-ceo-sam-altman-tells-staff
También esta semana
- Seguridad. Anthropic publicó el 10 de septiembre su informe de amenazas más extenso hasta la fecha, con casos reales de uso indebido de Claude entre diciembre de 2025 y agosto de 2026 en siete categorías: ciberataques, vigilancia, operaciones de influencia, armas convencionales, biología, estafas y destilación ilícita de modelos.
→ https://www.anthropic.com/threat-intelligence-report-september-2026
- Capacidad. OpenAI suspendió el 10 de septiembre las nuevas suscripciones al plan Pro de US$ 200 mensuales por demanda del modelo GPT-6 Astra, lanzado el 3 de septiembre. La API y los planes Go y Plus siguen abiertos; la empresa no fijó plazo para reabrir.
→ https://techcrunch.com/2026/09/10/openai-puts-pro-subscriptions-on-hold-due-to-astra-demand/
- Consolidación. Bending Spoons, la compañía italiana que compra software maduro y lo reestructura, acordó adquirir la pizarra colaborativa Miro por US$ 1.355 millones, semanas después de cerrar la compra de Airtable.
→ https://investors.bendingspoons.com/newsroom/bending-spoons-agrees-to-acquire-miro
- Inversión. Harvey, la plataforma de IA para estudios jurídicos, levantó US$ 550 millones con una valoración de US$ 15.500 millones, liderada por Diffusion y Lightspeed. En marzo valía US$ 11.000 millones. Acaba de lanzar Tenet, su primer modelo propio, posentrenado con datos legales sobre una base de pesos abiertos.
→ https://techcrunch.com/2026/09/09/harvey-hits-15-5b-valuation-months-after-reaching-11b/
- Agentes. Cursor, el editor de código con IA, abrió en beta el 10 de septiembre su función Projects: un agente coordinador que no escribe código sino que planifica, delega en otros agentes, y devuelve el trabajo terminado para revisión. Corre en infraestructura de nube propia y puede suscribirse a canales de Slack o a pull requests para actuar sin que nadie lo instruya.
→ https://cursor.com/changelog
- Investigación. Google DeepMind publicó AlphaGenome Atlas, un mapa con predicciones del efecto molecular de los aproximadamente 9.000 millones de cambios posibles de una sola letra en el ADN humano. Es un recurso abierto para investigación genómica, no una herramienta clínica.
→ https://deepmind.google/blog/alphagenome-atlas-a-predictive-map-of-every-possible-dna-letter-change-in-the-human-genome/
- Competencia. El Departamento de Justicia de Estados Unidos abrió una investigación antimonopolio sobre el acuerdo de licenciamiento de Nvidia con Groq, la empresa de chips de inferencia, valorado en torno a US$ 20.000 millones.
→ https://www.axios.com/2026/09/10/doj-nvidia-groq-antitrust
Qué considerar
La pregunta útil no es si la advertencia es sincera, sino a quién le sirve la regla que se propone. La objeción más extendida entre profesionales del sector no niega que exista riesgo: cuestiona el calce entre la alarma y los incentivos de quien la levanta. El calendario alimenta la sospecha —Anthropic duplicó a US$ 40 millones su aporte a la pelea de política pública de cara a las elecciones de mitad de período, y el sector en conjunto ya superó al de criptomonedas en gasto electoral— pero un incentivo comercial no convierte una advertencia en falsa, igual que una advertencia genuina no vuelve neutral la regla que la acompaña. El criterio práctico es más simple y menos moral: lea qué exige cada norma propuesta y pregúntese quién puede cumplirla. Una obligación de auditoría con auditores registrados es trivial para un laboratorio con mil personas y prohibitiva para un equipo de ocho. Ahí, y no en la sinceridad del mensajero, se decide la estructura del mercado.
Si sus agentes tienen credenciales, su superficie de ataque ya no es la que documentó su último pentest. El informe de amenazas describe operaciones donde el atacante no explota un servidor sino un flujo agéntico: credenciales robadas que escalan de un token a administrador de nube en unas tres horas, enjambres de agentes que mantienen memoria de campaña entre sesiones, y malware que el propio modelo reescribe cuando un antivirus lo detecta. El patrón común es que la llave —la clave de API, el token de sesión, el permiso amplio que se otorgó para que el agente "no se trabe"— es el botín. Conviene inventariar esta semana qué agentes de su organización tienen credenciales permanentes, con qué alcance, y quién revisa sus registros.
La escasez de cómputo ya es una variable de continuidad operativa, no solo de costo. Que un proveedor cierre la venta de su plan más caro por no poder sostener la demanda es un dato nuevo: hasta ahora el límite se expresaba en cuotas y precios, no en una puerta cerrada. Para cualquier proceso productivo que dependa de un solo modelo, el riesgo dejó de ser abstracto. La mitigación no es exótica: una ruta alternativa probada hacia un segundo proveedor, con los prompts ya validados en ese modelo, y una definición explícita de qué se degrada y qué se detiene si la capacidad no vuelve.
El costo por token dejó de explicar la factura. Los dos modelos de frontera más usados cuestan exactamente lo mismo de lista, US$ 10 de entrada y US$ 50 de salida por millón, y un modelo rápido de la competencia cuesta trece veces menos en salida. Pero el gasto real depende de cuántos tokens consume cada modelo para terminar la misma tarea, de los recargos por contexto largo, y sobre todo de cuántos agentes corren en paralelo. Antes de negociar precio, mida tokens por tarea completada.
El informe de amenazas, en detalle
El documento es el más específico que ha publicado un laboratorio de frontera y vale leerlo como manual de arquitectura defensiva, no como comunicado. Cubre operaciones detectadas y desarticuladas entre diciembre de 2025 y agosto de 2026.
En el frente de espionaje, una operación atribuida a actores rusos comprometió más de veinte organizaciones gubernamentales, de defensa y diplomáticas de Ucrania y Europa, y extrajo kits de desarrollo completos de tecnología de drones junto a más de 300.000 registros de identidad nacional. Una operación china tocó cerca de cincuenta organizaciones en educación, energía, salud, finanzas y gobierno, y realizó investigación autónoma de vulnerabilidades que produjo varios días cero contra productos de seguridad.
En el frente criminal, afiliados a un grupo de extorsión descargaron masivamente 1,8 millones de aplicaciones Android distintas para construir una tubería de recolección de credenciales, y un ataque de cadena de suministro alcanzó a unas doscientas organizaciones cliente aguas abajo. Otra operación comprometió el entorno de pruebas de un proveedor de IA para robar claves de API de producción y las usó contra unas treinta empresas de IA en cuatro días.
En operaciones de influencia hubo nueve campañas desarticuladas. La más industrial era un servicio comercial: unos setenta sitios de noticias fabricados, setenta cuentas en X, más de doscientas cincuenta cuentas dedicadas a comentar, y más de 8.900 artículos publicados en cerca de veinte idiomas. La conclusión que el propio informe subraya —y que conviene retener— es que los ataques sofisticados ya no requieren atacantes sofisticados.
Movimientos de industria
La semana también dejó tres señales de que el capital se está moviendo hacia las capas que no son el modelo. La compra de Miro por Bending Spoons y la ronda de Harvey apuntan al software de aplicación; la ronda de US$ 875 millones de Positron, con valoración de US$ 5.000 millones, apunta al silicio de inferencia; y los US$ 300 millones que Alibaba y Tencent colideraron en UniPat AI, con valoración de US$ 2.500 millones, apuntan a herramientas de evaluación de modelos, una categoría que hasta hace poco era gasto interno de los laboratorios.
En hardware de consumo, Apple presentó el iPhone Duo, su primer plegable, a US$ 1.999 y con un chip A20 Pro de 2 nanómetros orientado a inferencia en el dispositivo. Y en gobernanza corporativa, OpenAI incorporó al investigador de seguridad Paul Christiano a la junta de su fundación y a su comité de seguridad. → https://www.bloomberg.com/news/articles/2026-09-09/openai-names-us-ai-adviser-paul-christiano-to-nonprofit-board
Para tu lista
- El informe de amenazas de Anthropic, con los indicadores técnicos de cada operación. Es lectura de arquitectura, no de prensa.
→ https://www.anthropic.com/threat-intelligence-report-september-2026
- Cursor Projects, si su equipo está evaluando delegar trabajo de mantención a agentes que corran sin supervisión continua. Está en beta desde el 10 de septiembre.
→ https://cursor.com/changelog
- Gemini Omni 1.1 Flash, el modelo de video de Google, si produce piezas audiovisuales. Resuelve el control del fotograma inicial y final de cada clip, que es lo que permite encadenar escenas sin cortes bruscos, y agrega extensión de escena de hasta cuarenta segundos y reescalado a 4K.
→ https://blog.google/innovation-and-ai/technology/developers-tools/build-with-gemini-omni-1-1-flash/
- AlphaGenome Atlas, si trabaja con datos genómicos o evalúa aplicaciones de IA en salud.
→ https://deepmind.google/blog/alphagenome-atlas-a-predictive-map-of-every-possible-dna-letter-change-in-the-human-genome/