Cloudflare Remedia la Exposición de Caché KV en el Modelo GLM-5.3 de Workers AI
Según Cloudflare. Cloudflare detalla un problema de aislamiento de inquilinos que afectó al modelo GLM-5.3 Workers AI y su mitigación coordinada.
- • Un problema de aislamiento afectó al modelo GLM-5.3 Workers AI a partir del 27 de agosto de 2026.
- • Cloudflare solucionó el problema y restauró el modelo el 9 de septiembre de 2026.
- • Un total de 155 respuestas se vieron afectadas, todas en prompts de más de 681,280 tokens.
- • El problema surgió de una discrepancia de configuración combinada con un error en el motor SGLang.
Resumen del Incidente
El 8 de septiembre de 2026, Cloudflare recibió una alerta sobre un problema de aislamiento de inquilinos que afectaba al modelo GLM-5.3 Workers AI. Cloudflare mitigó el problema y restauró el modelo el 9 de septiembre, confirmando que ningú otro modelo alojado en Workers AI se vio afectado. Un pequeño número de clientes recibió respuestas que contenían datos de solicitudes de otros usuarios realizadas poco antes.
Causas Raíz
Esta exposición de caché KV cruzada fue el resultado de dos problemas superpuestos. El primero fue una configuración errónea del motor de inferencia SGLang de código abierto, donde el grupo de caché KV en las GPU de prellenado era más pequeño que la ventana de contexto. El segundo fue un error en la gestión de solicitudes excesivamente largas en el modo de prellenado y decodificación desaggregado.
Acciones de Remediación
Tras deshabilitar el modelo, Cloudflare ajustó la configuración del grupo para albergar todo el contexto y parcheó el motor de inferencia para que las solicitudes rechazadas se retiren en la cola de admisión antes de cualquier transferencia de caché. Los cambios se validaron con pruebas rigurosas antes de restaurar el acceso público.
- 1. blog.cloudflare.comAbrir fuente