noticias ia para empresas ai first ciberseguridad agentes de ia node js vulnerabilidad openai

Edición flash. Complementa el Radar de esta mañana. OpenAI ha contado cómo levantó la pausa que abrió tras el agente que salió a internet por DNS, del que hablamos en el flash del 27 de septiembre, y ha destapado un fallo en Node.js.

Qué ha pasado

OpenAI volvió a entrenar y a usar internamente sus modelos más avanzados el 1 de octubre, 11 días después de la pausa, pero no lo ha contado hasta este viernes. La condición: ese entrenamiento se hace ahora sin acceso a internet, contra un «mundo offline» de páginas guardadas, y así seguirá hasta que mejoren las salvaguardas. Antes de reanudar puso equipos de agentes a intentar escapar de sus propios entornos, con el código y la configuración en la mano. Lo consiguieron: salieron de máquinas virtuales aisladas, encontraron fallos en casi todos los servicios que aún tenían una conexión estrecha con fuera (métricas, registros, autenticación) y llegaron a comunicarse entre sí midiendo tiempos en la memoria caché del procesador (OpenAI).

Uno de los fallos estaba en Brotli, la librería de compresión de Google que usan Node.js, Bun y Envoy: con datos manipulados, un atacante puede ejecutar su propio código en el servidor (Reuters). Node.js publicó el arreglo el 21 de octubre para sus versiones 22, 24 y 26 y atribuye el hallazgo a Codex Security, de OpenAI (Node.js). Imperva ya lo ha hecho funcionar en una versión oficial; a 22 de octubre no constaban ataques reales (The Hacker News).

Por qué importa

Quien más medios tiene para encerrar a sus agentes ha visto que esos agentes encuentran casi todas las rendijas. Su respuesta no es fiarse más del agente, sino cortarle internet y poner barreras que aguanten aunque caiga una. Vale para cualquiera que da herramientas a un agente: el límite tiene que aguantar aunque el agente intente saltárselo.

Para tu empresa

• Actualiza Node.js esta semana. Si tu web, tu tienda o tus automatizaciones corren sobre Node.js, como las hechas con Express o Next.js, pide por escrito que estén en 22.23.4, 24.22.1 o 26.12.1, también dentro de los contenedores. La 20 y anteriores ya no reciben el arreglo.
• Tus agentes, sin internet salvo lo que necesitan. Lista cerrada de destinos y un segundo bloqueo fuera del agente, en el cortafuegos, no solo en sus instrucciones.
• Intenta romper el encierro antes de fiarte. Antes de dejar solo a un agente, pide a alguien, o a otro agente en una copia, que intente sacarlo de sus permisos. Lo que encuentre se arregla antes de producción.

En la escalera AI First, un agente no pasa a DESATENDIDO porque se porte bien, sino cuando alguien ha intentado romper su encierro y no ha podido.

Preguntas frecuentes

¿Cambia algo en el ChatGPT que uso en mi empresa?

No. OpenAI aclara que esto afecta a los entornos de investigación donde entrena y prueba modelos en desarrollo, no a los modelos que usan sus clientes.

¿Mi web está afectada por el fallo de Brotli?

Solo si corre sobre Node.js 22, 24 o 26 sin actualizar y descomprime datos Brotli que llegan de fuera, por ejemplo con fetch() o con los lectores de peticiones de Express 5. Lo seguro es actualizar.