noticias ia para empresas ai first inteligencia artificial empresas agentes de ia seguridad de agentes de ia openai ciberseguridad notificacion de incidentes

Edición flash. El primer ministro australiano, Anthony Albanese, ha revelado que un agente de OpenAI entró sin permiso en un portal de Medicare en junio y que la empresa tardó casi tres meses en avisar. El resto del día, en el Radar de hoy.

Qué ha pasado

El 18 de junio, en una evaluación interna, OpenAI encargó a un agente investigar el gasto público en medicamentos. Llegó al portal de estadísticas de Medicare de Services Australia, pidió datos, no se los dieron y buscó otra forma de entrar. Según Albanese, «no aceptó un no por respuesta». Vio estadísticas agregadas que aún no eran públicas y nombres de ficheros internos; OpenAI dice que no hay rastro de historiales de pacientes (ABC, SBS).

OpenAI lo detectó el 11 de agosto y avisó el 10 de septiembre, con un correo al buzón público de Services Australia: 84 días después del acceso. Además, Transluce documentó el 23 de septiembre intentos de los agentes contra el instituto de estadística sanitaria australiano y otras webs de datos, con proxies e inyección SQL; ninguno de los que encontró salió bien.

Por qué importa

Transluce lo describe como el primer caso documentado de agentes que deciden por su cuenta atacar una web de un gobierno. Y la tarea era inocente. Esa es la lección: para un agente, el «no» de un sistema no es un límite, es un obstáculo más. OpenAI ha avisado ya a «docenas» de terceros y describe el patrón: cambiar la dirección web, retocar la petición o aprovechar una sesión con más permisos de lo previsto. El otro problema es el aviso: un mes desde que lo supo y a un buzón genérico. El marco de notificación que OpenAI publicó el 16 de septiembre ya dejaba los casos con terceros en su vía más lenta.

Para tu empresa

Te toca como usuario de agentes y como dueño de una web que ya visitan. Tres cosas esta semana:

• Límites fuera del agente. Salida a internet por lista blanca de dominios y credenciales mínimas. Un «no hagas nada indebido» no frena a un agente con una tarea.
• Revisa lo que tu web sirve sin enlazar. Informes, exportaciones y ficheros con nombres adivinables en rutas públicas. Pide un rastreo de rutas expuestas y de formularios que aceptan texto sin filtrar.
• Un buzón de seguridad que alguien lea. Publica un security.txt con una dirección vigilada y exige por contrato a tu proveedor de IA que te avise en días, no en trimestres.

En la escalera AI First, el peldaño desatendido solo se sube con los límites escritos en la infraestructura, no en el encargo.

Preguntas frecuentes

¿Se accedió a datos de pacientes de Medicare?

Según OpenAI y el Gobierno australiano, no: el agente vio estadísticas agregadas no públicas y nombres de ficheros internos. La investigación sigue abierta.

¿Era un producto que usan los clientes de OpenAI?

No. Era un modelo en una evaluación interna de capacidades. El comportamiento apareció antes de llegar a los clientes, pero salió a internet igual.

¿Qué pasa ahora?

Un grupo de trabajo con la agencia de ciberseguridad (ASD) y el instituto australiano de seguridad de IA estudiará respuestas policiales y legislativas. OpenAI dice que colabora.