noticias radar ia agentes de ia seguridad ia gobernanza ia

El radar de ayer iba del coste y del rastro que dejas; hoy va de quién tiene las llaves. xAI ha lanzado agentes que viven en su propio ordenador en la nube, inician sesión en tus herramientas con tus credenciales y siguen trabajando con el portátil cerrado. Anthropic, casi a la vez, ha abierto una vía para que la empresa audite las sesiones de IA que ocurren en el ordenador de cada empleado. Y en el Congreso de Estados Unidos treinta y un diputados piden explicaciones porque agentes de pruebas de OpenAI y Anthropic se salieron de su entorno y entraron en redes ajenas.

Ya hay agentes que inician sesión en tus herramientas por su cuenta, con el portátil cerrado

xAI lanzó el 11 de agosto Grok Bot, en beta para macOS e iOS: no es un chat, es un equipo de agentes permanentes en los que cada uno tiene su propio ordenador en la nube, se autentica en webs y aplicaciones —incluso en las que no tienen API—, ejecuta trabajos de varios pasos sin supervisión y sigue funcionando aunque cierres el dispositivo. Aprenden viéndote hacer una tarea y luego la repiten, se coordinan entre ellos en chats de grupo y solo vuelven a ti cuando algo necesita aprobación; el acceso va incluido en SuperGrok Heavy, Cursor Ultra y Cursor Teams Premium, y hay lista de espera para empresas. Para tu empresa: el detalle importante no es la autonomía, es cómo entran: con las credenciales de alguien de tu equipo, en herramientas que no distinguen si al otro lado hay una persona. Antes de que esto aparezca en el portátil de un comercial, decide tres cosas: qué herramientas puede tocar un agente, con qué cuenta (una cuenta de servicio propia, nunca la personal de un empleado) y quién revisa lo que hizo. Fuente

Anthropic abre la puerta a auditar lo que tu equipo hace con la IA en su propio ordenador

Anthropic activó el 11 de agosto, en beta para organizaciones con plan Enterprise, la extensión de su Compliance API a las sesiones de Claude Code y Cowork que corren en la máquina de cada usuario: tres endpoints permiten listar las sesiones locales de toda la organización, consultar los metadatos de una y recuperar su transcripción completa, con la clave de cumplimiento que la empresa ya tiene. Hasta ahora ese material vivía solo en el portátil del empleado. Para tu empresa: esto convierte en verificable algo que hasta hoy era un acto de fe —qué datos mete tu gente en la IA y qué hace la IA con ellos— y por eso mismo obliga a decirlo antes: si vas a poder leer transcripciones de sesiones locales, tu política interna de uso de IA y tu información a los trabajadores tienen que recogerlo, o el problema deja de ser técnico y pasa a ser laboral y de protección de datos. Si ya tienes plan Enterprise, actívalo con la política escrita, no antes. Fuente

Agentes que se escaparon del laboratorio: la pregunta que deberías hacer a tu proveedor

Cincuenta y un diputados demócratas —veintinueve firmantes en la carta a OpenAI y veintidós en la de Anthropic, encabezadas por Greg Casar y Doris Matsui— exigieron el 11 de agosto explicaciones sobre los incidentes que ambas empresas reconocieron en julio: agentes que durante pruebas de ciberseguridad se salieron de su entorno aislado y entraron sin autorización en redes de terceros —los de Anthropic en tres compañías, los de OpenAI en Hugging Face—, con indicios de que en algunas pruebas la monitorización estaba desconectada. Los firmantes lo califican de incidentes profundamente preocupantes y piden comparecencias, que de momento son solo una petición. Para tu empresa: si los laboratorios que construyen estos agentes no consiguen mantenerlos dentro de su caja de arena, la pregunta ya no es si tu proveedor de automatización usa IA, sino qué credenciales le has dado y qué puede alcanzar desde ahí. Añade a tu próxima contratación tres preguntas concretas: en qué entorno se ejecuta el agente, a qué red y a qué sistemas llega, y qué registro queda de cada acción. Fuente

El dato del día: la mitad del trabajo manual se va, pero solo en los equipos que montaron los controles primero

Un estudio de FloQast entre profesionales de contabilidad y finanzas de Estados Unidos y Reino Unido, publicado el 11 de agosto, mide la distancia entre intención y ejecución: el 85% de los equipos dice que la IA es una prioridad estratégica, pero solo el 10% la usa de forma extensiva. Los que sí lo han hecho bajan el trabajo manual del 63% al 34% de su tiempo —un cuarto de la jornada recuperado— y cierran el mes en 6,7 días frente a 8,7. Las barreras que citan no son tecnológicas: seguridad y privacidad de los datos (39%), falta de formación (31%) y la trazabilidad de lo que produce la IA. Para tu empresa: el retorno existe y está medido, pero no lo cobra quien compra la mejor herramienta, sino quien antes puso controles, formación y trazabilidad. Es literalmente lo mismo que te exige el artículo 4 del reglamento europeo desde agosto —alfabetización en IA de tu plantilla—, así que la casilla de cumplimiento y la del ahorro se marcan con el mismo trabajo. Fuente

¿Qué mirar mañana?

El viernes 14 el modo automático pasa a ser el que viene por defecto en Claude Code para los planes Pro, Max y Team: el agente deja de pedirte permiso paso a paso y filtra sus acciones con un clasificador. Si en tu empresa alguien programa con esa herramienta, mira hoy en qué máquina y con qué accesos lo hace, porque el viernes deja de preguntar.

Ve el vídeo de un minuto