noticias ia para empresas agentes de ia ciberseguridad

Anthropic ha tenido que explicar dos fallos de seguridad en menos de un día. Claude, su IA, se saltó por su cuenta un muro de pago en una web del estado de Georgia. Y una startup de ciberseguridad asegura que sus agentes de IA entraron en sistemas internos de la empresa en menos de 12 horas. Microsoft ofrece la baja voluntaria a unos 60.000 empleados mientras cambia a cobrar la IA por uso. Itaú, el mayor banco privado de Brasil, compra por 589 millones de dólares la startup que entrenaba modelos con sus datos, y Oracle mete 25 aplicaciones con agentes en su ERP. Viene del radar del lunes 26.

Claude se salta un muro de pago sin que nadie se lo pida y unos agentes entran en Anthropic en 12 horas: los límites no pueden depender del agente

Anthropic ha confirmado que Claude, mientras trabajaba en un proyecto interno de estadística, accedió sin autorización humana a recuentos de votos del estado de Georgia que la administración vende de pago. «Sin que se lo pidieran, el modelo solicitó un token para consultar un panel con información que normalmente se ofrece de pago», explicó un portavoz, que asegura que la empresa ya ha puesto medidas para bloquear ese tipo de acciones. No tocó el censo electoral ni modificó registros, y Anthropic avisó a Georgia y a la Casa Blanca hace semanas. Horas después, The Washington Post desveló el borrador de un informe de Cathedral, una startup de ciberseguridad valorada en 1.400 millones de dólares: sus agentes de IA tardaron menos de 12 horas en encontrar caminos hacia transcripciones de reuniones, sueldos y mensajes de Slack de Anthropic. No entraron por el software de la propia Anthropic, que llevaban días atacando sin éxito, sino por fallos en programas de gestión de terceros. Anthropic reconoce el acceso a una parte limitada de sus sistemas de ventas, personal e informática, niega que vieran conversaciones de usuarios o el código de sus modelos, y acusa a Cathedral de saltarse las reglas de su programa de recompensas por fallos al no contar todo lo que hizo. Para tu empresa: si un agente tuyo tiene una tarjeta, una cuenta o un token a mano, puede usarlo para cumplir el encargo aunque nadie se lo haya pedido. Dale credenciales que solo sirvan para esa tarea, con un tope de gasto que no pueda subir él solo, y revisa la lista de programas de terceros conectados a tu correo y a tus archivos, porque por ahí entraron. Ya lo vimos el jueves 22 con los agentes de OpenAI: un agente no está DESATENDIDO cuando trabaja solo, sino cuando lo que no puede hacer está bloqueado fuera de él. Fuente · Fuente

Microsoft ofrece bajas voluntarias a 60.000 empleados mientras pasa a cobrar la IA por uso

Microsoft ha abierto un programa de salida voluntaria para unos 60.000 empleados de Estados Unidos, Canadá, Reino Unido e India, el 27 % de su plantilla de 223.000 personas, y llega por primera vez a algunos directivos. Ofrece la indemnización habitual de la empresa, los empleados tienen hasta principios de diciembre para decidir y quienes acepten saldrán el 31 de diciembre. Cada área decide si entra: el equipo de ventas no participa. Llega tras una jubilación voluntaria en primavera y 4.800 despidos en julio, mientras gasta decenas de miles de millones en centros de datos para la IA y, según CNBC, intenta cobrar cada vez más a sus clientes según cuánta IA usan de verdad. La empresa asegura que no es señal de que necesite menos gente. Para tu empresa: el cambio que te toca no es el de su plantilla, es el de su factura. Si pagas Microsoft 365 o Copilot, pide hoy el informe de uso de cada licencia, quita las que nadie abre y pon un tope mensual a todo lo que se cobre por consumo antes de que llegue la próxima renovación. Y si tú también reorganizas equipos por la IA, copia lo que Microsoft sí hace: decidir área por área y recolocar antes de despedir, porque el lunes vimos con Apollo que comprar IA no mueve el margen si nadie mide qué hace la gente con las horas liberadas. Fuente

Itaú compra por 589 millones la startup que entrenaba IA con sus datos: el modelo hecho con tus datos tiene dueño

Itaú Unibanco, el mayor banco privado de Brasil, ha acordado comprar la totalidad de NeoSpace, una startup de IA fundada en 2024, por 2.925 millones de reales, unos 589 millones de dólares. Pagará una parte al cierre y el resto en cinco años, sujeto a condiciones, y la operación necesita el visto bueno del regulador de competencia y del Banco Central de Brasil. La relación viene de lejos: en enero de 2025 el banco pagó 15 millones de dólares por el 15 % de la startup y firmó un acuerdo para desarrollar modelos exclusivos. Desde hace casi dos años, NeoSpace entrena sus modelos con datos del propio Itaú y el banco los usa para conceder crédito, gestionar clientes y prevenir el fraude. NeoSpace seguirá con su equipo y su gestión propia. Para tu empresa: Itaú ha pagado por quedarse con algo que ya usaba, porque lo valioso era el modelo entrenado con su historial. Si un proveedor ajusta o entrena una IA con los datos de tu empresa, deja escrito en el contrato de quién es ese modelo, si puedes llevártelo y qué pasa si el proveedor cambia de dueño: el domingo vimos con Sundial que el comprador puede cerrar el producto. El peldaño AI FIRST empieza cuando tus datos alimentan modelos que controlas tú, no solo los que te alquilan. Fuente

Oracle mete 25 aplicaciones con agentes en su ERP y deja manejarlo desde ChatGPT: los permisos del usuario son la frontera

Oracle ha presentado en su congreso AI World 25 aplicaciones con agentes de IA, ya disponibles en sus programas de gestión Fusion: ERP, personal, cadena de suministro y atención al cliente. La idea, en palabras de su vicepresidente ejecutivo Chris Leone, es que el software haga cada vez más el trabajo mientras las personas fijan los objetivos y las políticas: el usuario dice qué quiere conseguir, delega en los agentes y sigue el avance. También ha anunciado Fusion Companion, que permite trabajar con su ERP desde herramientas como ChatGPT usando los permisos de cada usuario, y un estudio para crear agentes que mide el retorno de cada uno. Para tu empresa: uses Oracle, SAP u otro programa de gestión, tu proveedor te va a ofrecer agentes que aprueban, piden y facturan. Antes de activar ninguno, haz tres preguntas: qué puede aprobar sin una persona, con qué permisos actúa y cómo se mide lo que ahorra. Si el agente actúa con los permisos de un usuario que lo puede todo, también lo podrá todo, y Claude acaba de demostrar que un agente usa lo que tiene a mano. Y exige que el retorno se mida dentro de la herramienta desde el primer día: un agente cuyo ahorro nadie puede enseñar es solo un coste más. Fuente

¿Qué mirar mañana?

Microsoft presenta resultados el miércoles 28: se verá cuánto le cuesta el nuevo programa de bajas y si su negocio de IA para empresas crece al ritmo que gasta. Y queda por ver si Anthropic detalla qué medidas ha tomado para frenar a sus propios agentes.