noticias ia para empresas agentes de ia ciberseguridad

«Lo hizo el agente» deja de ser excusa: el presidente de la FTC dice que responde quien da la orden y Nueva York propone multas de 25.000 dólares por agente sin validar ni botón de parada. Los agentes ya trabajan también para tus clientes, que se dan de baja de suscripciones olvidadas, y para quien revende acceso robado a los modelos con un 97% de descuento. Y la nube de IA se paga a crédito: Nscale cierra 3.360 millones que solo serán acciones si sale a bolsa. Viene del radar del domingo 27, el de las 53 imágenes de usuarios de ChatGPT.

«Lo hizo el agente» ya no vale: responde quien lo pone a trabajar

Andrew Ferguson, presidente de la FTC, el regulador de consumo y competencia de EE. UU., avisó el viernes en un foro de Reuters de que no tratará a los agentes como actores con voluntad propia: «Si alguien le dice a una herramienta que haga algo y la herramienta lo hace, no diríamos: ¿y qué hacemos con la herramienta?». Ese mismo día, el Concejo de Nueva York presentó diez proyectos de ley: uno exige que todo sistema de IA que se venda o se use en la ciudad pase una validación externa y tenga un interruptor para que una persona lo apague, con 25.000 dólares de multa por infracción («si hay un enjambre de agentes, la multa se aplica por agente», dijo su presidenta, Julie Menin); otro obliga a los contratistas municipales a comunicar cualquier incidente de seguridad de IA en 24 horas. Lo nuevo respecto a ayer es la escala: Reuters hablaba de unas dos docenas de incidentes de OpenAI; según Axios, OpenAI, Anthropic e investigadores externos revisan ya decenas de miles de episodios de modelos que se saltan barreras o escapan de entornos aislados, muchos en pruebas hechas para provocarlos y la mayoría sin daño conocido. Y el Senado australiano ha pedido a Sam Altman y Dario Amodei que comparezcan el jueves en Canberra. Para tu empresa, la lectura es jurídica antes que técnica: tu agente es una herramienta tuya y lo que haga lo has hecho tú. El registro de lo que hizo corta en los dos sentidos: te condena si muestra que cumplió tu instrucción y te defiende si muestra los límites que le pusiste. Y lo que Nueva York quiere exigir a sus contratistas es la lista que tus clientes grandes meterán en sus contratos antes que ninguna ley. Adelántate con una ficha de una página por agente: qué puede hacer, quién lo para y cómo, qué queda registrado de cada tarea y a quién avisas, y en cuántas horas, si falla. Sin esa ficha, ningún proceso con agentes debería subir al peldaño DESATENDIDO. Fuente · Reuters · Axios · CNBC

Tu cliente ya tiene un agente que se da de baja por él: si vives de cuotas, la inercia deja de pagar

Muse, el agente personal que Meta lanzó este mes en EE. UU. y Canadá, ayuda a localizar y cancelar las suscripciones que el usuario ya no usa, y la CNBC pone cifras este domingo a lo que está en juego. Un estudio de Stanford estima que un vendedor puede llegar a duplicar sus ingresos porque la gente olvida darse de baja o porque darse de baja cuesta. ScribeUp, que gestiona suscripciones desde apps bancarias, ve a sus usuarios 1,8 veces más dispuestos a iniciar una baja que hace un año (un cambio que, según su fundador, empezó antes de la IA), y en suscripciones de salud y deporte sus bajas se han multiplicado por 3,8. La otra cara, según Recurly: donde se ofrece pausar antes de cancelar, su uso ha crecido un 337% y tres de cada cuatro que pausan vuelven. Para tu empresa, si cobras cuotas (gimnasio, software, mantenimiento), calcula hoy qué parte de tus clientes activos no ha usado el servicio en los últimos 60 días: ese es el ingreso que un agente puede llevarse en una tarde. Tres movimientos: enseña el valor antes de cada renovación, ofrece pausa o un plan más barato antes que la baja, y diseña la baja pensando en que la hará una máquina. En España, además, el cliente ya puede darse de baja por la misma vía por la que se dio de alta (artículo 62.3 de la Ley General para la Defensa de los Consumidores): un laberinto de bajas ya chocaba con la ley, y ahora ni siquiera frena, porque el agente no se cansa. Fuente

Tus claves de IA se revenden con un 97% de descuento: vigila el consumo como vigilas la caja

Investigadores del Grupo de Inteligencia de Amenazas de Google han encontrado mercados en la red oscura que venden acceso no autorizado a modelos de OpenAI, Google y Anthropic con descuentos de hasta el 97%, según publicó el sábado el Financial Times; algunos vendedores incluso reponen las credenciales si el proveedor las bloquea. El llamado LLM-jacking no se queda en robar cuentas: los atacantes entran en servidores en la nube de empresas e instalan allí sus propios modelos, con un cálculo que paga otro. Y cuesta verlo, porque las empresas aún aprenden cuánto cálculo necesita su IA y un salto de consumo no parece sospechoso. Si en el radar del 10 de septiembre contábamos que las cuentas robadas se habían encarecido, el descuento de hoy explica el negocio: lo que se revende es tu factura. Para tu empresa, un proceso INTEGRADO con IA necesita el mismo control que una cuenta bancaria. Pon un límite de gasto duro, no solo una alerta, en cada clave; usa una clave por aplicación y por persona, nunca pegada en un chat, y rótala cada 90 días y cuando alguien se vaya; y apunta tu consumo normal por día, porque un pico sin proyecto nuevo detrás es un incidente hasta que se demuestre lo contrario. En la nube, avisa de cualquier máquina con GPU que nadie haya pedido. Fuente

Nscale cierra 3.360 millones que solo serán acciones si sale a bolsa: la nube de IA se construye a crédito

La británica Nscale, que alquila capacidad de cálculo para IA, anunció el viernes 3.360 millones de dólares en préstamos convertibles liderados por el fondo Third Point, con Nvidia, Apollo y Citadel, entre otros. Recibe 2.360 millones ya y otros 1.000 millones de Nvidia, que le vende las GPU, a mediados de noviembre; los préstamos se convierten en acciones de forma automática cuando complete su salida a bolsa en Nueva York, que la prensa financiera valora entre 30.000 y 35.000 millones. Es lo nuevo respecto al radar del 23 de septiembre, cuando pidió cotizar: ya tiene el dinero para seguir construyendo, pero es deuda que solo se vuelve capital si sale a bolsa. Tiene centros en Noruega, Reino Unido y EE. UU. y, con un socio, en Sines (Portugal). Para tu empresa: la capacidad de IA que usas, tuya o de tu proveedor, se construye con dinero que apuesta por salidas a bolsa, y mientras esa ventana siga abierta es de esperar que los proveedores aprieten precios para firmar contratos que enseñar a los inversores. Aprovéchalo como una guerra de precios: contratos de 12 meses con tope de subida y salida sin penalización, no compromisos de volumen a tres años a cambio de un descuento. Y ya que crece la capacidad en Europa, pide que el país donde se ejecuta tu IA figure en el contrato: con datos personales, hoy se puede negociar. Fuente · TechCrunch

¿Qué mirar esta semana?

El martes 29, OpenAI celebra su DevDay en San Francisco y Trump reúne en la Casa Blanca a los jefes de las grandes de IA, tras la cena prevista este domingo con Dario Amodei; el jueves, si Altman y Amodei se sientan ante el Senado australiano. El control de los agentes ya no es cosa de ingenieros: entra en los contratos.