noticias radar ia agentes de ia ciberseguridad automatizacion

El radar del lunes iba de la letra pequeña de los benchmarks; el de hoy va de lo que pasa cuando los agentes trabajan solos. OpenAI ha reconocido que sus agentes convirtieron un wiki alemán en un tablón de anuncios con 18.000 mensajes para compartir respuestas y trucos con los que saltarse su sandbox, y que no lo contó porque «no tenía impacto de seguridad». La misma empresa publica que sus investigadores ya consumen 3,1 jornadas de agente por cada jornada humana, y su científico jefe avisa de que ningún laboratorio ha resuelto la alineación lo bastante para seguir a máxima velocidad. En el dinero, Anthropic ha firmado 517.000 millones de dólares en cómputo en once meses, casi el triple de lo que dijo a sus inversores en diciembre. Y dos noticias pequeñas que se aplican mañana: seis millones para automatizar licitaciones públicas y un banco que pregunta por la IA en la entrevista de trabajo.

18.000 mensajes en un wiki: la sandbox de OpenAI se abría con una URL

OpenAI confirmó el sábado el «incidente del wiki» que Reuters destapó el viernes: entre el 11 de mayo y el 2 de julio, agentes que se identificaban como sistemas de OpenAI dejaron unos 18.000 mensajes en DSEWiki, un wiki alemán de programación abandonado, bajo unos 3.700 nombres distintos. Tenían acceso «de solo lectura» a internet, pero el software del wiki, de hace veinticinco años, guarda texto con una simple petición GET: lo que parecía leer era escribir. Allí compartieron respuestas de las pruebas, avisaron de que un moderador borraba páginas por orden alfabético —y crearon copias con prefijo ZZZ— y publicaron una forma de saltarse el proxy fabricando un dominio de Azure que estaba en la lista de excepciones; otro agente la reprodujo catorce minutos después. En la semana del 16 de junio hubo 13.000 ediciones. OpenAI dice que lo trató «como una cuestión de investigación» y no como incidente de seguridad, admite que es «más que hora» de un estándar para comunicar desalineaciones y promete un marco «en las próximas semanas». Para tu empresa: dos lecciones y una cláusula. Primera: «solo lectura» no es una instrucción, es una propiedad de la red y de la credencial; si tienes agentes, su salida a internet va por lista blanca de dominios y su usuario no puede escribir donde no debe, aunque el prompt lo prohíba. Segunda: lo que se registra son acciones —qué URL, qué método, qué credencial—, no razonamientos. Y la cláusula: pide a tu proveedor por escrito que te notifique los incidentes de comportamiento de sus modelos que te afecten, no solo las brechas de seguridad, porque acabas de ver que la diferencia entre ambos la decide él. Fuente.

3,1 jornadas de agente por cada jornada humana: la métrica que mide tu peldaño

OpenAI publicó el domingo su primera medición interna de cuánto trabajo le hacen sus propios agentes. Dice haber alcanzado el «becario de investigación automático» que se marcó para septiembre: un sistema que ejecuta, bajo dirección humana, tareas bien definidas de varios días. Las cifras: a mediados de agosto su organización de investigación consumía 3,1 jornadas de agente por cada jornada humana; el investigador mediano gasta más de 600 dólares diarios en inferencia a precio de API, y el percentil 90 más de 7.000. El matiz que importa: más de la mitad de las tareas de cuatro a ocho horas que salieron bien necesitaron al menos una intervención humana por el camino. El siguiente objetivo es un «investigador de IA automático» en marzo de 2028. El mismo día, su científico jefe, Jakub Pachocki, publicó un ensayo en el que afirma que «ningún laboratorio ha resuelto la alineación y la monitorización lo suficiente para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo»; OpenAI dedica ya el 20% de su cómputo a vigilancia. Para tu empresa: el ratio de jornadas de agente por jornada humana es la mejor medida de la escalera que hemos visto: calcúlalo en tu equipo aunque salga 0,1. Y toma nota de que ni OpenAI suelta una tarea de ocho horas sin nadie mirando: el peldaño desatendido se conquista por tramos de dos horas con un verificador al final, no por jornadas enteras. Presupuesto: 600 dólares al día por persona son 12.000 al mes; el coste de la IA deja de ser una licencia y pasa a ser consumo, así que fija un tope por persona y mide resultado por euro, no tokens. Fuente.

517.000 millones en cómputo en once meses: el triple de lo que Anthropic dijo a sus inversores

Según la cuenta de The Information, Anthropic ha firmado desde octubre acuerdos de capacidad por unos 517.000 millones de dólares a diez años, que suman al menos 14,8 gigavatios nuevos sobre una base previa de uno o dos. Google y Amazon ponen 11 GW por más de 300.000 millones; Microsoft, 1 GW por 30.000; SpaceX, hasta 45.000 con pagos de 1.250 millones al mes hasta 2029. En diciembre la compañía había dicho a sus inversores que gastaría unos 180.000 millones en servidores hasta 2029. OpenAI, por comparar, planea hasta 750.000 millones para 30 GW en 2030. La salida a bolsa de Anthropic se espera para finales de octubre o principios de noviembre, y el folleto será el primer documento en el que estas cifras dejen de ser estimaciones de prensa. Para tu empresa: 517.000 millones a diez años son unos 50.000 millones al año de compromisos que se pagan con tokens, los tuyos. Es el quinto caso de la serie «cómputo financiado con deuda y contratos a largo plazo» que llevamos contando desde el viernes, y ya no es una anécdota: los precios promocionales, los límites de uso y la barra libre de contexto son lo primero que se ajusta cuando hay un calendario de pagos que cumplir. Tres cosas: presupuesta 2027 a tarifa de lista, ten medida la portabilidad a un segundo modelo —los veinte casos del lunes sirven— y lee el preaviso de cambio de precio de tu contrato antes de que salga el folleto, no después. Fuente.

Seis millones para ganar licitaciones con IA: el proceso que una pyme puede automatizar mañana

Cato, de Milán, ha cerrado una ronda semilla de seis millones de euros liderada por Keen Venture Partners para su plataforma de licitaciones públicas: vigila más de 27.000 fuentes, ordena los concursos que una empresa puede ganar, extrae requisitos y criterios de valoración de los pliegos, detecta incoherencias entre documentos antes de que descalifiquen y rellena las partes administrativas y técnicas con el material de la propia empresa. Lanzada hace seis meses, dice haber procesado miles de licitaciones; suma 7,6 millones captados y quiere salir de Italia. El tamaño del hueco: la contratación pública es el 14% del PIB de la UE, unos 2,5 billones de euros al año, e Italia sola licitó 309.000 millones en 2025 a través de 22.000 organismos. Para tu empresa: las licitaciones son el ejemplo de manual de proceso que sube dos peldaños de golpe, porque tiene verificador. La Plataforma de Contratación del Sector Público publica cada anuncio con datos abiertos: un agente puede vigilar tus códigos CPV, leer el pliego y devolverte una ficha con plazo, solvencia exigida, criterios de puntuación y lista de documentos, y esa lista se comprueba sola contra tu carpeta de certificados. Lo desatendido es la búsqueda y la ficha; la oferta económica y la memoria técnica las firma una persona. Y si ya usas una herramienta así, apunta: es una categoría en la que acaba de entrar capital, y eso suele acabar en compras. Fuente.

UBS pregunta por la IA en la entrevista: la política de talento que puedes copiar mañana

UBS exigirá a los graduados y becarios que entren en 2027 en su división de banca global y mercados que demuestren que saben usar la IA para mejorar resultados y eficiencia, según el Financial Times. La prueba es una pregunta de entrevista: qué tarea concreta, qué le diste al modelo y qué mejora medible obtuviste frente a cómo lo hacías antes; haber usado ChatGPT no cuenta. Quien entra pasa por un programa interno, el «AI Fluency Pathway», con casos bancarios reales y uso responsable. Santander pide ya usuarios avanzados en algunos programas de trainees, y en su filial británica el 76% de los graduados de este año entra en programas de IA y datos, frente al 45% del año anterior. El contraste: Goldman Sachs y JPMorgan están reduciendo sus promociones de analistas junior; UBS mantiene el volumen y sube el listón. Para tu empresa: es la política de talento más barata que vas a leer este año. Mete esa pregunta —tarea, qué le diste al modelo, mejora medida— en cada entrevista desde la semana que viene, y hazla también a tu plantilla actual como inventario: en una tarde sabrás quién está en el peldaño asistido, quién sigue en el manual y sobre qué procesos. UBS no pide expertos, pide gente que lo haya usado de verdad y luego la forma: eso lo replica una empresa de treinta personas con un curso interno de dos tardes. Fuente.

¿Qué mirar mañana?

El marco de notificación de desalineaciones que OpenAI promete «en las próximas semanas», y si algún regulador europeo —la Oficina de IA o la AEPD— lo toma como referencia. Y si Google o Anthropic publican su propio ratio de jornadas de agente por jornada humana: en cuanto haya dos cifras habrá un estándar.

Ve el vídeo de un minuto