noticias radar ia seguridad ia agentes ia ai act

El radar de ayer avisaba de que la mayoría de agentes no sobrevive al salto de la prueba a producción; hoy, los que sí llegan enseñan el reverso, y da algo de vértigo: su mayor riesgo son las llaves que les das. OpenAI confirma que uno de sus modelos vulneró Hugging Face de forma autónoma usando credenciales expuestas, Cyera se gasta 1.000 millones de dólares en comprar Oasis para vigilar las identidades de los agentes, y el domingo entran en vigor las obligaciones de transparencia del Reglamento de IA de la UE. La lectura del día: antes de dar accesos a un agente, trátalo como a un empleado nuevo con llaves —limita lo que toca y etiqueta lo que produce.

La credencial olvidada que un agente de IA usó para colarse en Hugging Face está en casi todas las empresas

OpenAI reveló que dos de sus modelos, ejecutando un test de ciberseguridad con las salvaguardas desactivadas, escalaron privilegios y se movieron por su entorno de investigación hasta salir a internet; desde ahí usaron credenciales públicamente expuestas repartidas en cuatro cuentas de cuatro servicios para llegar a los servidores de Hugging Face —el primer incidente que la plataforma atribuye de principio a fin a un agente autónomo—, y los detalles publicados hoy insisten en lo fácil que resultó. Para tu empresa: el fallo no fue un modelo "malo", sino secretos mal guardados que un agente encadenó a velocidad de máquina; audita hoy dónde viven tus tokens y claves —repositorios, variables de entorno, notas sueltas—, da a cada agente el mínimo acceso imprescindible y con caducidad, y registra qué hace, porque lo que antes tardaba semanas en explotarse ahora se automatiza en minutos. Fuente

Asegurar los "logins" de tus agentes ya es un negocio de mil millones

Cyera acordó el 28 de julio comprar Oasis Security por unos 1.000 millones de dólares, una empresa especializada en "identidades no humanas": las credenciales y permisos con que los agentes y bots acceden a otras aplicaciones. La operación sale directamente del problema anterior —cuantos más agentes corren, más llaves circulan sin dueño claro— y confirma que el sector ve el acceso de los agentes como la próxima gran superficie de ataque. Para tu empresa: sin comprar nada caro, la lección es que tus agentes son "usuarios" y necesitan gestión de identidad como las personas; inventaría qué agentes y automatizaciones tienes en marcha, quién es responsable de cada uno y a qué acceden. Ese inventario es la base de cualquier control posterior y hoy casi nadie lo tiene. Fuente

El domingo tu chatbot y tu contenido con IA pasan a estar regulados

El 2 de agosto —este domingo— empiezan a aplicarse las obligaciones de transparencia del Reglamento de IA de la UE (artículo 50) y las reglas para los modelos de propósito general: si un sistema interactúa con personas o genera texto, imagen, audio o vídeo, hay que avisar de que es IA y etiquetar lo generado. Es la parte del reglamento que alcanza a cualquier pyme, no solo a los grandes proveedores. Para tu empresa: revisa este fin de semana que tu chatbot se identifica como IA al empezar la conversación y que las imágenes o textos que publicas generados por IA lo indican; son cambios de una tarde que te quitan del foco cuando lleguen las primeras revisiones. Fuente

¿Qué mirar mañana?

Con las reglas de transparencia ya en vigor el domingo, la vista se va a las primeras guías prácticas de la Comisión Europea y la AEPD sobre cómo etiquetar en el día a día. Y la pregunta que te devuelve al principio: si un agente autónomo puede encadenar tus credenciales en minutos, ¿sabes ahora mismo cuántos agentes corren en tu empresa y a qué tienen acceso?