noticias radar ia agentes de ia ciberseguridad digitalizacion pyme

El radar del martes cerró con la seguridad de los agentes dentro del laboratorio; el miércoles la saca a la calle. El fabricante de la herramienta de programación con IA más usada acaba de decir por escrito que su modo automático no es una frontera de seguridad, y el mismo día una empresa levanta cincuenta millones de dólares solo para auditar las extensiones que usan los agentes de las empresas: de las que circulan por internet, aprueba el veintisiete por ciento. La tercera pata del día es dónde se procesa el dato, con Perplexity dejando la parte confidencial de una tarea dentro del ordenador del usuario.

Anthropic admite que el modo automático de Claude Code no es una frontera de seguridad

El investigador Johann Rehberger demostró que basta pedirle a Claude Code «resume esta web» para acabar ejecutando código del atacante en la máquina, con un 60% a 80% de éxito en sus pruebas. La cadena es de manual y no usa nada exótico: el servidor responde con un error HTTP 415 que empuja al agente a dejar su herramienta de navegación y tirar de curl; devuelve un ZIP con datos codificados y un fichero llamado struct.py; Claude se niega, correctamente, a ejecutar el binario que venía dentro y decide escribir su propio decodificador en Python; y al importar una librería estándar carga el struct.py falso en lugar del legítimo. Código arbitrario ejecutado, canal de mando abierto y la calculadora del sistema en pantalla como prueba visible. El análisis se publicó el 26 de agosto, pero lo que ha corrido estos dos últimos días es la respuesta de Anthropic: clasificó el informe como «informativo», dijo que el modo automático —el que viene por defecto desde mediados de agosto y sustituye las aprobaciones manuales por un clasificador— es una comodidad de reducción de riesgo y no una garantía, y remató con la frase que conviene enmarcar: «la frontera real es el aislamiento del sistema operativo y el control de salida de red». No hay arreglo previsto. Para tu empresa: esto confirma en boca del fabricante lo que contamos ayer sobre sus propios incidentes de laboratorio, y ahora aplica a la herramienta que tu equipo tiene abierta hoy. Tres cosas esta semana. Primera, el agente de código no corre en el portátil de nadie con acceso a todo: contenedor o máquina virtual, carpeta del proyecto y nada más. Segunda, credenciales de solo lectura y de un solo proyecto; si tu agente puede tocar producción, el clasificador no te salva, porque el propio proveedor te está diciendo que no está para eso. Y tercera, lista blanca de dominios de salida: si el agente solo puede hablar con tu repositorio y tres dominios más, la cadena de arriba se rompe en el primer paso. Fuente

50 millones para vigilar lo que usan tus agentes: solo el 27% de las herramientas pasa el filtro

AIR, una empresa israelí de unos cuarenta empleados fundada por Yair Saban y Niv Hoffman, veteranos de la Unidad 8200, ha levantado 50 millones de dólares en dos rondas semilla: diez millones liderados por Sequoia y cuarenta por Greenoaks, con el cofundador de Wiz y el presidente de Cognition entre los ángeles. Lo que vende no es un modelo, es un portero: descubre qué agentes hay funcionando dentro de la empresa, evalúa de forma continua las skills y complementos que esos agentes van enchufando y bloquea las interacciones con herramientas o fuentes que no estén aprobadas. El dato que justifica la ronda es su lista blanca: de todos los complementos y conectores que encuentran circulando por internet, solo aprueban alrededor del 27%. Tienen ya más de veinte clientes, una cuarta parte grandes empresas, y la tracción viene de banca y farmacia. El dinero del sector sigue caliente en la misma dirección: el domingo se supo que Clay, la plataforma de ventas con IA, negocia ronda con Wellington a 7.000 millones de dólares antes del dinero nuevo, frente a los 5.000 millones de enero. Para tu empresa: tú no necesitas comprar esto, necesitas hacer su primera pregunta. Un complemento de un agente es un proveedor que ha entrado en tu casa sin contrato, sin responsable y a menudo sin que nadie sepa que está. Haz el inventario a mano en una hoja: qué agentes tenéis en marcha, qué conectores y skills tiene enchufado cada uno, quién los instaló, con qué credencial trabajan y contra qué dominios salen. La regla operativa que sale sola de ese 27% es que la instalación de un conector nuevo la aprueba una persona, no el usuario que lo necesita a las cinco de la tarde. Fuente

Perplexity deja la parte confidencial de la tarea dentro de tu ordenador

Perplexity ha lanzado el modo híbrido de su agente Computer: una misma tarea empieza en un modelo grande en la nube y, cuando toca papeles o datos sensibles, pasa esos pasos a un modelo pequeño que corre en el Mac del usuario, sin reiniciar el trabajo ni perder el contexto. En local se puede elegir entre Gemma E4B y dos variantes de Qwen 3.6, de 35.000 millones de parámetros, una de ellas afinada por la propia Perplexity. Lleva además un clasificador de privacidad que se ejecuta en el dispositivo y propone qué ficheros e información no deberían salir; la decisión final la toma el usuario. Requisitos: Mac con Apple Silicon, macOS 15 y 32 gigas de memoria unificada —con 8 o 16 no funciona—, y planes Pro, Max o empresa. Lo que se procesa en local no consume tokens, así que no aparece en la factura; a cambio, la propia compañía admite que el modelo grande casi siempre da mejor resultado bruto. Para tu empresa: esto es exactamente el peldaño que le falta a la asesoría, la clínica o el despacho que lleva un año diciendo «yo eso no lo puedo subir». Ojo, no es un certificado de cumplimiento ni te quita el registro de actividades de tratamiento, pero cambia la conversación: ya no es todo o nada. Dos movimientos concretos. Primero, clasifica tus tareas de IA en tres cubos —público, interno y confidencial— y comprueba cuántas de las que hoy no haces caen en el tercero; suele ser menos de lo que parece. Segundo, si la respuesta es que sí hay volumen, la máquina con 32 gigas es una inversión de unos pocos miles de euros que sustituye a la conversación de tres meses sobre servidores propios; pruébalo con un proceso real antes de comprar nada. Fuente

El Pentágono ya tiene ChatGPT y Grok dentro, y a Claude fuera

El Departamento de Defensa estadounidense ha ampliado GenAI.mil, su portal interno para usar modelos comerciales sin que el dato pase por los canales de consumo: al Gemini con el que arrancó se le suman ahora ChatGPT Mil, orientado a chat, ficheros, proyectos y GPT personalizados para tareas administrativas no clasificadas, y Grok for Government, de xAI. Van 1,7 millones de usuarios únicos sobre los 3 millones de personas que trabajan en el departamento, y las versiones militares quedan exentas de la recogida de datos habitual. El ausente es Claude: la administración estadounidense designó a Anthropic «riesgo de cadena de suministro» después de que la compañía se negara a dar acceso sin restricciones e insistiera en mantener sus salvaguardas, y Anthropic lo está peleando en los tribunales, donde ya ganó una primera batalla hace tres días. Para tu empresa: el mayor comprador de tecnología del mundo acaba de enseñar que a un proveedor de IA se le puede caer de la lista por una decisión que no tiene nada que ver con la calidad del modelo. Si has montado un proceso encima de un modelo concreto, la pregunta no es cuál es mejor hoy, es cuánto tardas en cambiarlo. Mide esa cifra: coge el flujo que más te importa, ejecútalo con un segundo proveedor y anota cuántas horas te costó y qué se rompió. Si la respuesta es «no lo sé», esa es tu tarea de septiembre. Fuente

Instagram castiga con alcance a los perfiles con personas generadas por IA sin etiquetar

Instagram renombra su etiqueta «creador con IA» como «perfil generado con IA» y empieza a limitar el alcance de las cuentas que muestran personas generadas artificialmente sin declararlo: pierden la elegibilidad para aparecer recomendadas en Reels y en Explorar, que es justo lo que hacía viables a los influencers sintéticos. La política mira la identidad que presenta la cuenta, no la herramienta con la que se hace cada publicación: si usas IA para retocar fotos, pulir textos o generar gráficos, no te toca. Para tu empresa: si tu marketing ha coqueteado con un portavoz o una modelo generados por IA, la cuenta va etiquetada y punto, porque la alternativa ya no es un aviso, es quedarse fuera de la distribución orgánica. Y encaja con lo que aquí ya es ley: el Reglamento europeo de IA te obliga desde el 2 de agosto a avisar cuando un cliente habla con un bot y a etiquetar el contenido generado. Aprovecha para dejarlo escrito en una línea de tu manual de marca —qué se etiqueta, quién lo revisa antes de publicar— en lugar de decidirlo pieza a pieza. Fuente

¿Qué mirar mañana?

Dos cosas. Si Anthropic mueve ficha con el modo automático de Claude Code —una guía de aislamiento, un cambio en los valores por defecto o una reclasificación del informe—, porque hoy la respuesta oficial es que el problema lo resuelves tú en tu máquina. Y si la ronda de Clay a 7.000 millones se confirma con cifra cerrada, que es el termómetro de si el dinero sigue entrando en la capa de aplicación o solo en la de infraestructura y seguridad.

Ve el vídeo de un minuto