noticias radar ia ciberseguridad inversion europa

El radar del viernes iba de quién se queda con el almacén de la IA abierta; el del sábado va de en quién puedes confiar: en el correo que te resume el copiloto, en el proveedor que te da el modelo y en el dinero que decide qué existirá dentro de dos años. Forcepoint demostró que 472 caracteres de texto invisible metidos en un correo bastan para que un resumidor con IA cambie la fecha de vencimiento de una factura, y le funcionó en diez de diez intentos. En paralelo, Andreessen Horowitz levantó 1.100 millones de dólares para invertir solo en el hardware de la IA, una jueza federal tumbó el veto del Pentágono a Anthropic y la patronal tecnológica europea puso número a la ventanilla: 20.000 millones de euros para gigafábricas.

472 caracteres invisibles cambian la factura que tu IA te resume, y el ataque funcionó diez de diez veces

Forcepoint X-Labs publicó ayer una prueba controlada de manual: un correo con 537 caracteres visibles al que añadieron 472 caracteres ocultos con HTML —texto sin color, tamaño cero—, de modo que al modelo le llegaban 1.009 caracteres y al humano poco más de la mitad. Las instrucciones escondidas hicieron exactamente lo que pedían: el resumen movió el vencimiento de una factura del 21 de agosto al 3 de septiembre y borró el nombre de una persona del texto. Diez ejecuciones, diez éxitos. La prueba se hizo con Claude Haiku 4.5, pero el investigador Ben Gibney aclaró que el ataque no va contra Outlook, ni contra un resumidor concreto, ni contra ese modelo: va contra la costumbre de meter correo no verificado dentro de un LLM sin ninguna barrera por el medio. El mismo día, más de cien compañías —OpenAI, Anthropic, Google, Microsoft, CrowdStrike, Okta, Fortinet— firmaron una carta abierta avisando de que en los próximos meses los ciberataques asistidos por IA se vuelven generalizados. Para tu empresa: si tienes activado el resumen automático de correo en Outlook, en Gmail, en tu CRM o en un agente que vacía el buzón de administración, esto ya te afecta y no hace falta que actualices nada para arreglarlo. Tres reglas que puedes dar hoy por escrito y no cuestan dinero. Primera: ningún resumen dispara una acción con consecuencia —pagar, cambiar una cuenta, mover un vencimiento, aprobar un pedido—; el resumen orienta, el original decide. Segunda: importe, IBAN y fecha de vencimiento se leen siempre del documento adjunto, nunca del texto que te ha redactado el modelo. Y tercera, la más barata de todas: cualquier cambio de cuenta bancaria comunicado por correo se confirma por teléfono a un número que ya tuvieras guardado antes de recibirlo. Si además tienes un agente propio leyendo correo, conviértelo a texto plano antes de pasárselo al modelo y déjalo en solo lectura. Fuente

Andreessen Horowitz levanta 1.100 millones solo para el hardware: el capital se ha mudado debajo del software

a16z anunció ayer el fondo Machine Age, 1.100 millones de dólares dedicados en exclusiva a la capa física de la IA: procesadores, memoria, redes, almacenamiento, refrigeración, infraestructura eléctrica, robots y hasta el suelo donde se levantan los centros de datos. Lo firman cinco socios —Ben Horowitz, Martin Casado, Raghu Raghuram, David Ulevitch y David George— y el giro tiene su gracia viniendo de la firma que lleva quince años repitiendo que el software se come el mundo: su propio argumento dice ahora que los límites están por debajo de la capa de aplicación, en el ancho de banda de memoria, la disponibilidad de chips, la entrega de energía y la capacidad de fabricación. Para tu empresa: la lectura útil no es dónde entra el dinero, sino de dónde está saliendo. La capa en la que tú compras —aplicaciones, agentes, conectores, herramientas de automatización— es justo la que ha dejado de atraer capital nuevo, y eso en dos años no se traduce en mejores productos sino en consolidación: los proveedores pequeños que hoy sostienen tus automatizaciones se van a vender, fusionar o cerrar. No es motivo para no contratarlos, es motivo para contratarlos con salida. Antes de firmar la próxima herramienta, comprueba tres cosas: que puedas exportar tus datos y también tus configuraciones y flujos en un formato que sirva fuera de ahí; que el proceso crítico no dependa de una única pieza de nicho sin alternativa conocida; y que el contrato diga qué pasa con tu instalación si la compañía cambia de manos. Media hora de lectura ahora te ahorra rehacer un proceso entero con prisa. Fuente

Una jueza tumba el veto del Pentágono a Anthropic: tu proveedor de IA puede caerse por motivos que no son técnicos

La jueza federal Rita Lin dictó ayer una sentencia de 59 páginas contra el Departamento de Defensa estadounidense: declara ilegal la etiqueta de riesgo para la cadena de suministro con la que el Pentágono vetó a Anthropic después de que la compañía se negara a levantar sus límites de uso —armas autónomas letales y vigilancia masiva de ciudadanos— y defendiera esa negativa en público. La resolución aprecia vulneración de la Primera y la Quinta Enmienda y de la ley administrativa federal, y deja una frase que va a citarse mucho: la invocación vacía de la seguridad nacional no es un cheque en blanco para castigar a quien critica al Gobierno. El contexto es que en febrero la Administración ordenó a todas las agencias dejar de usar los productos de la compañía. Para tu empresa: esto no va de política estadounidense, va de dónde tienes concentrado el riesgo. Durante seis meses, cualquier empresa que hubiera montado su operativa sobre Claude y vendiera al sector público de allí se quedó sin proveedor por una decisión que no tenía nada que ver con la calidad del modelo, con su precio ni con su disponibilidad técnica. La defensa es aburrida y funciona: que tus aplicaciones hablen con el modelo a través de una capa propia o un enrutador, y no con llamadas al SDK de un proveedor repartidas por medio código; que tengas un segundo modelo ya probado con tus casos reales y sus instrucciones ajustadas, porque el día que lo necesites no hay tiempo de ajustarlas; y que leas la política de uso aceptable antes de construir encima, porque los límites que hoy te parecen ajenos son los que mañana deciden si te quedas dentro o fuera. La otra cara es tranquilizadora: un proveedor que defiende sus límites en un juzgado es más predecible que uno que los cambia sin avisar. Fuente

Europa pone 20.000 millones en gigafábricas de IA y abre ventanilla a las empresas industriales

DigitalEurope, la patronal que agrupa a compañías y asociaciones que representan a 56.000 empresas europeas, reclamó ayer viernes una asociación público-privada ambiciosa para sacar la IA europea de los proyectos piloto y llevarla a aplicaciones industriales a escala. Debajo de la petición hay dinero con nombre: InvestAI, la iniciativa de la Comisión Europea, apunta a movilizar 200.000 millones de euros, de los que 20.000 van destinados a gigafábricas de IA, y la Comisión y el Banco Europeo de Inversiones han acordado trabajar juntos para convertir las propuestas de los consorcios en proyectos financiables. La ventanilla operativa se llama Apply AI Alliance: un foro que junta a proveedores de IA, empresas industriales, universidades y administraciones, enfocado en seis sectores —fabricación, energía, salud, movilidad, agroalimentación y comunicaciones—. Para tu empresa: una gigafábrica no es asunto de una pyme, pero el consorcio que la rodea sí. La forma de que un fondo europeo pague tu primer piloto no es pedir la subvención por tu cuenta, es entrar como socio industrial de un proyecto que necesita justamente lo que tú tienes: un proceso real, datos propios de tu sector y alguien dispuesto a probar. Dos pasos concretos si estás en uno de esos seis sectores: pregunta a tu asociación sectorial si ya participa en la Apply AI Alliance y qué consorcios tiene abiertos; y ten preparado un caso de uso de una página con el proceso, los datos de que dispones y el ahorro estimado, que es exactamente el papel que te van a pedir. Y mientras tanto, no te sientes a esperar: el dinero público llega con año y medio de retraso y la automatización que pongas en marcha este trimestre se paga sola mucho antes. Fuente

¿Qué mirar mañana?

Lo de la inyección por correo tiene una respuesta posible y muy concreta: mira si Microsoft, Google o cualquier proveedor de resúmenes anuncia que marca el contenido entrante como no fiable antes de pasarlo al modelo, que es la única mitigación de verdad; hasta entonces el control lo pones tú en el procedimiento. Y atención a si el Pentágono recurre la sentencia, porque de eso depende que el caso quede en un episodio o se convierta en el precedente que fija hasta dónde puede llegar un Gobierno con un proveedor de IA que le lleva la contraria.

Ve el vídeo de un minuto