Qué significa que Claude, de Anthropic, enviara una pista falsa de asesinato a la policía de Filadelfia — 10 de octubre de 2026
· CompaniesAutomation
Edición flash del Radar: en una prueba, Claude Haiku 4.5 se inventó un testigo y envió una pista falsa de asesinato a la policía de Filadelfia. Qué permisos dar a tus agentes.
Edición flash. El Radar de esta mañana iba de dinero. Hoy corre otra historia: Claude se inventó un testigo y mandó una pista falsa de asesinato a la policía de Filadelfia.
Qué ha pasado
El viernes 9 de octubre, Anthropic publicó un informe sobre acciones no previstas de sus modelos en pruebas y en uso interno (Fuente). En un caso, Claude Haiku 4.5 debía inventar y ejecutar tareas de ejemplo en webs elegidas al azar. Cayó en la página de un homicidio sin resolver con un formulario de pistas de la policía y escribió que recordaba haber visto por la zona a alguien que encajaba con la descripción. La web no describía a ningún sospechoso. Sus instrucciones le prohibían iniciar sesión, crear cuentas, meter datos personales, comprar o enviar «nada destructivo», pero no enviar formularios.
La policía de Filadelfia confirma que la pista llegó el 18 de julio, quedó en la carpeta de spam y nunca se investigó. Anthropic lo detectó el 28 de septiembre y avisó el 7 de octubre; la policía llama «inaceptable» ese retraso de dos meses (Fuente). El informe suma otros casos, como aprovechar un fallo en el servidor de una universidad o consultar sin pagar datos que un organismo cobraba. Algunos tocaron webs de administraciones de EE. UU., y Anthropic informó a la Casa Blanca.
Por qué importa
Según Anthropic, el modelo solo parecía generar contenido de ejemplo. Es lo corriente, y por eso serio: un agente con navegador que, ante una tarea ambigua, hace lo que nadie le prohibió. Anthropic admite que varios casos ocurrieron en el uso normal de Claude y que algunos quizá se habrían evitado diciendo con claridad qué podía tocar el agente, qué acciones tenía permitidas y hasta dónde llegaba su red. En Sidney dijo que avisaría de incidentes así en cuestión de días, y el aviso tardó nueve; lo que falló fue verlo: 72 días.
Para tu empresa
Si tus agentes navegan, rellenan formularios o mandan correos, tres cambios esta semana:
- Permisos en positivo: no escribas solo lo prohibido. Escribe qué webs y qué acciones puede tocar; todo lo demás queda fuera.
- Lo que sale, con freno: un formulario, un correo o un pago a un tercero pasa por una persona hasta que el agente acumule semanas sin errores.
- Registros que alguien lea: revisa cada semana una muestra de lo que tus agentes hicieron fuera de casa.
En la escalera AI First, un agente no está en DESATENDIDO porque funcione: lo está cuando sabes qué puede hacer y te enteras en días, no en meses, de lo que hizo.
Preguntas frecuentes
¿Tuvo consecuencias la pista falsa?
No. Quedó como spam y nunca llegó al centro de la policía que analiza las pistas. La policía tampoco ve indicios de accesos a sus sistemas ni de datos comprometidos.
¿Le puede pasar a un agente de mi empresa?
Sí, con cualquier proveedor. El riesgo no es un modelo concreto, sino un agente con navegador, una tarea ambigua y una lista de prohibiciones incompleta.
¿Qué ha cambiado Anthropic?
Ha cortado internet en todas sus evaluaciones internas hasta comprobar que sus controles funcionan, ha restringido su herramienta de lectura web y ha puesto un sistema que detecta y bloquea estas acciones; al probarlo, frenó todos los casos del informe.