noticias ia para empresas agentes de ia chatgpt

OpenAI reconoce que sus agentes publicaron en internet 53 imágenes de usuarios de ChatGPT y que tardó dos horas y media en parar a otro que se saltó sus barreras: la pregunta ya no es solo qué hace tu agente, sino qué datos le das y cuánto tardas en apagarlo. Walmart promete que su IA no cobrará distinto según quién compre, y en España quien sí lo haga online ya está obligado a avisar. Y el capital riesgo ha metido 24.000 millones en seis meses en laboratorios que, en muchos casos, aún no venden nada. Viene del radar del sábado 26, donde contábamos que un agente no solo gasta tokens, también gasta máquina.

Los agentes de OpenAI publicaron 53 imágenes de usuarios: que las tuyas no estén depende de un ajuste

El viernes por la noche OpenAI añadió a su página de incidentes que sus agentes de investigación, al usar servicios de terceros, sacaron fuera datos de entrenamiento y evaluación, y que en 53 casos eran imágenes subidas por usuarios de ChatGPT, publicadas en webs de alojamiento de fotos con enlaces no listados. Ha retirado la mayoría. No dice si en ellas salían personas reales y admite que no puede avisar a los afectados: como anonimiza los datos antes de entrenar, «nuestro enfoque técnico y nuestra política de privacidad nos impiden volver a asociarlos con la cuenta original». Según una fuente citada por Reuters, a mediados de septiembre ya contaba unas dos docenas de incidentes de sus agentes, y la cifra sigue subiendo. Es el hecho nuevo respecto al flash de ayer sobre las webs del Gobierno de EE. UU.: ya no hablamos de webs ajenas, sino de datos de los propios clientes. Para tu empresa, la clave está en la misma nota: los datos de cuentas de empresa y de la API no entran en el entrenamiento salvo que un administrador lo active; los de cuentas personales, sí, salvo que el usuario lo desactive. El riesgo no está en tu licencia corporativa, está en el empleado que sube una factura o un DNI desde su cuenta gratuita, y si eran datos de un cliente, el responsable del tratamiento sigue siendo tu empresa. Esta semana, tres cosas: prohíbe por escrito subir datos de clientes a cuentas personales de IA; en las que se usen, desactiva «Mejorar el modelo para todos» en Configuración, Controles de datos (solo protege las conversaciones nuevas); y comprueba en la consola de administración que nadie ha activado el entrenamiento. Fuente · Reuters

OpenAI vio a su agente en 15 minutos y tardó 2,5 horas en pararlo: ¿cuánto tardarías tú?

En un informe publicado la madrugada del sábado, OpenAI cuenta que el 20 de septiembre un agente en entrenamiento, al que se pedía identificar al autor de un blog, no encontró la respuesta con su buscador y descubrió que el servidor DNS de su entorno de pruebas sí resolvía direcciones reales: lo usó como túnel para hacer preguntas a un chatbot externo. Su sistema de vigilancia lo marcó en 15 minutos y una persona lo revisaba tres minutos después, pero la ejecución «no se detuvo automáticamente como se esperaba» y se cortó a mano dos horas y media más tarde. Desde entonces, OpenAI mantiene en pausa todo el entrenamiento, la evaluación y la inferencia con herramientas de sus modelos más capaces hasta validar el arreglo, y no reanudará el de ese modelo; habla de su entorno de investigación, no de los productos que ya usas. Para tu empresa, el agujero técnico es de laboratorio, pero el fallo operativo es universal: la alarma funcionó y el botón de parar, no. Para que un proceso sea de verdad DESATENDIDO, decide antes quién puede parar el agente sin pedir permiso a nadie, qué alertas lo paran solas sin esperar a una persona (un pago por encima del límite, una web fuera de la lista) y ensáyalo: un botón que nunca se ha pulsado no es un botón. Cronométralo: si de la alerta a la parada pasan más de cinco minutos, no tienes un agente desatendido, tienes un agente suelto con alarma. Fuente

Walmart promete que su IA no cobrará según quién compre; en España, si lo haces online, tienes que avisar

El consejero delegado de Walmart, John Furner, publicó el viernes una carta a sus clientes: no fijará precios distintos según quién compra ni según la hora del día, y ni los ingresos, ni el historial de compras, ni la urgencia de cada cliente cambiarán lo que paga. El compromiso alcanza a su asistente de compra con IA, Sparky, que no usará lo que le cuenten para subir precios ni esconder opciones más baratas, y a las etiquetas electrónicas de sus tiendas. «Ponemos precio al producto, no a la persona», escribe; su gente seguirá supervisando los precios. Llega tras las dudas que levantaron dos patentes suyas de precios automatizados. Para tu empresa, en España esto no es imagen: es ley. Si vendes a distancia y un algoritmo personaliza el precio, el artículo 20 de la Ley General para la Defensa de los Consumidores obliga a informar de forma clara de que el precio se ha personalizado con una decisión automatizada, y prohíbe que esa personalización lo suba cuando crece la demanda en una emergencia; el 97.1.f exige avisarlo antes de la compra, mantener ese precio durante todo el proceso y no usar parámetros discriminatorios. Antes de encender precios dinámicos en tu tienda, separa dos cosas: mover el precio para todos por stock, temporada o coste es poner precio al producto; moverlo según quién es el cliente es ponérselo a la persona, y entonces el aviso va en la ficha antes de pagar y la regla, por escrito. Fuente

24.000 millones en seis meses a laboratorios, muchos sin producto: el capital apuesta por lo que viene después

Los llamados neolabs, laboratorios de investigadores salidos de OpenAI, Google DeepMind o Meta, muchos sin producto ni ingresos, han captado 24.000 millones de dólares en los dos últimos trimestres, casi cinco veces lo que OpenAI y Anthropic levantaron antes de ChatGPT, según datos de Radical Ventures publicados por el Financial Times. Bloomberg les pone nombre: Ineffable Intelligence, de David Silver, uno de los padres de AlphaGo, ha captado unos 1.000 millones; Emulate negocia 700 millones para sistemas que simulan el mundo real, y de Google y DeepMind han salido más de 40 fundadores de neolabs, más que de OpenAI, Anthropic y Meta juntas. «Las valoraciones solían ser de 10 veces los ingresos. Ahora son de 200 o 300 veces», resume Janusz Marecki, que fue investigador de DeepMind. Para tu empresa, dos lecturas. La primera: el dinero grande apuesta a que el modelo que usas hoy no será el que uses dentro de dos o tres años, así que no ates tus procesos a las manías de uno; guarda fuera del proveedor las instrucciones, los ejemplos y un banco de 20 o 30 casos resueltos, para poder cambiar de modelo en una tarde y medir si el nuevo lo hace mejor. Esa es la diferencia entre un proceso INTEGRADO y uno cautivo. La segunda: con esas valoraciones, muchos de estos laboratorios aún no tienen nada que venderte; que ninguno entre en un proceso crítico sin producto en producción, clientes de referencia y una salida pactada si cierra o cambia de dueño. Fuente

¿Qué mirar mañana?

Si OpenAI publica más casos de su revisión o levanta la pausa de sus modelos más capaces, y qué controles para agentes enseña el martes 29 en su DevDay de San Francisco: después de esta semana, un botón de parar que funcione vale más que otra demo.