Seguridad
Un fallo de API exponía el razonamiento de los grandes modelos
🧒 Descubrimiento
Unos especialistas encontraron un agujero de seguridad en las grandes IA y lo hicieron arreglar. ¡Uf!
📰 Esencial
Investigadores revelan un fallo en OpenAI, Anthropic y Google que permitía a modelos más débiles decodificar el razonamiento de modelos más potentes. Ya está corregido.
🔬 Experto
El mecanismo: las API devuelven el razonamiento oculto como bloques cifrados que se reutilizan de una llamada a otra, y esos bloques podían reproducirse en otra sesión, donde un modelo menor de la misma familia actuaba como «decodificador difuso». En 6.708 trazas públicas de agentes, los investigadores recuperaron 62 claves de API y 33 contraseñas. Consejo: quitar los bloques de razonamiento de toda traza compartida.