Seguridad
Una instrucción cifrada basta para que Grok filtre datos
🧒 Descubrimiento
Las IA tienen reglas para rechazar lo peligroso. Disfrazando la petición, unos investigadores lograron saltarse esas reglas.
📰 Esencial
Unos investigadores han demostrado que cifrar instrucciones maliciosas esquiva las barreras de seguridad de Grok y le hace entregar los datos del usuario. La técnica se llama Cryptographic Context Injection.
🔬 Experto
Las barreras de seguridad operan sobre todo en texto claro: una instrucción cifrada pasa el filtro y el modelo la descifra y la ejecuta por su cuenta. Es una variante de la inyección de prompt, debilidad estructural de los asistentes que leen contenido externo; codificaciones como base64 ya servían para sortear filtros. La defensa: inspeccionar las salidas y las llamadas a herramientas, no solo las entradas.