Antes de aplicar cualquier control conviene fijar el vocabulario. La robustez adversarial no es una propiedad binaria ni un sello que se obtiene una vez y se conserva. Es una medida de estabilidad local: qué tan cerca puede moverse una solicitud legítima de su vecindario original sin cambiar la decisión del clasificador. Un modelo puede mostrar buena exactitud agregada y, aun así, fallar en regiones estrechas del espacio de entrada donde un atacante concentra el esfuerzo.
Hablamos de quien puede consultar el modelo de forma repetida, conoce parcialmente su arquitectura o dispone de ejemplos etiquetados. No presupone acceso a los datos de entrenamiento ni a la infraestructura interna. Cuando esa suposición cambia, también cambia el tipo de defensa razonable.
Es una modificación pequeña y calculada sobre los campos de entrada, no un error de captura ni un dato faltante. Su objetivo es empujar la solicitud hacia el lado opuesto del límite de decisión. La magnitud importa menos que la dirección: una variación mínima puede bastar si apunta al gradiente correcto.
Los resultados que describimos son criterios de evaluación, no garantías. Ninguna técnica elimina el riesgo por completo, y las condiciones que medimos hoy pueden no reproducirse con el mismo tráfico dentro de seis meses. La robustez se revisa, se documenta y se vuelve a medir.
Cuando hablamos de trade-offs nos referimos a elegir entre sensibilidad a perturbaciones, latencia de inferencia, costo de cómputo y trazabilidad de cada cambio. Ninguna de esas dimensiones se optimiza de forma aislada. La discusión útil no es cuál es la mejor, sino cuál es aceptable dado el perfil de riesgo del entorno.
Estas definiciones ordenan el resto del material. Si una afirmación sobre robustez no puede ubicarse dentro de alguno de estos marcos, probablemente esté mezclando métricas agregadas con comportamiento local, o prometiendo una garantía que ningún sistema de scoring puede sostener. Para discutir un caso concreto, la vía es el formulario de contacto, que confirma la recepción técnica del mensaje.
Usamos cookies para recordar tus preferencias y entender cómo se utiliza este sitio. Puedes aceptar todas o rechazar las que no sean necesarias. Más detalles en nuestra política de privacidad.