Escuela de Doctorado

Professor Lorenzo Cavallaro – UCL

Título: Inteligencia Artificial Confiable… para la Seguridad de Sistemas

Abstract: No pasa un día sin que se lean historias de éxito del aprendizaje automático (AA) en diversas áreas de aplicación. La seguridad de sistemas no es una excepción, donde el rendimiento impresionante del AA nos deja preguntándonos si quedan problemas por resolver. Sin embargo, el aprendizaje automático no tiene habilidades clarividentes y, una vez que la magia se desvanece, nos quedamos en territorio desconocido. ¿Es realmente capaz el aprendizaje automático de garantizar la seguridad de los sistemas?

En esta conferencia, primero ilustraremos algunos de los desafíos en el contexto de los ataques de evasión adversarial contra clasificadores de malware. Veremos que la formulación clásica no es adecuada para razonar sobre cómo generar malware evasivo realizable. Luego, profundizaremos en trabajos recientes que proporcionan una reformulación del problema y permiten diseños de ataques y defensas más fundamentados. Las implicaciones son interesantes, ya que el marco facilita el razonamiento en torno a ataques de extremo a extremo que pueden generar malware adversarial real, a gran escala, que evade tanto clasificadores simples como endurecidos, lo que exige nuevas defensas.

Dado que existe una profunda conexión entre los ataques de evasión adversarial y los ejemplos fuera de distribución, ampliaremos nuestra conversación destacando la importancia de razonar más allá del mero rendimiento dentro de la distribución, examinando las consecuencias de los cambios de distribución en entornos realistas. Cuando sea relevante, también profundizaremos en los aspectos detrás de escena para fomentar la reflexión sobre la crisis de reproducibilidad. Nuestro objetivo es fomentar una comprensión más profunda del papel del aprendizaje automático en la seguridad de los sistemas y su potencial para futuros avances.

Bio: Lorenzo Cavallaro es Catedrático de Computer Science en University College London, donde dirige el Laboratorio System Security Lab (S2Lab). Ha publicado multitud de artículos en conferencias internacionales de primer nivel y reconocidas, incluyendo IEEE S&P, USENIX Security, ACM CCS, NDSS, USENIX Enigma, RAID, ACSAC y DIMVA, así como talleres temáticos (por ejemplo, Deep Learning for Security en IEEE S&P y AISec en ACM CCS) Lorenzo es Co-Chair del Programa de Deep Learning and Security 2021, DIMVA 2021-22, y fue Co-Chair del Programa de ACM EuroSec 2019-20 y Co-Chair General de ACM CCS 2019. Tiene un doctorado en Informática de la Universidad de Milán (2008).

Professor Juan Caballero – IMDEA Software

Charla 1

Título: Malware y Cibercrimen: Una introducción

Abstract: El software malicioso, o malware, es un componente clave del ecosistema del cibercrimen, utilizado por los atacantes para establecer una presencia permanente en sistemas comprometidos. Esta conferencia proporciona una introducción al uso de malware en el cibercrimen, presenta las clases comunes de malware, describe las técnicas de distribución de malware e introduce los enfoques de clasificación de malware.

Charla 2

Título: Malware y PUP: Manténlos separados, si puedes

Abstract: Los programas potencialmente no deseados (PUP), como el adware y el rogueware, aunque no son abiertamente maliciosos, exhiben un comportamiento intrusivo que genera quejas de los usuarios y hace que los proveedores de seguridad los consideren indeseables. Los PUP han sido relativamente poco estudiados en comparación con el malware, a pesar de las indicaciones recientes de que su prevalencia puede haber superado la del malware. En esta lección, presentamos las características de los PUP, mediciones sobre la prevalencia de los PUP, un análisis de la distribución de los PUP a través de servicios de pago por instalación (PPI) y la economía de los servicios PPI que distribuyen PUP.

Bio: Juan Caballero se incorporó a IMDEA Software como Assistant Professor en noviembre de 2010, después de obtener su título de Doctor en Ingeniería Eléctrica e Informática por la Universidad Carnegie Mellon, EE.UU. Juan fue investigador visitante de posgrado en la Universidad de California, Berkeley durante dos años, a partir de 2008. Fue galardonado con la beca La Caixa para estudios de posgrado en 2003. La investigación de Juan se centra en la ciberseguridad, incluyendo problemas de seguridad en sistemas, software y redes. Le gusta diseñar técnicas de análisis de programas y aplicarlas para analizar código malicioso y construir defensas contra el mismo. Además, está interesado en aplicar el aprendizaje automático para la seguridad, la seguridad de redes, los aspectos económicos del cibercrimen y la ingeniería de software.

Professor Patricia Arias Cabarcos – Universität Paderborn

Título: Diseñando Seguridad y Privacidad para Todos

Abstract: Vivir una vida digital segura no es fácil. Los usuarios deben manejar cientos de contraseñas, constantes avisos de consentimiento de cookies y extensas políticas de privacidad, entre otros complejos ajustes de seguridad, para poder realizar sus tareas. Esta baja usabilidad de las tecnologías de ciberseguridad es una barrera bien conocida para su adopción, lo que se traduce en que los usuarios sean frecuentemente hackeados, víctimas de phishing o de ataques dirigidos y abusos de privacidad. En esta charla abordaré los problemas para lograr una seguridad y privacidad utilizables para todos, presentaré investigaciones de vanguardia y discutiré los desafíos abiertos.

Bio: Patricia Arias-Cabarcos es Profesora de Seguridad Informática en la Universidad de Paderborn (UPB) y Investigadora Principal en KASTEL. Sus intereses de investigación se centran en el área de la seguridad y privacidad centradas en el ser humano, con un enfoque actual en la autenticación usable, nuevas biometrías, protección de datos basada en el comportamiento y transparencia impulsada por datos. La visión que guía a su grupo de investigación es que las personas no deberían sufrir estrés cognitivo ni necesitar tener conocimientos técnicos profundos para poder vivir una vida digital segura. Antes de unirse a UPB, fue investigadora senior en el Instituto de Tecnología de Karlsruhe (2019-2021), becaria Humboldt en la Universidad de Mannheim (2017-2019) y Profesora Asistente (2013-2018) en la Universidad Carlos III de Madrid (España). Ha publicado más de 60 artículos en revistas y congresos internacionales de renombre, incluyendo Usenix Security y ACM CCS.

Assistant Professor Maura Pintor – University of Cagliari

Título: Evaluación y Benchmarking Fiables de Modelos de Aprendizaje Automático

Abstract: La evaluación rigurosa de los modelos de aprendizaje automático (ML) es esencial antes de su implementación. Para entender la sensibilidad del ML a los ataques adversarios y contrarrestar sus efectos, los diseñadores de modelos de ML crean perturbaciones en el peor de los casos y las prueban contra sus productos. Sin embargo, se ha demostrado que muchas de las defensas propuestas proporcionan una falsa sensación de seguridad debido a fallos en los ataques en lugar de una robustez real. Por lo tanto, es importante establecer herramientas de evaluación confiables. En esta charla, investigaremos las herramientas de evaluación existentes y destacaremos sus problemas, evitando errores conocidos para asegurar evaluaciones de alta calidad. Además, los benchmarks actuales de ML son un primer paso, pero solo ofrecen una evaluación in-vitro. Abordar aspectos prácticos como cómo reaccionan las predicciones a la deriva de datos a lo largo del tiempo y las actualizaciones del modelo también es importante en aplicaciones del mundo real. Por esta razón, proporcionaremos ideas sobre cómo analizar la evolución tanto del rendimiento como de la robustez a lo largo del tiempo. Finalmente, discutiremos nuevas directrices de pruebas y benchmarks para desarrollar técnicas novedosas que aseguren que los modelos se comporten de manera robusta en escenarios del mundo real, donde no solo son el objetivo de ataques, sino que también están sujetos a derivas de datos y situaciones no vistas en el entrenamiento.

Bio: Maura Pintor es Profesora Asistente en el PRA Lab, en el Departamento de Ingeniería Eléctrica y Electrónica de la Universidad de Cagliari, Italia. Obtuvo su doctorado en Ingeniería Electrónica e Informática en la Universidad de Cagliari en 2022. Sus principales intereses de investigación se centran en proporcionar evaluaciones de seguridad confiables para el aprendizaje automático (ML). Fue estudiante visitante en la Universidad Eberhard Karls de Tubinga, Alemania, desde marzo hasta junio de 2020, y en el Centro de Competencia de Software Hagenberg (SCCH), Austria, desde mayo hasta agosto de 2021. Actualmente es investigadora visitante en la Universitat Autònoma de Barcelona (UAB), en el Centro de Visión por Computador (CVC), hasta finales de octubre de 2024. Es revisora para ACM CCS, ICLR, NeurIPS, ACSAC, ICCV, y para varias revistas de primer cuartil (Q1). Además, es co-presidenta del Taller de Inteligencia Artificial y Seguridad (AISec) de la ACM, co-ubicado con ACM CCS.

Associate Professor Sergio Pastrana – UC3M

Título: El Arte de la Investigación en Comunidades de Ciberdelincuencia

Abstract: La ciberdelincuencia es un problema en crecimiento con un impacto considerable en las sociedades modernas. Un factor clave es la proliferación de comunidades de ciberdelincuentes en línea, donde los actores intercambian productos y servicios, y también aprenden de sus pares. Por lo tanto, entender el funcionamiento y el comportamiento de estas comunidades es de gran interés para diversos actores, incluidos académicos, fuerzas del orden y profesionales de la industria. En esta charla, presentaré algunos de los desafíos y enfoques adoptados para estudiar estas comunidades, incluidas las actividades que se discuten y los actores involucrados.

Bio: Sergio es Profesor Titular en el Laboratorio de Seguridad Informática (COSEC) de la Universidad Carlos III de Madrid. Anteriormente, trabajó en el Cambridge Cybercrime Centre de la Universidad de Cambridge. Sus intereses de investigación son variados dentro del campo de la ciberseguridad y la ciberdelincuencia. Recibió un doctorado en Ciencias de la Computación y Tecnología en 2014 por la Universidad Carlos III de Madrid, donde imparte cursos en estudios oficiales ofrecidos por la Universidad Carlos III sobre Ciberseguridad, además de participar ocasionalmente en cursos de máster, escuelas de verano y talleres.

Dr Budi Arief – University of Kent

Título: Una mirada socio-técnica al ransomware

Abstract: El ransomware es una forma de malware diseñada para impedir el acceso de la víctima a sus datos o para filtrar datos sensibles de la víctima, a menos que esta pague el rescate exigido por el atacante. El ransomware ha existido durante bastante tiempo y sigue siendo una de las amenazas cibernéticas más prevalentes tanto para individuos como para empresas, cuya preocupación está en aumento. Además de los elementos técnicos, existen muchos aspectos humanos involucrados en las operaciones de ransomware. Por lo tanto, es importante comprender las perspectivas socio-técnicas involucradas para idear contramedidas más efectivas.

Esta charla abarca una amplia gama de investigaciones socio-técnicas que hemos realizado para combatir el ransomware, que van desde la investigación de los métodos de despliegue del ransomware hasta la elaboración de una hoja de ruta para posibles contramedidas (y por qué algunas de ellas podrían fallar). Con la popularidad de los dispositivos de Internet de las Cosas (IoT), también hemos explorado la viabilidad de los ataques de ransomware en dispositivos IoT y las posibles consecuencias que tales ataques podrían traer.

Finalmente, hemos buscado comprender mejor a los actores involucrados, investigando cómo los atacantes pueden iniciarse en las operaciones de ransomware y su justificación para participar en este delito, así como explorando varios factores humanos que pueden contribuir a la victimización (incluyendo el diseño de las notas de rescate y los tipos de personalidad de las víctimas). La charla concluirá con una breve mirada a nuestro trabajo en curso, centrado en la amenaza del ransomware en el dominio del IoT Industrial (IIoT), que forma parte del proyecto “Countering HArms caused by Ransomware in the Internet Of Things (CHARIOT)”, financiado por el Consejo de Investigación de Ingeniería y Ciencias Físicas del Reino Unido (EPSRC) y el Instituto de Investigación en Sistemas Ciberfísicos Interconectados Confiables (RITICS).

Bio: Dr. Budi Arief es Profesor Titular en la Escuela de Computación y Líder de Operaciones en el Instituto de Seguridad Cibernética para la Sociedad (iCSS) en la Universidad de Kent (Reino Unido). Sus investigaciones se centran en el ciberdelito y la seguridad informática, especialmente ransomware, seguridad del Internet de las Cosas y el combate al abuso sexual infantil, con un enfoque interdisciplinario. Ha sido investigador principal en proyectos financiados por el EPSRC como CHARIOT y co-investigador en EMPHASIS. Actualmente, lidera el proyecto HEROES y participa en ALUNA, ambos financiados por la UE. Ha publicado más de 70 artículos en revistas y conferencias destacadas como Computers & Security, IEEE Security & Privacy, ACM CCS y IEEE TrustCom. Budi obtuvo su BSc y PhD en Ciencias de la Computación en la Universidad de Newcastle (Reino Unido).

Assistant Professor Guillermo Suarez-Tangil – IMDEA Networks

Título: Interrogando Singularidades: desde aplicaciones en la nube hasta LLMs

Abstract: En física, una singularidad se refiere a un punto en el espacio-tiempo donde la atracción gravitacional se vuelve infinitamente fuerte y la curvatura del espacio-tiempo se hace infinita. Esto es similar al centro de un agujero negro donde la densidad es infinitamente alta y las leyes físicas convencionales se descomponen.

Esta charla ofrecerá una visión general del diseño de mecanismos para medir singularidades en la nube. Es decir, cuando se tiene que analizar un servicio, un programa o un componente para el cual no se tiene acceso a su funcionamiento interno y se necesita usar metodologías interrogativas escasas para extraer los atributos de seguridad y privacidad de dicho componente.

Bio: Guillermo Suarez-Tangil es Profesor Asistente en IMDEA Networks y becario Ramón y Cajal. Su investigación se centra en modelar amenazas emergentes en comunidades en línea y desarrollar estrategias de mitigación efectivas. Antes de unirse a IMDEA, Guillermo fue Profesor en King’s College London (KCL). Ha sido investigador senior en University College London (UCL), donde exploró el uso del análisis de programas para estudiar malware. También ha estado activamente involucrado en otras direcciones de investigación orientadas a la detección y prevención del Fraude de Marketing Masivo (MMF) y la seguridad y privacidad en la web social. Anteriormente, ocupó una posición postdoctoral en Royal Holloway, University of London (RHUL), donde estuvo involucrado en la detección de malware y la mejora de la seguridad en la era móvil (MobSec). Además, posee una sólida experiencia en la construcción de algoritmos de aprendizaje de datos novedosos para el análisis de malware. Obtuvo su doctorado en análisis inteligente de malware en la Universidad Carlos III de Madrid con distinción y recibió el Premio Nacional al Mejor Estudiante Académico, un premio competitivo otorgado a la mejor tesis en el campo de la Ingeniería entre 2014-2015 con una tasa de aceptación del 1% (aproximadamente 100 tesis Cum Laude fueron invitadas a competir por el único premio).