Тематический план
Введение в состязательное машинное обучение
Рассматриваются примеры атак на нейронные сети для различных классов задач. Примеры атак для неправильной классификации изображений и детекции объектов. Примеры атак на спам-фильтры.Атаки с уклонением
Примеры атак с уклонением. White-box и black-box атаки. Атаки с уклонением на ImageNet с использованием библиотек SecML и FoolBox.Атаки с отравлением данных
Примеры атак с отравлением данных. Атаки, основанные на градиенте. Атаки с отравлением на глубокие нейронные сети. Атаки с отравлением данных с использованием библиотек SecML и FoolBox.Способы защиты от атак
Детектирование и отклонение атак. Робастная оптимизация. Deep Neural Rejection с использованием библиотеки SecML.