Defending against Byzantine attacks by trust-based weighting of agents
Molodtsov, G. L. Medyakov, D. O. Skorik, S. N. Khachaturov, N. Tigranyan, Sh. T. Aletov, V. I. Avetisyan, A. A. Takac, M. Beznosikov, A. N.
Molodtsov, G. L.
Medyakov, D. O.
Skorik, S. N.
Khachaturov, N.
Tigranyan, Sh. T.
Aletov, V. I.
Avetisyan, A. A.
Takac, M.
Beznosikov, A. N.
Supervisor
Department
Machine Learning
Embargo End Date
Type
Journal article
Date
2025
License
Language
Russian
Collections
Research Projects
Organizational Units
Journal Issue
Abstract
Современные модели машинного обучения демонстрируют значительное повышение качества на широком спектре задач, однако их применение сопряжено с существенным ростом вычислительной сложности. Распределенные и федеративные постановки решают эту проблему за счет переноса процесса обучения на несколько
устройств, однако их структура может быть уязвима для злонамеренных воздействий.
В данной работе рассматривается классическая угроза – византийские атаки. При
таких атаках некоторые участники распределенных вычислений внедряют скомпрометированные посылки для нарушения процесса обучения. Существующие методы
защиты требуют большинства честных устройств, что ограничивает их применимость
в реальных сценариях. Целью настоящего исследования является построение подхода, не требующего предположения о преобладании честных устройств. Предлагается
алгоритм, основанный на взвешенной агрегации устройств. Вводится специальная
функция, подсчет которой происходит на сервере и которая оценивает вклад различных участников в процесс обучения финальной модели.
Citation
G. L. Molodtsov et al., “Defending against Byzantine attacks by trust-based weighting of agents,” Uspekhi Matematicheskikh Nauk, vol. 80, no. 6(486), pp. 191–194, 2025, doi: 10.4213/RM10272.
Source
Uspekhi Matematicheskikh Nauk
Conference
Keywords
Subjects
Source
Publisher
Steklov Mathematical Institute