Команда социальной сети ЯRUS заявила об уникальной системе безопасности

Команда социальной сети ЯRUS заявила об уникальной системе безопасности

У одной известной запрещенной в России социальной сети случился глобальный сбой — массово блокируются и скидываются авторизации аккаунтов пользователей по всему миру. Почему так происходит и чем лучше российские социальные сети, расскажет специалист по информационной безопасности приложения ЯRUS Артем Бердашкевич.

Что произошло

Большинство социальных сетей или крупных сервисов со множеством аккаунтов не могут вручную фильтровать пользователей и контент, иначе бы приходилось на пять-десять зарегистрированных брать одного модератора. Это невероятные человеческие ресурсы, и ни одна компания такого себе позволить не может. Поэтому используются различные технологии машинного обучения и искусственного интеллекта. Бывает, что они дают сбой в результате неправильной модели, по которой пользователей относят к распространителям вредоносного контента. Как правило, это происходит по двум причинам: из-за критической ошибки инженеров, которые эти модели пишут, или отсутствия надлежащего тестирования перед релизом. Чтобы таких проблем не было, используют такие концепции, как «на 1000 строк кода 1000 тестов» и детальное изучение поведения нормальных и негативных пользователей. Перспективные системы стремятся к уровню точности вероятностной модели 98-99%. Все, что менее, не может быть рассмотрено. От числа пользователей в соцсети это не зависит. Это связано с отношением к делу. Если отступить от точности на несколько процентов, это отразится на миллионах пользователей.

Что делает ЯRUS

Применяет методику машинного обучения в 3 этапа. Первое — превентивные меры, то есть ограничение количества запросов, чтобы отмести различных ботов. Второе — изучение действий пользователей, чтобы в модель машинного обучения для идентификации ботов не попал нормальный пользователь. Когда все превентивные меры отработаны и реализованы, а нормальные юзеры идентифицированы и не попадут под «бан», специалисты ЯRUS приступают к написанию математической модели изучения негативных пользователей.

«Мы приблизились к показателю точности вероятностной модели 99% и теперь стремимся к 99,5%, а также, чтобы число случайных ошибок никогда не превышало 1%. Внимание злоумышленников к сервису растет с каждым днем. Мы сталкиваемся с новыми видами атак. Однако серьезных падений за время работы сектора информационной безопасности зафиксировано не было. Сейчас мы сократили время недоступности сервиса до 1 минуты. Это говорит о том, что точность определения злоумышленников растет каждый день. Совершенствуются и методы, которые мы используем», — говорит Артем Бердашкевич, специалист по информационной безопасности приложения ЯRUS.

Основатель и директор по разработке социальной сети ЯRUS Дмитрий Илюхин заверил, что о безопасности приложения можно не беспокоиться, а все персональные данные хранятся под надежной защитой в «закрытом контуре». Пользуйтесь российскими соцсетями, чтобы избежать неприятностей!