Одноклассники запустили модель на основе машинного обучения, которая ограничивает навязчивые знакомства и общение с нежелательными собеседниками в соцсети.
Теперь пользователи ОК, которые часто отказываются от общения и знакомств, не получат информации об активности тех аккаунтов, которые навязывают общение и знакомства в сети. Киберсталкеры, в свою очередь, будут ограничены в количестве диалогов с незнакомыми им пользователями. Обновление будет способствовать дальнейшему развитию комфортной среды для общения в ОК и снизит количество нежелательных знакомств на площадке.
Для защиты пользователей ОК анализирует социальное взаимодействие – дружба и запросы на нее, посещение страницы, подарки и ряд других параметров – в режиме реального времени между незнакомыми пользователями и делит их на категории. Нейросеть находит те аккаунты, которые регулярно добавляют в друзья людей без общих знакомых, массово отправляют подарки незнакомцам, ставят им классы и пишут личные сообщения. К другой группе модель ОК относит людей, которые часто отклоняют заявки в друзья, заносят в “черный список” пользователей, отказываются от подарков или жалуются на действия незнакомых людей.
На основе собранных данных ОК ограничивает взаимодействие между этими группами аккаунтов и скрывает уведомления от навязчивых собеседников, например, о заявке в друзья, классах на фотографиях или постах, подарках, посещениях страницы. Модель также снижает количество возможных бесед между этими группами пользователей – те, кто массово отправляют личные сообщения, будут ограничены в количестве диалогов.
Модель была протестирована на разных аудиториях ОК в течение нескольких месяцев, и в рамках эксперимента число жалоб на навязчивое внимание со стороны незнакомых аккаунтов снизилось на 25% по сравнению с предыдущими периодами. Пользователи, которые ранее часто отказывались от общения, стали реже отклонять заявки в друзья и добавлять незнакомых людей в “черный список”, так как нежелательная активность перестала отвлекать внимание, а сами запросы в друзья стали более релевантными.
Запуск новой технологии машинного обучения сделает взаимодействие внутри соцсети комфортнее и будет способствовать поддержанию дружелюбной атмосферы в ОК.
Денис Горчаков, директор по информационной безопасности ОК:
“Проблема навязчивого внимания одного человека к другому в сети, так называемого киберсталкинга, актуальна для всех платформ и сервисов, где есть социальное взаимодействие, но в особенности, конечно, для социальных сетей и мессенджеров. Подобное внимание может даже сократить пользование платформой. Решение оградить пользователя от навязчивого поведения оказалось эффективным: мы видим, что пользователям стало комфортнее общаться в соцсети, так как число жалоб на нежелательную активность со стороны незнакомых людей заметно снизилось”.