ИИ помог на 47% сократить количество токсичных комментариев в соцсетях

Искусственный интеллект обучили автоматически определять и временно блокировать авторов негативных комментариев. Разработку использовали в социальной сети Одноклассники.

Социальная сеть применила технологию искусственного интеллекта для сокращения токсичности в комментариях под постами, фотографиями, видео почти на 50%. При помощи машинного обучения было разработано решение, которое автоматически определяет негативные комментарии и временно ограничивает возможность их авторов писать новые. Ограничения могут варьироваться от одного часа до суток, в зависимости от частоты публикации токсичных комментариев пользователем.

Согласно исследованию, негативные комментарии вызывают раздражение у 40% пользователей. ML-модель была обучена на основе 400 тысяч недружелюбных и провоцирующих негатив комментариев. Результатом применения этой модели стало сокращение времени обработки жалоб на токсичные комментарии в три раза.

Директор по продукту ОК Александр Москвичев отметил, что нововведение позволит улучшить общение в социальной сети и привлечь новых пользователей.

«Треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против «токсичности». Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем», — подчеркнул Александр Москвичев.

Ранее на сайте pravda-nn.ru сообщалось о том, что студентов нижегородского университета научили противостоять киберугрозам.