ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

Социальная сеть "Одноклассники" внедрила в свою работу модель искусственного интеллекта. Система автоматически выявляет токсичные комментарии и ограничивает их авторов в написании новых на определённый промежуток времени — от одного часа до суток. В зависимости о того, как часто пользователь оставляет негативные высказывания в адрес других.

Разработка на основе ИИ позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Запуск модели позволил сократить время обработки жалоб на токсичные посты в три раза и начал быстрее помогать людям с решением их проблем.