обновлено: 16:55, 02 июля 2022
Общество
В «Одноклассниках» с токсичными комментариями борется нейросеть
«Одноклассники» запустили технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть оценит тексты и изображения в комментариях на наличие токсичного содержания, после чего выдаст оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.
В ОК уверены: данный алгоритм позволит создать уважительную среду для общения внутри социальной сети. Уровень агрессии в комментариях проанализируют автоматически, оценка станет доступна модераторам.
Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение: им все разъяснят и дадут ссылку на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.
Так, будут блокироваться призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки удалят. Технология запущена в рамках глобального построения безопасности VK.
Таким образом, временный запрет на комментирование любого контента в ОК получат пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим. Кроме того, авторы комментариев на время отлучат от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.
В ОК подчеркнули: они заботятся о безопасности пользователей. Так, в феврале соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.
