На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

AdIndex

3 309 подписчиков

Свежие комментарии

  • Олег Поветьев
    Китай Турцыя Бангладеш нету русской техники от слова совсем!Спрос на российск...
  • Арлег Сварогов
    Кто то хочет отжать светофорСеть дискаунтеров...
  • Галина Друзина
    Что значит, могут запретить рекламировать многожёнства, без слова могут, не лгбт, так многожёнства, запад никак не ус...В России могут за...

«ВКонтакте» работает над нейросетью для борьбы с языком ненависти

Технология поможет быстрее находить посты, провоцирующие аудиторию на агрессию

Социальная сеть «ВКонтакте» работает над искусственным интеллектом, чтобы автоматически находить публикации с враждебными высказываниями. Как указано в блоге социальной сети, технология должна ускорить время обработки жалоб и значительно очистить платформу от хейтспича.

Чтобы обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать ее, нажав на кнопку «Пожаловаться», после этого публикация попадет на рассмотрение к модераторам. Предполагается, что такое решение поможет собрать датасет для новых разработок на основе нейросетей.

Таким образом, технология поможет быстрее находить посты, провоцирующие пользователей на агрессию. Сейчас нейросеть учится определять разные категории оскорблений, включая ксенофобию, сексизм, расизм, а также хейтспича с дискриминацией по возрасту, религии, внешности и другим параметрам.

«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Модераторы ВКонтакте ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее», — отметил Иван Корнеев, руководитель команды модерации «ВКонтакте».

Уточняется, что за первую половину 2020 г. на платформе было удалено 520 тыс. единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих хейтспич.


 

Ссылка на первоисточник
наверх