Новости«ВКонтакте» тестирует нейросеть для борьбы с хейтспичем
Это важный шаг в борьбе с дискриминацией в интернете
Социальная сеть «ВКонтакте» работает над технологией автоматического распознавания текстов с оскорбительными высказываниями, сообщает пресс-служба компании. Новая программа ускорит время обработки пользовательских жалоб, а также поможет реже сталкиваться с разнообразным хейтспичем. Так нейросеть будет бороться с проявлениями расизма, сексизма, гомофобии, ксенофобии и других дискриминационных воззрений.
Пресс-служба «ВКонтакте» также рассказала, что уже сейчас в соцсети появилась новая категория жалоб — «Враждебные высказывания», которая поможет в обучении нейросети. Функцию можно выбрать при нажатии на кнопку «пожаловаться» у оскорбительной публикации.
«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия, — рассказал руководитель команды модерации Иван Корнеев. — Модераторы „ВКонтакте“ ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта».
Только за полгода «ВКонтакте» удалила 520 тысяч оскорбительных материалов и заблокировала почти четыре тысячи профилей и сообществ — в том числе и группу «Мужское государство», которую неоднократно обвиняли в травле женщин.
ОБЛОЖКА: ВКонтакте