В процессе написания тупорылый бот определил отрывки цитаты как "оскорбительный характер". Бот тупорылый. И мне пох что это не тот.

Пора тег "негатив" менять на "токсины".

Пикабу - очень большой сайт. Ежедневно наши пользователи оставляют до 100 000 комментариев к тысячам разных постов. Разумеется, при таком объеме не хватит никакой команды модераторов, чтобы отслеживать комментарии и посты, и своевременно ликвидировать негатив и токсичное общение, от которого страдают многие добросовестные пользователи.

К сожалению, этим пользуются некоторые пользователи, которые приходят на сайт устраивать срачи, провоцировать других пользователей либо просто самоутверждаться за счет других. Они набивают рейтинг очевидными комментариями к популярным постам, после чего идут в свежее и начинают провоцировать и грубить авторам и комментаторам, оставаясь внешне в рамках правил сайта. Как ни печально, но происходит такое повсеместно, и отделить таких токсичных пользователей от тех, кого они вовлекают в скандалы, бывает очень и очень проблематично. Надо ли и говорить о том, что в итоге неконфликтные пользователи и авторы в такой атмосфере просто перестают проявлять активность, а токсичные занимают их место.

Банить на основании нашего чувства прекрасного? Что может быть хуже! Но выход всё-таки был найден. В течение последних месяцев мы тестировали нашу новую нейросеть, которая проводит анализ активности пользователей за некоторый продолжительный период времени и определяет их уровень токсичности. То есть, пользователи, которые поругаются в 1-2 постах в силу разных причин, даже если полезут в драку и получат баны за оскорбления, в прицел нейросети не попадут. А вот если пользователь часто грубит, хамит, ведет себя агрессивно в продолжительный отрезок времени, наша нейросеть это увидит. Пользователь получит уведомление следующего вида:

ВНИМАНИЕ! На сайте уже работает одна сеть, которая выдает предупреждение при написании комментария. ЭТО НЕ ТА СЕТЬ, она носит исключительно информационный характер и не связана с анализом токсичности. Пожалуйста, учтите это.

Делается это потому, что даже нейросеть может ошибиться один раз. Однако если в течение 10 дней после этого токсичный пользователь не изменит своим привычкам и получит повторное предупреждение, либо получит 5 предупреждений в течение одного года, на аккаунт будет наложено новое разработанное нами ограничение - слоумод.

Слоумод - ограничение количества комментариев, которые пользователь может оставить в сутки. Сейчас установлены следующие условия: в первый раз ограничение составит 7 дней, и не более 5 комментариев в сутки. Каждое новое применение слоумода увеличит срок в 1,7 раза (как обычные баны), и уменьшит количество комментариев в 1,7 раза. Таким образом, пользователи, которые не могут себя контролировать, очень скоро будут максимально ограничены в возможности навредить другим.

Как я уже сказал, на протяжении последних месяцев мы наблюдали за пользователями и поведением нейросети, и не нашли случаев, когда она совершила бы очевидную ошибку. Возможно, в будущем мы можем поменять механику работы и некоторые критерии, чтобы сеть работала точнее. Практически все, кто уже получил уведомления за последнюю неделю - не обычные пользователи и даже не те, кто активно комментирует, они часто становятся объектами жалоб, провокаторами различных многочисленных конфликтов. Но на всякий случай первое время мы будем следить за работой сети и проверять выдачу ею слоумодов.

Но самое главное - помните, что такой мерой мы не ставим перед собой цель “найти и наказать”. Мы стремимся к тому, чтобы сделать атмосферу на сайте приятнее и комфортнее для всех без исключения. Поэтому даже самым токсичным пользователям мы даем прежде всего шанс поработать над своим поведением вместо уверенной атаки банхаммером.

Ну а на сегодня всё. До новых встреч!

С уважением, Команда Пикабу.