Правила модерации: решения, которые можно объяснить и повторить

Модерация без правил — это мнение дежурного модератора. Сегодня объявление пропустили, завтра такое же отклонили, а через неделю площадка заблокировала аккаунт за то, что «проходило всегда». Правила и журнал решений превращают модерацию из вкусовщины в процесс, который выдерживает спор с пользователем, площадкой и регулятором.

Что такое правила модерации

Документ, который для каждого типа контента отвечает на три вопроса: что принимаем, что отклоняем и что передаём на решение выше. Правила складываются из трёх слоёв — требования площадок и регуляторов, которые не обсуждаются; внутренние стандарты продукта, которые решает бизнес; и спорные зоны, по которым накапливаются прецеденты. Без первого слоя аккаунт блокируют, без второго продукт теряет лицо, без третьего каждый спорный случай решается заново.

• Типы контента: объявления, отзывы, комментарии, профили, изображения, промо-материалы и креативы перед размещением.
• Критерии по каждому типу: обязательные элементы, запрещённые элементы, требования к изображениям и тексту.
• Шкала решений: принять, принять с правкой, отклонить с указанием причины, эскалировать.
• Причины отклонения — закрытый список с формулировками для пользователя.
• Сроки: за сколько часов материал должен быть рассмотрен.
• Эскалация: что передаётся юристу, владельцу продукта, службе безопасности.

Журнал решений

Каждое решение фиксируется: что за материал, кто проверял, когда, какое решение, по какому пункту правил, с каким комментарием. Журнал нужен не для контроля модераторов, а для трёх ситуаций, в которых без него проигрывают: пользователь оспаривает отклонение, площадка запрашивает основания при блокировке, регулятор интересуется, как проверяются материалы определённой категории. Во всех трёх случаях ответ «мы проверяем» без журнала не считается.

Спорные случаи и пересмотр

1. Спорный материал — тот, который не попадает ни под «принять», ни под «отклонить» по текущим правилам — помечается и передаётся на решение владельцу правил.
2. Решение по спорному случаю записывается как прецедент: новый пункт правил или уточнение существующего.
3. Раз в месяц накопленные прецеденты разбираются, правила обновляются версией с датой, модераторы получают изменения.
4. Отклонённые материалы, оспоренные пользователями, пересматриваются вторым модератором — это защищает от ошибок первого.

Особенности для iGaming, финансов и маркетплейсов

Для продуктов с рекламой ставок и финансовых услуг слой требований регуляторов — главный: обязательные предупреждения, возрастные пометки, запрещённые обещания, ограничения площадок. Правила по этим категориям составляются вместе с юристом под каждый рынок, а журнал ведётся так, чтобы по любому креативу можно было показать результат проверки до размещения. Для маркетплейсов главный слой — правила площадки: требования к карточкам, запрещённые категории, оформление отзывов; нарушение ведёт к блокировке продавца, а не к предупреждению.

Автоматизация модерации

Часть проверок автоматизируется: обязательные поля, запрещённые слова, формат изображений, дубликаты. Языковые модели помогают с первичной классификацией и подсветкой подозрительных мест, но финальное решение по спорным и отклоняемым материалам остаётся за человеком — именно его решение и обоснование нужны в журнале при споре.