Коротко: я написал два поста. Получил −20 и −7. Один пост попал в «Горячее», собрал 16 тысяч показов и всё равно ушёл в минус. На второй сверху повесили тег «Контент нейросетей».
Тег поставили без доказательств. Никто не показал, чем текст сгенерирован, потому что показать нечего. Основание — сходство. Об этом ниже, а сначала про то, почему так вышло.
Аш, 1956: люди видят, но соглашаются
Соломон Аш показывал три линии разной длины и спрашивал, какая совпадает с образцом. Разница видна с вытянутой руки. Задача для ребенка.
Перед испытуемым сидели семеро подставных и хором называли неверную линию. Часть людей соглашалась. Не от того, что не видела разницы. От того, что не хотела оставаться единственной, кто спорит с группой.
Один объяснял потом: «Я знал, что они ошибаются, но не мог выступить против всех».
Каскад: последний смотрит на предыдущих
В 1992 году три экономиста описали механизм, который работает без всякого давления группы. Человек принимает решение по действиям тех, кто был до него. Свои данные при этом лежат в стороне, даже если они лучше.
Каждый следующий рассуждает «раз все так делают, значит они что-то знают» — и присоединяется. Это и есть информационный каскад, и он собирается сам, без злого умысла.
Вы так выбираете ресторан на пустой улице. Идете туда, где сидят люди, хотя меню не видели ни в одном, ни в другом. Может, еда там отвратительная: просто эти зашли первыми, потому что раньше открылись.
На Пикабу это работает как часы
В очереди вы видите лица и слышите аргументы. В ленте вы видите цифру до текста.
Минус двадцать стоит рядом с заголовком. Человек открывает не текст, а подтверждение цифры. Дальше вторая петля: автор видит минусы, лезет спорить в комментарии, тон растёт, и каскад летит вниз веселее.
Тег, который нам поставили
Схема была такая. Читатель пожаловался модератору: нейросетевой контент для рекламы своего ресурса. Модератор жалобу отметил галочкой — то есть согласился — и выдал тег «Контент нейросетей». Оранжевенький, в списке тегов под заголовком.
Текст не менялся ни на знак. Я спросил, в чём дело. Ответ: текст «схож с нейросетевой генерацией до степени смешения», а маркируется даже рукописный текст с такой стилистикой.
Прочитайте это еще раз. Маркировка ставится за сходство. Доказательств не требуется, экспертизы не требуется, достаточно ощущения. Я не знаю, как это назвать юридически, но звучит как «нам показалось».
И дальше самое смешное. С тегом пост читают уже как приговор: плашка стоит раньше текста, а мнение складывается за секунду. Проверять после плашки никто ничего не станет. Зачем, там же написано.
Чем больше смотрели, тем больше минусовали
Вот хронология второго поста, как я её видел.
Сначала восемь плюсов и двадцать пять минусов. Потом пост попал в «Горячее», показы пошли вверх — и рейтинг вдруг поднялся до плюс шести: девять плюсов против трех. Я обрадовался и решил, что дальше пойдет само.
Не пошло. Дальше каждый новый показ приносил новую порцию минусов. Через сколько-то часов было минус семь. Еще позже — минус семь и тишина.
У первого поста то же самое, только без «Горячего»: минус двенадцать, потом минус семнадцать, потом минус двадцать. Три замера, три шага вниз. Показов при этом становилось больше, а не меньше.
Складывается в простую закономерность: чем больше людей видело пост, тем хуже он становился по цифре. При этом сам пост не менялся — ни строчки. Менялось только количество людей, которые увидели рейтинг раньше текста.
Вот это и есть каскад в чистом виде. Он не требует, чтобы текст был плохим. Ему достаточно, чтобы минусы шли первыми.
Тег портит текст, хотя текст тот же
Есть отдельная линия исследований, которая объясняет, почему тег «Контент нейросетей» сработал хуже любого минуса.
Натуральное кажется лучше. Люди систематически предпочитают «природное» «искусственному», даже когда состав идентичен и разницы нет никакой. Обзор работ на эту тему так и называется — «Естественное лучше?» (Meier, Dillard, Lappas, 2019, Social and Personality Psychology Compass). В другом исследовании Розин с соавторами показал, что за «натуральность» люди готовы платить больше, причем по причинам, которые к качеству отношения не имеют (Appetite, 2004).
Алгоритмы не любят даже когда они точнее. Диетворст с соавторами дал людям выбрать: прогноз алгоритма или прогноз человека. Алгоритм ошибался реже. Как только испытуемые видели у него хоть одну ошибку, они отказывались от алгоритма и уходили к человеку, который ошибается чаще (Journal of Experimental Psychology: General, 2015). Это назвали «неприязнью к алгоритмам».
И то же самое с тем, кто говорит. В 1968 году Филип Голдберг показал студенткам один и тот же текст, подписанный то мужским, то женским именем. Одинаковый текст, подписанный женщиной, оценивали ниже: и по качеству, и по стилю, и по компетентности автора (Trans-action, 1968). Содержание не менялось, менялась подпись.
Вот и весь фокус с тегом. Текст остался тем же. Изменился ярлык — и оценка поехала. Не потому что читатель глупый, а потому что так устроено восприятие: сначала ярлык, потом содержание, и ярлык обычно побеждает.
Это, кстати, отвечает на вопрос, который мне задавали в комментариях: «а что вы хотели, вы же нейросетью писали». Нет. Даже если бы писали, оценка не должна зависеть от подписи. Именно поэтому Голдберг и стал классиком: он показал, что зависит.
Толпа, общественное мнение и тишина
Про толпу как отдельное явление писал ещё Гюстав Лебон в 1895 году. Его «Психология толпы» — книга не научная, это наблюдения публициста, а не эксперименты, и современная психология её так и читает: как исторический документ, а не как источник фактов. Но одно он ухватил верно: в массе человек теряет сдержанность и становится внушаемым. Лебон писал, что в толпе человек опускается на несколько ступеней по лестнице цивилизации.
Сто лет спустя это описали точнее и измерили. Элизабет Ноэль-Нойман в 1974 году предложила модель «спирали молчания» (Journal of Communication). Смысл такой: человек постоянно прикидывает, какое мнение сейчас в воздухе, и если ему кажется, что его взгляд в меньшинстве, он молчит. Молчание делает меньшинство ещё незаметнее, а большинство — ещё громче. Спираль закручивается сама, и никто не приказывает.
Теперь посмотрите на наши цифры. Шестнадцать тысяч показов. Два минуса за каждый плюс. И три комментария.
Вот она, спираль, в натуральном виде. Тому, кому текст понравился, стыдно идти против цифры: там же минус девять, значит я один такой. Он молчит. Тот, кому не понравилось, видит поддержку в цифре и говорит. В итоге говорят только недовольные, а большинство молчит — и по ленте кажется, что недовольны все.
Это, кстати, отвечает на вопрос «а почему у вас в комментариях одни минусы». Потому что плюсы там не пишут. Им неловко.
Комментарии читают раньше текста
И самое неудобное. Комментарии — не приложение к посту, а его часть, и часто главная.
В 2013 году Андерсон с соавторами показал, что грубые комментарии меняют восприятие самого материала: люди читали один и тот же текст, но с разными комментариями под ним, и оценивали риск совсем по-разному (Journal of Computer-Mediated Communication). Эффект так и назвали — «неприятный эффект».
Есть и вторая вещь, похожая. Валлоне, Росс и Леппер в 1985 году обнаружили, что одну и ту же передачу сторонники противоположных взглядов считают предвзятой — каждый в пользу противника (Journal of Personality and Social Psychology). Это «враждебный эффект медиа»: мы видим уклон там, где его нет, и в ту сторону, которая нам не нравится.
Сложите это с нашим постом. Человек открывает текст, видит минус девять и три комментария, где написано, что автор нейросетевой и текст плохой. Он ещё не прочитал ни строчки, а мнение у него уже есть. Дальше текст может быть хоть Нобелевской лекцией — он будет читать его как плохой, потому что так сказали в комментариях.
Мы это видели своими глазами: люди обсуждали не текст, а друг друга. И каждый новый комментарий делал следующий минус вероятнее.
Реакция не зависит от качества
Оба текста были нормальные. Источники, цифры, ссылки на работы, без воды. Один я потом прогнал через четыре проверки — все четыре сказали «чисто».
Площадка ответила смайлами. У первого поста одиннадцать смеющихся, одно сердечко и один грустный. Семнадцать комментариев, из них про текст — ноль.
Смайлом реагировать быстрее, чем читать: он не требует решения. Сначала реакция на заголовок, потом реакция на реакцию, а текст висит где-то посередине и никому не мешает.
Что с этим делать
Читателю: не пытайтесь «не смотреть на счётчик». Это как «не думать о белой обезьяне», только глупее. Работает порядок: сначала текст, потом цифра. И один честный вопрос себе — вы согласны с аргументом или с количеством людей, которые уже согласились.
Автору: первые голоса решают больше, чем качество. Поэтому не спорьте в ветке, где уже поставили минусы, и не меряйте работу рейтингом. Рейтинг измеряет встречу. Текст он не измеряет вообще.
Вердикт
Работает. Информационный каскад, конформность и социальное доказательство — эффекты с авторами, годами и журналами, а не наблюдения из курилки.
Мы проверили это на себе и получили ровно то, что предсказывает литература. Тег нам выдали без доказательств, минусы поставили без чтения, смайлы — без текста. Всё по учебнику.
Если захотите проверить, откуда что взято:
Asch S. E. Studies of independence and conformity. Psychological Monographs, 1956. https://doi.org/10.1037/h0093718
Bikhchandani S., Hirshleifer D., Welch I. A theory of fads, fashion, custom, and cultural change as informational cascades. Journal of Political Economy, 1992. https://doi.org/10.1086/261849
Meier B. P., Dillard A. J., Lappas C. M. Naturally better? A review of the natural-is-better bias. Social and Personality Psychology Compass, 2019. https://doi.org/10.1111/spc3.12494
Rozin P. и соавторы. Preference for natural: instrumental and ideational/moral motivations. Appetite, 2004. https://doi.org/10.1016/j.appet.2004.03.005
Dietvorst B. J., Simmons J. P., Massey C. Algorithm aversion: people erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 2015. https://doi.org/10.1037/xge0000033
Goldberg P. Are women prejudiced against women? Trans-action, 1968. https://doi.org/10.1007/bf03180445
Ноэль-Нойман Э. Спираль молчания: теория общественного мнения. Journal of Communication, 1974. https://doi.org/10.1111/j.1460-2466.1974.tb00367.x
Лебон Г. Психология толпы. 1895. (книга, не исследование — читать как исторический источник)
Anderson A. A. и соавторы. The «nasty effect»: online incivility and risk perceptions of emerging technologies. Journal of Computer-Mediated Communication, 2013. https://doi.org/10.1111/jcc4.12009
Vallone R. P., Ross L., Lepper M. R. The hostile media phenomenon. Journal of Personality and Social Psychology, 1985. https://doi.org/10.1037/0022-3514.49.3.577
