То есть психолог обязательно без тараканов в голове, терапевт топит за ЗОЖ, а кардиолог не может курить, ведь он столько болезней сердца повидал!

У меня есть любимый тип логических ошибок: аргумент к авторитету.

Нельзя быть экспертом во всем. Тем более в современном знании. То есть если Илон Маск будет высказываться о состоянии современного языкознания его мнение будет не более авторитетным, чем у Васи Пупкина из 10 "Б", который писал реферат на эту тему. И Васёк в этой области может быть погружен больше, чем старина Илон!

И вроде бы на бумаге всё понятно, но в жизни мы чаще верим «ореолу» авторитета, а не критическому мнению этого авторитета.

По сути мой спутник вывернул эту логическую ошибку наизнанку: если ты авторитет в своей области, ты не можешь нарушать правила профессии.

Забавно, что это характерно для детского мышления. Дети очень часто принимают некоторые постулаты безусловно истинными. Поэтому иногда так бесит с ними спорить.

Но тогда я искренне хотел переубедить большого ребенка. Безрезультатно.

До моря добрались, отдохнуть успели, а историю помню до сих пор.

Замечали такое в своём окружении?

Разборы интересных кейсов в телеге , там же можно пообщаться или задать свой вопрос в чат.

Радикальный скептик (Далее Р): О, привет. Ты же развиваешь критическое мышление?

Сайнстер (далее С): Да, конечно!

Р: Отлично. А ты знаешь, что сепульки существуют?

С: Ха. Специально для подобных утверждений существует Бритва Хитченса. Этот принцип, который изобрёл известный научный скептик Кристофер Хитченс, и гласит он: то, что заявляется без доказательств, может быть отвергнуто без доказательств.

Р: Как же вы любите апеллировать к авторитетам. Но, так чисто для справки, Хитченс ничего не изобретал, а просто пересказал широко используемую ещё с XIX века латинскую пословицу «Quod gratis asseritur, gratis negatur» («Что свободно утверждается, то свободно отбрасывается»). Поэтому я бы не сказал, что он прям изобрёл новый гносеологический принцип. Но давай по существу: я отклоняю бритву Хитченса на основании бритвы Хитченса. Ты заявил этот принцип без доказательств, и я отклоняю его без доказательств.

С: Эй, это не так работает! Тебе знаком термин бремя доказательств? Бремя доказательств лежит на том, кто что-то утверждает! Ты выдвинул утверждение о существовании сепулек, значит, ты и обязан приводить доказательства.

Р: Это очень скользкое правило. Был такой философ Ричард Уэтли, так вот он в своих работах сравнивал подобные стратегии с гарнизоном, обороняющим осаждённый форт. Форт может быть неприступен, пока гарнизон ведёт оборонительную игру, но если командир решит совершить вылазку в открытое поле, поражение может последовать незамедлительно. Так и в споре человеку достаточно только скептических аргументов, чтобы успешно отстаивать свою позицию. Поэтому крайне выгодны стратегии, перекладывающие на оппонента, необходимость выдвигать утверждения. Проблема в том, что почти любое предложение в естественном языке можно переформулировать в негативной форме. Вот смотри: ты утверждаешь, что сепулек нет, значит, бремя доказательств на тебе. Я-то ничего не утверждаю, а лишь скептически отношусь к подобному твоему УТВЕРЖДЕНИЮ. Скажи-ка мне, ты точно везде проверял отсутствие сепулек? Покажи мне мета-анализы, эксперименты, или что ты там используешь в качестве доказательств?

С: Погоди, я же ничего не утверждал.

Р: А, ну вот мы и выяснили, что ты не отрицаешь существования сепулек? Ну, значит, ты согласен, что они существуют.

С: Пфф. Ты просто совершаешь классическую логическую ошибку, о которой писал ещё Джон Локк. Её название Argumentum ad ignorantiam - аргумент к невежеству. Это аргументы вида: Привидения существуют, поскольку никто ещё не доказал, что их нет.

Р: Как же вы любите ссылаться на философов, при этом называя философию бесполезной. Но я, кажется, уловил суть. Нельзя делать выводы из отсутствия свидетельств, так?

С: Ну наконец-то ты понял.

Р: То есть мы не можем сделать вывод о безопасности препарата из того факта, что мы не обнаружили побочные эффекты?

С: Хм…

Б: Если бы сайнстер прочитал статью про логические ошибки, то, вероятно, он бы узнал, что они делятся на формальные и неформальные. Последние, к которым и относится аргумент к невежеству, зачастую вообще не являются ошибками.

С: Ты кто?

Б: Меня зовут Роман Ачисов, вы, кстати, читаете какую-то байесятину, и мы здесь пытаемся меньше ошибаться. Иногда отсутствие свидетельств что-то доказывает, а иногда нет. Например, когда речь идёт о лекарстве, мы считаем препарат безопасным, если в исследованиях не нашли побочных эффектов. Но при этом мы не считаем, что призраки существуют только потому, что у нас нет доказательств обратного. Почему так? Здесь нам поможет немного Байесовской магии.

Когда мы получаем какое-то свидетельство, оно изменяет вероятности гипотез. Гипотезы, при которых такое свидетельство было более ожидаемым, становятся вероятнее, а гипотезы, при которых оно маловероятно, наоборот, теряют вес. Это напоминает весы: если одна чаша опускается, другая поднимается.

Допустим, у нас есть две гипотезы:

• Г1: препарат безопасен (то есть у него нет ни одной побочки)

• Г2: препарат опасен, но его побочные эффекты очень редки и могут не проявиться в исследовании

Эти гипотезы представляют собой два мира, в которых мы можем жить (строгости ради их гораздо больше). И вот мы проводим исследование и не находим побочек. Означает ли это, что лекарство безопасно? Не совсем. Мы могли ожидать такой результат при обеих гипотезах. Именно в этот момент многие восклицают: отсутствие свидетельств - это не свидетельство отсутствия. Но с точки зрения теория вероятностей, наши шансы получить такой результат чуть выше, при Г1 (безопасное лекарство). То есть в первом мире такой результат был бы чуть более вероятным. Значит, наше доверие к Г1 немного растёт, но не слишком сильно.

Если бы Г2 предполагала, что побочки очень частые, то отсутствие их в исследовании стало бы уже сильным свидетельством против неё. Чем больше раз мы повторяем тест (исследование) и не находим побочек, тем сильнее наше доверие к гипотезе о безопасности.

При этом важно учитывать не только количество исследований, но и их качество (например, насколько тесты чувствительны), но это мы обсудим в другой раз.

Сейчас я лишь хочу подчеркнуть, что отсутствие свидетельств вообще-то может быть аргументом, но сила этого аргумента определяется тем, с какой вероятностью мы ожидаем различных исходов при разных гипотезах. В мире, где существуют приведения, но они хорошо прячутся, шансы встретить их не высокие. Но в мире где их не существует, шансы ещё ниже. И если мы не встретили их, или не нашли в результате эксперимента, то это нормальный аргумент в пользу их отсутствия.

[Если хотите больше "технических" подробностей, то читайте эту работу]

Р: Ну допустим, отсутствие доказательств существования сепулек является слабым свидетельством в пользу того, что они не существуют. Я согласен с такой формулировкой. Но мы тут, вообще-то, бремя доказательств перекидываем, если ты не заметил. На ком же оно?

С: Конечно, на тебе. Даже без логических ошибок, бремя доказательств падает на того, кто утверждает что-то необычное. А существование сепулек определённо необычное заявление! Как сказал Карл Саган, экстраординарные утверждения требуют экстраординарных доказательств.

Р: Ну, вообще-то, ни сам принцип, ни даже эта формулировка не принадлежат Сагану. Принцип впервые упомянул в своей работе философом Дэвид Юмом за 200 лет до него. Формулировку же в таком виде за несколько лет до Сагана озвучил социолог Марчелло Труцци.

С: Ты здорово уходишь от разговора, но со мной этой не прокатит. Бремя доказательств на тебе, потому что ты утверждаешь нечто отличное от нормы. Ты слышал про чайник Рассела? Если я скажу, что между Землёй и Марсом вращается фарфоровый чайник, слишком маленький, чтобы его могли обнаружить даже самые мощные телескопы, никто не сможет доказать, что я ошибаюсь. Но если я заявлю, что, поскольку никто не может опровергнуть моё утверждение, оно не должно подвергаться сомнению, я буду высмеян.

Р: Да, только позволь мне закончить эту цитату философа Бертрана Рассела, звучит она так: «Однако, если существование такого чайника было бы записано в древних книгах, преподано детям как священная истина и внушалось бы обществу с раннего возраста, сомнение в его существовании выглядело бы странным, а скептик подвергался бы осуждению». Как видишь, Рассел указывал на относительность понятия нормы. Вот в моём окружении большинство определённо верят в сепульки. И заявление, что их не существует не только глубоко возмутительно, но и крайне необычно.

С: Странное у тебя, конечно, окружение. Но к счастью, большинство людей в сепульки не верят. Так что тебе не увернуться от бремени доказательств.

Р: О, любитель неформальных логических ошибок прибегает к аргументу от большинства? То есть продажи гомеопатических препаратов подтверждают их работоспособность?

С: Ладно, ты прав. Мнение большинства не всегда надёжно. Но у нас же есть научный консенсус! Мнение профильных специалистов легко укажет на то, какое мнение сто́ит считать необычным, а стало быть, и на то, кто обязан предоставлять доказательства.

Р: Это резонное предложение. Вот только с ним связана пара проблем. Кого считать специалистами? Вот, например, в вопросе НЛО астрономы небезосновательно считают себя специалистами. Однако всякие там уфологи тоже претендуют на эту роль.

С: Ты что ещё и в НЛО веришь?

Р: Термин абстрактные рассуждения тебе, видимо, неизвестен. Нет, я просто сбиваю твою спесь и пафос. Ну вот есть этот ваш любимый научный метод. А кто является экспертами по нему? Физики, математики или социологи? Может, философы? А, как я мог забыть, философия же не наука.

С: Ну хорошо,не для всех вопросов есть очевидно подходящее сообщество экспертов, но для многих же есть?

Б: У меня была статья про авторитет. Там как раз поднимался вопрос того, кому стоит доверять и почему. Всё, что там было сказано, относится не только к отдельным авторитетам, но и к экспертным сообществам. На уровне сообществ также бывают конфликты интересов. То есть если вы спросите сообщество специалистов по сепулькам, существуют ли сепульки, то они будут иметь сильное давление ответить положительно. Это не значит, что их выводы можно выкинуть в мусорку, но это стоит учитывать наряду с другими свидетельствами. Ещё одной важной тонкостью будет то, что консенсус будет тем более точен, чем более независимы мнения экспертов внутри него. Если все эксперты воспитаны в рамках «одной школы», это создаёт эхо-камеру. Основная суть в том, что разные сообщества заслуживают разной степени доверия.

Р: Ну в такой формулировке я не спорю с рекомендацией оттолкнуться от консенсусного мнения.

С: Получается бремя доказательств на тебе?

Р: Почему?

С: Ну ведь научный консенсус на моей стороне?

Р: А с чего ты это взял?

С: То есть ты думаешь, большинство учёных считают, что сепульки есть?

Р: Каких именно учёных?

С: Да какая разница?

Р: Огромная. Вот ты утверждаешь, что бремя на мне, потому что таков научный консенсус. А сам не удосужился даже проверить есть ли подобные опросы или что пишут в учебниках. В чём сила твоего аргумента, если ты просто говоришь: я верю, что учёные считают так, значит, я прав? Такой подход называется критическим мышлением? Я просто не в курсе.

С: Я так устал от твоей бесполезной демагогии.

Р: Вот так всегда, как только у тебя заканчиваются аргументы, ты объявляешь меня софистом и демагогом. Это ни разу не ad hominem, здесь никаких норм рационального диспута не нарушается.

С: Пусть нас рассудит третья сторона: на ком должно быть бремя доказательств?

Б: Ну вообще ни на ком.

С: В смысле?

Б: Дело в том, что средневековый диспут заимствовал общие нормы римского права, среди которых была идея о том, что бремя доказательства лежит на утверждающем. Оттуда концепция распространилась на руководства по проведению дебатов и теоретические работы по риторике и аргументации, а после популяризовано и, так сказать, ушло в массы. Однако это заимствование не очень уместно. Если целью спора является совместный поиск истины (или более практически наилучшей позиции с обоснованной степенью уверенности), то лучшей стратегией будет просто вывалить на стол лучшие аргументы, перемешать их с аргументами собеседника и взвесить чаши весов. Вообще, крутым лайфхаком для рационального спора является вести обсуждение так, как делал бы это наедине с собой. Ну правда, почему должна быть какая-то разница между самостоятельным рассуждением над темой и диалогом, если цель в установлении истины?

С: А что если собеседник не хочет вести нормальный спор? Как мне его заставить? Вот в чём главный вопрос!

Б: Я считаю - это довольно вредная интуиция, что есть объективные стандарты спора, и если собеседник их не выполняет, то можно принудить его к этому. Отсюда и берётся вся эпопея со списками логических ошибок. У каждого человека есть личные эпистемические стандарты. Я вот считаю, что полезно использовать в некоторых рассуждениях логику и теорию вероятности. Более того, я верю в то, что есть более эффективные познавательные стратегии (эпистемическая нормативность) к обладанию которыми я и стремлюсь. Если у другого человека стандарты отличаются, вам придётся придумать формат в котором вы сможете взаимполезно обмениваться информацией не соблюдая эпистемические стандарты друг друга. Ну или прийти к общим стандартам (что вообще-то отдельная задача).

Р: Погоди, то есть бремя доказательств по-твоему бесполезно? А ничего, что это юридический термин?

Б: Бремя доказательств — это важная штука, но работает она не везде. Вот в этой работе авторы делят споры на два типа: в одном бремя доказательств только мешает, а в другом — наоборот, необходимо.

Когда спор касается просто установления истины или оценки степени уверенности (то есть, насколько вероятно, что что-то, правда), здесь перекидывание бремени доказательств только мешает. Но есть и споры, где мы не просто ищем истину, а решаем, что с ней делать — и это решение несёт за собой риски и последствия. Например, если мы уверены в чём-то на 70% (ну, к примеру, в безопасности препарата), и мы должны решить: когда стоит действовать (например выпускать его на рынок или нет)? Для таких случаев нужна граница принятия решений. Такие споры называют пруденциальными, потому что здесь важно учитывать риски.

Классический пример — юридическая система. В уголовном праве презумпция невиновности специально создаёт перекос в пользу обвиняемого. Это потому, что наказать невиновного считается гораздо хуже, чем отпустить виновного. С точки зрения поиска истины — да, это искажение и подкручивание. Но с точки зрения принятия решений это оправдано, потому что в долгосрочной перспективе даёт наилучший результат.

Это применимо не только в судах. Бремя доказательств нужно в любой ситуации, где ошибиться в одну сторону хуже, чем в другую. Это называют пруденциальной асимметрией.

Яркий пример из другой сферы, это история с талидомидом. В 1950-х этот препарат активно продвигали как средство от тошноты у беременных. В результате более 10 000 детей родились с тяжёлыми пороками развития, а около 40% из них не выжили.

Но в США лекарство так и не попало на рынок благодаря сотруднице FDA Фрэнсис Келси. Она отказалась одобрять таледомид, потому что на её (субъективный) взгляд доказательств безопасности не достаточно. Этот случай изменил систему регулирования лекарств и принёс Келси президентскую награду.

В жизни мы тоже интуитивно сдвигаем бремя доказательств в подобных ситуациях. Представь, ты берёшь в руки охотничье ружьё. Разумнее считать, что оно заряжено, пока не убедишься в обратном. А вот если ты берёшь банку газировки, логично предполагать, что она не взболтана, пока нет оснований считать иначе.

Конечно, правильно установить бремя доказательств в споре с пруденциальной асимметрией очень сложно и трудозатратно. Есть высокий риск промахнуться, и устанавливащий несёт серьёзную ответственность за последствия. Но в этом случае это неизбежно.

Совершенно другая ситуация в бытовых спорах. Бремя доказательств в них всплывает из интуиции о внешнем судье. Как будто существуют объективные стандарты (не этические), которых необходимо придерживаться в дебатах. И один из них заключается в том, что пока оппонент строго не доказал что-то, вас этот внешний судья признаёт правым. Мол, вы имеете полное право верить в любые убеждения, пока не получили идеальное математическое доказательство своей неправоты. Как я уже говорил в одном из роликов, это наследие аристотелевской логики, в которой ты либо точно прав, либо также точно ошибаешься. Именно в такой ситуации очень важно, кто будет утверждать, ведь, как верно заметил радикальный скептик, гораздо проще указать на ошибки, чем создать идеальную и безошибочную концепцию.

Я же предлагаю байесовскую перспективу, где у тебя и собеседника есть некоторые обоснованные степени уверенности. Обоснованы они доказательствами. И целью спора является вывалить всё свои доказательства на стол, и совместно взвесить. В этом случае бремя доказательств становится обременительно для обеих сторон. Это, конечно, не сделает любое обсуждение идеальным, особенно если собеседник не поддерживает такой подход. Но даже в одностороннем порядке это может увеличить лично вашу пользу от такого диалога.

С: Ну звучит здраво. Но что там с сепульками?

Р: Ой, да нет никаких сепулек. Я просто хотел поспорить. Пошли чай пить.

• Где это я?

• Привет! Я - это ты из будущего, и я расскажу тебе, почему логические ошибки, в которые ты вечно тыкаешь другим, зачастую не являются ошибками, да и те, что являются - не всегда логические. А часть из них вообще противоречат друг другу.

• О, разговор с собой из будущего, какой избитый приём. Но ты меня заинтересовал. Ты утверждаешь, что некоторые логические ошибки — не ошибки? Приведи пример.

• Хорошо. Эталонная логическая ошибка — это апелляция к эмоциям. Соискатель приходит на собеседование и вместо ответа на вопрос о квалификации начинает перечислять, что дома его ждёт жена-инвалид, у него семеро детей и им нечего есть и нечего надеть.

• Ну, всё верно, соискатель ведь, правда, не прав, значит, это ошибка!

• Да, он не прав. Но это не имеет никакого отношения к апелляции к эмоциям. Не она делает его утверждение неверным.

• Ты имеешь в виду, что в данном случае проблема в отсутствии квалификации, а не в давлении на жалость?

• Именно, он не ответил на вопрос работодателя. Если бы он не давил на жалость, это ничего бы не поменяло. Более того, хорошая речь должна вызывать эмоции, просто чтобы её дослушали. Отец классической логики, Аристотель считал так называемый “Пафос”, то есть влияние на эмоции аудитории, важным элементом ораторского мастерства.

• Ага, вот ты и попался. Это же логическая ошибка, под названием «апелляция к авторитету». Так делать нельзя.

• Да ну. И почему же нельзя апеллировать к авторитету?

• Но это же всем известно? Ой, это же апелляция к большинству... Ну тогда, потому что… эм… потому что классическая логика — это очень авторитетный авторитет, который, гласит, что так делать нельзя?

• В точку.

• Блин, но это же ошибка под названием “порочный круг”. Нельзя же говорить “мы не верим авторитетам, потому что верим в авторитет логики”.

• Да. Обычно сразу после фразы “не доверяйте авторитетам”, следует рекомендация “пользуйтесь проверенными источниками информации”. Никто не видит в этом противоречия? На самом деле проблема в том, что мы не можем разбираться во всём. Мы не можем даже разбираться во всём, в чём хорошо было бы разбираться. Поэтому мнение эксперта вполне себе является аргументом, если у тебя нет возможности разобраться в вопросе самостоятельно. А ссылка на исследование с хорошим дизайном — это апелляция к авторитету научного метода, и это не плохо. Это, конечно, не значит, что выбор авторитета, которому стоит верить, это дело вкуса, но об этом в другой раз.

• Ну вот, на самом интересном месте.

• О, это не самое интересное. Что, если я скажу, что, пожалуй, самая известная логическая ошибка «ad hominem» или «переход на личности» не всегда ошибка?

• Че-е-его?

• Если твой собеседник по какой-то причине подбирает информацию однобоко, это может напрямую относиться к сути спора. Ты же наверняка слышал что-нибудь о термине «конфликт интересов».

• Это когда производитель бадов сам проверяет свои средства на безопасность и эффективность или вроде того?

• Да. В таких случаях считается хорошим тоном, если ты в обсуждении сразу заявляешь о том, что ты ангажирован, или иными словами заинтересован, в том, чтобы оказаться правым. Твои аргументы могут быть подобраны однобоко, причём даже не умышленно. И для меня как собеседника, это очень даже релевантная информация. А если мы выступаем перед аудиторией, то и для них тоже. Так что в каком-то смысле здесь ad hominem вполне уместен. Однако также хорошим тоном считается не затрагивать личность собеседника, даже если информация о его личности является непосредственно связанной с его заявлениями.

• Я что-то запутался. “Апелляция к личности” это всё-таки плохо?

• Это сомнительное с этической точки зрения решение, за которое в быту можно получить в глаз. Однако это не логическая ошибка. Как и родственное ему «отравление источника». Популяризаторы науки часто упоминают так называемые «мусорные научные журналы». Это такие издания, которые за деньги готовы опубликовать любую чушь под видом научной статьи. Так вот, если ты предоставишь публикацию из подобного журнала, то я заявлю, что, вероятнее всего, она не несёт научной ценности и это будет «отравлением источника». С другой стороны, если я предоставлю публикацию из «Nature», упомянув источник, ты заклеймишь меня за «апелляцию к авторитету».

• Оу, но это не должно так работать.

• Но именно так и выглядит бездумное применение знаний, полученных из ролика «10 главных логических ошибок за 5 минут». Подобный список - это вовсе не строгая система, построенная на логике. Значительная часть «логических ошибок» это набор противоречащих сами себе костылей, которые иногда работают как надо.

• Противоречащих сами себе?

• Конечно. Взгляни на ошибку под названием «сам такой» (иногда это называют «вотэбаутизм», или апелляция к лицемерию).

• Это как если бы я указал тебе на логическую ошибку, а ты, вместо того, чтобы её исправить сказал бы, что я сам допустил её раньше в обсуждении. Получается ты не прав, ведь я раньше указал тебе на ошибку!

• Я смело могу заявить о том, что ты совершаешь ошибку под названием «двойные стандарты», ведь указываешь мне на правила, которые сам не соблюдаешь. Но далеко мы так не уйдём. Обрати внимание, обе эти ошибки направлены на то, чтобы выяснить, кто из собеседников неправ.

• Так в этом же и есть суть спора?

• Нет, суть спора в том, чтобы выявить правильную позицию.

• Но в чём разница?

• Ну в одном случае ты пускаешь всю свою интеллектуальную мощь на то, чтобы показать, что твой оппонент - демагог и софист, а его речь наполнена манипуляциями и полемическими уловками. Он, кстати, занимается тем же самым. В таком случае знание о логических ошибках выступает как оружие. Оно и было разработано для этого, ведь, по сути корнями уходит в инструментарий публичных дебатов.

• Ну, допустим это выглядит не очень привлекательно. Но что ты предлагаешь? Выкинуть мои знания о логических ошибках на помойку?

• О, это обычно называют ложной дилеммой (или ложной дихотомией). Когда ты говоришь «я должен либо тыкать всем без разбору в логические ошибки, либо не использовать знание о них». Раз уж мы затронули ложную дилемму, то я обращу внимание, что она также не связана с логикой. Это скорее эвристика, лайфхак, который полезно использовать для проверки, достаточно ли вариантов мы рассматриваем. Два варианта может быть мало, но и добавление третьего ещё не означает, что теперь их достаточно. Поэтому возможна ложная трилемма, или четырелемма. Чип и Дэн Хиз в книге «Ловушки мышления» называют такое неосознанное заужение своего выбора - «узкой рамкой». Но как ни назови, это не ЛОГИЧЕСКАЯ ошибка, хоть и полезно этого избегать.

• Ты ушёл от ответа, но, к счастью, я всё записываю. Какой вариант применения логических ошибок я упускаю, и почему не стоит тыкать в них у оппонента?

• Забавно, что твой вопрос является частично и ответом. Смотри, я указал тебе на то, что ты применяешь ложную дилемму. То есть я указал тебе на ошибку, пусть бы она была и логической. Но у тебя не возникло ощущения, что ты получил ответ, потому что ты его и не получил.

• Да, я его до сих пор не получил.

• Это часто происходит в дебатах, где главная цель - это выявить ошибки собеседника и доказать свою правоту. Ведь нам кажется, что если собеседник ошибся, то он потерял баллы, а стало быть, мы заработали. Однако это не так, и ошибка оппонента на самом деле не влияет на реальное обстоятельство дел, которое (в идеале) мы пытаемся выяснить.

• Как это не влияет? Если собеседник ошибся, значит я прав?

• О, кажется, тут что-то пропущено. Давай восстановим логическую цепочку. Если собеседник ошибся, значит его позиция не может быть правдой, а ложность его позиции однозначно доказывает правдивость моей, значит я прав. Такие штуки любят называть «скрытыми допущениями», и каждое допущение требует отдельного доказательства.

• Оу, не всё так просто, да?

• Именно. Человек может быть прав, но при этом допускать логические ошибки. Вспомни школу. Если твоё решение математической задачки неверно, ты всё ещё можешь случайно прийти к правильному ответу.

• Но шансы таким образом решить задачку правильно не очень высокие!

• Это если ты не посмотрел в решебник. До большинства мыслей, которые мы озвучиваем, мы не дошли сами в результате дедуктивных умозаключений. Зачастую люди терпят крах при попытке обосновать, в общем-то верные суждения формальным образом, особенно если эти умозаключения были получены от кого-то. То есть они буквально берут верный ответ и обосновывают его неверными аргументами.

• Но мы ведь можем указать, что такое РЕШЕНИЕ неверно.

• Да, но не указать, что неверен ОТВЕТ. Ты спрашивал про суть спора. Так вот, если тебя действительно интересует ОТВЕТ, то вместо того, чтобы, покряхтывая от самодовольства, поздравить самого себя с блестящей победой, после того, как ты перечислил все «логические ошибки» собеседника указав на его неверное решение, всё же попробуй найти ответ. В идеале можно пропустить первый пункт, как не несущий пользы. Я называю это — установка на поиск истины.

• Ты имеешь ввиду, что можно не озвучивать логические ошибки оппонента, а сразу указывать на верное решение? Ну то есть в случае ложной дилеммы не тыкать в ошибку, а сразу озвучить недостающий вариант? Но нужны ли тогда вообще знания о штуках, которые мы называем логическими ошибками?

• О, конечно. Правда, для поиска истины подходят не далеко не все из этих штук. К счастью, есть простой способ их различать.

• А ты не мог с этого начать?

• Нет, так было бы неинтересно. Самое полезное применение для знаний о логических ошибках — это поиск и выявление их в своём собственном рассуждении. Но ошибки, которые призваны ткнуть в неправоту собеседника, очень плохо с этим справляются. В каких рассуждениях ты можешь себя поймать на ошибке «сам такой» или «апелляция к жалости»? Больше того, значительная часть самых полезных штук из списка «логических ошибок» - это штуки, связанные с теорией вероятности и статистикой, а не с логикой.

• Это какие, например?

• Ну вот, в статье про совпадения я рассказывал об «ошибке игрока», «ошибке выжившего», и ошибке под названием «корреляция не взаимосвязь». А в статье про рационализацию я рассказывал про мотивированный подбор аргументов, который в науке называют «cherry picking». Все эти штуки традиционно включают в список логических ошибок, хотя точнее было бы назвать их стастистическими или вероятностными. Чтобы лучше продемонстрировать принципиальную разницу приведу пример. В статье про доказательства я рассказывал о «поспешном обобщение».

Это когда мы делаем наблюдения: Вода кипит дома при 100 С°Вода кипит на улице при 100 С°Вода в лаборатории кипит при 100 С°А затем делаем вывод: вода везде кипит при 100 С° (что неверно, к примеру, в горах вода закипит при меньшей температуре).

• Эту ошибку ещё называют неполной индукцией. Подразумевая, что бывает полная индукция. Но на практике (в отличие от мира чистой математики) мы никогда не обладаем полной информацией, и нам всё равно нужно делать выводы. И это не страшно, просто выводы эти будут вероятностными. Однако в классической логике рассматриваются только варианты: утверждение верно или утверждение неверно. И без полной информации мы не можем получить никакого промежуточного результата. Это же, кстати, порождает костыли, вроде «ошибки анекдотического свидетельства».

• Это когда я утверждаю, что ты привёл лишь один пример или случай из жизни, и он не может опровергнуть моё утверждение?

• Да, но, по сути, ты просто пытаешься проигнорировать неудобное свидетельство. Если я тебе соврал, то проблема в том, что я соврал. Но если я не вру, то нельзя просто так взять, выкинуть свидетельство. В медицине, к примеру, подобные «анекдотические свидетельства» называются клинический случай, в бизнесе «кейс». Да, их реальность нужно проверять, но никто их не игнорирует. Потому что игнорировать свидетельства, ужасная идея. Для этой идеи, конечно же, тоже придумали соответствующую ошибку, под названием «ни один истинный шотландец».

• А это я знаю.

Ни один истинный шотландец не добавит сахар в овсянку.Но мой дядя шотландец, и он обожает овсянку с сахаром!Я же сказал «ни один ИСТИНЫЙ шотландец!».

• Да, в статистике подобные штуки относятся к махинациям с выборкой. Но о плохой статистике мы поговорим в другой раз.

• Ну, хорошо. Но если эти ошибки не связаны с логикой, то почему они называются логическими?

• Так сложилось исторически. Раньше логикой называли науку о правильном мышлении, а в корзину с логическими ошибками складывали все нарушения правильного мышления. Эта традиция продолжается и сейчас, теперь туда зачастую кидают даже когнитивные искажения.

• Но неужели ни одна логическая ошибка не является чисто логической?

• О нет, конечно, есть чисто логические ошибки. Их ещё называют формальными, потому что сегодня современная логика — это наука о формальных системах. Знание о них довольно полезно для любого человека, но к тому же жизненно необходимо для людей, работающих с формальными системами, например, для математиков, программистов или юристов.

• Вот это круто, и какие ошибки являются формальными?

• Всё, что нарушают таблицы истинности

• Че-е-его?

• О, я рассказывал о них в статье про логику, думал ты читал. Всё время забываю, что ты из прошлого. Там я рассказывал, то есть ты будешь рассказывать, про то, что называется формальными ошибками. Вот пример: если идёт дождь, то на улице будет мокро. И на улице мокро. Из этих посылок нельзя сделать вывод, что идёт дождь, потому что улица может быть мокрой и по другим причинам. Название такой формальной ошибки «подтверждения консеквента».

• Звучит невесело

• Да, у большинства ошибок довольно замудренные названия. Так вот, таблицы истинности наглядно показывают, какие логические заключения можно делать, а какие нельзя. К примеру, если у тебя есть утверждения: если идёт дождь, то на улице точно мокро, и наблюдение - на улице сухо, то вот из этих посылок можно сделать вывод, что дождь не идёт. У правильных выводов тоже есть свои названия, например, этот называется modus tollens.

• Это интересно, почему об этом не рассказывали в дебатном клубе, когда мы изучали логические ошибки?

• Потому что знания о логических ошибках и знания о логике, как ты видишь, пересекаются не так уж сильно. А поверхностные знания о логических ошибках приводят, фигурально выражаясь, к забиванию гвоздей микроскопом.

• Интересно. Но у меня остался ещё один вопрос, а разве наш с тобой диалог — это не парадокс, наподобие Апории Зенона?

• О, я бы мог рассказать суть апории Зенона в которой говорится, что «В гонке Ахилес никогда не сможет обогнать черепаху, если у неё будет фора в полпути, поскольку Ахилес должен сначала достичь точки, откуда стартовала Черепаха, но Черепаха уже пройдёт сколько-то за это время, и ему снова придётся догонять и так до бесконечности», но раз ты в курсе, то не стану её рассказывать. Но при чём тут она?

• Я имею в виду, раз я беседую с собой из будущего, то обновление информации в моей голове, разве не должно менять тебя, то есть меня, в будущем и твои действия? Короче, разве это не парадокс?

• А, ты про это? Не переживай. Мы просто персонажи, написанные для этого диалога. Наша цель лишь в том, чтобы рассказать о вреде бездумного применения знаний о логических ошибках и о пользе их корретного применения. Так что никакого парадокса нет. Как и нас.

Представьте: перед вами три девушки. Мария, Светлана и Ирина. Мария смотрит на Светлану (и только на неё), Светлана смотрит на Ирину (и только на неё). Мария замужем, Ирина нет. Смотрит ли кто-то замужем на кого-то незамужнюю? Вы можете ответить: да, нет и недостаточно данных. Подумайте над задачей, это сделает прочтение статьи ещё интереснее.

Биолог Жак Моно однажды сказал, что «удивительное свойство эволюции заключается в том, что она всем кажется понятной». К сожалению, никто не повторил того же самого о логике, но я исправлю это упущение. Практически каждый человек знаком с этим словом, и всем оно кажется понятным. Наш язык пропитан выражениями вроде «логичная мысль», или «звучит логично». В бытовом использовании логика выступает буквально синонимом здравого смысла и ума. Почти под каждым роликом про логику на ютубе есть комментарий про то, что введение логики в школе, наконец, заставит всех мыслить правильно (правильно это по-видимому так же, как автор данного комментария). Так или иначе, логика обладает в обществе огромным авторитетом, и апелляция к ней имеет статус сильного аргумента. Но откуда у неё такой авторитет?

Ребёнок приходит в садик. Его спрашивают: молоток, пила, топор, бревно. Что лишнее? Подобные задачки называют логическими, а их решение подразумевает наличие логического мышления (по крайней мере, по мнению составителей тестов). Ребёнок может сказать, что лишнее здесь бревно, ведь остальное - инструменты. И это интуитивно кажется нам логичным. Он может сказать, что лишний - молоток, ведь он единственный не участвует в обработке дерева или убрать пилу, потому как в этом слове в единственном нет буквы О. Эти ответы мы тоже признаем обоснованными. Но если он уберёт топор, никак это не аргументируя, мы назовём такое решение «нелогичным».

Люди довольно давно озадачились вопросом о том, можно ли подобную интуицию облечь в форму правил. Одним из первых, кто добился результатов в этом, был Аристотель. Ему удалось собрать раннюю донаучную версию логики в своём труде под названием «Органон», с древнегреческого - инструмент. И этот инструмент имел настолько удачную конструкцию, что с минимальными правками дожил аж до конца девятнадцатого века. Давайте поближе взглянем в сущность этого инструмента.

Волшебный инструмент

У вас есть набор утверждений, называемых аксиомами, вы можете применить к ним некоторые правила, и получить в результате выводы. Так вот, логика (по Аристотелю), это такие волшебные правила, при применении которых если изначальные утверждения верны, то вы волшебным образом получаете однозначно верные выводы.

Давайте покажу на примере. Для этого вернёмся к задачке из начала.

У нас три девушки, и каждая из них может быть как замужем, так и незамужней. Во всяком случае мы можем «помыслить» такие миры до того как посылки были озвучены.

Потом мы видим первую предпосылку: Мария у нас замужем. А значит, 4 мира мы можем сразу убрать и сосредоточить внимание на оставшихся.

Затем мы видим вторую предпосылку, Ирина не замужем, а значит, мы можем смело «выкинуть» ещё два мира.

Осталось всего две конфигурации - два мира, и мы не знаем точно в каком из них мы находимся. Но присмотритесь, в них есть кое-что общее. В первом мире Светлана замужем смотрит на Ирину не замужем, а во втором Мария замужем смотрит на Светлану не замужем. То есть кто-то замужем смотрит в кого-то не замужем в любом из оставшихся миров.

Убедительно?

Спорить с этим не получится. Поэтому логика чудовищно убедительный аргумент. В мета-анализе Йоса Хорникса (про который я рассказывал в статье про доказательства здесь же на Пикабу) сравнивали различные типы доказательств по их убедительности. Логика оказалась самым убедительным способом аргументации. Я провёл опрос, и мнения изначально разделились.

Но если запереть этих людей в одной комнате и попросить обсудить этот вопрос, то мы получим толпу людей думающих одинаково. Волшебный инструмент.

Но магия на этом не заканчивается. Если мы последовательно заменим имена девушек, вывод останется верен. Если мы заменим статус в браке на, например знает английский, то вам не составит труда решить эту задачку. Если мы изменим действие со смотрит на передаёт ручку, решение все так же останется актуальным.

То есть мы можем кристаллизовать подобные волшебные конструкции, убрав из них содержание и оставив лишь форму. Помните, в гонках в детстве были сокращалки (объездные пути)? Логика подобно им позволяет вам, увидев знакомую конструкцию, сократить время на размышление. Кроме того, она позволяет размышлять о самих конструкциях и их свойствах, находя правильные и неправильные.

Правильные конструкции

Перед вами лежат четыре карты: 3, 8 красная и зелёная.

С одной стороны у карт цифры, а с другой —  красная или зелёная рубашка. У вас есть правило: если карта чётная, то рубашка у неё красная. Вам нужно проверить соблюдается ли это правило для всех четырёх карт. Какие карты необходимо перевернуть для проверки этого правила? Как и в прошлый раз предлагаю вам немного подумать, чтобы было интереснее.

Эта задачка называется задача выбора Уэйсона, по имени психолога Питера Уйсона, который придумал её в 1966 году, чтобы мучить своих студентов. Я выбрал её, потому что в ней люди под влиянием искажения подтверждения достаточно часто используют неправильную конструкцию.

В классической логике для разделения правильных и неправильных конструкций существует штука под названием таблицы истинности.

Сейчас я покажу как ими пользоваться. Буква А - это первая посылка (или параметр функции). Она может быть верна («+») или неверна («—»). Буква Б - это вторая посылка. Далее в табличке идут значения некоторых конструкций (или функций): отрицание, конъюнкция (логическое И), дизъюнкция (логическое ИЛИ), импликация (логическое ЕСЛИ, ТО). Соответственно когда значение «+» это значит, что при таких значениях посылок конструкция верна.

У нас в условии прозвучала фраза «если, то». Подобная конструкция в классической логике называется «импликация». Табличка говорит нам, что импликация ложна («—») только в одной комбинации: когда ЕСЛИ верно, а ТО неверно.

Что же это сообщает нам о задаче с картами? А то, что нас интересует только верное ЕСЛИ - то есть только чётные цифры, и только неверное ТО - то есть зелёная рубашка. Если это очевидно, то перескочите следующий абзац.

Поясню. Если мы откроем тройку и она окажется красной - это вроде как подтвердит правило (но мы не пытаемся его подтвердить). Если же она окажется зелёной, то... это не подтвердит и не опровергнет правило. Это вообще не касается правила, ведь речь в нём шла только о чётных картах. Та же ситуация с красной рубашкой. Если там чётная карта - это вроде как подтверждение. Нам это не интересно. Если же там нечётная карта, то нам это так же индифферентно, ведь про нечётные карты в правилах не было. А вот восьмёрка нам интересна, ведь она сможет опровергнуть наши убеждения, если окажется зелёной. То же верно и для зелёной рубашки, которая может оказаться чётной.

Неправильные конструкции

Неправильные конструкции называются логическими ошибками. Вообще, конечно, надо сказать, что логическими ошибками мы называем не только неправильные конструкции. Но это тема для отдельного разговора, про это ещё будет статья (и ролик). Эти нелогические и не всегда ошибки мы сейчас опустим. Дальше по тексту под логическими ошибками я имею в виду конструкции, в которых делается неправильный вывод, несоответствующий таблице истинности.

К примеру, мы можем сказать:
Если пойдёт дождь, на улице будет мокро.
На улице мокро.
Следовательно, шёл дождь.

Это очень заманчивый вывод, который выглядит логично. Как будто мы просто перевернули конструкцию ЕСЛИ, ТО и получили верный вывод. Однако это данная конструкция - неверная. За её вредность ей даже дали специальное название «утверждение по следствию» (впрочем, название есть у многих логических ошибок). На улице может быть мокро не только от дождя (от поливалок или наводнения), и при этом «Если пойдёт дождь, на улице всё же будет мокро».

Логика критерий истины?

Если конструкция неверна (и не соответствует таблицам истинности), то её вывод не соответствует реальности. Эй! Не спешите. Не всё так просто. Несмотря на своё название — табличка истинности, как и логика ничего не говорит об истинности своих выводов по отношению к реальности. Если у вас возникает вопрос, что я имею в виду под словом «реальность», то на эту тему я недавно публиковал статью (здесь же на Пикабу).

Давайте я поясню на примере. Вернёмся к нашим девушкам. Если речь про реальных девушек (как в ролике снятом по этой статье), то у них могут быть совершенно другие имена и статусы. Реальность может не соответствовать ни одному из миров, которые мы рассматривали. Несмотря на это наши рассуждения о конструкции логически верны.

Утверждение: Если бы посылки были реальны, и их звали так как я озвучил вначале, и если бы они имели такие же статусы как в условиях задачи, то тогда вывод был бы реальным.

Это утверждение верно, вне зависимости от реального положения дел в любом мире. Это суть логики. Переформулирую: соблюдая логику, мы можем получить верный вывод, но не факт, что он будет соответствовать реальности. А соответствие реальности зависит от того, соответствуют ли ей посылки. Вот только логика сама по себе на этот вопрос не отвечает.

Но это не самое интересное. Мы можем получить вывод соответствующий реальности, нарушая логику. И на самом деле это не такая уж редкая ситуация. Дело в том, что мы довольно часто приходим к какому-то убеждению на основании разрозненных фактов и обрывочных сведений. Иногда нам везёт и это убеждение довольно точно соответствует реальности. Но когда нас спрашивают, мы не способны восстановить цепочку своих неосознанных рассуждений и интуиций. И тогда мы пытаемся представить свой вывод как результат логического размышления. У логики-то вон какой авторитет. При этом мы нередко ошибаемся в подобной аргументации, совершая грубые логические ошибки, мы же люди.

Вдумайтесь, то есть в такие моменты мы приводим неверные логические обоснования для убеждения, которое соответствует реальности. То есть, иногда допуская логическую ошибку, собеседник всё же прав. А отрицание этого является, внезапно, логической ошибкой под названием «Апелляция к ошибочности».

Именно поэтому нельзя вот так просто сказать: «ты допустил логическую ошибку, а значит, ты неправ». Не потому что это инициирует драку. Просто это логически неверно. Более корректным будет сказать, ты не мог прийти к этому выводу по этой причине, может у тебя есть другие основания? И вот если собеседник с этим не согласен, вот тогда можете начать драку во имя рациональности.

Но в чём тогда волшебство?

Но если, соблюдая логику, мы можем ошибаться, а нарушая оказаться правы, то, в чём же ценность логики? Логика сама по себе не устанавливает реальное положение дел. Но она является мощнейшим инструментом для этого. Если мы имеем некоторый набор убеждений о том, как работает какая-то штука, мы можем взять их в качестве посылок, применить волшебные правила логики и получить логические следствия в виде прогнозов. Эти прогнозы логически верны в любом случае в любом мире в котором верны посылки. И если наш прогноз сбывается, то есть хороший шанс, что мы как раз в таком мире.

Логика неспособна нам сказать в каком мире мы находимся, и какие посылки являются правильными. Но логика способна указать, чего нам следует ожидать исходя из посылок у нас в голове, и, таким образом, установить их полезность.

Вообще, немного упрощая, примерно этим и занимается современная наука. Как сказал Ричард Фейнман:

«Сначала мы пытаемся угадать, как работает реальность. Потом мы вычисляем последствия догадки, чтобы понять, что вытекает из нашей гипотезы, если предположить, что она верна. И далее мы сравниваем эти предполагаемые последствия с реальностью»

Вот все эти последствия и вытекания работают на движке логики (или, точнее, логик). То есть научный метод (как и рациональность) не сводится к логике, но логика является их необходимой деталью. Инструментом, как верно подметил Аристотель.

Берём мы законы термодинамики в качестве посылок (или аксиом). Применяем к ним волшебные правила логики и получаем прогноз того, как должен работать двигатель Стирлинга у меня на столе, если предположить, что посылки соответствует реальности. И если эта штука не работает так, то проблема: в аксиомах, вычислениях или в погрешностях измерения. Но не в правилах, согласно которым мы получали прогноз.

Но почему мы так уверены в том, что проблема в чём угодно, только не в логике? Это можно как-то логически обосновать? Может ли логика доказать сама себя? Почему мы считаем, что волшебные правила выбраны правильно, и как мы их выбрали? Помните, в начале ролика я сказал о том, что изобретение Аристотеля продержалось до конца 19 века? Возможно, у вас возник вопрос, что же произошло дальше. Вот дальше люди задались именно этими вопросами, которые составляют суть увлекательнейшей истории, но её я расскажу в другой раз.