Выпуск №72 (Facebook)
Лжепричинность и флогистон
Флогистон — это ответ Европы XVIII века на первоэлемент огня, введённый греческими алхимиками. Зажги древесину и позволь ей сгореть. Что представляет из себя эта яркая оранжевая штука? Почему древесина превратилась в пепел? На оба эти вопроса химикиXVIII века отвечали — «флогистон».
…и больше ничего. Это всё, в этом и заключался их ответ: «флогистон».
Флогистон покидал горящие вещества как видимое пламя. В результате горящие вещества теряли свой флогистон и становились пеплом, своим «истинным материалом». Огонь, помещённый в герметичный сосуд, быстро гас потому, что воздух насыщался флогистоном и больше не мог его вместить. Уголь почти не оставлял никакого пепла, потому что он почти полностью состоял из флогистона.
Разумеется, никто не использовал теорию флогистона для того, чтобы предсказать результат химического превращения. Алхимик сначала смотрел на результат, а затем при помощи флогистона объяснял его. Не было и намёка на то, чтобы флогистонщики предсказали прекращение горения в замкнутом сосуде; они, скорее, зажгли огонь в сосуде, увидели его угасание и затем сказали: «Должно быть, воздух насытился флогистоном». Теорию флогистона нельзя применить для того, чтобы выяснить, чего ты точно не сможешь увидеть. Она может объяснить всё.
Наука ещё только начинала выходить на сцену. Очень долго никто не осознавал, что в этой теории что-то не так.
Встретив лжеобъяснение, очень легко НЕ ощутить его фальшивость: потому они и опасны.
Современные специалисты предполагают, что люди думают о причинно-следственных связях, используя нечто вроде направленных ациклических графов или байесовских сетей. Выглядит это таким образом: поскольку шел дождь, тротуар мокрый; поскольку тротуар мокрый, он скользкий:
[Дождь] → [Тротуар мокрый] → [Тротуар скользкий]
Из этого можно вывести (а, имея байесовскую сеть, можно даже точно вычислить эту вероятность), что, если тротуар скользкий, то, вероятно, шёл дождь. Однако, если уже известно о мокрости тротуара, то сообщение о его скользкости не несёт в себе никакой новой информации о дожде.
Еще пример:
Почему огонь горячий и яркий?
[«Флогистон»] → [Огонь горячий и яркий]
Это выглядит как объяснение. И в мозгу эта информация хранится ровно в том же формате и под тем же расширением, что и «настоящие» объяснения. Но человеческий разум неспособен автоматически определить, что стрелка, соединяющая гипотезу ([«Флогистон»]) с её возможными следствиями ([Огонь горячий и яркий]), никак не ограничивает пути, которыми могут проявляться эти следствия. Эффект знания задним числом делает ситуацию ещё хуже: люди могут считать, что гипотеза действительно ограничивает происходящее, хотя на самом деле гипотеза подогнана под происходящее постфактум.
Современная трактовка вероятностных рассуждений о причинности может точно описать, в чём именно состояла ошибка флогистонщиков. Собственно, байесовские сети были разработаны для того, чтобы, кроме всего прочего, не учитывать свидетельства дважды в том случае, когда логический вывод между причиной и следствием возможен в обе стороны. Например, я добыл кусочек ненадёжной информации о том, что тротуар мокрый. Это заставляет меня подумать: «возможно, идёт дождь». Но если идёт дождь, то, утверждение «тротуар мокрый» стало более правдоподобным, так? То же самое ведь касается и скользкости тротуара, верно? Но если тротуар скользкий, то он, скорее всего, мокрый — и тогда нужно опять повысить вероятность того, что идёт дождь.
Если вы немножко запутались, то следующий пример продемонстрирует немного более простое объяснение.
Джуди Перл (автор книги «Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference») приводит в качестве метафоры алгоритм подсчёта солдат в линии. Представьте, что вы стоите в линии и можете увидеть только двух солдат: одного спереди и одного сзади. Вместе с вами солдат всего трое. Вы спрашиваете своего соседа впереди: «Сколько солдат ты видишь?» Он осматривается и говорит: «Троих». Если сложить наши три и его три — получается, что солдат всего шесть. Очевидно, что так решать эту задачу не стоит.
Умнее будет спросить у стоящего впереди солдата: «Сколько солдат перед тобой?», и у стоящего позади: «Сколько солдат за тобой?». Сообщение с вопросом «сколько солдат перед тобой?» можно передать дальше без особых затруднений. Если я стою первым, то я передам назад «1 солдат впереди» (уже посчитав себя). Человек, стоящий прямо за мной, получит сообщение «1 солдат впереди», добавит себя и скажет своему соседу сзади «2 солдата впереди». В это же время кто-то получает сообщение «N солдат позади» и передаёт стоящему впереди солдату сообщение «N+1 солдат позади». Сколько же всего солдат? Сложите оба полученных числа и добавьте единицу для себя — это и есть общее число солдат в линии.
Ключевая идея состоит в том, что каждый солдат должен отдельно отслеживать эти два сообщения, прямое и обратное, и сложить их вместе только в конце. Разумеется, сообщение с общим числом солдат никогда не появляется в этой цепочке: никто не произносит этого числа вслух.
Важным моментом является то, что сообщение двигается всегда в одном направлении, не прыгая туда сюда несколько раз, чтобы в конце концов дойти до вас. Т.е. солдат, стоящий перед вами, получив сообщение от своего соседа впереди — передает сообщение только назад (обратное сообщение). А солдат, стоящий позади вас, получив сообщение от своего соседа сзади — передает сообщение только вперед (прямое сообщение).
Аналогичный принцип применяется в строгих вероятностных рассуждениях о причинности. Получение из не связанного с мокрым тротуаром источника каких-либо свидетельств о дожде создаст прямое сообщение от узла [дождь] к узлу [мокрый тротуар], и тем самым усилит ожидание увидеть мокрый тротуар. Наблюдение мокрого тротуара создаст обратное сообщение, идущее к убеждению о дожде, а затем это сообщение распространится от узла [дождь] до всех его соседей, кроме узла [мокрый тротуар]. Каждый кусочек свидетельства учитывается ровно единожды; корректировки никогда не застревают между узлами, прыгая туда и обратно. Точный алгоритм можно найти в классической книге «Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference» Джуди Перла.
Так что же было неправильно в теории флогистона? Когда мы наблюдаем, что огонь горячий, узел [огонь] посылает обратное сообщение со свидетельством «горячести» узлу [флогистон], это вынуждает нас обновить убеждения о флогистоне. А прямого сообщения от узла [флогистон] к узлу [огонь] нет. Есть только отраженное назад от узла [флогистон] к узлу [огонь] обратное сообщение о «горячести». Получается, что мы не можем считать это успешным предсказанием теории флогистона. Сообщение должно идти в единственном направлении, не отражаясь назад. Иначе получается, что мы доказали, что флогистон есть причина огня, т.к. огонь есть следствие флогистона. Правильно, потому, что это правильно.
Увы, для обновления сетей убеждений люди используют не строгий алгоритм, а его грубое приближение. Мы изучаем родительские узлы (к примеру, [флогистон]), наблюдая за дочерними узлами (к примеру, [огонь]), и предсказываем поведение дочерних узлов, используя убеждения о родительских узлах. Но ящик с документацией по прямым сообщениям не отделён от ящика с документацией по обратным сообщениям толстой непроницаемой стеной. Мы просто помним: «флогистон горячий, и из-за этого огонь тоже горячий». Всё это выглядит так, будто теория флогистона предсказывает «горячесть» огня. Или, что ещё хуже, нам кажется: «флогистон делает огонь горячим».
Лишь только после того, как кто-нибудь заметит полное отсутствие предсказаний, сделанных заранее, то не ограничивающий ожиданий причинно-следственный узел получит ярлык «фальшивка». До этого момента он не будет отличаться от остальных узлов в сети наших убеждений. Утверждение «флогистон делает огонь горячим» ощущается нами как факт точно так же, как и все остальные известные нам факты.
Правильно спроектированный ИИ (Искусственный Интеллект) заметит такую проблему мгновенно. Для этого не понадобится какой-нибудь особенной заплатки, нужен всего лишь правильный учёт происходящего в сети убеждений (к сожалению, в отличие от правильно спроектированных ИИ, люди не способны переписывать свой исходный код, чтобы исправить найденные ошибки).
Рассуждения об «эффекте знания задним числом» — это просто способ не привлекая технических терминов рассказать о том, что люди не разделяют прямые и обратные сообщения, из-за чего прямые сообщения могут загрязняться обратными.
Люди, пошедшие по «пути флогистона», не намеревались стать дураками. Ни один учёный не желает застрять в тупике. Подумайте, не скрываются ли лжеобъяснения в недрах твоего разума? Если они там есть, то к ним определённо не приклеен ярлык «лжеобъяснение», и поэтому обычного поиска по ключевому слову «фальшивка» явно недостаточно для того, чтобы ты мог их обнаружить.
Проверить, насколько хорошо любая уже существующая теория «предсказывает» уже известные тебе факты, также недостаточно: «эффект знания задним числом» обесценит все подобные усилия. Предсказывать можно и нужно только на завтра, а не на вчера. И по наступлению этого «завтра» проверять теорию. Лишь так можно быть уверенным в том, что захламлённый человеческий разум действительно посылает чистое прямое сообщение.
Думайте!
(переработанная статья с сайта LessWrong)
Спасибо!
- Знакомы ли вам ситуации, когда вам выдавали некую теорию за правду, используя эффект послезнания — мол, раз это произошло именно так, то изначально задумывалось именно такое?
- Как можно проверить, что подобная высказанная теория все таки истинная/правдивая/работающая?
- Есть ли простой и не слишком затратный способ, помогающий выявить имеющиеся объяснения-фальшивки?
Присылайте свои ответы к нам в редакцию на адрес ans [at] e-ideya.com. В теме письма, пожалуйста, добавьте «[Think-072]» (без кавычек). Спасибо!
- Кто хочет — ищет способ, кто не хочет — ищет причину. (Захочешь — найдешь время, не захочешь — найдешь причину) (Сократ)
- Первый шаг к исцелению — понять причину проблемы. (Бенджамин Франклин)
- Воевать следует не с комарами, а с болотом. (Вера Камша)
- Когда человек желает оправдать себя, уважительные причины находятся сами собой. (Дмитрий Емец)
- Я понимаю КАК; не понимаю ЗАЧЕМ. (Джордж Оруэлл)
- Наша главная проблема заключается в том, что мы обращаем внимание на действия, а не на их причину. (Михаэль Лайтман)
- Причину и пластырь можно приклеить где угодно. (японские пословицы и поговорки)
- Жить приходится не с причинами, а со следствиями. (Стивен Кинг)
- Мы знаем действия многих причин, но мы не знаем причин многих действий! (Чарльз Калеб Колтон)
Понравилась статья? Поставь Like и поделись с друзьями.