Софізм сірого: методи раціонального мислення

"Світ не чорно-білий. Ніхто не робить суто добро або суто зло. Все сіре. Таким чином, ніхто не кращий за іншого". Чули таку тезу?

А ось і відповідь: "Знаючи тільки сіре, ви доходите висновку, що все сіре є тією ж тінню. Ви зневажаєте простоту двокольорового погляду, замінюючи його на однокольоровий". 

Так починає свій черговий допис на LessWrong відомий американський блогер, адепт раціонального мислення і фахівець зі штучного інтелекту Елізер Юдковскі.

На LessWrong пишуть російською, дописи Юдковского перекладають російсьою. Цей ресурс має величезну аудиторію, переважно молоду. Дописи Юдковского розміщуються у російському сегменті і-нета (принаймні, в українському я не бачила). Там ця стаття перекладена як "Софізм сірого".

Назва влучна, тому що софізм - це хибне міркування, уловка, псевдоаргумент, щоб заплутутати опонента та ввести його в оману, і базується на якихось логічних помилках чи психологічних трюках.

Юдковскі пише:

"В одній з попередніх статей йшлося про людей, які вважають, що шанси один до двох в степені сімсот означає, що «шанси ще є». Всі ймовірності для них просто «невизначеність» і вони мають право ігнорувати їх, якщо їм так легше.

Фрази «Місяць створений з зеленого сиру» та «Сонце створено переважно з водню та гелію» є невизначеними, але вони не однаково невизначені.

Все є тінями сірого, але є тіні сірого такі світлі, що можуть здаватися білими, а є тіні сірого настільки темні, що можуть бути майже чорними. Або навіть якщо ні, ми можемо порівнювати тіні, кажучи: "ця темніша" чи "ця світліша".

Раніше, в один з дивних ключових моментів мого становлення раціоналістом, я читав книгу Ієна Бенкса "Гравець ігор". Там звернув увагу на ось цей абзац, який пропоную і вам. Особливо зверніть увагу на виділене:

 «Обвинувачувальна система не визнає невинуваних. Як і будь-яка система сили. З її позиції ви або "за", або "проти" системи. Ми - проти. Ви б теж, якщо подумали про це. Сам спосіб вашого мислення відносить вас до ворогів. Це може бути не ваша вина, бо кожне суспільство нав'язує свої цінності тим, хто виростає у цьому суспільстві. Але справа в тому, що в деяких суспільствах намагаються максимізувати цей ефект, а в деяких намагаються звести його до мінімуму. Ви - з того суспільства, де мінімальний вплив, і вас запитують ті, хто із суспільства з максимальним впливом. Ухилятися буде складніше, ніж ви можете собі уявити. Нейтралітет либонь неможливий. Ви не можете вибрати, не проводячи свою політику; ця політика не є якимось окремим набором речей, відокремлених від решти вашої сутності. Вона є функцією вашого існування. Я це знаю і вони це знають. Краще б вам погодитися з цим».

Зараз давайте не будемо говорити про суспільства чи про їхні цінності, чи про те, що, якби вони їх не нав’язували, то кожному поколінню потрібно було б починати все з нуля, чи про щось інше. Це не те, що я виніс з цього абзацу. Те, що я виніс, здається чимось очевидним в ретроспективі, що я міг дізнатись із сотні інших місць. Але так сталось, що саме цей абзац щось у мені ввімкнув.

Це саме поняття про Кількісний шлях, що застосовується життєвих проблем, таких як моральні судження чи задачі особистісного саморозвитку. Те, що навіть якщо ви не могли б щось ввімкнути чи вимкнути, ви мабуть все ще хотіли б це збільшити або зменшити.

Занадто очевидно, щоб це згадувати? Я б сказав, що не достатньо очевидно, раз багато блогерів на Overcoming Bias (це сайт) кажуть, що неможливо повністю усунути систематичні помилки мислення і когнітивні спотворення. І байдуже, якщо це говорить  професійний економіст, це лише означає, що він не осягнув Кількісний шлях, як він застосовується до повсякденних речей і має значення для особистого покращення. Якщо ми не можемо щось прибрати, ми можемо це зменшити.

У розмові між Робіном Хансоном і Тайлером Ковеном Робін Хансон сказав, що він вважає за краще приділяти 75% уваги приписам економічної теорії, ніж своїй інтуїції. На що Тайлер Ковен відповів: «З моєї точки зору, нема такої речі, як «застосовувана напряму економічна теорія». Теорії завжди застосовуються через наші особисті та культурні фільтри, і не може бути якихось інших шляхів.

«Всі недосконалі». Мохандас Ганді був недосконалий і Йосип Сталін був недосконалий, але вони не були однаково недосконалі. «Всі недосконалі» – це відмінний приклад заміни двокольорового погляду на одноколірний. Якщо ви скажете: «Ніхто не досконалий, але деякі люди менш недосконалі, ніж інші», ви можете не отримати оплесків; але тим, хто намагається робити краще, ви дасте надію. Ніхто не досконалий, зрештою.

Всякий раз, коли хтось говорить мені, що перфекціонізм поганий, я відповідаю: «Я думаю, нормально бути недосконалим, проте не настільки недосконалим, щоб це помічали інші».

Так само дурні ті, хто каже: «Кожна наукова парадигма накладає якісь зі своїх припущень на те, як вона інтерпретує експерименти» і діють так, наче вони довели, ніби наука стоїть на одному щаблі з шахрайством. Будь-який світогляд накладає якусь зі своїх структур на свої спостереження, але є такі точки зору, що намагаються мінімізувати цей ефект, і такі, що пишаються ним. Нема білого, але є тіні сірого, що набагато світліше інших, і нерозумно ставитися до них так, немов вони всі на одному рівні.

Якщо Місяць обертався навколо Землі останні кілька мільярдів років, якщо ви бачили його в небі останні роки, і ви очікуєте побачити його на своєму місці завтра – це невизначеність. І якщо ви очікуєте, що невидимий дракон вилікує вашу дочку від хвороби, – це теж невизначеність. Але в них зовсім різні ступені невизначеності: одна справа очікувати речі, які вже траплялися так, що їх можна було передбачити до дванадцяти знаків після коми, і зовсім інше – чекати, що відбудеться щось таке, що суперечить спостережуваному порядку речей. І називати їх одним словом «віра» неправильно.

Є дивна динаміка: ви намагаєтеся очистити свою тінь сірого, і досягаєте точки, де стає вже світліше, і хтось встає і каже глибоко обуреним тоном: «Але це ж не білий! Це сірий!» Одна справа, коли хтось говорить: «Це не таке світле, як ви думаєте, оскільки там є певні проблеми X, Y, Z». Інша справа, коли хтось злобно говорить: «Це не білий! Це сірий!» без вказівки на окремі темні плями.

У цьому випадку я починаю більшою мірою, ніж звичайно, підозрювати, що психологія недосконала: що хтось, можливо, уклав угоду зі своїми помилками і тепер відмовляється чути про будь-які можливості поліпшення. Коли хтось знаходить виправдання тому, що він не намагається стати краще, він часто відмовляється визнати, що хтось може намагатися стати краще, і будь-який спосіб поліпшення і будь-яке свідчення, що можливо рухатися вперед, щоб стати краще, вони сприймають як злочин проти них. Таким чином, вони гордо кажуть спочатку «я радий, що я сірий», а потім, вже злобно: «І ти теж сірий!»

Навіть якщо нема білого і чорного, то є світліше і темніше, і не всі сірі тони однакові.

Додаток: цитата з Азімова: «Коли люди думали, що Земля плоска, вони помилялися. Коли вони думали, що вона сферична, вони теж помилялися. Але, якщо ви думаєте, що вважати її сферою або площиною однаково помилково, ви помиляєтеся більше, ніж всі вони разом узяті».