МЕНТАЛЬНА ЖИТТЯ ДЕЯКИХ МАШИН

У цій статті я хотів би розглянути характер різних «менталістскій» понять на основі машинного аналога. У статті «Свідомість і машини» 36 я спробував показати, що концептуальні питання, породжувані традиційної психофізичної проблемою (mind-body problem), ніяк не пов'язані з імовірно особливим характером людського суб'єктивного досвіду; вони виникають у зв'язку з будь-якої комп'ютерної системою певного рівня складності, зокрема, у зв'язку з будь-якої комп'ютерної системою, здатною будувати теорії про свою власну природу. У згаданій статті мене цікавили передусім питання, що стосуються тотожності свідомості і мозку. У цій статті головну увагу буде приділено проясненню характеру понять, що виражаються такими словами, як «віддавати перевагу», «рахувати» (believe), «відчувати». Розглядаючи, як вживаються ці слова стосовно до машинного аналогу, я сподіваюся показати, що традиційні альтернативи - матеріалізм, дуалізм і логічний біхевіоризм - невірні навіть у разі машин. Але мої цілі - не тільки деструктивні; я сподіваюся - встановивши характер цих слів у разі машинного аналога - висунути деякі припущення про те, який їх характер, коли вони застосовуються до людей.

Я не буду обговорювати - якщо не вважати цих зроблених спочатку зауважень, - питання про те, якою мірою застосування таких термінів, як «перевагу», до машин Тьюринга являє собою зміну або розширення значення цього терміна . Я не буду обговорювати це питання, бо в подальшому стане ясно, що він не має прямого відношення до мого дослідженню. Хоча коли ми говоримо про описувані мною машинах Тьюринга, що вони «воліють» одну річ другий, те, що ми маємо на увазі, у багатьох відношеннях сильно відрізняється від того, в якому сенсі ми говоримо про людину, що він вважає за краще одну річ другий, це не суперечить жодному з висунутих мною тверджень. Я стверджую, що, зрозумівши, чому аналоги матеріалізму, дуалізму та логічного бихевио-рцзма помилкові у разі машин Тьюринга, ми зможемо зрозуміти, чому згадані теорії невірні і в разі їх застосування до людей, а встановивши, що ці терміни можуть означати в разі машин Тьюринга, ми зможемо угледіти важливі логічні характеристики цих термінів, які раніше не були відзначені філософами.

Отже, в цій статті я розгляну гіпотетичне «спільнота» «агентів», кожен з яких є машиною Тьюринга або, якщо говорити точніше, кінцевим автоматом. (З безлічі прийнятних еквівалентних визначень «кінцевого автомата» для наших цілей краще всього підходить те, яке ми отримаємо з визначення машини Тьюринга, уточнивши, що стрічка для друку повинна бути кінцевою.) Машини Тюрінга, які я припускаю розглянути, відрізняються від абстрактних машин Тьюринга , описуваних логічної теорією, тим, що вони оснащені органами почуттів, за допомогою яких вони можуть вивчати навколишнє середовище, і мають відповідні рухові органи, якими вони можуть управляти. Можна вважати, що органи чуття обумовлюють друк певних «повідомлень» на стрічці машини в певні моменти часу, а машина сконструйована таким чином, що коли певні символи «команд» друкуються в певні моменти часу на стрічці машини, її рухові органи виконують відповідні дії. Завдяки такому природному розширенню машини Тьюринга можливо її взаємодія з навколишнім середовищем.

В основному ми хотіли б обговорити поняття переваги. Щоб формально описати це поняття щодо поведінки наших «агентів», припустимо, що кожному з них приписується функція раціонального переваги в тому сенсі, як її визначає економічна теорія 37. Припустимо, що наші машини Тьюринга досить складні і можуть більш-менш правильно оцінювати вірогідність різних положень справ. З урахуванням зроблених машиною індуктивних оцінок, її поведінка буде тому ПОВНІСТЮ визначатися тим фактом, що вона підкоряється правилу: діяти так, щоб максимізувати передбачувану корисність.

Читачеві слід зауважити, що термін «корисність» тут повністю елімінуючи. Ми стверджуємо лише, що з кожною машиною зв'язується певна математична функція, звана функцією корисності, така, що разом з іншою функцією - «ступенем підтвердження» - вона повністю визначає поведінку машини відповідно до заданих правилом і заданими теоремами обчислення ймовірностей 38. Коротше кажучи, наші машини є раціональними агентами в тому сенсі, в якому це поняття використовується в індуктивній логіці і в економічній теорії. Якщо функції раціонального переваги цих машин подібні з функціями раціонального уподобання ідеалізованих людей, а обчислювальні здібності машин приблизно збігаються з обчислювальними здібностями людей, то поведінка цих машин дуже схоже на поведінку (ідеалізованих) людей. Цю модель можна ускладнити, внісши в поведінку машин деякі елементи ірраціональності, присутні в поведінці реальних людей (наприклад, елемент ірраціональності, пов'язаний з порушенням транзитивності переваг), але тут ми не будемо цього робити.

Що ж означає слово «віддавати перевагу» стосовно до однієї з цих машин? Почнемо з того, що воно просто означає, що функція, яка керує поведінкою машини (точніше кажучи, функція, яка разом з індуктивним логікою керує поведінкою машини), приписує першому альтернативі велику цінність, ніж другий.

Міс Енському могла би у відповідь зауважити, що реальні люди не мають функцій раціонального переваги. Однак фон Нейман і Моргенштерн показали, - і їх доказ є найважливішим результатом в даній області, - що будь-який агент, переваги якого несуперечливі, завжди поводиться так, що його поведінку можна витлумачити в термінах принаймні однієї функції раціонального переваги. Міс Енському могла б заперечити, що реальні люди не мають несуперечливих переваг; але це означало б, що різниця між практичним і науковим розумом полягає в тому, що практичний розум, по суті, часто буває більш-менш ірраціональним, і, що практичні міркування будь-якого людини ірраціональні в якихось областях. Це рівносильно твердженням, що дедуктивна логіка в принципі відрізняється від логіки, що викладається в підручниках, оскільки дедуктивні міркування будь-якої людини неправильні в деяких областях. Справа в тому, що зауваження міс Енському про інтенціях повинні застосовуватися не тільки до інтенціональність поведінки більш-менш ірраціональних людей, але і до інтенціональність поведінки ідеального раціонального людини, що володіє багатою і складною системою Цінностей. Думаю, це ясно випливає з її книги. Але в застосуванні до такого агенту один з її основних висновків просто хибна: практи-етичні міркування такого агента, як ми бачили, зовсім не відрізняються від наукових міркувань 6. Коротше кажучи, практичне міркування має фундаментальне відміну від наукового, якщо прийняти, що наукове міркування складається з силогізмів, посилки яких у принципі допускають точне формулювання, а практичне міркування складається з так званих «практичних силогізмів», посилки яких повинні у всіх представляють інтерес випадках містити Неелі-мініруемое ceteris paribus. Однак реальне наукове міркування включає набагато більш складні способи зв'язку посилок і висновків, ніж силогізм, а прийняття рішень як в реальному, так і ідеальному варіантах включає в себе види міркувань, які отримують вкрай неточне опис, якщо їх намагаються підігнати під традиційну модель «практичного силогізму ». Складний процес зважування різноманітних і протилежних альтернатив і цінностей передбачає дедуктивну систематизацію, але іншого ти-аа, ніж дедуктивна систематизація, розглянута міс Енському (і Аристотелем).

Перш ніж продовжити наш розгляд, я хотів би зробити одне зауваження, яке, можливо, попередить деякі неправильні тлумачення. Машина Тьюринга - це просто система, що має дискретну безліч станів, пов'язаних певними способами. Зазвичай вважається, що машина Тьюринга має пам'ять у вигляді паперової стрічки, на якій вона друкує символи; втім, це можна вважати просто метафорою. У разі кінцевого автомата, тобто машини Тьюринга, що має кінцеву, а не потенційно нескінченну стрічку, фізичну реалізацію цієї стрічки можна представити у вигляді будь-якої кінцевої системи запам'ятовування інформації. Під «символом» мається на увазі будь-якого роду знак (trace), який можна помістити в пристрій, що запам'ятовує, а потім «рахувати» за допомогою того чи іншого механізму. Ми можемо розширити наше визначення, допустивши, що «машина» «друкує» і сканує більше одного символу за раз. Тьюринг показав, що ці розширення по суті залишають клас машин Тьюринга в незмінному вигляді. Зауважте, що машина Тьюринга необов'язково повинна бути машиною. Машина Тьюринга цілком могла б бути і біологічним організмом. Чи є реальна людина або мозок людини машиною Тьюринга (або, швидше, кінцевим автоматом) - це емпіричний питання.

Хоча цілком імовірно, що й стану людського мозку, і Людські ментальні стану, утворюють дискретні множини, - і тут неважливо, яке значення ми приписуємо кілька невизначеному поняттю ментального стану, - однак малоймовірно, щоб свідомість або мозок були машиною Тьюринга. Розмірковуючи a priori, ми вважали б більш правдоподібною ту точку зору, що взаємозв'язки між різними станами мозку і ментальними станами людини носять скоріше імовірнісний, а не детерміністський характер, і що важливе значення має запізнювання в часі. Однак емпіричних свідчень тому мізерно мало. Причина криється в тому, що автомат, у якого зв'язку між станами описуються імовірнісними законами, а поведінка передбачає запізнювання в часі, цілком можна змоделювати на основі поведінки довільно взятої машини Тьюринга. Тому в силу специфіки розглянутого випадку одних лише емпіричних даних недостатньо, щоб зробити вибір між гіпотезою, яка каже, що людський мозок (і, відповідно, свідомість) - це машина Тьюринга, і гіпотезою, яка каже, що мозок являє собою більш складний вид автомата з імовірнісними зв'язками і запізненням у часі.

 Втім, ще в одному відношенні наша модель, безумовно, є спрощенням, навіть якщо визнати, що людський мозок і свідомість являють собою машини Тьюринга. Як вже зазначалося, необхідною і достатньою умовою узгодження поведінки людини в деякий момент часу з приписується йому функцією раціонального уподобання є несуперечність зроблених цією людиною виборів, тобто якщо людина воліє альтернативу А альтернативі В, а альтернативу У альтернативі С, то він віддає перевагу альтернативу А альтернативі С. Але навіть ця дуже слабка аксіома транзитивності порушується коли ми маємо справу з уподобаннями багатьох, а, можливо, і всіх, реальних людей. Тому, навряд чи яка-небудь схема переваг реальної людини узгоджується з приписується йому функцією раціонального переваги. Більше того, навіть якщо чиясь схема переваг узгоджується з приписуваною функцією раціонального уподобання, сумнівно, щоб людина послідовно підкорявся правилу, який приписував максимізувати передбачувану корисність. 

 І, нарешті, наша модель не динамічна. Іншими словами, вона не допускає зміни функції раціонального переваги в часі, хоча це можна виправити. Таким чином, наша модель у ряді аспектів надпростий і сверхраціоналістічна. Однак було б неважко - в принципі, бо на практиці це може виявитися недосяжним - ускладнити нашу модель у всіх цих аспектах: з де- лать її динамічною, допустити елементи ірраціональності в перевагах і індуктивної логіці машини, допустити відхилення від правила, розпорядчого максимізувати передбачувану корисність. Але не думаю, що якесь із цих ускладнень змінило б філософські висновки, зроблені в цій статті. Іншими словами, я не думаю, що філософські висновки цієї статті стали б іншими, якби ми замінили поняття машини Тьюринга поняттям / С-машини, досить багатою і складною, щоб можна було б стверджувати про людський мозок і свідомості, що вони в буквальному сенсі є / С-машини. 

 Я не буду нічого говорити про свої гіпотетичних «агентів» крім того, що вони є машинами Тьюрінга і мають функції раціонального переваги. Цими агентами могли б бути штучно створені об'єкти, біологічні організми і навіть люди. Саме тому ніде в своїй статті я не уточнюю, чи є «агенти» в моєму «спільноті» живими істотами, чи володіють вони свідомістю чи ні. Втім, в одному сенсі про ці агентах можна сказати, що вони, незалежно від їх фізичної реалізації, усвідомлюють одні речі і не усвідомлюють інші. Більш того, якщо у них є періоди, відповідні сну, то ми можемо сказати, що вони «усвідомлюють» щось в одні періоди часу і «не усвідомлюють» - в інші. 

 Інформація, релевантна "МЕНТАЛЬНА ЖИТТЯ ДЕЯКИХ МАШИН"

1. § 4. Доместикация
     життя людини без одомашнених рослин і тварин. Людина приборкує стихії природи і поселяє їх у себе вдома. Так першим був одомашнений вогонь. Домашнє господарство - лабораторія народного господарства. Для худоби, вогню і ін потім побудують окремий будинок, з розмахом. Культивація і селекція в спеціалізованих умовах веде до новоутворень та інновацій, які можуть бути потім вдруге
   
2. 3. ЛОГІЧНИЙ біхевіоризму
     ментального життя »будь-який з наших машин буде еквівалентно відповідному твердженням про реальний і потенційний поводжень цієї машини. Стосовно до «агенту» нашого гіпотетичного «спільноти» ситуацію можна описати так: маючи достатньої інфор-єю про реальний і потенційний поведінці агента, ми можемо з відносною достовірністю зробити висновок про те, що для агента
   
3. 3. ВІДПОВІДЬ QT МОДЕЛЮВАННЯ РОБОТИ МОЗКУ (БЕРКЛІ І Массачусетсський ТЕХНОЛОГІЧНИЙ ІНСТИТУТ)
     ментальних операцій, що складаються з обчислювальних процесів над формальними елементами, і цей рівень є сутність ментального, і він може бути реалізований в найрізноманітніших мозкових процесах - точно так само, як будь-яка комп'ютерна програма може бути реалізована за допомогою самих різних апаратних пристроїв: згідно допущенням сильного AI, свідомість відноситься до тіла як
   
4. 77I. СВІДОМІСТЬ І НАУКА
     ментальні явища, а з іншого - тіла і фізичні явища, тоді ці сфери або взаємодіють, або ні. Первісне резонне припущення, що вони взаємодіють, призводить, проте, до глухого кута такий труднощі, що можна заявляти про reductio ad absurdum 78 дуалізму, принаймні в картезіанському його варіанті. Якщо ex hypothesis 79 ментальні події є нефізичними, то вони не можуть
   
5. 2. Приватність
     ментальних станах, крім стану самої болю. Використовуючи термінологію Вітгенштейна, Джон просто показує свій біль, коли говорить «Мені боляче», - перед цим він не рефлексує про свій стан (звертаючи на нього увагу, відзначаючи його і т. п.), з тим, щоб потім свідомо його описати. (Зауважте, що ця проста можливість виголошення «висловлювання» «Мені боляче» без попереднього
   
6. 1. Машини Тюрінга
     машини Тьюринга 6, яке я і хотів би зараз роз'яснити. У двох словах, машина Тьюринга - це пристрій з кінцевим числом внутрішніх конфігурацій, кожна з яких характеризується тим, що машина знаходиться в якомусь одному стані з кінцевого безлічі станів 1 і сканує стрічку, на якій з'являються певні символи. Стрічка машини розділена на окремі клітини наступним
   
7. СВІДОМІСТЬ І МАШИНИ '
     ментальні та фізичні події. Звичайно, я не стверджую, що цей по-прос правомірний і щодо машин Тьюринга, але вважаю, що стосовно до них можна сформулювати логічний аналог питання про «тотожність свідомості і мозку», який відтворить всі аспекти цього питання. З метою побудови такого аналога визначимо наукову теорію як «частково-інтерпретоване числення» в сенсі
   
8. 4. «ТОТОЖНІСТЬ» СВІДОМОСТІ І МОЗКУ
     ментальних станів відповідним фізичним станам (або про тотожність логічних станів відповідним структурним станам). Як зазначалося в. початку статті, всі аргументи «за» і «проти» подібного ототожнення можна чудово сформулювати за допомогою машин Тьюринга. Вітгенштейн, наприклад, в 1930-х роках використовував наступний аргумент: якщо я маю у свідомості деякий
   
9. ПОКАЖЧИК
     ментальний стан 252,254,256 - умов істинності 141 Значення 7-9, 124-125, 129 - 131, 137, 211 - буквальне 220-221 - истинностное 249 - та інтерпретації 266, 269 - як вживання 15 - звичайне двісті сорок третій розуміння 256-257 - і сенс 133 - 134,137 - і референція 135-136 Иллокутивная сила 101 Іллокутівний акт 126 Ім'я власне 28-29 інтенсіонал 275 Інтенціональне зміст
   
10. 3. ЖИТТЯ: ДЕТЕРМІНАЦІЯ І Волен
      життя людини: несвідома і свідома. Під першою я розумію життя, яка управляється причинами ', під второю - життя, яка управляється цельюі »59. Ці ж думки висловлював Л. М. Толстой у романі «Неділя»: «У Нехлюдове, як і у всіх людях, було дві людини. Один - духовний, який шукає собі блага тільки такого, яке було б благом та інших людей, і інший - тваринний людина, яка шукає