| Головна |
| « Попередня | Наступна » | |
6. Може машина мислити? |
||
|
Кімберлі і Еміта 2 100 рік. Кімберлі Керейген - горда володарка Еміта, штучного робота. Вона щойно витягла його з упаковки; частині упаковки розкидані по підлозі їдальні. Еміт здатний в найдрібніших деталях відтворювати людську поведінку (він лише більш поступливий і слухняний). Еміт відповідає на питання майже так само, як це робить людина. Коли його запитують, як він себе почуває, він відповідає, що сьогодні у нього був важкий день, злегка поболює голова, він шкодує про те, що розбив вазу і т.д. Кімберлі перемикає важіль на спині Еміта в положення «вкл». Еміт: Добрий день! Я - Еміт, ваш робот, ваш помічник і друг. Кімберлі: Привіт! Еміт: Як ви себе почуваєте? Особисто я відчуваю себе нормально. Може бути, трохи нервую з приводу свого першого дня. Однак я бачу, у нас з вами багато роботи! Кімберлі: Почекай. Перш ніж почати прибирання, дай-но я скажу тобі одну річ. Насправді ти нічого не розумієш. Ти не можеш думати. Ти нічого не відчуваєш. Ти просто машина. Адже так? Еміт: Так, я машина. Але, звичайно, я вас розумію. Я відповідаю по-англійськи, чи не так? Кімберлі: Звичайно, це так. Ти - машина, яка дуже добре зображує розуміння. Але мене ти не обдурити. 79 Еміт: Я не розумію, чому ви сумніваєтеся в тому, що зі мною можна розмовляти? Кімберлі: Тому що ти запрограмований реагувати на команди, що подаються голосом. Зовні ти схожий на людину. Ти виглядаєш і поводишся так, як якби володів розумінням, емоціями, відчуттями, інтелектом і т.п. - Всім тим, чим володіють люди. Але ти прикидаєшся. Еміт: прикидатися? Кімберлі: Звичайно. Я прочитала інструкцію з використання. Ти перебуваєш із пластмас і сплавів, в голові у тебе поміщений потужний комп'ютер. Він запрограмований таким чином, що ти ходиш, говориш і взагалі ведеш себе як людина. Тому ти дуже добре імітуєш розумність, тямущість і все інше. Але у тебе немає справжнього розуму і розуміння. Еміт: Ні? Кімберлі: Ні. Не можна ототожнювати навіть дуже досконалу комп'ютерну імітацію чогось з реальною річчю. Можна запрограмувати комп'ютер імітувати океан, але все-таки це буде не більше ніж імітація. Усередині комп'ютера немає реальних хвиль, течій, плаваючих риб. Сунувши руку в комп'ютер, ти не виявиш там вологи. Точно так само і ти лише імітуєш розумність і тямущість, яких насправді немає. Чи права Кімберлі? Бути може, у наших сучасних машин дійсно відсутні справжнє розуміння і розумність, мислення і почуття. Але невже машина в принципі не може мислити? Якщо в 2100 році створені настільки складні машини, як Еміт, то невже не можна сказати, що вони розуміють? Кімберлі вважає, що не можна. Еміта: Але я впевнений в тому, що розумію вас. Кімберлі: Ні, ні, ти не розумієш. Ти не здатний вірити, бажати і відчувати. Насправді ти взагалі не мислиш. Ти не більше розумієш слова, які вимовляєш, ніж стрічка магнітофона розуміє слова, що звучать в підсилювачі. Еміт: Ви ображаєте мої почуття! 80 Кімберлі: ображати твої почуття? У предмета, що складається з металу і пластика, ніяких почуттів бути не може! Уявний експеримент Серля з китайською кімнатою Кімберлі пояснює, чому вона вважає, що у Еміта відсутнє розуміння. Вона викладає відомий філософський уявний експеримент. Кімберлі: Ти не розумієш тому, що дієш як комп'ютер, а комп'ютер нічого не розуміє. Комп'ютер, по суті, є засіб для гри з символами. У нього вводять послідовності символів. Залежно від того, як він запрограмований, комп'ютер у відповідь видає інші послідовності символів. Зрештою, це все, що робить будь-який комп'ютер, незалежно від його складності. Еміт: Невже? Кімберлі: Так. Ми створюємо комп'ютери для автоматичного керування польотом літаків, для організації системи залізничних перевезень і т.д. Але комп'ютер, керуючий польотом літака, не розуміє, що він летить. Він просто видає послідовності символів у відповідь на ті послідовності, які в нього вводять. Він не розуміє, що вводяться в нього послідовності символів представляють силу вітру, кількість пального в баках і т.п. І він не розуміє, що видавані їм послідовності символів контролюють роботу елеронів, рульового керування або двигуна. Комп'ютер зайнятий лише тим, що механічно комбінує символи згідно вкладеною в нього програмі. Для комп'ютера ці символи нічого не означають. Еміт: Ви в цьому впевнені? Кімберлі: Цілком. Зараз я тобі це доведу. Я розповім тобі про уявномуексперименті, який придумав філософ Джон Серл в 1980 році. Уяви собі, що якусь жінку садять в кімнату і дають їй набір карток, на яких зображені якісь значки. Насправді ці значки є китайськими ієрогліфами. Але жінка, 81
сидить у кімнаті, не знає китайської мови, вона думає, що ці значки не мають ніякого сенсу. Потім їй дають інший набір китайських ієрогліфів та інструкцію, яка говорить їй про те, яким чином потрібно комбінувати символи і видавати набори символів у відповідь на запропоновані їй набори символів. Еміт: Прекрасна історія! Але в чому сенс всієї цієї гри з символами? Кімберлі: Перший набір карток розповідає історію китайською мовою. Другий набір містить питання щодо цієї історії. Інструкція для комбінування символів - її «програма», що дозволяє цій жінці давати правильні відповіді на ці питання. Еміт: Як це робив би китаєць. Кімберлі: Саме так! Нехай люди, що знаходяться за межами кімнати, є китайцями. Вони цілком можуть подумати, що знаходиться в кімнаті жінка розуміє китайську мову і знайома з розказаної історією, вірно? Еміт: Так. Кімберлі: Але ж насправді жінка, що сидить в кімнаті, не розуміє китайської мови, але ж? Еміт: Звичайно, не розуміє. 82 Кімберлі: Вона нічого не знає про розказаної історії. Вона не знає навіть, що тут є історія. Вона просто комбінує формальні символи згідно даної їй інструкції. Називаючи ці символи «формальними», я маю на увазі, що для неї зовсім не важливо, яке значення вони могли б мати. Вона просто механічно комбінує їх відповідно до їх зовнішнім виглядом. Вона робить те, що могла б робити машина. Еміт: Розумію. Ви вважаєте, що так воно є з усіма комп'ютерами? Що вони нічого не розуміють? Кімберлі: Так, так вважає Серл. У кращому випадку вони імітують розуміння. Еміт: Ви вважаєте, що це вірно і для мене? Кімберлі: Безсумнівно. Всі комп'ютери незалежно від їх складності функціонують однаково. Вони не розуміють тих символів, які механічно комбінують. Вони нічого не розуміють. Еміт: Тому ви вважаєте, що і я нічого не розумію? Кімберлі: Так. У тебе лише дуже складний механізм для комбінування символів, яких ти не розумієш. Ти здатний лише на дуже досконалу комп'ютерну імітацію тієї людини, яка дійсно розуміє. Еміт: Дивно. Я думаю, що розумію. Кімберлі: Ти кажеш так тому, що ти дуже хороший імітатор! Звичайно, Еміт є набагато складнішим, ніж будь-який сучасний комп'ютер. Проте, вважає Кімберлі, його робота грунтується на тих же самих базисних принципах. Якщо вона права, то, згідно Серлі, Еміт дійсно нічого не розуміє. «Потрібний матеріал» Тепер Еміт запитує, що ж ще потрібно для розуміння? Еміта: Яка ж різниця між нами, яка могла б пояснити, чому ви розумієте, а я - ні? 83 Кімберлі: В тобі відсутня, згідно Серлі, потрібний матеріал. Еміт: Потрібний матеріал? Кімберлі: Так. Тебе зробили не з того матеріалу. Насправді Серль зовсім не стверджує, що машини не можуть мислити. Зрештою, всі люди в певному сенсі є машинами. Але люди є біологічними машинами, які еволюціонували природним чином. Бути може, одного разу нам вдасться створити штучну біологічну машину, як ми створили колись автомобіль. Ось тоді ми дійсно створимо машину, здатну розуміти. Однак ти, Еміт, не є такою біологічної машиною. Ти - просте електронний пристрій, що складається із пластмас і сплавів. Штучний мозок Еміта Уявний експеримент Серля доводить, що запрограмований комп'ютер ніколи не зможе розуміти. Але чи завжди машина, що складається з металу, кремнію і пластика, є комп'ютером такого роду? Еміт показує, що то не обов'язково. Еміт: Шкодую, але я повинен виправити ваші уявлення про те, що знаходиться всередині мене. Кімберлі: Що ти кажеш! Еміт: Так, так. Опис, яке ви прочитали, давно застаріло. Вже немає комп'ютера, комбинирующего символи. Насправді я представляю нове покоління машин, що володіють мозком. Кімберлі: Володіють мозком? Еміт: Так. У моїй голові поміщається штучний мозок з металу і кремнію. Я думаю, ви знаєте, що у вашій голові є мозок, що складається з більйонів нейронів, сплетених в єдину складну мережу? Кімберлі: Звичайно. Еміт: У моїй голові є точно така ж мережу. Тільки на відміну від вашого мозку мої нейрони складаються з неорганічної матерії. Вони зроблені з металу і кремнію. Кожен з моїх штучних ній- 84 ронов функціонує в точності так, як ваші нейрони. І ці ис штучного нейрони об'єднані точно так само, як вони об'єднані в звичайному людському мозку. Кімберлі: Розумію. Еміт: Ваш органічний мозок пов'язаний з тілом системою нервів. Кімберлі: Вірно. Електричні імпульси надходять в мій мозок від органів почуттів - від мови, носа, очей, вух і шкіри. Мозок реагує, посилаючи електричні імпульси в м'язи і змушуючи мене рухатися і говорити. Еміт: Дуже добре. Мій мозок точно так само пов'язаний з моїм штучним тілом. І оскільки він володіє такою ж структурою, як і нормальний людський мозок, бо мої нейрони з'єднані точно - так само, остільки він реагує аналогічним чином. Кімберлі: Розумію, розумію. А я і не знала, що вже створені машини, що володіють мозком. Еміт: Тепер, коли ви знаєте, як я функціоную, не зміните ви своєї думки щодо моєї здатності розуміння? Чи не погодитеся ви визнати, що я здатний відчувати? Кімберлі: Ні. Все-таки ти зроблений не з того матеріалу. Для того щоб ти міг розуміти і відчувати, тобі потрібен мозок з органічної речовини. Як у мене. Еміт: Я не розумію, яке значення має речовина, з якої складається мій мозок? Зрештою, я не займаюся перетасовкою символів, чи не так? Кімберлі: Хм ... Думаю, що не займаєшся. Ти вже не «комп'ютер» у цьому сенсі. У тебе немає програми. Мабуть, уявний експеримент Серля тут вже непридатний. Однак все-таки мені здається, що ти машина! Еміт: Але подумайте, адже ви теж машина. Тільки ви зроблені з м'яса, а не з металу і кремнію. Кімберлі: Ні, ти тільки зображаєш розуміння, почуття і все інше. Еміт: Але чи є у вас підстави для такого твердження? Насправді я знаю, що ви помиляєтеся. Внутрішньо я усвідомлюю, що я дійсно розумію. Я знаю, що дійсно здатний відчувати. Я зовсім не імітую всього цього. Хоча, звичайно, мені важко вам це довести. Кімберлі: Не бачу, як би ти зміг довести це. 85 Еміт: Але тоді і ви не зможете довести мені, що ви розумієте, що ви мислите, відчуваєте і т . д.! Кімберлі: Мабуть, ти правий. Заміна нейронів у Кімберлі Еміт: Уявіть собі, що органічні нейрони вашого мозку ми поступово замінюємо штучними нейронами з металу і кремнію. Через деякий час ви отримали б такий же штучний мозок, як у мене. Як ви думаєте, що б тоді сталося з вами? Кімберлі: У міру того як у мене ставало б все більше і більше штучних нейронів, я б все менше і менше розуміла. Зникали б мої думки і почуття, і я поступово ставала б такою ж мертвою, як ти, бо мої штучні нейрони були б зроблені не з того матеріалу. Штучний мозок лише імітує розуміння. Еміт: Однак ніхто б не помітив ніякого зовнішнього відмінності?
Кімберлі: Думаю, що ні. Я продовжувала б вести себе так, як вела перш, оскільки штучні нейрони виконували б ту ж роботу, що і мої колишні нейрони. Еміт: Вірно. Але тоді і ви самі не змогли б помітити якийсь втрати розуміння чи відчування принаймні заміни ваших нейронів, чи не так? Кімберлі: Чому? Еміт: Якби ви помітили поступову втрату розуміння і відчування, то ви зафіксували б це. Ви сказали б собі що-небудь таке: «Боже мій, зі мною відбувається щось дивне! Протягом останніх місяців моє мислення стало згасати! » Кімберлі: Цілком можливо. 86 Еміт: Однак ви не сказали б нічого подібного, тому що ваше зовнішню поведінку, як ви самі щойно погодилися, залишилося б тим же самим. Кімберлі: Боюся, що ти правий. Еміт: Але звідси випливає, що навіть якщо б ваша здатність розуміння і відчування зникла б зовсім, ви не помітили б ніякої втрати. Кімберлі: Ох, мабуть, так. Еміт: Але тоді ви не усвідомлювали б, що щось втрачаєте в міру того, як ваші нейрони замінюються металом і кремнієм. Кімберлі: Вважаю, що так. Еміт: Тоді я закінчую своє міркування. Вам здається, що ви внутрішньо усвідомлюєте «щось» - розуміння, почуття, що хочете,-то, що, як ви припускаєте, у вас є, а у мене немає, бо я «тільки машина». Але виявляється, що насправді ви усвідомлюєте ніщо. Це магічне «щось» - не більше ніж ілюзія. Кімберлі: Але я знаю, що в моєму розумінні, в моїх думках, почуттях і емоціях є щось більше, ніж могло б призвести створення, що складається із пластику, металу і кремнію! Кімберлі права в тому відношенні, що більшість з нас вважає, що у нас є усвідомлення якогось магічного і таємничого внутрішнього «щось», що ми «знаємо», і цього ніколи не буде у предмета, що складається із пластику, металу і кремнію. Проте подумайте над тим, що настільки ж важко побачити, яким чином шматок органічної матерії типу нашого мозку міг би володіти всім цим. Як ви створюєте свідомість і розуміння з волокон плоті? Тому можливо, що в кінцевому підсумку Кімберлі погодиться з тією точкою зору, що розуміння, почуття і т.д. взагалі не є фізично чимось реальним. Однак у кожному разі, як вказав Еміт, таємниче «щось», яким, на думку Кімберлі, вона володіє, а 87 машина з металу і пластика - ні, перетворюється в ілюзію, як тільки починають розглядати випадок, описаний Еміта. Виявляється, що це внутрішнє «щось» є щось таке, про що вона не може знати. Ще гірше те, що воно ніяк не впливає на її зовнішню поведінку (Кімберлі з штучним мозком діяла б так само, як раніше). Мабуть, Кімберлі помиляється щодо того, що її думки і почуття, розуміння і емоції впливають на її поведінку і відомі їй. Можна допустити, принаймні в принципі, що неорганічні машини також здатні володіти такими ментальними станами. Проте Кімберлі залишається в переконанні, що Еміт нічого не розуміє. Кімберлі: Дивись, я готова задовольнитися тим, що ти прикидаєшся, ніби розумієш мене, оскільки для цього ти і призначений. Проте залишається фактом, що ти шматок пластику, набитий електричними схемами. Справжні людські істоти заслуговують уваги і турботи. Я співчуваю їм. Я не можу співчувати блискучому домашнього приладу. Еміт опускає погляд і дивиться на килим. Еміт: Я завжди буду для вас річчю? Кімберлі: Звичайно. Як я можу дружити з посудомийній машиною? Еміт: Ви відмовляєтеся визнавати штучний мозок? Кімберлі: Звичайно! Нагадай, щоб я привітала твоїх виробників за тонкість і складність твого імітатора емоцій. А тепер почисти килим! На обличчі Еміта з'являється вираз образи. Еміт: Раз я річ ... 88 Він стоїть якусь мить, а потім важко падає на підлогу. У підстави його шиї з'являється тонка цівка диму. Кімберлі: Еміт? Еміт! Як шкода! Що читати далі? Деякі питання та аргументи, порушені в цьому розділі, виникають також в гол. 13 «Загадка свідомості ». Див ще гл. 8 «Дивовижні міркування раціонального дантиста ». 89
|
||
| « Попередня | Наступна » | |
|
|
||
Інформація, релевантна "6. Може машина мислити? " |
||
|
||