Китайська кімната

Серль визначив філософську позицію, яку він називає «сильним ШІ»:

Належним чином запрограмований комп'ютер з правильними входами і виходами, таким чином, матиме розум в точно такому ж сенсі, як люди мають розум.[lower-alpha 2]

Визначення залежить від відмінності між імітацією розуму та реальним розумом. Серль пише, що «згідно з Сильним ШІ, правильне моделювання дійсно є розумом. Згідно зі Слабким ШІ, правильне моделювання є моделлю розуму».[19]

Ця позиція випливає з деяких висловлювань дослідників та аналітиків раннього ШІ. Наприклад, у 1955 році засновник ШІ Герберт А. Саймон заявив,[20] що «зараз у світі є машини, які думають, що навчаються і створюють» і стверджують, що вони «вирішили поважну проблему розуму і тіла, пояснюючи, як система, що складається з матерії, може володіти властивостями розуму».[21] Джон Хегленд писав, що «ШІ хоче тільки справжню статтю: машини з розумом, в повному і буквальному сенсі. Це не наукова фантастика, а реальна наука, що ґрунтується на теоретичній концепції настільки глибокій, наскільки вона є сміливою, а саме, ми, насамперед, самі є комп'ютерами».[22]

Серль також приписує наступні позиції захисникам сильного ШІ:

• Системи штучного інтелекту можна використовувати для пояснення розуму;
• Вивчення мозку не має відношення до вивчення розуму;[lower-alpha 6]
• Тест Тюрінга є достатнім для встановлення існування психічних станів.[lower-alpha 7]

У більш пізніх презентаціях аргументу китайської кімнати, Серль визначив «сильний ШІ» як «комп'ютерний функціоналізм» (термін він приписує Даніелю Деннету).[3][27] Функціоналізм — це позиція в сучасній філософії свідомості, яка передбачає, що ми можемо визначати психічні явища (такі як вірування, бажання і сприйняття), описуючи їхні функції по відношенню один до одного і до зовнішнього світу. Згідно з функціоналізмом, оскільки комп'ютерна програма може точно представляти функціональні відносини як відносини між символами, комп'ютер може мати психічні явища, якщо він виконує правильну програму.

Стівен Харнад стверджує, що уявлення Серля про сильний ШІ можна переформулювати як «впізнавані принципи обчислювальної діяльності, позиція (на відміну від „сильного ШІ“), якої фактично дотримуються багато мислителів, і отже, ця позиція варта спростування».[28] Комп'ютерна теорія розуму[lower-alpha 8] це позиція у філософії розуму, яка стверджує, що розум можна точно описати як систему обробки інформації.

Кожен з наступних пунктів, на думку Харнада, є «принципом» комп'ютерної теорії розуму:[31]

• Психічні стани є обчислювальними станами (тому комп'ютери можуть мати психічні стани і допомагати пояснити розум);
• Обчислювальні стани є незалежним від реалізації — інакше кажучи, саме програмне забезпечення визначає обчислювальний стан, а не апаратні засоби (тому мозок, будучи апаратним, не має значення);
• Оскільки реалізація не має значення, єдині емпіричні дані, які мають значення, це як функціонує система; отже, тест Тюрінга є остаточним.

Серль займає філософську позицію, яку він називає «біологічним натуралізмом»: свідомість[lower-alpha 1] і розуміння вимагають особливого біологічного механізму, який міститься в мозку. Він пише «мозок викликає думку»[5] і що «фактичні людські психічні явища залежать від реальних фізико-хімічних властивостей реальних людських мізків».[32] Серль стверджує, що цей механізм (відомий нейронауці як «нейронні кореляти свідомості») повинен мати деякі (невизначені) «причинні сили», які дозволяють людському досвіду бути свідомістю.[33] Віра Серля в існування цих повноважень була піддана критиці.

Серль погоджується з тим, що машини можуть мати свідомість і розуміння, тому що, як він пише, «ми є саме такими машинами».[5] Серль вважає, що мозок, по суті, є машиною, але він дає початок свідомості і розуміння, використовуючи механізми, які не є обчислювальними. Якщо неврологія здатна ізолювати механічний процес, який породжує свідомість, то Серль надає можливість створити машини, які мають свідомість і розуміння. Однак, без специфічної техніки, Серль не вірить, що свідомість можна відтворити.

Біологічний натуралізм передбачає, що неможливо визначити, чи можна створити свідомість лише шляхом вивчення того, як функціонує система, оскільки особлива техніка головного мозку є суттєвою. Таким чином, біологічний натуралізм прямо протистоїть як біхевіоризму, так і функціоналізму (включаючи «комп'ютерний функціоналізм» або «сильний ШІ»).[34] Біологічний натуралізм подібний до теорії ідентичності (положення, що психічні стани «ідентичні» або «складаються з» неврологічних подій); однак, Серль має специфічні технічні заперечення проти теорії тотожності.[35][lower-alpha 9] Біологічний натуралізм Серля і сильний ШІ протиставляються декартовому дуалізму, класичній ідеї про те, що мозок і розум складаються з різних «речовин». Дійсно, Серль звинувачує сильний ШІ в дуалізмі,[34] пишучи, що «сильний ШІ має сенс лише з огляду на дуалістичне припущення, що там, де розум стурбований, мозок не має значення».[23]

Оригінальна презентація Серля підкреслювала «розуміння» — тобто, психічні стани, які філософи називають «інтенціональністю», і безпосередньо не зверталися до інших тісно пов'язаних ідей, таких як «свідомість». Однак у більш пізніх презентаціях Серль включив свідомість як справжню мету аргументу.[3]

	Моделі комп'ютерної теорії розуму самі по собі недостатні для свідомості. Комп'ютерна теорія розуму ґрунтується на свідомості так само, як обчислювальна модель чого-небудь ґрунтується на модельованому домені. Ніхто не припускає, що обчислювальна модель дощів у Лондоні залишить нас мокрими. Але вони роблять помилку, вважаючи, що комп'ютерна теорія розуму має якусь свідомість. Це одна й та ж помилка в обох випадках.

Девід Чалмерс пише: «цілком зрозуміло, що свідомість знаходиться в корені питання» китайської кімнати.[36]

Колін Макгінн стверджує, що китайська кімната надає вагомі докази того, що важка проблема свідомості є принципово нерозв'язною. Аргумент, щоб бути зрозумілим, полягає не в тому, чи може машина бути свідомою, а в тому, чи може вона (або що-небудь інше) бути свідомим. Зрозуміло, що будь-який інший метод перевірки окупанта китайської кімнати має такі ж принципові труднощі, як обмін питаннями і відповідями на китайській мові. Це просто неможливо визначити, чи є у приміщенні хтось свідомий або якесь розумне моделювання.[37]

Серль стверджує, що це справедливо лише для спостерігача поза кімнатою. Вся думка експерименту полягає в тому, щоб помістити людину всередину кімнати, де вони можуть безпосередньо спостерігати за операціями свідомості. Серль стверджує, що з його точки зору в кімнаті немає нічого, що, на його погляд, могло бути свідомістю, крім себе, і явно не має розуму, який може говорити по-китайськи.

Патрік Хью використовував аргумент китайської кімнати, щоб вивести вимоги від військових систем управління і командування, якщо вони хочуть зберегти моральне керівництво командира. Він провів аналогію між командувачем у їхньому командному центрі і людиною в китайській кімнаті і проаналізував її читаючи поняття Арістотеля про «обов'язки» і «незнання». Інформація може бути «перетворена» з сенсу в символи і маніпулюватися символічно, але моральне втручання могло бути підірване, якщо було неадекватне «перетворення» в сенс. Хью цитував приклади інциденту USS Vincennes.[38]

Аргументи Серля зазвичай не розглядаються як питання для дослідження ШІ. Стюарт Рассел і Пітер Норвіг зауважують, що більшість дослідників ШІ «не піклуються про сильну гіпотезу ШІ — до тих пір, поки програма працює, їм не важливо, чи називаєте ви це імітацією інтелекту або реальним інтелектом».[4] Основна місія дослідження штучного інтелекту полягає лише в тому, щоб створити корисні системи, які діють розумно, і це не має значення, якщо інтелект є «просто» імітацією.

Серль не погоджується з тим, що дослідження ШІ можуть створювати машини, здатні до високоінтелектуальної поведінки. Аргумент китайської кімнати залишає відкритою можливість того, що може бути побудована цифрова машина, яка діє більш розумно, ніж людина, але не має розуму або інтенціональності так само, як це робить мозок. Аргумент китайської кімнати не є доведеним до абсурду, а є прикладом, який вимагає пояснення.

«Сильний ШІ» Серля не слід плутати із «сильним ШІ», як це визначено Реймондом Курцвейлом та іншими футуристами,[39] які використовують цей термін для опису машинного розуму, який конкурує або перевершує людський інтелект. Курцвейл спирається, головним чином, на кількість інтелекту, що відображається машиною, тоді як аргумент Серля не обмежує цього. Серль стверджує, що навіть супер-розумна машина не обов'язково має розум і свідомість.

«Стандартна інтерпретація» тесту Тюрінга, в якій гравець C, спостерігач, має завдання спробувати визначити, який гравець — A або B — це комп'ютер і який є людиною. Спостерігач обмежується використанням відповідей на письмові запитання, щоб зробити висновок[40]

Китайська кімната реалізує варіант тесту Тюрінга.[41] Алан Тюрінг ввів тест в 1950 році, щоб допомогти відповісти на питання «чи може машина мислити?» У стандартній версії, людина-суддя бере участь в розмові природною мовою з людиною і машиною, призначеної для генерації продуктивності, яка не відрізняється від людських істот. Всі учасники розділені один від одного. Якщо суддя не може надійно відрізнити машину від людини, машина, як кажуть, пройшла тест.

Тюрінг потім розглянув кожні з можливих заперечень проти пропозиції «машини можуть думати», і виявив, що є прості, очевидні відповіді, якщо питання де-містифіковано у такий спосіб. Він, однак, не призначається для випробування вимірювання наявності «свідомості» або «розуміння». Він не вірив, що це ставлення до проблем, з якою він звертався. Він писав:

Я не хочу створити враження, що я думаю, що немає ніякої таємниці свідомості. Існує, наприклад, щось схоже на парадокс, пов'язаний з будь-якими спробами локалізувати його. Але я не думаю, що ці таємниці обов'язково повинні бути вирішені перш, ніж ми можемо відповісти на питання, які турбують нас в цій статті[41].

Для Серля, як філософа, який працює в галузі розуму і свідомості, це відповідні таємниці. Китайська кімната призначена, щоб показати, що тест Тюрінга є недостатнім для виявлення присутності свідомості, навіть якщо в кімнаті може бути машина, що функціонує як свідомий розум.

Китайська кімната (і всі сучасні комп'ютери) маніпулює фізичними об'єкти для того, щоб проводити розрахунки і робити моделювання. Дослідники штучного інтелекту Аллен Ньюел і Герберт А. Саймон назвали це свого роду машиною, фізичною системою символів. Це еквівалентно також формальним системам, які використовуються в галузі математичної логіки.

Серль підкреслює той факт, що подібного роду маніпуляції символами є синтаксичними (запозичуючи термін з вивчення граматики). Комп'ютер маніпулює символами, використовуючи форму синтаксичних правил, без яких-небудь знань про семантику символів (тобто їх зміст).

Ньюел і Саймон припустили, що фізична система символів (наприклад, цифровий комп'ютер) має все необхідне обладнання для «загальної інтелектуальної дії», або, як це відомо сьогодні, загальний штучний інтелект. Вони описали це як філософську позицію, гіпотезу фізичної системи символів: «Фізична система символів має необхідні і достатні умови для загальної інтелектуальної дії».[42][43] Аргумент китайської кімнати не спростовує це, тому що він оформлений з точки зору «розумних дій», тобто зовнішньої поведінки машини, а не наявності чи відсутність свідомості і розуму.

Китайська кімната має конструкцію, аналогічну сучасному комп'ютеру. Вона має архітектуру фон Неймана, яка складається з програми (книг інструкцій), деякої кількості пам'яті (папер і картотека), процесору, який слідує інструкціям (людина), і засобу для запису символів в пам'яті (олівець і ластик). Машина цієї конструкції відома в області теоретичної інформатики як «машина Тюрінга», тому що вона має необхідний механізм для виконання будь-яких обчислень, який машина Тюрінга може виконати, і, отже, вона здатна робити крок за кроком моделювання будь-якого іншого цифрового апарату, враховуючи достатню кількість пам'яті і часу. Алан Тюрінг пише: «всі цифрові комп'ютери в певному сенсі еквівалентні.» Широко прийнята Теза Черча-Тюрінга стверджує, що будь-яка функція обчислюється за допомогою ефективної процедури обчислення на машині Тюрінга.

Тюрингова повнота китайської кімнаті означає, що вона може робити все, що будь-який інший цифровий комп'ютер може зробити (хоча і набагато, набагато повільніше). Таким чином, якщо китайська кімната не містить чи не може містити китайськомовного розуму, то ніякий інший цифровий комп'ютер не може містити розум. Деякі відповіді Серль починає, стверджуючи, що в кімнаті, як описано вище, може не бути китайськомовного розуму. Аргументи цієї форми, відповідно до Стівена Харнада, є «не спростуванням (а швидше твердженням)»[44] аргументу китайської кімнати, тому що ці аргументи фактично означають, що ніякі цифрові комп'ютери не можуть мати розум.[25]

Є деякі критики, такі як Енох Бен-Ямі, які стверджують, що китайська кімната не може навіть емітувати всі можливості цифрового комп'ютера, наприклад, не має змоги визначити поточний час.[45]

Ці відповіді намагаються відповісти на запитання: оскільки людина в кімнаті не говорить китайською, де той «розум», що говорить? У цих відповідях розглядаються ключові онтологічні питання дихотомії розуму та тіла і моделювання проти реальності. Всі відповіді, які визначають розум у кімнаті, є версіями «системної відповіді».

Базова версія стверджує, що це «ціла система», яка розуміє китайську мову.[51][lower-alpha 13] Хоча людина розуміє тільки англійську мову, коли вона поєднується з програмою, скретч папером, олівцями і шафами, вони формують систему, що може зрозуміти китайську мову. «Тут розуміння не приписується лише окремій особистості, а скоріше приписується цій цілій системі, частиною якої вона є», — пояснює Серль.[26] Той факт, що людина не розуміє китайську мову, не має значення, оскільки має значення лише система в цілому.

Серль зазначає, що (у цій простій версії відповіді) «система» — це не що інше, як колекція звичайних фізичних об'єктів; вона надає силу розуміння і свідомості «кон'юнктурі цієї особи і бітів паперу»[26], не роблячи жодних зусиль, щоб пояснити, як ця купа об'єктів стала свідомою, мислездатною істотою. Серль стверджує, що жодна розумна людина не повинна бути задоволена відповіддю, якщо вона не «під владою ідеології»;[26] Для того, щоб ця відповідь була віддалено правдоподібною, треба сприймати як належне, що свідомість може бути продуктом «системи» обробки інформації, і не вимагає нічого схожого на реальну біологію мозку.

Тоді Серль відповідає спрощенням цього списку фізичних об'єктів: він запитує, що станеться, якщо людина запам'ятає правила і відстежуватиме все у своїй голові? Тоді вся система складається лише з одного об'єкта: самої людини. Серль стверджує, що якщо людина не розуміє китайську мову, то система не розуміє китайської мови, тому що тепер «система» і «людина» описують точно один і той же об'єкт.[26]

Критики відповіді Серля стверджують, що програма дозволила людині мати дві свідомості в одній голові.^[хто?] Якщо ми припускаємо, що «розум» є формою обробки інформації, то теорія обчислень може враховувати дві групи обчислень, що відбуваються одночасно, а саме: (1) обчислення для універсальної програмованості (яка є функцією, що створюється особою і матеріалами запису, незалежно від будь-якого конкретного змісту програми) та (2) обчислення машини Тюрінга, яка описується програмою (яка створюється всім, включаючи конкретну програму).[53] Теорія обчислень, таким чином, офіційно пояснює відкриту можливість того, що друге обчислення в китайській кімнаті може спричинити людино-еквівалентне семантичне розуміння китайських входів. Основна увага приділяється машині Тюрінга, а не людині.[54] Однак, з точки зору Серля, цей аргумент є циркулярним. Йдеться про те, чи є свідомість формою обробки інформації, і ця відповідь вимагає, щоб ми зробили це припущення.

Більш складні версії системних відповідей намагаються більш точно визначити, що таке «система», і вони відрізняються саме тим, як вони її описують. Згідно з цими відповідями,^[хто?] «розум, який говорить китайською», може бути такими речами, як: «програмне забезпечення», «програма», «запущена програма», імітація «нейронних корелятів свідомості», «функціональна система», «імітований розум», «утворювана властивість» або «віртуальний розум» (версія відповіді Марвіна Мінського, описана нижче).

Термін «віртуальний» використовується в комп'ютерній науці для опису об'єкта, який ніби-то існує «в» комп'ютері (або комп'ютерній мережі) тільки тому, що програмне забезпечення робить його ніби-то існуючим. Об'єкти «всередині» комп'ютерів (включаючи файли, папки та так далі) є «віртуальними», за винятком електронних компонентів комп'ютера. Так само, стверджує Мінський, комп'ютер може містити «розум», який є віртуальним в тому ж сенсі, як віртуальні машини, віртуальні спільноти і віртуальна реальність.[lower-alpha 14]

Щоб роз'яснити відмінність між простими відповідями системи, наведеними вище, і відповідями віртуального розуму, Девід Коул зазначає, що два моделювання можуть працювати в одній системі одночасно: один говорить китайською і один говорить корейський. Хоча існує тільки одна система, може бути кілька «віртуальних розумів», тому «система» не може бути «розумом».

Серль відповідає, що такий розум, у кращому випадку, симуляція, і пише: «Ніхто не припускає, що комп'ютерне моделювання тривоги високого рівня спалить околиці або що комп'ютерне моделювання дощової бурі залишить нас усіх залитими».[58] Ніколас Ферн відповідає, що для деяких речей імітація справляється не гірше ніж реальна дія. "Коли ми викликаємо функцію калькулятора на настільному комп'ютері, на екрані з'являється зображення калькулятора. Ми не скаржимося, що «це насправді не калькулятор», тому що фізичні атрибути пристрою не є важливими.[59] Питання в тому, чи є людський розум схожим на калькулятор, і чи складається він по суті з інформації? Або розум був схожим на дощ, або на щось інше, а не на комп'ютер, і неможливо відтворити його повністю за допомогою комп'ютерного моделювання? (Питання моделювання також обговорюється в статті синтетичного інтелекту.)

Ці відповіді дають пояснення, хто саме розуміє китайську мову. Якщо є щось, крім людини в кімнаті, яка може зрозуміти китайську мову, Серль не може стверджувати, що (1) людина не розуміє китайську мову, тому (2) ніщо в кімнаті не розуміє китайську мову. Це, на думку тих, хто робить цю відповідь, показує, що аргумент Серля не в змозі довести, що «сильний ШІ» є помилковим.[lower-alpha 15]

Однак, думки експерименту не мають на меті бути доведеними до абсурду, а скоріше прикладом, який потребує пояснення. Серль не стверджує, що ситуація неможлива, та мабуть важко або неможливо пояснити, як ця система може мати суб'єктивний свідомий досвід.[61] Відповіді системи вдається довести, що це не неможливо, але не в змозі показати, як система буде мати свідомість; відповіді самі по собі не дають жодних доказів того, що система (або віртуальний розум) розуміє китайську мову, крім гіпотетичної передумови, що вона проходить тест Тюрінга. Як пише Серль, «відповідь системи просто ставить питання, наполягаючи на тому, що система повинна розуміти китайську мову».[26]

Що стосується людини в кімнаті, то символи — це просто безглузді «карикатури». Але якщо китайська кімната дійсно «розуміє» те, що вона говорить, то символи повинні отримати своє значення звідкись. Ці аргументи намагаються з'єднати символи з речами, які вони символізують. Ці відповіді стосуються сумнівів Серля щодо інтенціональності, заземлення символів і синтаксису проти семантики.

Припустимо, що замість кімнати, програма була поміщена в робота, який міг блукати навколо і взаємодіяти з його оточенням. Це дозволить «причинно-наслідковий зв'язок» між символами і речами, які вони представляють.[62][lower-alpha 16] Ганс Моравек зауважує: «Якщо б ми могли прищепити робота до програми міркувань, нам більше б не знадобилася людина, яка б надавала сенс: він прийде з фізичного світу.»[64][lower-alpha 17]

Відповідь Серля полягає в тому, щоб припустити, що, без відома особи в китайській кімнаті, деякі входи надходили безпосередньо з камери, встановленої на роботі, а деякі виходи використовувалися для маніпулювання руками і ногами робота. Тим не менш, людина в кімнаті все ще просто дотримується правил, і не знає, що означають символи. Серль пише: «він не бачить, що потрапляє у поле зору робота». (Дивіться кімнату Марії для подібного експерименту).

Деякі з них відповідають, що кімната, як це описує Серль, пов'язана зі світом: через китайців, з якими вона «розмовляє» через програмістів, які розробляли базу знань у своєму кабінеті. Символи, якими маніпулює Серль, вже є значущими, вони просто не мають значення для нього.[66][lower-alpha 18]

Серль говорить, що символи мають лише «похідне» значення, як значення слів у книгах. Значення символів залежить від свідомого розуміння китайською мовою і програмістами за межами приміщення. Кімната, як і книга, не має власного розуміння.[lower-alpha 19]

Деякі стверджували, що значення символів випливають з величезного «фону» проблеми здорового глузду, закодованих у програмі та шафах. Це дало б «контекст», який би надавав символам їх значення.[65][lower-alpha 20]

Серль погоджується, що цей фон існує, але він не погоджується, що його можна вбудувати у програми. Губерт Дрейфус також критикував ідею, що «фон» можна представити символічно.[69]

До кожної з цих пропозицій відповідь Серля однакова: незалежно від того, скільки знань написано в програмі і незалежно від того, як програма пов'язана зі світом, вона все ще перебуває в кімнаті, маніпулюючи символами відповідно до правил. Його дії синтаксичні, і ніколи не можна буде пояснити йому, що символізують символи. Серль пише «синтаксис недостатній для семантики».[70][lower-alpha 21]

Тим не менш, для тих, хто визнає, що дії Серля моделюють розум, відокремлений від його власного, важливе питання не те, що символи означають для Серля, а важливо, що вони означають для віртуального розуму. Незважаючи на те, що Серль потрапив у кімнату, віртуальний розум не є: він пов'язаний із зовнішнім світом через китайських спікерів, яким він говорить, через програмістів, які дали йому світові знання, і через камери та інші датчики, які можуть надати робототехники.

Ці аргументи є всіма версіями системних відповідей, які визначають певний тип системи важливим; вони визначають певну спеціальну технологію, яка створила б усвідомлення розуміння в машині. (Зауважте, що відповіді «робот» і «розумне знання» також визначають певний тип системи важливим.)

Припустимо, що програма, що моделюється в дрібних деталях поведінки кожного нейрона в мозку китайського спікера.[72][lower-alpha 22] Це підсилює інтуїцію, що не було б істотної різниці між функціонуванням програми та функціонуванням живого людського мозку.

Серль відповідає, що таке моделювання не відтворює важливих особливостей мозку — його каузальних і інтенціональних станів. Серль твердо стверждує, що «людські психічні явища залежать від реальних фізико-хімічних властивостей реальних людських мізків».[23] Більше того, він стверджує:

[У]явіть собі, що замість одномовного чоловіка в кімнаті перетасовки символів у нас є людина, яка керує складним набором водопровідних труб з клапанами, що з'єднують їх. Коли людина отримує китайські символи, вона шукає в програмі, написаною англійською мовою, в якій вона повинна включатися і вимикатися. Кожне підключення води відповідає синапсу в китайському мозку, і вся система налаштована так, що після виконання всіх правильних стрільб, тобто після включення всіх правильних змішувачів, китайські відповіді виходять на вихідний кінець серії труб. А де ж розуміння в цій системі? Вона бере китайську мову як вхід, вона імітує формальну структуру синапсів китайського мозку, і вона дає китайцям вихід. Але людина, звичайно, не розуміє китайську мову, а також водопровідні труби, і якщо ми спокушаємося прийняти те, що, на мою думку, є абсурдним поглядом, що якимось чином зрозуміла зв'язок людини і водопроводу, пам'ятайте, що в принципі людина може усвідомити формальну структуру водопровідних труб і виконувати всі «нейронні обстріли» у його уяві.[9]^{[сторінка?]}

Двома варіаціями відповіді симулятора мозку є сценарій китайського мозку і сценарій заміни мозку.

Що робити, якщо ми попросимо кожного громадянина Китаю імітувати один нейрон, використовуючи телефонну систему для моделювання зв'язків між аксонами та дендритами? У цій версії, здається очевидним, що жодна людина не матиме розуміння того, що мозок може говорити.[74][lower-alpha 23] Очевидно також, що ця система буде функціонально еквівалентною мозку, тому якщо свідомість є функцією, ця система буде свідомою.

У цьому сценарії нам пропонується уявити, що інженери винайшли крихітний комп'ютер, який імітує дію окремого нейрона. Що станеться, якщо замінити один нейрон одночасно? Заміна одного, безсумнівно, нічого не значить для зміни свідомості. Замінивши всі вони створили б цифровий комп'ютер, який імітує мозок. Якщо Серль має рацію, то свідомість повинна зникнути під час процедури (або поступово, або відразу). Критики Серля стверджують, що у процедурі не буде ніякого сенсу, якщо він може стверджувати, що свідомість закінчується і починається бездумне моделювання.[76][lower-alpha 24] Серль прогнозує, що, проходячи через протез мозку, "ви виявите, до вашого повного здивування, що ви дійсно втрачаєте контроль над своєю зовнішньою поведінкою. Ви помічаєте, наприклад, що коли лікарі перевіряють ваше бачення, ви чуєте, як вони говорять: «перед вами тримають червоний предмет, і питають, що ви бачите. Ви хочете кричати: „Я нічого не бачу. Я повністю сліпий“. Але ви чуєте, як ваш голос говорить, знаходячись повністю поза вашим контролем: „Я бачу червоний предмет перед собою“. […] [Y] наш свідомий досвід повільно зводиться до нічого, в той час як ваша зовнішня спостережувана поведінка залишається незмінною».[78] (Див. Корабель Тесея для подібного експерименту).

Ця відповідь тісно пов'язана з відповіддю симулятора мозку, це стверджує, що масово паралельна архітектура зв'язків була б здатна розуміти.[lower-alpha 25]

Ця відповідь поєднує в собі відповідь робота з відповіддю симулятору мозку, стверджуючи, що симуляція мозку, пов'язана зі світом через тіло робота, може мати розум.[81]

Кращі технології в майбутньому дозволять комп'ютерам зрозуміти.[24][lower-alpha 26] Серль погоджується, що це можливо, але вважає, що це не має значення. Його аргумент полягає в тому, що машина, що використовує програму для маніпулювання формально визначеними елементами, не може створити розуміння. Аргумент Серлая, якщо він правильний, виключає тільки цей конкретний дизайн. Серль погоджується з тим, що можуть існувати інші конструкції, які змусять машину мати свідоме розуміння.

Ці аргументи (і відповіді на знання робота або здорового глузду) визначають певну спеціальну технологію, яка допоможе створити свідоме розуміння в машині. Вони можуть тлумачитися двома способами: або вони стверджують, що (1) ця технологія необхідна для свідомості, китайська кімната не реалізує або не може реалізувати цю технологію, і тому китайська кімната не може пройти тест Тюрінга або (навіть якщо це було) не мала би свідомого розуміння. Або вони можуть стверджувати, що (2) легше бачити, що китайська кімната має розум, якщо ми уявляємо цю технологію як використовувану для її створення.

У першому випадку, коли потрібні такі функції, як тіло робота або архітектура конекторів, Серль стверджує, що сильний ШІ (як він розуміє) був покинутий.[lower-alpha 27] Китайська кімната має всі елементи повної машини Тюрінга і, таким чином, здатна імітувати будь-які цифрові обчислення. Якщо в кімнаті Серля неможливо пройти тест Тюрінга, то немає ніякої іншої цифрової технології, яка могла б пройти тест Тюрінга. Якщо кімната Серля могла пройти тест Тюрінга, але все ще не має розуму, тест Тюрінга недостатній для того, щоб визначити, чи є в кімнаті «розум». Так чи інакше, він заперечує ту чи іншу позицію, яку Серль вважає «сильним ШІI», доводячи свій аргумент.

Аргументи мозку, зокрема, заперечують сильний ШІ, якщо вони припускають, що немає простішого способу описати розум, ніж створити програму, яка так само таємнича, як і мозок. Він пише: «Я думав, що вся ідея сильного ШІ полягає в тому, що нам не потрібно знати, як працює мозок, щоб дізнатися, як працює розум».[24] Якщо розрахунок не дає пояснення людського розуму, то сильний ШІ зазнав невдачі, згідно з думкою Серля.

Інші критики стверджують, що кімната, як це описав Серль, насправді має розум, однак вони стверджують, що це важко побачити — опис Серля є правильним, але вводить в оману. Реорганізуючи приміщення більш реально, вони сподіваються зробити це більш очевидним. У цьому випадку ці аргументи використовуються як заклики до інтуїції (див. Наступний розділ).

Насправді, приміщення можна так само легко переробити, щоб послабити нашу інтуїцію. Аргумент Блокхеда[83] Неда Блока припускає, що програма може, теоретично, бути переписана в просту таблицю пошуку правил форми «якщо користувач пише S, відповідає P і переходить до X». Принаймні, в принципі, будь-яка програма може бути переписана (або «рефактована») у цю форму, навіть в мозок.[lower-alpha 28] У сценарії Блокхеда весь психічний стан прихований у букві X, який представляє адресу пам'яті — номер, пов'язаний з наступним правилом. Важко уявити, що момент свідомого досвіду може бути захоплений в одному великому числі, але це саме те, що стверджує «сильний ШІ». З іншого боку, така таблиця була б смішно великою (до того, що вона фізично неможлива), і твердження могли б бути надзвичайно специфічними.

Серль стверджує, що як би у програмі не було написана, як машина пов'язана зі світом, розум моделювався б просто крок за кроком цифрової машини (або машин). Ці машини завжди такі самі, як людина в кімнаті: вони нічого не розуміють і не говорять по-китайські. Вони просто маніпулюють символами, не знаючи, що вони означають. Серль пише: «Я можу мати будь-яку офіційну програму, яка вам подобається, але я все ще нічого не розумію».[84]

Наступні аргументи (і інтуїтивні інтерпретації аргументів вище) прямо не пояснюють, як китайська мова може існувати в кімнаті Серля, або як символи, якими він маніпулює, можуть стати значущими. Проте, викликаючи сумніви щодо інтуїції Серля, вони підтримують інші позиції, такі як відповіді системи та робота. Ці аргументи, якщо вони будуть прийняті, не дозволять Серлю стверджувати, що його висновок очевидний, підриваючи інтуїцію, яка вимагає його визначеність.

Кілька критиків вважають, що аргумент Серля повністю спирається на інтуїцію. Нед Блок пише: «Аргумент Серля залежить від сили його інтуїції, яку певні суб'єкти не мають».[85] Деніел Деннетт описує аргумент китайської кімнати як помилковий «інтуїційний насос»[86] і пише: «уявний експеримент Серля залежить, незаконно, від твого уявлення про простий випадок, нерелевантного випадку, і виведення з нього» очевидного "висновку.[86]

Деякі з вищенаведених аргументів також функціонують як заклики до інтуїції, особливо до тих, які мають на меті зробити більш правдоподібним те, що китайська кімната містить розум, який може включати робота, розумне знання, моделювання мозку та відповіді коннектиста. Деякі з вищенаведених відповідей також стосуються конкретного питання складності. Відповідь проблеми здорового сенсу підкреслює, що робоча система штучного інтелекту повинна бути такою ж складною і взаємопов'язаною, як і людський мозок. Відповідь на розумне знання підкреслює, що будь-яка програма, яка проходила тест Тюрінга, повинна бути «надзвичайно пружною, витонченою і багатошаровою системою, наповненою» світовими знаннями «і метазнанням і мета-мета-знаннями», як пояснює Деніел Деннет.[68]

Швидкість, з якою людський мозок обробляє інформацію, (за деякими оцінками) становить 100 мільярдів операцій в секунду. Декілька критиків відзначають, що людині в кімнаті, ймовірно, знадобляться мільйони років, щоб відповісти на просте питання, і вимагатимуть «шафи» з астрономічними розмірами. Це ставить під сумнів ясність інтуїції Серля.[87][lower-alpha 29]

Особливо яскравою версією швидкості і складності є відповідь Пола та Патріції Черчленд. Вони пропонують такий аналогічний експеримент:

«Розглянемо темну кімнату, в якій міститься людина, що тримає магніт, або заряджений об'єкт. Якщо людина накачує магніт вгору і вниз, то, згідно з теорією Максвелла про штучну яскравість (ШЯ), він почне розповсюджувати коло електромагнітних хвиль таким чином буде світлим. Але, як ми всі знаємо, що коли ми граємо з магнітами або зарядженими кульками, їхні сили (або будь-які інші сили), навіть якщо вони приводяться в рух, взагалі не мають яскравості. Це немислимо, що ви могли б представляти справжню яскравість тільки рухом сил навколо!»[75] Проблема в тому, що йому доведеться махати магнітом вгору-вниз щось на зразок 450 трильйонів разів на секунду, щоб побачити щось.[89]

Стівен Харнад критично ставиться до відповідей швидкості та складності, коли вони збиваються за межі нашої інтуїції. Він пише: «Деякі зробили культ швидкості і часу, вважаючи, що, прискорившись до потрібної швидкості, обчислювальний процес може зробити фазовий перехід у психіку. Повинно бути зрозуміло, що це не контраргумент, а просто спекуляція ad hoc (так само, як і думка, що все це лише питання, яке потрібно доробити до потрібного ступеня „складності“)».[90][lower-alpha 30]

Серль стверджує, що його критики також покладаються на інтуїцію, проте інтуїції його опонентів не мають емпіричної основи. Він пише, що для того, щоб розглядати «відповідь системи» як віддалено правдоподібну, людина повинна бути «під владою ідеології».[26] Системна відповідь має сенс тільки для Серля, якщо припустити, що будь-яка «система» може мати свідомість, просто через систему, що має правильну поведінку і функціональні частини. Це припущення, стверджує він, не є надійним з огляду на наш досвід свідомості.

Кілька відповідей стверджують, що аргумент Серля не має значення, оскільки його припущення про розум і свідомість є помилковими. Серль вважає, що люди щодня безпосередньо відчувають свою свідомість, інтенціональність і природу розуму, і що цей досвід свідомості не піддається сумніву. Він пише, що ми повинні «припускати реальність і пізнаваність розумового».[93] Ці відповіді на запитання, чи є Серль виправданим у використанні власного досвіду свідомості, щоб визначити, що це більше, ніж механічна обробка символів. Зокрема, відповідь інших умів стверджує, що ми не можемо використовувати наш досвід свідомості, щоб відповісти на питання про інші уми (навіть розум комп'ютера), і відповідь епіфенома стверджує, що свідомість Серля не «існує» в тому сенсі, що Серль думає, що це працює.

Відповідь інших розумів

Ця відповідь вказує на те, що аргумент Серля є версією проблеми інших розумів, застосованих до машин. Не існує способу визначити, чи суб'єктивний досвід інших людей є таким самим, як наш. Ми можемо лише вивчити їхню поведінку (тобто, надавши їм власний тест Тюрінга). Критики Серля стверджують, що він приписує китайську кімнату до більш високого стандарту, ніж той, до якого мі б приписали звичайну людину.[94][lower-alpha 31]

Нілс Нільссон пише: "Якщо програма поводиться так, наче вона помножується, більшість з нас скаже, що це насправді помножується. Адже, наскільки я знаю, Серль може поводитися тільки так, ніби він глибоко думає про ці питання. Але, незважаючи на те, що я не згоден з ним, його симуляція досить гарна, тому я готовий покласти його на справжню думку.

Алан Тюрінг передбачав аргумент Серля (який він назвав «Аргумент від свідомості») в 1950 році і надав відповідь іншим розумам. Він зазначив, що люди ніколи не розглядають проблему інших розумів при спілкуванні один з одним. Він пише, що «замість того, щоб постійно сперечатися над цим питанням, звичайно маємо ввічливу конвенцію, над якою всі думають».[96] Тест Тюрінга просто поширює цю «ввічливу конвенцію» на машини. Він не мав наміру вирішувати проблему інших умів (для машин або людей), і він не думав, що нам це потрібно.[lower-alpha 32]

Відповідь епіфеномену / зомбі

Кілька філософів стверджують, що свідомості, як це описує Серль, не існує. Ця позиція іноді називається елімінативним матеріалізмом: думка про те, що свідомість є властивістю, яка може бути зведена до строго механічного опису, і що наш досвід свідомості є, як це описує Деніель Деннетт, «ілюзією користувача».[99]

Стюарт Рассел і Пітер Норвіг стверджують, що якщо ми сприймаємо опис інтенціональності, свідомості і розуму Серля, ми змушені визнати, що свідомість є епіфеноменальним: що вона «не відкидає тіні», що вона не виявляється у зовнішньому світі. Вони стверджують, що Серль повинен помилятися про «пізнаваність психіки», і в своїй вірі, що в наших нейронах є «причинні властивості», які породжують розум. Вони вказують на те, що, за власним описом Серля, ці причинні властивості не можуть бути виявлені будь-ким за межами розуму, інакше китайська кімната не зможе пройти тест Тюрінга — люди з-за кордону зможуть сказати, що не було китайського спікеру в кімнаті шляхом виявлення їх причинних властивостей. Оскільки вони не можуть виявити причинних властивостей, вони не можуть виявити існування психічного. Коротше кажучи, «каузальні властивості» Серля і сама свідомість нез'ясовні, і все, що не може бути виявлено, або не існує, або не має значення.[100]

Деніел Деннетт дає таке розширення аргументу «епіфеномен».

Відповідь Деннета від природного відбору

Припустимо, що за деякою мутацією народжується людина, яка не має «причинних властивостей» Серля, але, однак, діє точно так само, як людина. (Цей вид тварини називається «зомбі» в думках експериментів у філософії свідомості). Ця нова тварина буде відтворюватися так само, як будь-яка інша людина, і в кінцевому підсумку буде більше цих зомбі. Природний відбір приносить користь зомбі, оскільки їхній дизайн (ми можемо припустити) трохи простіше. Зрештою люди вимерли б. Отже, якщо Серль має рацію, то, швидше за все, люди (як ми їх бачимо сьогодні) є насправді «зомбі», які, проте, наполягають на тому, що вони свідомі. Неможливо знати, чи всі ми зомбі чи ні. Навіть якщо ми всі зомбі, ми все одно віримо, що ми не є.[101]

Серль не погоджується з цим аналізом і стверджує, що «вивчення розуму починається з таких фактів, як те, що люди мають переконання, тоді як термостати, телефони і додавання машин не … і печінки.»[82] Він вважає очевидним, що ми можемо виявити присутність свідомості і відкидає ці відповіді як невідповідні.

Відповідь палаючого лазерного меча Ньютона

Майк Елдер стверджує, що весь аргумент є легковажним, тому що він не позитивістський: не тільки відмінність між імітацією розуму і розумом, який не є чітко визначеним, але це також не має значення, оскільки жоден експеримент не був, або навіть може бути, запропонований розрізняти їх.[102]