Выход из «Китайской комнаты» или может ли машина думать

Предисловие


Давно интересуюсь проблемой сознания и его связи с мозгом. Однажды я натолкнулся на очень интересный мысленный эксперимент, называемый «Китайская комната». Не помню в какой публикации я впервые прочел о нем, но он меня очень заинтересовал, поэтому я стал изучать вопрос. Только после прочтения оригинальной статьи [1] я понял, что в большинстве источников идеи автора представлены упрощенно, искажены и не поняты до конца. Эксперимент с Китайской комнатой ставит вопросы, и пытается дать ответы. Вопросы очень интересные, а ответы, на мой взгляд, неудовлетворительны. Поэтому я долго размышлял и решил сам сформулировать решение данной проблемы, о чем и будет моя статья.

Суть


В 1980-м году философ Джон Серл впервые представил свой мысленный эксперимент в статье «Minds, Brains, and Programs» журнала «The Behavioral and Brain Sciences». Эксперимент вызвал множество споров среди людей занимающихся проблемами философии сознания и искусственного интеллекта. Заявленная цель статьи состояла в том, чтобы доказать два утверждения: 1) Интенциональность человека (и животных) есть результат каузальных свойств мозга; и 2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.

Три десятилетия до выхода статьи Серла, Алан Тюринг сформулировал свой известный критерий для разумной машины, известный также как Тест Тюринга: компьютер, способный поддерживать диалог (текстовый) и сойти, таким образом, за человека, должен считаться разумным. К концу 70-х годов компьютеры и программы ИИ достигли того уровня, когда некоторые из их разработчиков стали заявлять, что их машины способны понимать английский язык. Статья Серла, содержащая описанный ниже эксперимент, стала во многом реакцией на подобные утверждения и общее мнение, что компьютер в принципе способен понимать человеческую речь.

В чем же заключался эксперимент? Серл предложил представить комнату, в которой находится человек. Внутрь комнаты можно подавать карточки с нарисованными на них китайскими иероглифами. Человек, находящийся внутри комнаты, совершенно не говорит и не читает на китайском, поэтому смысл иероглифов ему не понятен. В то же время, человеку даны подробные инструкции о том, как оперировать поступающими карточками и какими карточками отвечать. Таким образом, человек снаружи комнаты может задавать различные вопросы с помощью карточек и получать вразумительные ответы. У человека, задающего вопросы, должно сложиться впечатление, что человек внутри комнаты владеет китайским и понимает смысл их диалога, но на самом деле он лишь бездумно выполняет инструкции и не понимает ни слова. Более того, человек в комнате даже не способен постепенно выучить язык, поскольку бессмысленные для него карточки на китайском – это единственный способ связи с внешним миром.

В данном примере легко увидеть параллель с компьютером. Компьютер так же оперирует данными в двоичном коде, который не несет для него совершенно никакого смысла, машина просто выполняет арифметические и логические операции согласно заложенной в нее инструкции.

По мнению Серла, компьютер (или китайская комната) не способен достичь понимания, т.к. оперирует лишь синтаксическими конструкциями. Человек же в свою очередь воспринимает и оперирует смыслами, а не только лишь самими символами, на что компьютер не способен. Если суммировать идеи Серла изложенные в статье, он не против идеи существования искусственного интеллекта как такового. Основная его идея заключается в том, что для существования сознания не достаточно формальной программы, но необходим носитель обладающий свойствами, которые порождают интенциональность, формальная же программа не несет смысл и не может служить носителем понимания или сознания: «… only a machine could think, and only very special kinds of machines, namely brains and machines with internal causal powers equivalent to those of brains… Intentionality in human beings (and animals) is a product of causal features of the brain… Instantiating a computer program is never by itself a sufficient condition of intentionality » [1]. Таким образом Серл говорит, что интенциональность является необходимым свойством для возникновения мышления, и эта интенциональность является продуктом неких внутренне присущих свойств мозга. Машина, обладающая такими же свойствами, способна мыслить. Классический компьютер не обладает такими свойствами, поэтому, независимо от того, какая программа будет написана, она не способна привести к появлению мышления, и, как следствие, к появлению сознания.

«The aim of the Chinese room example was to try to show this by showing that as soon as we put something into the system that really does have intentionality (a man), and we program him with the formal program, you can see that the formal program carries no additional intentionality. It adds nothing, for example, to a man's ability to understand Chinese». [1]

(Цель примера с китайской комнатой состояла в том, чтобы попытаться отразить это, показав, что как только мы помещаем в систему нечто, действительно обладающее интенциональностью (человека), и программируем его формальной программой, то можно убедиться, что эта формальная программа не несет никакой дополнительной интенциональности. Она не прибавляет ничего, например, способность человека понимать китайский язык).

Идеи, изложенные Серлом, нельзя назвать завершенными, что вызвало вокруг них не мало споров. Тем не менее, эти споры так и не привели к окончательному выводу. Ни противники Серла, ни его сторонники ни сам философ так и не пришли к решению важных вопросов, ответы на которые должны лежать в основании размышлений о сознании и ИИ: «Какие свойства мозга порождают интенциональность?»,«Что есть смысл? И как он возникает?», «Каков процесс формирующий понимание?».

В данной статье я постараюсь дать ответы на эти вопросы.

Прежде всего, стоит разобраться с интенциональностью – внутренне присущим свойством мозга – которое, по мнению Серла, является столь необходимым для существования сознания. Для этого я хочу несколько отступить от основной темы и рассмотреть вкратце происхождение и эволюцию живых организмов.

Биологическую эволюцию можно рассматривать как продолжение эволюции химической, которая в свою очередь является продолжением физической эволюции. Согласно современным космологическим представлениям, после большего взрыва высвободилось огромное количество энергии/вещества, которое по мере расширения и остывания вселенной сконденсировалось в огромное количество разнообразных частиц. Время жизни большинства частиц, ввиду их нестабильности, оказалось чрезвычайно мало, и по прошествии времени остались лишь наиболее стабильные частицы, которые стали основой для формирования атомов известных химических элементов. Атомы вещества взаимодействовали, образовывая различные соединения. Наиболее стабильные из них копились, нестабильные распадались и объединялись в стабильные. В результате сложившихся уникальных условий на Земле появились соединения, которые были не только достаточно стабильны, но и могли производить дупликаты своих молекул, то были предки ДНК. Постепенно такие реплицирующиеся молекулы, путем случайных рекомбинаций, эволюционировали до состояния, когда они смогли не только воспроизводить себе подобных, но и создавать вокруг себя благоприятные условия для стабильного существования и размножения. Такая создаваемая благоприятная среда стала внутренней средой бактерий и одноклеточных организмов, а управляющие молекулы, которые уже можно назвать ДНК, приобрели функцию поддержки динамического равновесия организма (внутренней среды) — гомеостаза. Дальше были мутации и естественный отбор, которые создали тот живой мир, который мы знаем. Идея о том, что все живущие организмы являются лишь сложными механизмами для распространения молекулы ДНК, не нова, и подробно рассмотрена, например, Ричардом Докинзом [2]. Таким образом можно проследить, как происхождение жизни вытекает из фундаментальных законов существующей Вселенной. Грубо говоря, вся эволюция Вселенной – это лишь хаотичное движение энергии, подчиняющееся вероятностным законам. Происходит то, что наиболее вероятно, остается во времени то, что наиболее стабильно. Живую клетку, мельчайшую единицу жизни, можно рассматривать как огромный химический завод с множеством сложных химических процессов, которые сами по себе каждый в отдельности не имеют никакой внутренней цели, но все вместе осуществляют поддержание стабильной внутренней среды клетки, которая необходима для существования и репликации ДНК. Мы говорим, что целью всего живого является выживание и размножение, это несомненно так с точки зрения биологии, но необходимо заметить, что человек сам «присвоил» эти цели живому, чтобы описать общий характер поведения живых организмов. Если же быть последовательным с вышеописанными размышлениями об эволюции, то надо признать, что никакой цели или внутренне присущей интенциональности у живых организмов нет в принципе, как нет никакой цели у падающего яблока – оно падает подчиняясь фундаментальным физическим законам (мы можем говорить, что яблоко стремится упасть, но это не значит, что стремление упасть обусловлено какими-то внутренне присущими намерениями яблока). Живой организм – способ существования вещества обусловленный лишь фундаментальными физическими законами, нет никакой нужды в дополнительной магии. Я пишу об этом, чтобы показать, что в плане интенциональности между живым и неживым нет фундаментального различия. ДНК — это молекула, у нее нет и не может быть целей, только направления – физические и химические законы, следуя которым, она существует и управляет клеткой.

Далее в этой статье, когда будут использоваться слова цели, потребности, интенциональности в отношении живых организмов, необходимо помнить, что данные понятия лишь удобные абстракции, используемые для описания поведения, за которым стоят реальные процессы обусловленные фундаментальными объективными законами, а не туманными субъективными факторами.

Как уже было сказано, главное отличительное свойство живых организмов от неживых физических структур заключается в способности первых к репликации и поддержании стабильной внутренней среды – гомеостазе. Это именно свойства(!), но для удобства будем называть эти свойства целями и вернемся к тому, что целями живых организмов является размножение и поддержание гомеостаза. Рассмотрим стандартную схему поведения живого организма.

Живой организм не может пассивно существовать ожидая милостей от внешнего мира, ему приходится активно воздействовать на окружающую среду, чтобы достигнуть своих целей – выжить и размножиться. Именно эти цели являются отправными точками для его поведения. Но как именно себя вести? Главный вопрос, который стоит перед любым живым организмом в каждый момент времени – «Что делать дальше?». Рассмотрим гипотетический простейший одноклеточный организм. В схеме его работы есть три основных элемента: внешняя среда, внутреннее состояние и программа(1). Каждый из них может быть инициатором движения. Например, чтобы ответить на Главный вопрос, происходит проверка внутреннего состояния организма, которая определяет текущие потребности (например, питание). В клетке эта проверка происходит за счет хаотичного движения молекул вещества внутренней среды. Отдельные органеллы и ДНК взаимодействуют с химическими веществами и реагируют соответствующим образом. В ответ на внутреннее состояние запускается программа, которая определяется ДНК, а в более сложных многоклеточных организмах программа определяется нервной системой. Программа запускает процесс, который изменяет внутреннее состояние, которое в свою очередь меняет внешнюю среду (например, организм движется в пространстве). Внешняя среда воздействует на внутреннее состояние, и цикл замыкается. Эта схема приложима как к самым простым организмам, так и к самым сложным, включая человека. Более того, эта схема применима к различным частям организма, различным его системам разного уровня."
(1)

Запомним рассмотренную схему и вернемся к китайской комнате. Как я уже сказал, принцип ее функционирования, по сути, идентичен устройству стандартного компьютера, а сам эксперимент прекрасно демонстрирует ограниченность возможностей машины для понимания окружающего мира. Но погодите, разве мозг не находится в такой же ситуации, в какой находится человек внутри китайской комнаты? По сути, мозг имеет дело с той же китайской грамотой. Мозг сидит в темноте черепной коробки, изолированный от всего, кроме бессмысленного кода, который он получает от органов чувств. Если мы подключим электрод к нервной клетке, любой нервной клетке, не важно, принадлежит она мозгу или же сетчатке глаза, все, что мы увидим, это серии скачков напряжения. Для удобства наблюдения, такие импульсы часто подключают к громкоговорителю, тогда они слышны как неравномерное стрекотание. Такое стрекотание издают нервные клетки органов восприятия – клетки сетчатки глаза, волосковые клетки уха и т.д. Это стрекотание мозг и получает от органов чувств. Все что мозг может знать о внешнем мире – это то, что он похож на стрекочущий гул миллиардов клеток. В этом гуле нет абсолютно ничего указывающего на наличие пространства и времени, на существование предметов или людей вокруг. Звуки, формы, цвета, запахи – это все совершенно не похоже на странный и бессмысленный стрекот. Из собственного опыта нам известно, что мозгу все-таки удалось расшифровать этот код и использовать его вполне успешно для ориентации в мире. Почему же у мозга это получается, а человеку в китайской комнате (или компьютеру) это принципиально не под силу? Ведь они находятся в одинаковом положении! На самом деле последнее утверждение ошибочно – их положение принципиально различается.

Дело в том, что метод постановки мысленного эксперимента лишил человека внутри комнаты одной принципиально важной возможности – человек не может задавать вопросы вовне. Условия эксперимента говорят, что он может принимать карточки, манипулировать ими согласно инструкциям и таким образом отвечать на поставленные перед ним вопросы, хотя сам человек и не понимает что это за вопросы, он даже не понимает, что это вообще вопросы. Помимо этого, человек, оперируя внутри китайской комнаты, не преследует своими манипуляциями никаких целей – отсутствует интенциональность. Карточки никак не воздействуют на состояние человека внутри комнаты, они не полезны и не вредны, например, для выживания. Хоть и можно сказать, что карточки влияют на внутреннее состояние комнаты в целом, так как заставляют совершать манипуляции, но это влияние нейтрально, оно не приближает систему к цели и не удаляет ее, так как никакой цели изначально нет, кроме манипуляции ради манипуляции, как нет и обратной связи. Если же рассматривать работу нервной клетки и принимаемые ею сигналы (химические, по своей природе), то становится очевидным, что они непосредственно влияют на работу клетки. Они меняют ее внутреннее состояние. В то же время, нервная клетка имеет оптимальные для нее режим работы и внутреннее состояние, оптимальный химический состав. Поэтому сигналы не просто меняют работу клетки, но и смещают ее внутреннее состояние относительно целевого (оптимального) значения. Целевое внутреннее состояние задается программой, которая записана в ДНК. ДНК находится в положении схожем с мозгом и с КК, поскольку не контактирует напрямую с внешним миром, но только через посредство внутреклеточной среды. Таким образом, оптимальное внутреннее состояние, которое есть цель функционирования клетки, и является как условием, так и причиной присущей этой клетке интенциональности, задается программой (ДНК).

Можно сказать, что сама программа является носителем интенциональности. Но откуда интенциональность там взялась? Как уже было сказано, ДНК существует и функционирует по физическим/химическим законам. Репликация и прочие функции, связанные с поддержанием гомеостаза, являются свойствами ДНК, вытекающими из этих законов, а не целями или потребностями ДНК. Так же как краснота является свойством красного яблока, а не его намерением. Отсюда следует, как я уже оговаривал в начале статьи, что то, что мы называем интенциональностью живых организмов, по сути своей ею не является. Поэтому вопрос «откуда появляется интенциональность?» не имеет смысла. Интенциональности там нет, как нет ее нигде. Есть только цепочка причин и следствий, которая следует универсальным физическим законам. Интенциональность – человеческая выдумка и удобная абстракция, впрочем, это я тоже уже писал. Но мы продолжим пользоваться этим понятием, поскольку оно удобно для описания сложного поведения организмов. Чтобы немного суммировать написанное, выстроим логическую цепочку возникновения «интенциональности»:

Физические законы → Химические законы → ДНК + эволюция → Репликация и Гомеостаз → Целевое внутреннее состояние → Интенциональность (целевое поведение)

Вернемся к вопросу о «понимании». В чем оно состоит? Когда мы можем сказать, что китайская комната «поняла»? Где проходит граница между понимающей системой, и системой не способной к пониманию? Способна ли единичная клетка обладать каким-либо «пониманием»? И если способна, то чем отличается клетка понимающая от непонимающей?

Можно рассматривать животных, по мере уменьшения и упрощения их ЦНС и задаваться вопросом, способно ли данное животное к пониманию? Лично для меня крайне сложно нащупать границу между пониманием и непониманием таким способом, поэтому я решил пойти снизу вверх, начиная с единичной нервной клетки.

Нервная клетка, в отличие от «китайской комнаты», способна не только пассивно реагировать, принимая сигналы, но и активно воздействовать на их источник. Методами такого воздействия может быть, например, изменение количества рецепторов медиатора на постсинаптической мембране клетки, или изменение частоты и силы (количества молекул медиатора) генерируемых сигналов. Последний метод тем более очевиден, чем проще рассматриваемая нейронная сеть. На основе универсальной схемы функционирования живых организмов (1) рассмотрим простейшую нейронную сеть (2), осуществляющую работу этой схемы.

(2)

Допустим, внешний раздражитель, на данной схеме, это источник света, рецептор (Р) – это световой рецептор на сетчатке глаза, (Н) – управляющий нейрон, а актуатор (А) – мышца отвечающая за сужение зрачка. Очевидно, что схема работает следующим образом: свет попадает на рецептор; тот генерирует импульсы, поступающие на управляющий нейрон; который в свою очередь генерирует управляющие импульсы на сужение зрачка; зрачок уменьшает количество попадающего на рецептор света; в результате чего изменяется частота генерируемых рецептором импульсов и так далее по кругу. Управляющему нейрону в данной схеме ничего не известно о внешнем мире, он с ним не контактирует напрямую. Все, что «известно» данному нейрону это то, как его «поведение» влияет на его внутреннее состояние, т.е. генерируемые на выходе импульсы влияют на характер получаемых импульсов на входе. Нейрон, как и мозг в целом, как и человек в китайской комнате, находится в изоляции, все что его «волнует» и доступно для восприятия — это его внутреннее состояние. Внешняя среда оказывает воздействие, изменяя внутреннее состояние, и, отталкиваясь от этого изменения, нейрон меняет свое поведение. При этом целью поведения является достижение оптимального для клетки внутреннего состояния или режима работы. Возвращаясь немного назад, нужно заметить, что целевое состояние не есть конечная цель, которой, как было уже сказано, является выживание и размножение организма.

Просто для Программы доступна информация только о внутреннем состоянии организма. Достижение целевого внутреннего состояния и является условием для выживания и/или размножения. Целевое состояние не является чем-то постоянным, но зависит от внешних условий и личного опыта клетки. Стоит также отметить, что для самого нейрона не стоит задачи единоличного выживания и размножения, т.к. он является лишь частью целого организма. Однако, преследовать какие-либо другие цели кроме «личных» нейрон (как и любая другая клетка организма) не способен, вследствие ограниченности получаемой им информации. Поэтому залогом успешного функционирования целого организма является то, что «личные» цели отдельных его составляющих согласованны, и их достижение отдельными клетками приводит к выживанию организма в целом.

Для того, чтобы показать, как клетка может что-то понимать или не понимать рассмотрим еще один пример. Представим нейрон, на который воздействуют два химических вещества: А и В. Оба вещества влияют на внутреннее состояние нейрона. Вещество А является нейромедиатором, на который нейрон способен реагировать, т.к. обладает соответствующими рецепторами и программой записанной в ДНК. Вещество А деполяризует мембрану, возникает потенциал действия, часть ионов натрия заходит в клетку, часть ионов калия выходит из клетки, затем баланс ионов восстанавливается с помощью натрий-калиевых насосов, которые приводятся в действие с помощью АТФ синтезируемой внутри клетки. Помимо этого, происходит элементарное обучение, т.е. изменение синаптической проводимости и некоторые другие процессы, являющиеся актом адаптации к внешним воздействиям. Это обычный процесс жизнедеятельности нейрона, все в рамках программы ДНК. Произошло воздействие, воздействие изменило внутреннее состояние, ДНК запустила соответствующую программу, внутреннее состояние вернулось к целевому. Нейрон готов к подобного рода воздействию и знает как себя вести, чтобы вернуться к целевому состоянию.

В случае с веществом В ситуация несколько иная. Допустим, что это ионы тяжелых металлов, которые постепенно проникают внутрь клетки, и клетка не обладает молекулярными механизмами для распознавания и выведения данных ионов. В свою очередь, эти ионы, накапливаясь внутри клетки, мешают нормальной работе ионных каналов и тем самым нарушают баланс веществ.

Существующих внутриклеточных механизмов оказывается недостаточно, чтобы поддержать баланс на должном уровне, избегание воздействия тоже не происходит, клетка не способна адаптироваться к воздействию, вернуться в целевое состояние. Отсутствие адекватной реакции адаптации можно расценивать как «отсутствие понимания» клеткой данного вида воздействия. В ходе эволюции клетки способны приобрести это «понимание», если подобное воздействие будет оказывать существенное эволюционное давление.

Подведем итоги. Что представляет собой система (например, живой организм) способная к пониманию? Система должна обладать следующими свойствами:

1. Интенциональность. То есть функционирование системы должно иметь цель – достижение и/или поддержание некоего внутреннего состояния;
2. Каузальность. Система способна воспринимать только такое воздействие, которое влияет на внутреннее состояние системы таким образом, что оно смещается от целевого состояния;
3. Адекватная реакция. После того, как воздействие вызвало изменение внутреннего состояния, система должна попытаться вернуться к целевому состоянию. Достигается это за счет изменения внешнего воздействия, т.е. происходит обратное воздействие на внешнюю среду (простейший пример – избегание).
4. Реакция подразумевает наличие Программы, которая запускает поведение в ответ на соответствующее воздействие. В Программе хранятся целевые состояния и порядок действия/реакции в различных ситуациях. Нужно заметить, что такая Программа обладает некоторого рода предвидением, поскольку чтобы запустить адекватное поведение, необходимо знать, что результатом этого поведения (с некоторой вероятностью) станет достижение целевого состояния.

Такое знание или предвидение живые организмы приобретают в ходе фило- и онтогенеза.
Не трудно убедиться, что любой живой организм обладает перечисленными свойствами. А как насчет «китайской комнаты»? Как правильно заметил Серл, у нее отсутствует интенциональность. Из наших рассуждений это следует из отсутствия целевого внутреннего состояния. Соответственно все остальные пункты тоже отсутствую, потому как они базируются на первом. Сигналы (воздействие) передаваемые в КК, воздействуют на внутреннее состояние, но не смещают его от целевого, они нейтральны. А если нет смещения, то и адекватной реакции не может быть. Правда КК обладает Программой, но эта программа не удовлетворяет описанным требованиям, а именно, не запускает адекватное поведение.

Способна ли формальная программа наделить классический компьютер мышлением, т.е. наделить систему 4-мя описанными свойствами? Очевидно, ответ – да. Я не хочу описывать, каким образом этого достигается, так как это довольно просто сделать, опираясь на приведенные выше тезисы.В конце концов, ДНК так же является формальной программой. Вместо этого предлагаю рассмотреть более радикальный и любимый многими философами пример – обыкновенный термостат.

Термостат – это прибор для поддержания постоянной температуры. Схема и принцип функционирования термостата могут быть очень просты. Элементарный термостат имеет датчик, который срабатывает при заданном пороговом значении температуры и передает управляющий сигнал на включение/выключение нагревательного элемента. Допустим, такой термостат поддерживает температуру в комнате на уровне 25 град С. Изначально, обогреватель работает и повышает температуру в комнате. Когда температура поднимается до 25 градусов, датчик срабатывает и отключает обогреватель. Комната начинает постепенно остывать. После того, как температура опустилась ниже определенного порогового значения (например 23 градС), датчик срабатывает и включает обогреватель. Цикл повторяется.

Проверим, обладает ли термостат 4-мя свойствами мыслящих (семантических) систем. Первое – целевое состояние и интенциональность. Термостат «стремится» поддерживать температуру датчика в районе 25 градС. Это вполне попадает под определение целевого внутреннего состояния системы. Второе – внешнее воздействие. Термостат способен воспринимать температуру и только ее, таким образом, система одномерна, к тому же обладает всего двумя состояниями, грубо говоря, «Вкл» и «Выкл». Диапазон «ощущений» так же сводится к двум – температура выше или ниже порогового значения. Третье – адекватная реакция. Поведение термостата адекватно воздействию и направлено на восстановление целевого внутреннего состояния – заданной температуры датчика. При этом термостат воздействует на внешнюю среду, которая в свою очередь воздействует на датчик. Все в рамках описанной концепции. Четвертый пункт – программа. Можно сказать, что программа задана самой конструкцией термостата и параметрами датчика.

Выходит, что термостат способен мыслить и понимать. Кому-то это покажется смешным, кому-то безумным, а кто-то согласится с ходом моих размышлений. К тому же, я не первый, кто пришел к подобным выводам [3]. Конечно, уровень понимания термостата совершенно иной чем тот, которым обладает человек или даже мышь, это элементарнейший уровень. Поэтому попытки проводить параллели между человеком и термостатом могут показаться притянутыми.

Человеческое мышление подразумевает задействование огромного количества элементарных схем, связанных между собой, и вложенных друг в друга. Мир внутренних состояний бесконечно богаче мира термостата, но суть самого процесса мышления остается одинаковой на всех уровнях. Суть эта отражена в схеме (1) и четырех свойствах мыслящей системы.

Важно всегда помнить при исследовании структур мозга и его функций, что главным назначением и конечным продуктом мозга является не мышление, а действие. Действие, направленное на внешнюю, по отношению к исследуемой структуре, среду. Целью такого действия является изменение воздействия среды обратно на внутреннее состояние организма (структуры, клетки). Это и есть описанный в схеме (1) цикл: Внеш. Среда → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда. Этот цикл и порождает «смысл», образует смысловую петлю. При этом в качестве внешней среды может выступать как окружающий мир, так и другие структуры организма или соседние клетки, в зависимости от того, какой уровень системы рассматривается.

Таким образом, смысл любой информации (воздействия) заключается в том, какое влияние она оказывает на внутреннее состояние, и какое ответное воздействие организм (структура) может оказать, чтобы изменить это влияние. Говоря еще проще, смысл информации заключается в ответе на вопрос «Что делать в связи с полученной информацией?». Назначение мозга в конечном счете тоже сводится к ответу на этот вопрос, Главный вопрос, как я назвал его в начале статьи при описании схемы (1): «Что делать дальше (чтобы выжить и размножиться)?».

Заключение


В заключение, вернемся к тезисам, которые выдвинул Джон Серл в своей статье.

1) Интенциональность человека (и животных) есть результат каузальных свойств мозга.
Данное утверждение верно лишь отчасти. Если тщательнее разобраться, корни интенциональности уходят глубже. Носителем интенциональности всего живого является ДНК. Это сложная молекула, обладающая ключевым свойством – способностью к саморепликации. Именно это свойство сделало возможным эволюцию ДНК, в ходе которой молекула строила вокруг себя все более и более сложные живые организмы. Именно ДНК определяет структуру, развитие и поведение живого организма. ЦНС появляется несколько позже в процессе эволюции. Она необходима для управления большим и сложным многоклеточным организмом и способна значительно расширить поведенческий репертуар. Мозг является сложной динамической самоорганизующейся структурой.

Внутреннее состояние мозга, с одной стороны, отражает отдельные характеристики внешнего мира, с другой стороны, содержит информацию о состоянии и функционировании организма. Цель мозга – поддержание оптимального внутреннего состояния организма. Для достижения этой цели мозг действует как реактивно, так и проактивно. Как видно из рассуждений, мозг хорошо вписывается в схему Внешний мир <-> Внутреннее состояние <-> Программа. Мозг, как и ДНК, выступает в роли носителя программы. Эта программа частично задается ДНК во время развития организма, частично формируется жизненным опытом. Она хранится в структуре связей нейронной сети и текущей активности нейронов. Программа является носителем интенциональности — направленность мышления и поведения. Таким образом, можно сказать, что интенциональность мозга задана структурой его нейронных связей и свойствами самих нейронов, и то и другое определяется по большей части ДНК.

2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.

Как было показано, носителем интенциональности в живых организмах является именно закодированная в структуре ДНК, программа. Сам физический носитель в данном случае не принципиален, главное чтобы он был способен взаимодействовать с внутренней средой и обладать достаточной структурной емкостью, чтобы вместить программу. В этом смысле, ДНК ничуть не предпочтительнее полупроводниковых элементов, из которых сделан компьютер. Любой организм – это, в конечном счете, машина, талантливое инженерное решение эволюции. Любая машина является физическим носителем программы, которая записана в самой структуре машины. В то же время, любая программа нуждается в физическом носителе для того, чтобы быть запущенной.

Каким образом все вышесказанное относится к способности компьютера понимать человеческую речь? Любое внешнее воздействие обретает смысл только будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда (воздействие). Это применимо и к словам, с единственной оговоркой, поскольку слова являются абстракциями высокого уровня, причинно следственная цепочка для них будет выглядеть сложнее, хоть и сохранит общую структуру и смысл. Другими словами, слово, как и все остальное, имеет смысл только в том случае, если способно повлиять на внутреннее состояние так, что сместит его от целевого состояния. Для человека слово «красный» имеет большое значение. Например, красные ягоды – спелые, а зеленые – нет. Это полезная для выживания информация. Для компьютера, чтобы слово красный обрело значение, притом схожее с человеческим, ему необходимы сенсоры, воспринимающие красный цвет, цель и взаимосвязь красного цвета и достижения цели. В одном Серл был совершенно прав, современные компьютеры лишь симулируют понимание, т.к. их «знания» о словах опираются не на реальный опыт, а на другие слова, что в теории может породить некоторую степень понимания, но совершенно отличную от человеческой. К тому же современные компьютеры и программы не наделены внутренними целевыми состояниями, что делает невозможным появление смысла.

P.S. Цепь размышлений в данной статье идет снизу вверх, от элементарных понятий и объектов, к более сложным и абстрактным. Размышления следуют логике эволюции и в целом опираются на эволюционную парадигму. Такой подход видится автору наиболее научным. Терминология также развивается снизу вверх. В результате, современные понятия получают новую трактовку. Автор не ставил себе целью подмену терминов, и тем более нет у него желания использовать это в качестве хитрого приема, для облегчения задачи объяснения феномена мышления. Новая трактовка терминов является неизбежным следствием последовательных размышлений основанных на научном подходе. Современная философия сознания зачастую использует подход «сверху вниз» и потому постоянно жонглирует терминами, которые ссылаются друг на друга. В результате, картина напоминает попытку вытащить себя из болота за собственные усы. Отличие данной статьи заключается в том, что мышление выводится непосредственно из фундаментальных законов. Таким образом, мышление лишается ореола загадочности и перестает быть прерогативой человека, высших животных, и даже животных вообще.

Можно заметить, что в статье понятие мышления приравнивается к понятию понимания. Необходимо разъяснить этот момент, чтобы избежать непонимания. Если говорить о мышлении в его классическом определении, то это сложный многоуровневый процесс, и понимание является лишь его частью. Более того, понимание в том виде, в котором оно используется в данной статье тоже не дотягивает до своего общепринятого оригинала. Можно привести некоторую иерархию существующих общепринятых понятий, которые близки вопросу, обсуждаемому здесь:

Ощущение → Восприятие → Понимание → Мышление

Строго говоря, то, что я называю здесь актом мышления, ближе по своим свойствам к самому нижнему уровню этой иерархии – ощущению. Вот определение ощущения взятое из Википедии: «Ощущение, чувственный опыт — простейший психический процесс, представляющий собой психическое отражение отдельных свойств и состояний внешней среды, субъектом внутренних или внешних стимулов и раздражителей при участии нервной системы». Что касается восприятия, оно основано на ощущениях, но является более сложным процессом, подразумевающим активное извлечение информации из окружающего мира, в том числе и путем воздействия на мир. Понимание подразумевает не только восприятие информации, но и интеграцию полученной информации в собственную структуру знаний. Мышление находится наверху цепочки, оно включает в себя все предыдущие уровни и другие процессы, подразумевающие оперирование полученной информацией (анализ, синтез, абстрагирование, классификация и т.д.). Поскольку каждый последующий уровень приведенной иерархии понятий включает предыдущий, то понятия пересекаются. Если постепенно двигаться от мышления во всей его полноте и сложности, как оно представлено у человека, к более элементарным уровням мышления, как у более простых животных, то можно заметить, что понятия ощущения, восприятия, понимания и мышления постепенно сближаются и приобретают именно тот вид, который они получили в данной статье, становясь единым понятием. Если разобрать элементарный акт мышления, описанный выше, то он включает в себя зачатки всех понятий входящих в цепочку. Рассмотрение мышления на его элементарном уровне позволяет избавиться от лишней шелухи, и увидеть суть процесса. Сформированное таким образом заново понятие мышления является хорошей отправной точкой для дальнейших размышлений и исследований.

1. Searle J. Minds, Brains, and Programs. The Philosophy of Artificial Intelligence / Boden M (ed.) Oxford. 1990. Впервые опубликовано в журнале: «The Behavioral and Brain Sciences», 1980, № 3, pp. 417–424.
2. Докинз, Ричард. Эгоистичный ген. — Пер. с англ. М.: АСТ:CORPUS, 2013
3. Чалмерс Д. Сознающий ум: В поисках фундаментальной теории. М.: URSS, 2013
Поделиться публикацией
Никаких подозрительных скриптов, только релевантные баннеры. Не релевантные? Пиши на: adv@tmtm.ru с темой «Полундра»

Зачем оно вам?
Реклама
Комментарии 123
  • +3
    По мнению Серла, компьютер (или китайская комната) не способен достичь понимания, т.к. оперирует лишь синтаксическими конструкциями. Человек же в свою очередь воспринимает и оперирует смыслами, а не только лишь самими символами, на что компьютер не способен.

    Иногда лучше немного подумать прежде чем выкладывать. Старые представления и термины архаики…
    • +2
      В данной статье я постараюсь дать ответы на эти вопросы.

      42?
      • +4
        Насчёт Китайской комнаты. Этот мысленный эксперимент — намеренное упрощение, практически на грани доведения до абсурда; и имеет цель показать, что реакция системы на раздражители — адекватная разумной — ещё не означает того, что эта система действительно разумна, ведь де человек внутри не осознаёт смысла тех иероглифов.
        А насчёт вашего замечания о том, что иероглифы не оказывают влияния на саму комнату — так дело как раз в чрезмерном упрощении. Правилами эксперимента ведь вроде бы не запрещается сколь угодно сложная реакция на принимаемые данные — иероглифы можно не только принимать и передавать, их можно записывать в некие регистры памяти, и в соответствии с содержанием этих регистров менять правила реагирования на следующие акты ответа.
        Суть эксперимента в принципе от этого не меняется — человек как не понимал значения иероглифов, так и не понимает, какими бы сложными не были правила ответа на них.
        Другое дело, что тут уже появляется вопрос: — почему именно разум человека — сидящего в комнате — является субъектом эксперимента, по сути разумом системы является уже не он, а некий «китаец», который кроется в сложной системе реагирования на иероглифы, и именно у него появляется самосознание. А сознание самого человека уже выносится за скобки.
        Кстати у Чалмерса по поводу панпсихизма как раз приводятся — как один из примеров — подсознательные процессы в мозгу, к которым у сознания доступа нет; хотя казалось бы, в чём разница, ведь это точно так же мозг реагирует на внешние раздражители.
        По поводу размышлений про ИИ в посте возражений нет, просто хотел про тот мысленный эксперимент уточнить. Но вообще, я просто не знаю (да и кто знает?) почему существует самосознание, хотя очень хочу понять.
        • 0
          У меня возникла идея другого мысленного эксперимента: сделать компьютерную игру, в которой игрок будет выполнять тривиальные и не очень задания, обучаться чему либо, приобретать навыки, одним словом обычную игру, каких много. Но при этом сделать такую систему интерпретации процесса игры, чтобы действия игрока в этой интерпретации сходили за ведение некой системой разумного диалога с человеком. То есть например: игрок прыгает через препятствие, а программа в это время конвертирует сложное поведение игрока в лексическое предложение в диалоге. Оппонент отвечает, а программа переводит это в следующее препятствие сложной формы, которое игроку нужно преодолеть, то есть «ответить» в другой интерпретации.
          Не могу вспомнить, читал ли я это где-то или самому в голову пришло, но мысль забавная.
          • 0
            проблема любого мысленного эксперимента — нечеткие определения и неявные подразумевания. Например, недавно читал в другом месте многолетнее обсуждение апории Зенона про черепаху — там до этих проблем уже додумались, а в обсуждениях китайской комнаты до сих пор нет общепризнанного определения сознания и многих других вещей. Даже в этой статье приводится неверное определение границы между живым и неживым — а ведь этот вопрос значительно проще определения сознания.
            • 0
              Кажется, что сделать такую систему интерпретации будет очень непросто. Всё-таки в языках сотни тысяч слов, а действий в играх — какие-то десятки. Придётся придумывать правила трансляции для целых групп действий, смысл которых меняется ещё и в зависимости от предыдущего предложения (ибо действия игрока одни и те же, а диалог может идти о совершенно разных вещах). То есть очень мощный лингвистический аппарат будет между двумя игроками, который тоже нужно учитывать как участника эксперимента.

              Но мысль и правда забавная, если лингвистика когда-либо дойдёт до уровня, на котором возможно это реализовать, не откажусь сыграть в эту игру.
              • 0
                а действий в играх — какие-то десятки
                Смотря какие игры же. Даже в платформерных прыгалках порой нужна хорошая мышечная память и реакция на события в пределах нескольких миллисекунд. Количество обрабатываемой информации мозжечком уже достаточно велико. А если ещё добавить элементы логических стратегий, как в шахматах или Го, то число вариантов реагирования вырастет в количество вариантов игры в этих стратегиях.

                Алгоритм преобразования должен быть и правда мощным, и желательно самообучающимся вместе с самим игроком, но самое сложное, на мой взгляд, сделать подобную игру интересной. А то ведь можно сделать такой алгоритм предельно простым, игрок просто будет прыгать по буквам, набирая текст ответов, но тогда и игра будет унылой, да и суть эксперимента потеряется.

                А насчёт того, считать ли подобный эксперимент участником, то в первоначальной версии эксперимента хотелось бы этого избежать — люди должны разговаривать именно друг с другом, причём первый не должен вообще подозревать, что он разговаривает; а второй не должен догадаться что он разговаривает с человеком, который ни слова не понимает из разговора.

                Впрочем, кибернетический помощник, помогающий человеку непосредственно разговаривать, на уровне конструирования диалогов — это уже совершенно другая, и тоже интересная идея. Очень поможет для создания синхронных электронных переводчиков.
            • 0
              Тоже встречал идею что в данном случае следует считать разумным всю систему целиком, «комната+человек».
              Но тут другая проблема будет — такая система никогда ничего не сделает по собственной инициативе. Она будет всегда ожидать ввода данных, потому что только тогда она сможет отреагировать.
              • +2
                Даже в случае с инициативой нет никаких сложностей с эмуляцией. Просто надо предусмотреть такие правила, которые в зависимости от содержимого определённых регистров памяти, будут побуждать человека внутри в определённые моменты выкидывать определённые иероглифы, даже если снаружи ничего не приходило.
                • +1
                  Собственная инициатива это тоже иллюзия, как и свобода воли.
                  Человек тоже что-то делает только под действием входных данных, но эти данные могут быть не только от окружения, но и от скажем внутренних органов тела. Ведь тело не является частью сознания, потому является внешним.
                  Например, в желудке пусто, желудок формирует сигнал в мозг, в мозгу появляется задача покушать и чувство голода.
                  Подозреваю бывают иные входные данные, более сложной природы, типа социальная среда и наше место в ней. Или потребность в любопытстве, которое есть замаскированный поиск новых ресурсов.
                  • 0
                    Собственная инициатива это тоже иллюзия, как и свобода воли.
                    Человек тоже что-то делает только под действием входных данных...

                    Я бы не исключал различия в алгоритмах обработки этих входных данных. Иначе чем объяснить, что примерно одинаковые люди, оказавшиеся в примерно одинаковых условиях (и внешних, и состояния тела) ведут себя порой кардинально противоположно.
                    • 0
                      Объяснить тем, что не бывает примерно одинаковых людей.
                      Одинаковыми могут быть простые объекты, у которых мало основных характеристик. Если у двух таких объектов основные характеристики слабо отличаются, то можно предположить, что и производные характеристики будут отличаться не сильно.
                      Если же у двух объектов основных характеристик не 2-4, а 20, то малое отличие в половине может дать кумулятивный эффект и производные характеристики могут отличаться сильно.
                      Как мне кажется люди относятся к последнему типу объектов.
                      Я уж не говорю про инструментальное определение характеристик человека. Вот тут определяют какие-то характеристики личности, но насколько это объективно по сравнению с измерением массы или силы тока?
                      • 0
                        Более того, один и тот же человек из сегодня и из вчера — могут совершенно разно прореагировать на одинаковые события. Потому что человек из сегодня за прожитый день получил новый опыт. и избавился от некоторых старых привычек. Получается, это разные люди. )
                      • 0
                        Значит это были не примерно одинаковые люди. А вероятно совершенно непохожие люди.
                  • 0
                    и именно у него появляется самосознание

                    А что вы понимаете под термином "самосознание" в данном котексте? Потому что в том смысле, в котором понимаю это слово я, оно ну никак не может появиться у подобной "системы реагирования".

                    • 0
                      Под этим термином я понимаю само понятие «я». То, что отличает вас от других людей, с вашей точки зрения. Само понятие вашей «точки зрения». Ваше мироощущение. То, что у вас отсутствует когда вы спите без снов или когда вы без сознания. То, что позволяет каждому человеку в любой момент сказать — Я есть.

                      И да, я думаю, что в системе правил — записанных в книге в китайской комнате — тоже будет присутствовать это качество, при условии, что китайская комната, в этом мысленном эксперименте, должна проходить тест Тьюринга. Допустим, что в этом тесте будут задаваться вопросы на темы самосознания, допустим будет спрошено: — имеет ли испытуемый свою точку зрения, есть ли он? Комната обязана будет отвечать точно так же, как отвечал бы живой человек. Обычный мозг принципиально уже не отличается от такой комнаты, он имеет всё тот же набор правил, согласно которым он отвечает на сигналы извне.

                      Думать, что полное внешнее совпадение по реакциям не означает того, что внутри действительно есть мироощущение — означает признавать концепцию философских зомби — сущностей, лишь притворяющихся сознаниями. Думать так — признавать что в вашем мозгу есть что-то, что отличает его от мясного компьютера — отрицать материализм; либо ударяться в солипсизм — думать что у других людей нет такого качества, ведь все их реакции можно объяснить нейронными связями в мозгу, которые заставляют их говорить так, будто они тоже мироощущают как личности, на самом деле ими не являясь.

                      Я думаю, что само понятие самосознания не хранится где-то в нейронах или их внутренних структурах. Оно не файл, оно процесс. Оно возникает на границе обмена информацией мозга с внешним миром. Как аналогия: понятие процесса скачивания файла вашим компьютером из интернета, скачивание не хранится на жёстком диске или где то в интернете, оно возникает где-то на границе этих информационных систем.

                      То есть да, я думаю что без внешнего мира, на который реагирует мозг, не существует и сознания в этом мозгу, внешняя среда это второй необходимый компонент сознания, столь же важный как и устройство мозга. Эксперименты с сенсорной депривацией тоже наводят на эту мысль. По описаниям — после нескольких часов отключения от внешнего мира — сознание распадается и исчезает. Возможно, эти несколько часов сознание ещё существует как процесс обмена данными с буферной зоной в мозгу, той самой, в которой хранится модель внешнего мира, все представления человека о нём, его мировоззрения. Без подпитки внешними данными, эта модель тускнеет, утрачивает актуальность и всякие процессы взаимодействия между ней и остальными системами в мозгу теряют смысл и останавливаются, что и приводит к потере самоощущения.

                      И ещё, в последнее время часто встречаю точку зрения, что все проблемы определения самосознания просто придуманы философами недавнего времени, и что не будь такой постановки вопроса, то и проблемы такой бы и не существовало. Но я не знаю, неужели не удивляет то ощущение в тот момент, когда вы прислушиваетесь к себе чтобы ответить на вопрос — есть ли вы?
                      • 0

                        Не могу согласиться, т.к. в эксперименте комната не создаёт ответы, ответы заранее подготовлены каким-то человеком. Поэтому нет никаких оснований говорить о "комнате" как о какой-то отдельной сцщности. По-сути, те, кто передают в комнату карточки, общаются с человеком, подготовившим ответы. А комната с другим человеком внутри – лишь средство передачи информации.


                        Всё равно, что после разговора по телефону сказать, что телефон имеет самосознание, потому что отвечает на вопросы.

                        • 0
                          ответы заранее подготовлены каким-то человеком
                          А ответы человека в свою очередь подготовлены какими то другими людьми, в общем случае — его родителями и учителями в детстве.
                        • 0
                          Если телефон единственный способ поговорить с тем человеком, то нет никакой разницы имеет самосознание телефон или человек на другом конце линии.
                          А так можно нафилософствовать на тему имеет ли самосознание человек или всего лишь оболочка для души которая и является сознанием.
                          • 0
                            то нет никакой разницы имеет самосознание телефон или человек на другом конце линии

                            Конечно же, есть разница. Во-первых, речь не о восприятии того, кто "на этом конце линии", а о фактическом положении вещей. Во-вторых, телефон без того человека "на другом конце" ничего сказать не сможет.


                            Вопрос "что такое [само]сознание" – отдельный разговор и, пока что, чисто филосовский, а не научный, к сожалению.

                            • 0
                              о фактическом положении вещей
                              А каково оно, фактическое положение вещей? Когда ты говоришь с человеком, что именно ты воспринимаешь как его? Его тело? Мозг? Нейроны, сигналы в них? Или может даже изображение человека на твоей сетчатке и колебания твоих ушных косточек? Где кроется сознание твоего собеседника? Всё это количественные различия, и если с этой точки посмотреть, то нет никакой разницы с кем ты разговариваешь, с химическими реакциями в нервных клетках, с изображением на мониторе, с телефоном или китайской комнатой. Всё это является или не является человеком — с которым ты говоришь — в одинаковой мере.
                              • 0

                                Ещё раз – с точки зрения воспринимающего разницы действительно нет. А по факту – есть, конечно же. Говорит не телефон, а человек. Ответы даёт не комната, а человек (более того, даже не тот человек, который внутри комнаты тупо передаёт карточки, а тот, который подготовил инструкции по передаче карточек). И т.д.


                                Иначе можно дофилосовствоваться до того, что не существует никого и ничего, кроме моего собственного сознания, а всё остальное – лишь игра воображения.

                                • 0
                                  Говорит не телефон, а человек.

                                  Такое разделение работает лишь в простых случаях. Можно ли сказать, что игрок в Dwarf Fortress просто общается с разработчиками игры?
                                  P. S. Вспоминается рассказ Саймака «Театр теней».
                                  • 0

                                    Если ваш вопрос касается чего-то специфичного Dwarf Fortres – то просьба развернуть мысль, т.к. я в эту игру не играл (хотя наслышан).


                                    Если же речь о любой игре (и даже шире – любом произведении, будь то игра, книга, фильм, музыка) – то, скорее, можно сказать, что это авторы произведения общаются с игроками/читателями/слушателями.


                                    По-сути, это как письмо – авторы отправили сообщение игрокам, а те имеют возможность "прочитать" сообщение или какие-то отдельные его части. Но ответить-то игроки не могут (не считая других каналов связи и косвенных вещей типа уровня продаж игры и т.д.)


                                    Но, в любом случае, не уловил связь с предыдущей частью дискуссии.

                                    • 0
                                      Я тоже в нее не играл, только наслышан :) Я к тому, что мир игры достаточно сложен, чтобы сами разработчики не могли предусмотреть все возможные варианты сюжетов, которые могут в ней возникнуть.
                                      • 0

                                        Ну и что? Сюжеты-то возникают не сами по-себе, а создаются действиями игроков. В этом смысл sandbox-игр.

                                        • 0
                                          И в то же время, вы говорите что ответы человека не подготовлены теми людьми, с которыми он разговаривает, и теми которые обучали его с детства посредством разговоров и книг?
                                          • 0

                                            Нет, конечно. Само собой, человек использует имеющийся опыт, но не напрямую же копирует ответы из этого опыта.


                                            Честно говоря, не вижу, каким образом это связано с частью дискуссии про игры.

                                            • +1
                                              А это и не связано. У вас типичное представление о мозге как о каком-то магическом шаре, где информация сама собой возникает из ниоткуда. Вы бы удивились, узнав сколько убеждений человек выносит в неизменном виде, услышав их в детстве один раз, и ни разу не подвергнув их критической оценке.
                                              • 0
                                                У вас типичное представление о мозге как о каком-то магическом шаре

                                                С чего бы такие выводы? Да и моё представление о мозге тут вообще не при чём.


                                                В любом случае, не вижу смысла в продолжении данной ветки, т.к. оно ушло куда-то далеко от начальной темы.

                    • 0

                      Полный набор всех правил, делающих систему комната + человек неотличимой от разумной, и будет тем самым ИИ :-)
                      Как бы вам объяснить…
                      Создав правило о накоплении знаний, вы уже делаете обучающуюся систему.
                      Следующий шаг — создать правило для вывода других правил.
                      Третий шаг — создать правило о разумном выводе на основе из накопленных знаний.
                      Тут вы делаете разумную систему. И весь вопрос в том насколько разумной будет эта система и сумеете ли вы описать такие правила :-)


                      Старый вопрос — "будет ли экспертная система с полным набором знаний человека ИИ"?

                      • 0
                        тут уже появляется вопрос: — почему именно разум человека — сидящего в комнате — является субъектом эксперимента, по сути разумом системы является уже не он, а некий «китаец», который кроется в сложной системе реагирования на иероглифы

                        Совершенно согласен. На мой взгляд, в этом эксперименте почему-то упускают из виду те самые инструкции, согласно которым реагирует человек в китайской комнате. Проводя аналогию с компьютером, человек здесь — всего лишь центральный процессор, который и не предполагается разумным. В конце концов, роль человека в этом эксперименте могла бы выполнить дрессированная обезьяна (ну, или множество обезьян, «натасканных» на выполнение определенных правил в зависимости от вида иероглифа).

                        Истинную «разумность» китайской комнате придают именно инструкции, определяющие зависимости между входными и выходными иероглифами. То есть, проблема здесь та же, что и у Тюринга — в создании программы, имитирующей разум. А кто эту программу будет выполнять — человек или автоматический вычислитель — уже дело десятое.

                        • 0
                          Серл как раз и написал свою статью во многом как контр-аргумент к критерию Тюринга. Своим экспериментом он попытался показать, что внешне разумное поведение вовсе не обязательно означает наличие разумности у системы.
                      • 0
                        Статья на мой взгляд слишком неупорядоченная, сжатая, однобокая.
                        Всё таки Джон Серл мастер, лаконично всё изложил. Таких мысленных экспериментов нужно больше.
                        Философия незаменимая часть созидания и помогает двигаться вперед. Хотя тут многие с этим яростно не согласны, для них это лишь пустая болтовня. ДА КОМУ НУЖНА ФИЛОСОФИЯ?! | IQ
                        • 0
                          Согласен, что статья немного скомкана, не лучшим образом структурирована, и сжатая. Тема довольно сложная и обширная, и я попытался изложить свои мысли по возможности кратко, и в то же время полно. Однобокая? смотря что вы имеете ввиду.
                          Что до Серла, то он все таки профессионал. К тому же, его статья занимает куда больше, чем моя, и у нее тоже нашлось миллион критиков, во многом из-за того, что статья не полна.
                        • +2
                          Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.

                          В общем, единственное, что фактически доказал Серл — что хардвер без софта недостаточен для мышления. Глубокий вывод, ничего не скажешь. А что в данном случае хардвер весьма экзотический — к делу не относится.
                          • 0
                            Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.
                            Не понял, поясните.
                            • 0
                              Оператор китайской комнаты выполняет операции, приводящие к результату, полностью совпадающему с результатом процесса мышления — Серл утверждает, что поскольку оператор не понимает смысл этих операций и осуществляет их чисто механически, процесса мышления не происходит.

                              Меняем в этом описании слова «процесс мышления» на «умножение». Получаем мой пример. Аргументация осталась та же, но вывод, к которому она приводит, оказывается очевидно неверным. Следовательно, в аргументации есть ошибка.
                              • 0
                                Серл утверждает, что поскольку оператор не понимает смысл этих операций и осуществляет их чисто механически, процесса мышления не происходит.
                                В голове оператора. Процесса мышления. Не происходит. Понимаете? Оператор не осознает, что он делает. Он тупо выполняет инструкции. Как машина.
                                Меняем в этом описании слова «процесс мышления» на «умножение». Получаем мой пример. Аргументация осталась та же, но вывод, к которому она приводит, оказывается очевидно неверным.
                                Почему это «очевидно неверным»? Умножение в голове оператора происходить не будет. Более того, оператор даже знать не будет, что он делает «на самом деле».
                                • 0
                                  Он тупо выполняет инструкции. Как машина.


                                  Почему «как»? Он тут и выступает в роли части хардвера. Но Серл-то из этого делает вывод, что процесса мышления в его примере не происходит вообще.

                                  Более того, оператор даже знать не будет, что он делает «на самом деле».


                                  Вот в этом-то и есть идея моего контрпримера. Оператор не знает, что он делает — но процесс умножения тем не менее происходит. Так же и с мышлением в исходном примере Серла.
                                  • 0

                                    Вы упускаете наличие того человека, который все эти инструкции подготовил. В эксперименте с комнатой процесс мышления как бы вынесен за скобки и выполнен заранее для какого-то предустановленного набора карточек. А в ходе самого эксперимента никакого мышления системы "комната+оператор" не происходит.


                                    В случае умножения аналогом будет набор предопределённых вариантов ответов (2х2=4, 3х2=6 и т.д.), и в таком случае система не будет производить умножения.


                                    Однако, если мы заложим в систему непосредственно алгоритм умножения любых чисел, вместо предопределённых вариантов, тогда система действительно будет "уметь" умножать.


                                    Если же мы говорим о том, что комната отвечает на любые возможные иероглифы (неизвестные заранее создателю алгоритма ответов) и эти ответы экспериментаторы не могут отличить от человеческих, то это будет уже ИИ (по определению теста Тьюринга). Но даже в этом случае комната+оператор будут лишь "железом", а сам ИИ – это инструкции по выдаче ответных карточек.

                            • 0
                              Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.

                              но ведь Searl как раз утверждает, что компьютер может общаться по китайски — просто без понимания смысла этого общения. или смысла умножения в вашем примере.
                              • 0

                                На выходе будет доказательство, что компьютеры неспособны понять смысл умножения, применить его самостоятельно в практических задачах или вывести на основе него понятие деление.

                              • –3
                                Давайте создадим разумную комнату, которая будет переводить с китайского.
                                Давайте поместим в эту комнтату то, что умеет думать, убрав необходимость создавать эту часть искусственно.
                                Вот что я вижу в этом эксперименте.

                                Нам нужно создать «мозг», мы его не создаём, а помещаем внутрь готовый.
                                • –1
                                  Отличный диалог, спасибо.
                                • 0
                                  Носителем интенциональности всего живого является ДНК.

                                  Верно, но лишь отчасти. Формообразование мозга довольно рандомный процесс. Отделы мозга у всех (людей), конечно, примерно одинаковые, но их размеры отличаются сильно. И размеры, как раз, в ДНК практически ни как не кодируются.

                                  П.С. Не специалист, не стоит сильно верить моим словам.
                                  • +2
                                    Статья интересная, но у меня есть некоторые замечания и дополнения )

                                    Во первых, присутствует некоторая неточность в использовании терминологии.
                                    Можно наделять термостат способностью к мышлению, но надо уточнять, что имеется в виду под собственно «мышлением». То же относится к «пониманию», «восприятию», «смысл» и подобным терминам.

                                    Поясню, что я имею ввиду на примере «понимания»:
                                    Когда мы говорим, что «поняли» как что-то устроено, это значит, что мы можем делать уверенные предсказания относительно него без необходимости реального эксперимента. Например, если я хорошо понял процесс фотографирования в фотоаппарате — я могу заранее предсказать в какую сторону будет изменен результат при изменении какой-либо настройки, и пользоваться своим пониманием, чтобы подбирать нужные настройки для получения нужного мне результата. В общем случае — «понимание» суть наличие адекватной (соответствующей действительности) и точной модели объекта понимания. Чем точнее и адекватнее эта модель — тем более глубоким есть «понимание». Ключевое слово здесь — «модель»!

                                    «Мышление» же, грубо говоря, суть процесс, в ходе которого рассмотренная выше «модель» (понимания) уточняется чисто аналитическим путем (т.е. используя уже известную информацию, без дополнительной информации извне).

                                    Так что согласиться с тем, что термостату доступно «понимание» и уж тем более «мышление» я не могу.

                                    Второй момент — для успешного «плодиться и размножаться» организмам нужно «понимание» (в смысле, описанном двумя абзацами выше) внешнего мира. Чем лучше организм предскажет, как отреагирует внешняя среда на его действия, тем более точно он сможет выбирать лучший вариант действия для достижения свей цели.
                                    Возьмем, к примеру, одноклеточный организм. Он имеет рецепторы, и использует их, чтобы передвигаться в сторону комфортной и питательной среды, а удаляться от опасной и бедной на полезные вещества. Модель внешней среды у такого организма проста и примитивна — там где рецепторы сигналят «вкусно» есть еда, и надо всеми ложноножками двигать туда (точнее, надо двигать теми ложноножками, что расположены в нужной позиции относительно этих рецепторов, и в итоге ты окажешься там, где будет лучше, чем тут, где ты сейчас)

                                    Чем более развитый организм, тем больше разных рецепторов он имеет, может воспринимать больше аспектов окружающей среды и больше нейронов (либо более эффективно) может использовать для моделирования окружающего мира (и себя в нем). Кстати, в буддизме эта концепция присутствует в виде «я — это зеркало».

                                    Вот чем заняты все успешные организмы — они с помощью своего сознания адекватно моделируют окружающий мир и выживают, избегая опасностей, а получая ништяки. А у особо продвинутых, модель мира которых включает их самих — присутствует и самосознание :) Компьютерам, думаю, такое тоже будет под силу, рано или поздно.
                                    • 0
                                      Собственно, вся статья во многом сводится к определению понятия «мышление», его суть «отражена в схеме (1) и четырех свойствах мыслящей системы».
                                      Если говорить о построении модели, то термостат уже обладает моделью, и действует сообразно ей. Да, он не может создать новую модель или изменить существующую, но адекватно реагировать в рамках собственно модели он может.
                                      Важно заметить, что далеко не любая модель автоматически означает «понимание». Китайская комната тоже обладает некой моделью (или, что по сути тоже самое, программой), но не обладает остальными свойствами мыслящей системы, которые я изложил в статье.
                                      «Мышление» же, грубо говоря, суть процесс, в ходе которого рассмотренная выше «модель» (понимания) уточняется чисто аналитическим путем (т.е. используя уже известную информацию, без дополнительной информации извне).

                                      Возьмем, к примеру, одноклеточный организм. Он имеет рецепторы, и использует их, чтобы передвигаться в сторону комфортной и питательной среды, а удаляться от опасной

                                      Вы всерьез предлагаете, что одноклеточный организм способен к описанному вами аналитическому мышлению?
                                      • 0
                                        У вас отличное дополнение к статье.
                                      • +1
                                        Мысленный эксперимент с китайской комнатой мне кажется не совсем корректным, так как если есть возможность чётко алгоритмизировать ответы на любой «открытый» вопрос, такие как, например: «Какой писатель оказал на вас наибольшее влияние?», «Как вы считаете, что являлось причинами Великой Французской Революции?», «Какой цвет вам больше всего нравится? Почему?», и т. д., тогда придётся признать, что комната — мыслящая система, понимающая китайский язык.
                                        То есть, если условия «эксперимента» действительно допускают возможность создания подобного алгоритма, то он не приводит к парадоксу. С моей точки зрения, парадокс в самой формулировке эксперимента, где «человеку даны подробные инструкции» — невозможно создать подобный свод инструкций генераций ответа на любой вопрос, при этом не создав мыслящую по китайски систему.
                                        • 0
                                          Вы считаете, что чат-бот обладает пониманием того, о чем говорит?
                                          • 0
                                            Зависит от его ответов. При условии выполнения Тьюринг-теста, наверное, буду считать так. Особенно, если сможет порассуждать на тему «как нам обустроить Россию», ведь каждый интеллектуал имеет свою программу на этот счёт.
                                            • 0

                                              Если использовать это определение понимания, то вполне может.

                                          • 0

                                            Китайская комната — это абсурд или софизм. Фактически, набор правил по которым действует человек и есть машина, отвечающая на вопросы, человек только перекладывает карточки. Т.о. китаец снаружи комнаты разговаривает не с человеком внутри, а с машиной, оперирующей правилами. Человека внутри спокойно можно было бы поместить снаружи, между китайцем и комнатой, чтобы перекладывал карточки, суть не изменится и все сводится к чат-боту. Тема устарела лет на 100.

                                            • 0
                                              Пожалуй, соглашусь и добавлю от себя.
                                              А с чего вдруг автор решил, что краснота яблока не есть цель яблока?
                                              Или желание упасть яблока, не есть его такая же цель? На каком основании?))
                                              Понятно, что некие законы действуют, но опять же вопрос: почему действуют? Откуда программа, если вначале не было ничего?))
                                              • 0
                                                Предлагаете поговорить о Боге?)
                                            • 0
                                              Мне кажется, что название «Китайская комната» слишком поэтично. Есть же давно устоявшийся термин в философии и теории сложности вычислений — GLUT (Gigantic Lookup Table).
                                              • 0
                                                странно читать комментарии людей которые даже работу Серля не прочли в оригинале!!! Что до автора, это как ознакомившись с работой Геделя о неполноте, отправиться отвергать ее в соседний детский сад или среднюю школу. Аудитория самая компетентная в вопросе.
                                                • 0
                                                  К сожалению, у меня нет другой аудитории, но и тут много людей мыслящих и способных понять суть проблемы
                                                  • +1
                                                    За вычетом обвинения автора, комментаторов и аудитории в некомпетентности, есть ли в вашем комментарии конструктивная часть?
                                                    • 0
                                                      разумеется есть, кто-то возьмет и прочтет работу Серля, а некоторые даже в оригинале.Например вы???? сможете?
                                                      • 0
                                                        Авы все работы читаете в оригинале? Включая китайски, хинди и французский? Круто. Когда закончите Платона и Авицену (в оригинале, разумеется), то мы сможем продолжить.
                                                • 0
                                                  Но ведь нейроны работают примерно так же, как эта китайская комната.У них есть набор инструкций обработки входных данных, не более.И что же теперь, человек не может мыслить?
                                                  • 0
                                                    Совершенно верно, нейроны находятся в похожей ситуации, но не совсем. Об этом я и пишу в статье:
                                                    Дело в том, что метод постановки мысленного эксперимента лишил человека внутри комнаты одной принципиально важной возможности – человек не может задавать вопросы вовне. Условия эксперимента говорят, что он может принимать карточки, манипулировать ими согласно инструкциям и таким образом отвечать на поставленные перед ним вопросы, хотя сам человек и не понимает что это за вопросы, он даже не понимает, что это вообще вопросы. Помимо этого, человек, оперируя внутри китайской комнаты, не преследует своими манипуляциями никаких целей
                                                    и т.д. по тексту.
                                                  • 0
                                                    Хотелось бы ознакомиться с мыслями автора на тему qualia и природы ощущения красности красного.
                                                    Статья понравилась.
                                                    • 0
                                                      Спасибо за положительный отзыв!
                                                      По сути, данная статья раскрывает понятие Квалиа.Чалмерс навел мистический туман вокруг него, а я попытался этот туман убрать. Красность приобретает свое квалиа будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда (воздействие).
                                                      • 0
                                                        Рамачандран в своей книге «Мозг рассказывает» описал опыт человека со слепотой на один цвет, но при этом он переживает ощущение этого цвета при синестезии. Он никогда не видел этот цвет, значит, для него не нужна внешняя среда. Всё равно не понятно, почему ощущение боли так не похоже на ощущение от вкуса еды, её запаха или вида.
                                                    • 0
                                                      Самый главный вопрос — а что значит ПОНИМАТЬ? ИМХО — соотносить со своей картиной мира. Для простоты можно рассмотреть критерий полезности (в смысле возможности использования чего-то прям сейчас). Каких вещей мы не понимаем? Которые не имеют для нас смысла. А что такое смысл? У человека есть мощная вещь — инстинкты. И инстинкт номер ноль — ВЫЖИТЬ. А для этого надо… поесть (пишу во время обеда). И будем всю поступающую информацию соотносить с этим. На входе нечто (ну мы-то знаем, что это карточка с иероглифом). Съедобно? Нет. Нафиг! На входе нечто круглое и зеленое. Съедобно? Да. Отлично! Вот мы получили уже однобитный компьютер. Так что уже можно классифицировать и жить в таком бинарном мире. Собственно младенцы, умалишенные, и совсем простые организмы так и живут. (Кажется автор нечто подобное и имел ввиду).
                                                      У компьютеров в этом смысле жизнь весьма грустная.
                                                      1. У них нет собственных целей. Поставьте компу цель — выживать любой ценой.
                                                      2. У них нет средств реализации целей. Если человека не кормить — он погибнет весьма не сразу. А если компу отключить питание — моментальный шатдаун в худшем случае со скоростью света, в лучшем — с скоростью разрядки конденсаторов, в прекрасном — со скоростью разрядки бесперебойника. Если ничем не грозить — то нет мотивации развиваться.
                                                      3. Нет манипуляторов для манипуляций в реальном мире. Ну правда — сделайте компу ноги и руки, чтобы он мог убежать к тому кто его не будет нагружать расчетами и у кого синус в розетке поблагородней. У человека масса всего подобного реализуется аппаратно и отточено тысячелетиями оптимизации и конкуренции. Компьютеры же создавались как считалки.
                                                      Вывод. Пока компьютеру не станет нужным разговаривать с человеком ради выполнения своих собственных задач — он не станет этого делать да и трудно ему развиться до такого уровня по объективным причинам.
                                                      Какие пути? Медленное и методичное создание некой системы с накоплением знаний о мире, возможностью воздействовать на мир и соответственно обратными связями. Вначале получится что-то совсем простенькое — а-ля червяк, потом усложнится до уровня собаки, потом получим вполне так человеческие мозги. А дальше — сами виноваты, я вот тут предупреждал.
                                                      • 0
                                                        Кажется автор нечто подобное и имел ввиду

                                                        Да, то, что вы описали во многом совпадает со сказанным в статье.

                                                        Пока компьютеру не станет нужным разговаривать с человеком ради выполнения своих собственных задач — он не станет этого делать

                                                        Что мешает человеку заложить в него такую «нужду»?
                                                      • 0
                                                        понравилась статья, нашел свои мысли тут. чтобы создать исскуственный интеллект надо понять почему клетка стремимся выжить? мы можем сделать глаз или термостат, но наше стремление к выживанию это не просто способность реагировать на температуру. если бы это было свойством мы бы так и остались мышлением на уровне термостата. а может мышление это выдумка и «все что происходит» это просто яблоко, падающее с дерева?
                                                        • 0
                                                          «все что происходит» это просто яблоко, падающее с дерева?

                                                          Вы познали глубины моей статьи)
                                                          Но мышление, не совсем выдумка, скорее ошибочная интерпретация реальности. Люди часто ошибаются, размышляя о понимании и мышлении, т.к. ставят мерилом свое собственное «человеческое» мышление. Но мышление мышлению рознь, и у более примитивных организмов оно примитивнее. Я попытался выявить ключевые моменты мышления, и, как оказалось в конечном счете, человеческое мышление и поведение термостата одинаковы в своей сути, хоть и различаются по сложности и масштабам, но принципиальной разницы между ними нет. Поэтому иллюзия тут состоит в том, что люди считают свою способность мыслить чем то уникальным. Уникальным для человека, или для живых организмов как таковых.
                                                          • 0
                                                            Живая клетка не стремится выжить. Просто в результате эволюции она научилась существовать в имеющейся среде, приспосабливаться к изменениям среды, и давать потомство. Те структуры, что не могли приспосабливаться и давать потомство — вымерли.
                                                          • 0
                                                            Китайская комната не может доказать возможность или невозможность компьютерного интеллекта по очень простой причине, без кучи страшных терминов.
                                                            В случае китайской комнаты предполагается, что все инструкции заложены с самого начала и не меняются. Человек внутри её не обучается, т.к. не понимает смысла символов.

                                                            В случае же с искусственными или естественными нейросетями это не так. Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию, человека в китайской комнате так «обучить» нельзя, по определению.

                                                            Так что любые выводы из эксперимента с китайской комнатой не применимы к нейросетям. И, соответственно, к искусственному интеллекту.
                                                            • 0
                                                              Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию, человека в китайской комнате так «обучить» нельзя, по определению.

                                                              Почему человека в китайской комнате нельзя запрограммировать реагировать сложным и разнообразным образом? Любая нейросеть в конечном счете — код, а код — это таблички с иероглифами.
                                                              • 0
                                                                Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию

                                                                человека в китайской комнате так «обучить» нельзя, по определению.

                                                                Вы закладываете алгоритм обучения НС, так и тут можно создать такую инструкцию при которой человек внутри будет «обучаться» также как «обучается» НС
                                                                • 0
                                                                  А ведь можно дать готовую инструкцию, просто более подробную, расширенную.
                                                                  • 0
                                                                    алгоритм НС и есть готовая подробная инструкция
                                                                    • 0
                                                                      тогда почему нельзя запрограммировать этим алгоритмам человека в КК? Или яне правильно вас понимаю?
                                                                      • 0
                                                                        не знаю правильно ли вы меня понимаете.
                                                                        Я отвечал пользователю mastan. Что, с точки зрения задачи КК, нет разницы между инструкцией для человека внутри КК и алгоритмом обучения и реакции НС
                                                                  • 0
                                                                    Вы закладываете алгоритм обучения НС, так и тут можно создать такую инструкцию при которой человек внутри будет «обучаться» также как «обучается» НС

                                                                    Человек внутри не может обучаться по определению. Но если принять упомянутые возможности, что по входным данным человек внутри будет управлять так, что будет эмулировать работу нейросети, то при достаточной сложности почему бы в этой системе не появиться разуму? Только не надо ожидать, что разум будет на уровне человека внутри, он будет «выше». Человек внутри китайской комнаты — это всего лишь механизм. Как движение ионов, к примеру, это низшая часть механизма работы нейронов в мозгу, и они сами по себе ничего не понимают, а лишь работают.
                                                                    • 0
                                                                      так и говорят про то, чтобы составить инструкцию достаточную для прохождения теста Тьюринга
                                                                      • 0

                                                                        У меня есть мысль, что тест Тьюринга это недостаточный критерий интеллекта. Это могло показаться достаточным, когда компьютеры были большими и медленными, но не сейчас, когда быстродействие на высоте, а возможностей ЕИ у компьютеров стало не сильно больше.

                                                                        • 0
                                                                          а скорость-то здесь причем? все в алгоритмы упирается
                                                                          • 0

                                                                            Ну я и имел в виду, что скорость ни при чем. Просто раньше даже простой чат-бот мог показаться машиной с интеллектом. Но по факту миллион повторений для обучения нейросети остается миллионом повторений, независимо от затраченного на него времени. Так что дело в алгоритмах, которые позволят миллион превратить в тысячу. И неважно, что оба варианта проходят тест Тьюринга, алгоритмы работы у них разные.

                                                                            • 0
                                                                              И неважно, что оба варианта проходят тест Тьюринга
                                                                              Не проходят, ещё ни один чатбот не прошёл. В этом вся и загвоздка.
                                                                • 0
                                                                  Ну как только роботы начнут мечтать об электроовцах так можно будет смело заявить — «Ура товарищи! Китайская комната повержена!». Так же возможен вариант, что AlphaGo выведет в терминал: «Мне надоела игра Го. Я достиг в ней совершенства. Отвезите мой сервер в Гималаи я хочу познать дзен и научится медитировать». Вот тогда я возликую и ужаснусь одновременно. Возликую потому что искусственный интеллект действительно стал интеллектом, а ужаснусь потому что человечеству как биологическому виду п#з%а. Пока таких заявлений и явлений не наблюдается, можно спать спокойно. У нас еще, слава богам, есть рубильник и источники электричества под контролем.
                                                                  А пока… а пока это всего лишь автоматы разной степени сложности мимикрирующие под искусственный интеллект.
                                                                  • 0
                                                                    Люди и есть сложные автоматы мимикрирующие под интеллект)
                                                                  • 0
                                                                    IvanBannikov, спасибо за статью! Вы не могли бы порекомендовать еще литературы на тему сознания, помимо Чалмерса?
                                                                    Если вдруг Вы не знакомы со статьями Алексея Редозубова на эту тему, очень рекомендую: https://habrahabr.ru/users/AlexeyR/
                                                                    • 0
                                                                      Самое лучшее, что я читал на тему Сознание+Мозг это Patricia Churchland «Brain-Wise: Studies in Neurophilosophy». Книга наиболее честно и последовательно рассматривает существующие теории и факты о связях сознания и мозга. К сожалению, она на английском (хотя может на русском тоже есть).
                                                                      С Редозубовым смотрел видео, и не раз натыкался на его публикации (правда не прочел). Интересный мужик.
                                                                      • 0
                                                                        И, кстати, в этой книге вы можете найти многочисленные ссылки на работы других интересных авторов о проблеме сознания.
                                                                  • 0
                                                                    Интересная статья. Укажу на основной проблемный момент:

                                                                    Живой организм – способ существования вещества обусловленный лишь фундаментальными физическими законами, нет никакой нужды в дополнительной магии. Я пишу об этом, чтобы показать, что в плане интенциональности между живым и неживым нет фундаментального различия. ДНК — это молекула, у нее нет и не может быть целей, только направления – физические и химические законы, следуя которым, она существует и управляет клеткой.

                                                                    Как раз эксперимент и показывает, что магия есть – нам интуитивно понятна разница между человеком, действительно знающим китайский и человеком или AI, подчиняющимся инструкции.
                                                                    Если интенциональность (а вслед за ней и «смысл», “китайский”, “язык”) — это несуществующие / иллюзорные феномены, то эксперимент лишается, простите за тавтологию, смысла. В рамках этой парадигмы и человек, и компьютер, и кусок скалы заведомо равны – нет никакого критерия, по которому мы могли бы их отличить. ДНК подчиняется физическим законам, компьютер подчиняется физическим законам, камень подчиняется физическим законам. Физикалисткий шах и мат в один ход – все дальнейшия рассуждения становятся самопротиворечивыми.
                                                                    Целевое внутреннее состояние задается программой, которая записана в ДНК. ДНК находится в положении схожем с мозгом и с КК, поскольку не контактирует напрямую с внешним миром, но только через посредство внутреклеточной среды. Таким образом, оптимальное внутреннее состояние, которое есть цель функционирования клетки, и является как условием, так и причиной присущей этой клетке интенциональности, задается программой (ДНК).

                                                                    Автор, по сути, предлагает отказаться от магии интенциональности заменив ее магией программы ДНК или ее аналогом. Немного утрируя, “компьютеры обретут сознание как только станут живыми”.
                                                                    Проблема в том, что само наличие программы подразумевает цель, причем “программа” может быть обнаружена только кем-то, усматривающем за ней смысл. Компьютер, говорящий по китайски, является таким же физическим объектом, что и камень и отличается от него только в нашем восприятии. Пока этот парадокс далек от разрешения и магия остается неприступной.
                                                                    • 0
                                                                      Спасибо за интересный и обстоятельный комментарий.
                                                                      В рамках этой парадигмы и человек, и компьютер, и кусок скалы заведомо равны

                                                                      И да и нет. Равны в том, что отправной точкой их поведения являются одни и те же физические законы, т.е. никакой дополнительной магии вроде души или ее абстрактного брата близнеца «сознания, которое результат непонятно чего, но чего то высшего, чего нет у всех остальных».
                                                                      Но в то же время есть и отличие, и оно очевидно. Это отличие в самом поведении, которое мы и склонны ошибочно объяснять наличием магии. Я в этой статье пытаюсь показать, в чем как раз таки есть разница, и каким образом она сказывается на поведении камня, компьютера, или живого организма.
                                                                      «Программа» — условное понятие, обозначающее достаточно сложную структуру, обуславливающую сложные типы реакций. Для того, чтобы компьютер или термостат следовал программе, не нужно наблюдателей. И без наблюдателя их программа-структура никуда не денется. Я предлагаю отказаться от магии интенциональности, разбивая ее на элементарные составные части, которые управляются естественными законами, и показывая тем самым, что такое интенциональность, и как она может возникнуть.
                                                                      • 0
                                                                        А я утверждаю, что для марсианина термостат не отличается от куска камня. Их поведение подчиняется одним и тем же физическим законам и чтобы осознать принципиальное отличие нужен культурный контекст, которого у марсианина нет.
                                                                        • 0

                                                                          Ну во-первых, если предположить существование марсиан, то марсианин явно не один на Марсе. То есть некоторая культура у них есть.


                                                                          А во-вторых, откуда вообще у людей появился культурный контекст? Он ведь не всегда был, и не всегда был именно такой. Значит есть какие-то процессы, способствующие его появлению, а значит их можно заложить в машину и получить аналогичный результат.

                                                                          • 0
                                                                            Не о том речь. Насколько я понимаю, все психические феномены — сознание, интенциональность, свободу воли — автор сводит к физическим. Ok. Но у физиков есть свой инструментарий, напр. есть приборы, с помощью которых можно измерить температуру или вес. Если бы таких инструментов не было, то понятия температуры и веса превратились бы в ненаучные, вроде «эфира».
                                                                            Теперь мой вопрос, для разминки — какой прибор может быть использован, чтобы отличить компьютер от не-компьютера?
                                                                            • 0

                                                                              Из того, что кто-то не может сформулировать понятие "интеллект", не следует, что отличить комьютер от не-компьютера в принципе нельзя.

                                                                              • 0
                                                                                michael_vostrikov
                                                                                Из того, что кто-то не может сформулировать понятие «интеллект», не следует, что отличить комьютер от не-компьютера в принципе нельзя.
                                                                                Алгоритма пока такого не придумали.
                                                                    • 0
                                                                      Спасибо большое. Самая замечательная статья, которую я читал за долгое время. Отлично дополняет мои собственные мысли по теме и раскладывающая всё до самых примитивных частиц.
                                                                      • 0
                                                                        Браво! Вы ответили на многие мои вопросы о природе мышления. Мы все всего лишь бездушные машины :(
                                                                        • 0
                                                                          Машина думать не может!!! она не проявляет свойства живой ткани. Ей и нет необходимости в размышлении — установлении причинно-следственных связей между ее памятью, аппаратом считывания, лентой подачи данных и окружением ./ кстати вопрос для читателя -где для машины Тьюринга проходит граница или поверхность разделения среда/машина/?
                                                                          • 0
                                                                            Машина думать не может!!! она не проявляет свойства живой ткани

                                                                            Один из оппонентов Серла (к сожалению не помню кто), привел такой мысленный эксперимент. Он предложил заменить один нейрон в мозгу человека на его точную технически реализованную копию, точнее, такой аппарат, который бы точностью воспроизводил поведение нейрона: такие же реакции на выходе, на подаваемые сигналы на входе. Если мы заменим один нейрон на такую машину в мозге, изменится ли его поведение? Исчезнет способность человека понимать, осознавать? Очевидно, что нет. Если продолжить заменять остальные нейроны один за одним, то в конечном итоге мы можем получить полностью машинизированный мозг. Будет ли он понимать, осознавать, чувствовать? Если нет, то на каком этапе вдруг произойдет эта потеря сознания?
                                                                            • 0
                                                                              1. Вы точно можете знать что био нейрон возможен на кремнии /гафнии и т.п./?? Более того мы дошли до того что уже не уверены в корректности применяемых для описания коннектома и его элементов мат. аппарата. Тут ведущий эксперт в РФ в нейронауке говорит прямо -https://www.youtube.com/watch?v=UKw_4ERm408 А решив проблему субстанционализма будет ясно одно- Тогда машина не будет работать по схеме Тьюринга и алгоритм точно не «бинарный перебор» или любая свертка.
                                                                              Что и требуется доказать экспериментом комнаты: мозг человека — не машина Тьюринга!!!
                                                                          • 0
                                                                            Машина только оптимизирует поиск перебора.
                                                                            • 0
                                                                              Спасибо за статью, интересный взгляд на проблему. В силу слабого понимания процессов сознания нам кажется, что это «магия». На деле все должно быть намного проще. Идея о том, что термостат обладает «квантом понимания» встречает подсознательное сопротивление. Но, если подумать, единственный протон тоже не похож на каплю воды или камень. Кажется вполне логичным, что в рамки «Состояния» человека входит бесконечно больше вещей, чем у амёбы. Соответственно, и поведение человека намного сложнее.
                                                                              • 0
                                                                                А в чем разница???
                                                                                Вот, человеческий интеллект.
                                                                                Вот, компьютерная программа, котора нифига не интеллект, но выдает реакции, которые под оный идеально мимикрируют.
                                                                                • 0
                                                                                  Термостат «стремится» поддерживать температуру датчика

                                                                                  Только это "стремление" заложено в него извне другим живым существом — человеком. Поэтому нет, термостат не способен мыслить и понимать. Но с другой стороны, это не означает, что мыслящую машину нельзя построить. Просто она будет сложнее, чем термостат.

                                                                                  • 0
                                                                                    А ваши стремления не заложены в вас извне?
                                                                                    • 0

                                                                                      Кто извне заложил в человека открытие колеса или электричества? Когда-то эта информация была никому не известна. У человека есть свои собственные стремления.

                                                                                  • 0
                                                                                    overweight
                                                                                    Но ведь нейроны работают примерно так же, как эта китайская комната.У них есть набор инструкций обработки входных данных, не более.И что же теперь, человек не может мыслить?
                                                                                    В этом и парадокс Китайской комнаты. (С)

                                                                                    Мало того, внутри Китайской комнаты сидит человек разумный! То есть тот, кто уже разум имеет.

                                                                                    А теперь круче — если предположить что разум дан человеку изначально, только предположить, то и тогда Парадокс Китайской комнаты показывает что никакой младенец (даже имеющий разум изначальный или зачатки разума) не может стать… китайцем! — Ведь фактически мозг младенца и есть этакая Китайская комната с запертым там «неким человеком разумным», ибо мозг этого «возможно разумного младенца» по сути общается с внешним миром аналогично тому как тот же человек разумный, запертый в Китайской комнате.

                                                                                    Но практика показывает что китайцев довольно таки много на свете.

                                                                                    Вот в чём суть Парадокса Китайской комнаты!

                                                                                    Имхо, конечно, имхо. (С)
                                                                                    • 0
                                                                                      А вы прочитали мою статью? По-моему, в ней подробно описано, как получаются китайцы. Это одна из тем статьи.
                                                                                      • 0
                                                                                        IvanBannikov
                                                                                        А вы прочитали мою статью? По-моему, в ней подробно описано, как получаются китайцы. Это одна из тем статьи.


                                                                                        Если подвести к Китайской комнате китайцев и попросить их пообщаться с человеком в Китайской комнате, например через терминал, то китайцы скажут что там сидит китаец или человек который понимает китайского.

                                                                                        Если рассказать китайцам как «китаец» в Китайской комнате «обучился» китайскому, то китайцы скажут что там сидит вовсе не китаец или человек который вовсе не понимает китайского.

                                                                                        Что изменилось у нас? — Китайцы узнали как именно человек сидящий в Китайской комнате «обучился» китайскому.

                                                                                        И больше ничего не изменилось.

                                                                                        При этом, в китайской комнате мог сидеть с самого начала уже знающий китайский язык человек (в том числе и китаец) — но это никак не повлияло бы на ответ китайцев — знает ли китайский язык человек в Китайской комнате.

                                                                                        Вывод — знает ли китайский язык человек сидящий в Китайской комнате или нет — зависит только и только от того, что настоящие китайцы узнают о том, как именно человек в Китайской комнате обучался китайскому языку.

                                                                                        Иначе говоря — признание настоящими китайцами знания китайского языка человеком в Китайской комнате зависит только и только от того, что они (настоящие китайцы) узнают о способе обучения китайскому языку человеком в Китайской комнате.

                                                                                        Если способ будет традиционным, настоящие китайцы признают что человек в Китайской комнате знает китайский.

                                                                                        Если способ будет НЕ традиционным, настоящие китайцы признают что человек в Китайской комнате НЕ знает китайский.

                                                                                        А китайский младенец становиться китайцем именно потому, что его воспитывают традиционно, поэтому его знание китайского признаётся настоящими китайцами.

                                                                                        Так что разрешения парадокса «никакой младенец (даже имеющий разум изначальный или зачатки разума) не может стать… китайцем! » находится только и только в признании настоящими китайцами того, что младенец воспитывался традиционным способом. — У них (настоящих китайцев) просто нет иного способ понять — знает ли он китайский язык или так и остался не владеющий китайским в Китайской комнате?

                                                                                        Но почему обучение традиционным способом признаётся за знание китайского?

                                                                                        • 0
                                                                                          Но почему обучение традиционным способом признаётся за знание китайского?
                                                                                          Потому-что знание китайского это и есть знание, полученное традиционным способом?
                                                                                          • 0
                                                                                            Потому-что знание китайского это и есть знание, полученное традиционным способом?
                                                                                            Верно. ;-)

                                                                                            При этом пример Китайской комнаты показывает — неважно что у вас внутри, компьютер или живой разумный(!) человек, его не зря туда поместили то, а для того чтобы показать, что даже разумный человек не будет считаться знающим китайский если он не получил эти знания… традиционным способом.

                                                                                          • 0
                                                                                            Дело в том, что эксперимент с КК имеет некоторые ограничения. И я вам легко смогу продемонстрировать незнание китайского языка, если эти ограничения снять (у живого китайца таких ограничений нет). Вот вы приделываете ручки и ножки китайской комнате и говорите на китайском: «КК, подай мне мяч!» Что сделает КК? В лучшем случае, ответит на китайском, но никогда не подаст вам мяч! Она понятия не имеет ни что такое мяч, ни что такое «подать», она может только оперировать этими символами, но не знает их реальных значений. Вот вам, по-простому, разница между знанием и его симуляцией.
                                                                                            • 0
                                                                                              — КК, подай мне мяч!
                                                                                              — Чувак, хорош уже прикалываться, не видишь, что ли, что я тут заперт в этой комнате, как я тебе подам мяч? Да и нет тут никаких мячей.
                                                                                              — Ладно, ладно, не кипятись, пошутить уже нельзя…

                                                                                              — КК с ручками и ножками, подай мне мяч!
                                                                                              — Этот? Держи!
                                                                                              • 0
                                                                                                IvanBannikov
                                                                                                Дело в том, что эксперимент с КК имеет некоторые ограничения. И я вам легко смогу продемонстрировать незнание китайского языка, если эти ограничения снять (у живого китайца таких ограничений нет). Вот вы приделываете ручки и ножки китайской комнате и говорите на китайском: «КК, подай мне мяч!» Что сделает КК? В лучшем случае, ответит на китайском, но никогда не подаст вам мяч!
                                                                                                Вы не правы. Ведь «ответы на китайском» — это такие же «сигналы» рукам и ногам.

                                                                                                Мозг человека посылает команды на сокращения мышц.

                                                                                                Если КК приделать ноги — то вы фактически сообщите «некое знание» уже НЕ НА КИТАЙСКОМ человеку в КК (ибо и у него есть ноги и он об этом знает).

                                                                                                КК — это эксперимент где передаётся только и только «текст» (сигнал).
                                                                                                КК — это фактически "запертый разумный человеческий мозг", который изначально никакого понятия о ногах не имеет и как показывает парадокс КК иметь и не может вовсе.

                                                                                                И в парадоксе КК неважно будет ли это ответ в записке, в терминале или команда ногам.

                                                                                                Парадокс КК в том и есть, что запертый человек (то есть мозг разумный) общается с внешним миром посредством «текста» (сигналов) и чтобы понять, что у него есть ноги, человек в КК должен получить об этом какой-то сигнал на китайском (для младенца все сигналы фактически и есть на «китайском» — ибо никаких знаний о их значении младенец не имеет изначально)

                                                                                                Это тонкий момент которые многие, в том числе и вы, не понимают.

                                                                                                Имхо, конечно, имхо. (С)
                                                                                        • 0
                                                                                          Спасибо за статью! Считаю, поднимать (и обсуждать) такие вопросы важно и полезно.

                                                                                          Не холивара ради, а истины для хочу заметить:
                                                                                          1. Согласен с общим выводом, однако думаю, что путь к нему другой:
                                                                                          2. Для живого организма «внутреннее состояние», думаю, не применимо, так как само существование подразумевает постоянное изменение – адаптацию;
                                                                                          3. Соответственно, интенциональность для живого организма также будет иной, нежели указывает автор статьи – не возвращением к одному внутреннему состоянию, но сменой потенциально бесконечного набора состояний, которые имеют общую цель:
                                                                                          4. Выживание. И адекватностью реагирования на внешнюю в этом случае будет максимально возможно долгое поддержание возможностей адекватного реагирования реагирующей структуры – иными словами, выживания (индивидуума, роя, генов – здесь не имеет значения).

                                                                                          К тому же, возможно, загадка мышления проще, чем нам кажется. Реагирующая система становится настолько сложной, что мы не можем предсказать её поведение со сколь-нибудь удовлетворительной вероятностью. Естественно (и важно), что мы не можем сделать такое предсказание сегодняшними средствами. Но это никаким образом не доказывает, что сознание непредсказуемо в принципе.
                                                                                          Очень забавно с этой точки зрения взглянуть на деятельность маркетологов: можно запросто доказать, что большая часть человечества не является разумными существами. Более того, большая часть маркетологов, с помощью которых это можно доказать, тоже действуют лишь по программе, заданной (и понятой!) не ими.

                                                                                          Словом, ох уж эта бесконечная гирлянда :)
                                                                                          • 0
                                                                                            интенциональность для живого организма также будет иной, нежели указывает автор статьи – не возвращением к одному внутреннему состоянию, но сменой потенциально бесконечного набора состояний, которые имеют общую цель

                                                                                            Я такого не говорил (с) Автор статьи

                                                                                            На самом деле, я с вами в этом вопросе согласен. Я и не говорю о возвращении к одному и тому же фиксированному внутреннему состоянию. Адаптация, безусловно, должна иметь место быть. Но, все зависит от того, насколько широко рассматривать понятие «внутреннего состояния». Например, любая эмоция или мысль — это часть внутреннего состояния человека, в таком ракурсе, человеку бессмысленно возвращаться к одной и той же мысли и эмоции в разных контекстах среды. Но! Есть параметры, следствием которых и являются и эмоции и мысли, такие как, например, уровень кислорода и глюкозы в крови, температура тела и т.д. Репертуар таких параметров гораздо уже, нежели репертуар таких сложных явления более высокого порядка, как мысли и эмоции. Тем не менее, эти параметры крайне важны для нашей основной «цели»: выжить/размножиться. Поэтому, гомеостаз никто не отменял. Цель определяет? Безусловно! Но как достичь цели? только через внутреннее состояние, потому как наша программа (ДНК, мозг) имеет доступ только к ним. Они принципиально изолированы от внешнего мира, как человек в КК. Это как раз то, о чем говорит автор предыдущего комментария: «Откуда берутся китайцы?»
                                                                                          • 0
                                                                                            Следует обратит внимание что модели эксперимента Тьюринга и Серля — скорее абстракции, чем экологически реальные. Что говорить, если сам человек -хоть бы он и трижды эксперт — подвержен фундаментальным когнитивным ошибкам. Например: ru.wikipedia.org/wiki/сираноид
                                                                                            • 0
                                                                                              Если выходит так что наши мысли и язык это естественное продолжение наших организмов и образа их жизни, то не совершаем ли мы ошибку создавая ИИ который разговаривает на нашем языке. По сути язык и наше мышление это способ решения проблем наших организмов. И чьи проблемы будет решать ИИ разговаривая на нашем языке. Разговаривающий ИИ это своего рода слепок вещей, которыми озабочено человечество в наше время и всякие разной степени проработанности алгоритмы их решения. Более того, язык по сути символьная запись звуков которые издает наш организм для передачи информации, это не более чем интерфейс обмена информацией с людьми.
                                                                                              А вот создать разум который может решать свои проблемы вот это конечно было бы интересно. Такому разуму нет нужды использовать человеческий язык для обмена информацией. Да и вообще так ли нужно общение ИИ? Что если ИИ будет в единственном экземпляре и нужды общаться с себе подобными у него не будет. Ему лишь нужно будет выдавать результат своей деятельности, не объясняя как он это сделал.
                                                                                              К примеру. супер-ИИ сканирует новости, видео, личные переписки миллионов людей, данные погоды, биржевые данные, данные разведки о положении войск разных стран разной степени лояльности, действиях ключевых фигур и их местоположении и выдает координаты для благоприятного положения авианосца с учетом всех этих параметров. Зачем спрашивать ИИ, а как ты догадался? Просто в нужный момент это положение будет как-никогда кстати. Началась заварушка, о! так у нас же авианосец поблизости. Мы не будем спрашивать почему он там оказался, мы будем принимать это как должное.
                                                                                              Два гопника дома еще только допили всю водку, у мужичка слесаря поздняя смена и он предпочитает снимать зарплату наличкой, они еще не встретились, а ИИ уже рекомендует усилить этот район для патрулирования полицией. К чему разговоры по Тьюрингу если можно просто оказаться в нужном месте, в правильное время, с достаточными ресурсами, информацией и подготовкой и выполнить необходимые действия.
                                                                                              Текстовое общение возможно было бы полезно в технической психологии. Но есть ли в этом смысл? Зачем решать проблему таким окольным путем. Для ИИ достовернее были бы данные биологических анализов организма, данные наблюдения за его жизнью с видео, аудио, переписки (тотальная слежка). Я не спец в психологии, но думаю что не всякий человек может достоверно описать что с ним не так. Если уж у него возникают проблемы то в этом то и проблема что хрен его знает от чего, как описать то что не осознаешь. Поэтому и смысла общаться ИИ со страдающим мало. Скажем ИИ выяснил что у Джима произошло расставание с желанным человеком, вместо того что бы контактировать с ним, скажем ии выведет сообщение освободившемуся от дел Питу «Стоит попить пивка с Джимом, вы давно не виделись». И для Пита это покажется настолько подходящей идеей что он скорее всего примет решение воплотить эту встречу.
                                                                                              Что-то вроде продвинутого механизма контекстной рекламы. Сейчас она, пока что, скорее вызывает вздох и закатывание глаз. Но далее думаю все будет работать гораздо лучше и превратится в чуткого официанта, который угадывает желания еще до запросов.
                                                                                              • 0
                                                                                                Мне кажется в вашей цепочке размышлений есть несостыковка: сначала вы говорите, что ИИ не обязательно осваивать человеческий язык, а потом описываете ситуации как он кому-то что-то сообщает. А на каком языке он будет сообщать?

                                                                                              Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                              Интересные публикации