О сознании и искуственном интеллекте

    Тема обретения искусственным интеллектом сознания стала фактически общим местом современной фантастической литературы и кинематографа (достаточно упомянуть Азимова, «Терминатора», «Призрак в доспехах» et cetera ad infinitum). Меж тем мало кто из фантастов задумывался над тем, что же такое сознание, как возникло сознание у человека и каким образом ИИ может это самое сознание обрести.
    В данном эссе нам хотелось бы обратить внимание на одно очень интересное (и, на наш взгляд, весьма правдоподобное) определение упомянутого феномена, которое дал не фантаст и не философ, а ученый-эволюционист Ричард Докинз в своей книге "Эгоистичный ген".

    Докинз рассматривает человеческий мозг как универсальный построитель математических моделей реальности. В главе 4 он пишет:

    Эволюция способности к моделированию, очевидно, привела в конечном итоге к субъективному осознанию. Почему это должно было произойти, представляется мне глубочайшей тайной, стоящей перед современной биологией. Нет оснований полагать, что электронные компьютеры действуют осознанно, когда они что-нибудь моделируют, хотя нам приходится допускать, что в будущем они, возможно, будут сознавать свои действия. Быть может, осознание возникает тогда, когда модель мира, создаваемая мозгом, достигает такой полноты, что ему приходится включать в неё модель самого себя.


    Эта идея — сознание как включение архитектора в построенную им модель — разумеется, далеко не бесспорна (и вполне вероятно, нефальсифицируема по Попперу). В пользу этой теории можно привести некоторые косвенные рассуждения. Например, рефлексия в философии (обращение субъекта на самого себя) считается одним из важнейших актов сознания.
    UPD. Еще один довод в пользу докинзовой гипотезы — существование аниматизма (веры в безличную одушевленность предметов и явлений), свойственного для многих (если не всех) первобытных обществ. В контексте теории Докинза, аниматизм возникает как попытка применить действующий способ моделирования поведения соплеменников к иным объектам.

    Предположим, что докинзова гипотеза верна. Попробуем взглянуть на ИИ, используя такое определение сознания; сделав это, мы несомненно придем к выводу, что никакой Скайнет нам в ближайшее время не грозит.

    В самом деле, для ИИ характерно четкое разделение предметной области и алгоритма работы самого ИИ. Это разделение идет, если угодно, еще от фоннеймановской архитектуры с ее разделением области команд и области данных.

    Но, даже если мы поместим в память ИИ сведения о принципах его собственного устройства, обретет ли ИИ сознание? Увы, нет. Эта информация — алгоритм собственной работы — абсолютно бесполезна для ИИ в том смысле, что на ее основе невозможно сделать никаких выводов, прямо или косвенно влияющих на точность моделирования и, следовательно, верифицируемость предсказаний, полученных на основе модели.

    Докинз умолчал в своей книге о том, зачем мозгу понадобилось включать самого себя в предметную область, т.е. какие выгоды получает архитектор от такого расширения модели. Мы попробуем ответить на этот вопрос.

    Анализ собственного поведения нужен живому организму для того, чтобы предсказывать поведение других особей и, прежде всего, представителей того же вида. Очевидно, что такой навык существенно повышает приспособленность индивида к жизни в стае. Логично предположить, что такая способность востребована более всего у тех животных, которые образуют более-менее крупные иерархические стаи с интенсивными общественными связями, — например, люди. (UPD: в комментариях Докинза можно найти ссылку на исследования Николаса Хамфри, который пришел к тем же выводам)

    И это второй веский аргумент в пользу того, что никакого сознания у ИИ в рамках существующих технологий появиться не может. ИИ не общается с себе подобными и вообще не имеет общественных связей, умение анализировать собственную программу абсолютно бесполезно для него.

    Итак, общий вывод примерно следующий: если принять докинзову гипотезу, то в рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, сколько бы там нейронов не удалось смоделировать.



    Настоящим передаю вышеизложенный текст в общественное достояние.
    Поделиться публикацией
    Реклама помогает поддерживать и развивать наши сервисы

    Подробнее
    Реклама
    Комментарии 312
    • +2
      Интересная идея. Только вот что помешает компььютеру достигнуть такой сложности модели? Что помешает ему проанализировать собственное поведение (не исходники, а именно нюансы поведения)?
      • –1
        Помешать — ничего не помешает. Хоть сейчас.
        Но эта информация для компьютера бесполезна.
        Основная цель моделирования — прогнозирование дальнейшее развитие ситуации, давать верифицируемые предсказания. Наличие в базе знаний собственного алгоритма никак не поможет компьютеру делать более точные прогнозы.
        • +10
          Секундочку. Вы рассуждаете как человек. ИИ же может иметь свои понятия о «полезности». И свои изобретения. Например оптимизация собственных алгоритмов или взлом компьютера автоваза для производства больших человекоподобных роботов.
          • +11
            огромных роботов. огромных!
            • +1
              Скажем так, человек развивается в условиях давления внешнего фактора (отбора). Поэтому развитие какой-либо способности (например, сознания) напрямую зависит от того, насколько эта способность позволяет выжить. Соответственно для развития сознания ИИ необходима подобная положительная обратная связь.
              • 0
                Прочитав слово отбор в вашем комментарии и вспомнив про то, что программы можно научить размножаться с модификациями кода, задумался, можно ли наладить процедуру отбора среди ИИ.
                • +1
                  Дело в том, что дело не просто в отборе, извините за тавтологию.
                  Естественный отбор представляет собой внешний фактор статистической выбраковки генетической информации. То, что действует он в виде «выживания наиболее приспособленных» — это, по сути, частность. Придумать подобных факторов можно немыслимое количество, но вот сделать так, чтобы под действием этого фактора происходило качественное усложнение генетического материала — задача далеко не такая простая, как кажется.
            • +1
              Проблема полезности мигом решается, если следовать эволюционной парадигме до конца. Полезно для организма/ИИ то, что ведет его к некой цели, заданной направляющей силой (т.е. законами природы в первом случае или инженером — во второй). А ежели оно к этой цели не приходит, значит уничтожается (отбор в любой форме, естественный или искусственный) и делается новый прототип, для которого его внутренняя «полезность» более совпадает с внешними обстоятельствами.

              Поэтому для волка полезны острые зубы, для садовой земляники — быть вкусной, а для программиста — интеллект, а не наоборот :)
          • 0
            Мне тоже всегда казалось, что наличие самосознания и самоанализа — одно из необходимых условий существования сознания. Есть ли другие необходимые условия, кроме адекватной целям модели мира?
            • 0
              Не знаю. Мне неизвестно о существовании каких-то серьезных исследований в этом направлении, помимо упомянутого Докинзом в примечаниях Деннетта, который, судя по краткому описанию Докинза, скорее занимался проведением параллелей между человеческим и искуственным интеллектом, нежели исследованием собственно феномена сознания.
            • +8
              Проблема заключается в том, что проверить наличие сознания даже у сущности, которая, бесспорно, ей обладает (например, вы), сторонний наблюдатель (например, я) никак не может.

              Единственная сущность, наличие сознания у которой для меня очевидна — это я сам. Кроме того, я допускаю наличие сознания у вас, Васи, Пети, Маши, Иры и Светы в силу того, что мы все-таки одного вида и одинаково устроены. Даже вопрос наличия сознания у собчаки и дельфинчика до сих пор открыт — чего уж говорить об искуственном интеллекте.

              Кроме того, на самом деле, сознание — это своего рода фетиш техноэпохи, попытка допрыгнуть до Б-га. По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная. Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

              Интеллект не обязательно определяется наличием сознания. Интеллектуальные системы (даже самообучающиеся) не обязательно должны осознавать сами себя, хотя, вполне возможно, по мере роста опыта системы она придет к мысли о том, что существует (как это уже было с человеком).
              • 0
                Кстати, хотелось бы услышать определение сознания. Желательно, взятое не из википедии.
                • +2
                  Вряд ли можно дать четкое определение сущности, о которой известно очень мало.
                  • –1
                    Можно попробовать.

                    Например, так.

                    Сознание — комплекс механизмов, вызывающих у сущности ощущение идентичности с определенной частью мира.
                    • +2
                      Да что блин за чушь, надоело!!!

                      Если есть слово, есть понятие. Оно может быть определено четко, а может расплывчито. Чем чётче тем лучше, вот и вся наука.

                      Меня тоже напрягает эта туфта «сознание», «бог» (Б-г), когда никто для начала не рассказал о чём речь. Наша вселенная начинается с аксиоматики.
                      • 0
                        Хм. Не дадите ли определение «множества»?
                        • 0
                          *чувствует подвох в вопросе*

                          попробую,

                          «количество единиц, >= 2-х» :)
                          • +4
                            *чувствует подвох в вопросе*

                            Не зря.
                            «количество единиц, >= 2-х» :)

                            Натуральные числа как раз определяются в математике как мощности конечных множеств. Нельзя через них определять множество.
                            Начните хотя бы с Вики: ru.wikipedia.org/wiki/%D0%9C%D0%BD%D0%BE%D0%B6%D0%B5%D1%81%D1%82%D0%B2%D0%BE
                            • 0
                              Нельзя через двойку, как выше заметили.
                              Что такое «единица» не определено.
                              Ну и наконец бывают пустые множества и множества из одного элемента. (Да-да, что такое «элемент» не определено тоже)

                              А всё дело в том, что для построения определений используются слова. Через слова выражаются некоторые понятия и их тоже надо определять. Ну и так как слов (естественного языка) конечное количество, нужно некоторое начало. Базовые, интуитивно понятные слова.
                              • 0
                                Об этом обычно мало кто догадывается. Вот «право» — совокупность правовых норм, а «правовая норма» — составная часть права. И ничего, живут как-то :-)
                                • 0
                                  Да, на всякий случай, понятия «множество» и «элемент множества» и есть те самые базовые понятия. Для математики, конечно.
                                  • 0
                                    Так, прежде всего я уважаю накопленный опыт человечества. Но люблю и свой небольшой накопать:)

                                    Ну матиматическое множество оно пусть так. Но почему оно первично? Разве не единица первична? Единица — это любой объект, который мозг может отделить от фона. Соотвественно 2...N — это 2...N объекта, сгрупированных (выделенных) по какому-то общему признаку. Вот и множество)

                                    Хотите называйте единица, хотите элемент. Возможно, я несостыковался с принятыми терминами но мне кажется суть тут одна.
                                    • 0
                                      Единица — это любой объект, который мозг может отделить от фона.

                                      Вы заменили слово «множество» на слово «фон», и не более того.
                                      • 0
                                        ну ок. Также те, кто назвал это «множеством» заменили слово «Всё известное человеку» на «множество»… Ну чтож, мейкс сенс… С новым годом)
                                        • 0
                                          Определение Кантора, разумеется, так же не является определением. Множество в математике — неопределяемое понятие. Множество — то, что мы понимаем под ним.
                              • +4
                                >> Наша вселенная начинается с аксиоматики.

                                нет универсальной аксиоматики и универсальной истины, это хорошо показал Курт Гёдель в своих теоремах о неполноте формальных систем
                            • 0
                              У сознания нет определения. Точнее, определений столько же, сколько исследователей, исследовавших сознание.
                              • 0
                                Тогда о чем речь в этой заметке?
                                • 0
                                  сознание — как суслик в ДМБ. оно есть, но определения дать никто не может.

                                  еще вариант — о каком-то частном определении сознания.
                                  • +1
                                    Нельзя говорить о том, что не имеет определения, потому что мы можем разговаривать о разных вещах.
                                    • +1
                                      правильно, поэтому в научной статье начинают с определения — чтобы не возникало непоняток.
                                      • +1
                                        И вот тут мы и приходим к парадоксу определений :).

                                        Кратко суть: нельзя дать однозначно дать определение самому «определению» потому что каждому слову из определения тоже нужно давать определение, а что такое определение никто не знает.
                                        • 0
                                          Можно идти от априорных понятий. Сознание таковым не является.
                                          • 0
                                            Конечно можно, просто все выводы будут ограничены рамками о которых мы и условимся в начале разговора.
                                          • 0
                                            да, поэтому нужны точки отсчета. например у античных материалистов — это пять чувств. у идеалистов — дух. у буддистов — таковость. и т.д. у каждого из них свое определение определения и сознания.
                              • +2
                                > сознания у собчаки
                                • +7
                                  сорри, рано отправил. Вы осознанно это ^^^ написали или опечатались? :)
                                • +1
                                  Кроме того, на самом деле, сознание — это своего рода фетиш техноэпохи, попытка допрыгнуть до Б-га. По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная. Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

                                  Вообще, на сколько я понимаю, существует множество задач, в которых максимально эффективное выполнение работы связано с наличием интеллекта, например: перевод текстов, общение с человеком на естественном языке и т.д. Поэтому, как мне кажется, ИИ вещь очень даже практически полезная.
                                  • +1
                                    Интеллект — на здоровье. Причем тут сознание? Это разные вещи.
                                    • 0
                                      Приведу пример из своего предыдущего поста:

                                      Способность общаться с человеком на равных без сознания не возможна, т.к. человеческий язык строился изначально сущностями обладающими сознанием (т.е. людьми), исходя из этого не возможен и сравнимый по качеству с человеческим машинный перевод текстов (все по той же причине, что полное понимание языка требует сознания).

                                      Если мы хотим добиться этих целей, то получается, что сознание не является свойством, которое просто появляется само собой у людей и не имеет никакой ценности в отношении машин обладающих интеллектом.
                                      • +1
                                        Мне все ваши аргументы видятся очень сильно надуманными.

                                        Кто вам сказал, что для перевода нужно сознание? Хорошо, пусть для перевода нужно понимание текста (что само по себе не обязательно) — но зачем для понимания сознание?

                                        Понимание — это выстраивание некоторой цепочки абстракций согласно тексту. Где здесь необходимость в сознании? Где необходимость осознавать собственное существование?
                                        • 0
                                          Кто вам сказал, что для перевода нужно сознание? Хорошо, пусть для перевода нужно понимание текста (что само по себе не обязательно) — но зачем для понимания сознание?

                                          Не могу согласиться, для перевода, понимание необходимо. Без него вы получаете то, что делают сейчас системы машинного перевода.
                                          Понимание — это выстраивание некоторой цепочки абстракций согласно тексту

                                          Если язык формален, как к примеру языки программирования — то да. Логических цепочек вполне достаточно. Хотя даже в этом случае я бы не стал говорить, что компилятор именно понимает язык программирования а не выполняет над ним механические преобразования (хотя цепочки он выстраивает конечно же).
                                          В случае понимания естественного языка, мне кажется необходимо нечто большее чем выстраивание лог. цепочек.

                                          Если сознание — это только понимание факта своего существование, тогда да — оно не так уж и важно. Но мне кажется, что понимание и сознания два тесно связанных между собою понятия.
                                          • +1
                                            Вот пока вам «кажется»- разговор бессмысленен.

                                            Надо подводить теоретическую базу, и тогда уже что-то решать.
                                            • 0
                                              Разве в этой области кто-нибудь знает что-нибудь точно?
                                              • +1
                                                Это вовсе не значит, что глубокие выводы можно делать на коленке.

                                                Скажем, чтобы сделать ваш вывод, нужны знания в лингвистике, культурологии и нейродинамике.
                                                • 0
                                                  Согласен, я лишь предположил основываясь на том, что я знаю.
                                  • 0
                                    Нефальсифицируемое определение сознания нужно выкинуть и придумать другое, фальсифицируемое.
                                    • 0
                                      >По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная

                                      Это только до тех пор, пока мы не хотим расширить свои мыслительные способности. Как только захотели — нужно придумывать такую электронную структуру, которая совместима с человеческим мышлением на уровне сигналов нейронов, и которая, в будущем, обязательно должна обладать сознанием.

                                      >Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

                                      Для машины, решающей конкретную задачу — да, но например я вполне хотел бы создать сильный ИИ, не как машину, а как другой разумный вид. Более того, подозреваю, что я не один такой. Так что появление сильного ИИ — вполне вероятно.
                                    • 0
                                      я вообще не понимаю проблему — рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, особенно ЭВМ, а что с ЭВМ не так?

                                      Если знать алгоритм работы то на ЭВМ можно запрограммировать все что хочешь

                                      так что архитектура ЭВМ подходит для решения всех алгоритмов

                                      если знать алгоритм взаимодействия нейронов, то почему нет?

                                      я не говорю что типа не хватит вычислительных ресурсов, это совсем другая тема

                                      если чисто теоретически проскандировать и запрограммировать работу каждого нейрона в голове конкретного человека, и то с чего вы взяли что это нельзя эмалировать в на ЭВМ?

                                      на деле это будет обычный дубликат вашего сознания и всех ваших знаний и ваше сознание обретет вечную жизнь, точнее его дубликат)

                                      и по поводу взаимодействия один с другим, возьмите 2 ИИ запущенных на разных машинах, пусть взаимодействую

                                      короче говоря сознание в людском понимании этого слова будет достигнуто только при эмуляции мозга

                                      а сознание вообще, как что интеллектуальное не привязное к телу, что от просто понимающие, термина которому еще нет, возможно будет достигнута

                                      при взаимодействии ИИ с ИИ, ИИ с нами, ИИ с нами и ИИ
                                      • +3
                                        Читайте мое сообщение внимательно
                                        если чисто теоретически проскандировать и запрограммировать работу каждого нейрона в голове конкретного человека, и то с чего вы взяли что это нельзя эмалировать в на ЭВМ?

                                        Вы исходите из того убеждения, что достаточно точно описать некий объект (например, мозг) для того, чтобы точно описать его поведение. Это абсолютно неверно (хотя бы потому, что нельзя описать такой макрообъект с достаточной точностью), см. Вернер Гейзенберг, «Философия и физика».
                                        Но вообще мой текст не касается проблемы моделирования нейронов и рассматривает совсем иные вопросы.
                                        и по поводу взаимодействия один с другим, возьмите 2 ИИ запущенных на разных машинах, пусть взаимодействую

                                        Простое взаимодействие никак не является аналогом сложных социальных систем, в которых возможно появление сознания. Необходимо, чтобы в) анализ собственного поведения давал какие-то ощутимые преимущества, которые б) неким образом накапливались в ходе эволюции.
                                        короче говоря сознание в людском понимании этого слова будет достигнуто только при эмуляции мозга

                                        Боюсь, это утверждение Вами не обосновано сколько-нибудь серьезно.
                                        • +1
                                          Рефлексия сознания эволюционировала, чтобы повысить эффективность индивидуума в социуме. Что мешает машине стать частью социума людей? И изучать своё поведение с целью улучшения эффективности взаимодействия с людьми. Возможно, в результате машина не сможет построить свой собственный социум, но ужиться в человеческом может получиться.
                                          • +1
                                            Ну, для начала то, что машина неспособна на эмоциональные реакции. Затем то, что машина неспособна передавать и усваивать абстрактные понятия.
                                            • 0
                                              Слово «эмоциональные» не стоит использовать, пока вы рассуждаете о типа-научных вещах.
                                              Нету такого научного понятия…
                                              и второе — все понятия абстрактные. Если нет, расскажите в чём ключевая разница между абстрактными и неабстрактными. (а лучше не начинайте)

                                              И почему тогда машина не сможет встроиться в социум?
                                              • +1
                                                Слово «эмоциональные» не стоит использовать, пока вы рассуждаете о типа-научных вещах.
                                                Нету такого научного понятия…

                                                «эмоция» — вполне научное понятие. По поводу значимости эмоциональной реакции для макроэволюции см., например, Конрад Лоренц, «Агрессия».
                                                и второе — все понятия абстрактные. Если нет, расскажите в чём ключевая разница между абстрактными и неабстрактными.

                                                Абстрактное понятие — выражение свойств предмета, не воспринимаемых непосредственным наблюдением.
                                                (а лучше не начинайте)

                                                Если Вы не желаете услышать ответ, зачем задаете вопрос?
                                                • 0
                                                  Хахахах, агрессия)) тут это не причём. Вы мне дайте определение эмоции и всё? зачем так сложно. «Вполне научное» — не уверен, что так бывает…

                                                  Про «Абстрактное понятие — выражение свойств предмета....» — ноу комментс, это никак не так. Вы с таким же успехом могли бы сказать любой другой набор слов

                                                  Если Вы не желаете услышать ответ, зачем задаете вопрос?

                                                  А вы не поняли да, почему я это сказал? Потому что не верил в ваш конструктивный ответ…
                                                  • 0
                                                    Хахахах, агрессия)) тут это не причём.

                                                    Книга «Агрессия» — очень даже причём.
                                                    Вы мне дайте определение эмоции и всё?

                                                    slovari.yandex.ru/dict/psychlex2/article/PS2/ps2-0367.htm?text=%D1%8D%D0%BC%D0%BE%D1%86%D0%B8%D1%8F&stpar3=1.8
                                                    «Вполне научное» — не уверен, что так бывает…

                                                    «Научность» определяется в первую очередь следованием научной методологии. «Агрессия» Лоренца без всяких сомнений — научное исследование.
                                                    Про «Абстрактное понятие — выражение свойств предмета....» — ноу комментс, это никак не так. Вы с таким же успехом могли бы сказать любой другой набор слов

                                                    Быть может, не стоит так явно демонстрировать свою неспособность к пониманию?
                                                    slovari.yandex.ru/dict/phil_dict/article/filo/filo-006.htm?text=%D0%B0%D0%B1%D1%81%D1%82%D1%80%D0%B0%D0%BA%D1%82%D0%BD%D0%BE%D0%B5%20%D0%BF%D0%BE%D0%BD%D1%8F%D1%82%D0%B8%D0%B5&stpar3=1.2
                                                    Так понятнее?
                                                    А вы не поняли да, почему я это сказал? Потому что не верил в ваш конструктивный ответ…

                                                    Простите, но я ответил на Ваши вопросы, а Вы в ответ демонстрируете полное непонимание предмета. Чей ответ неконструктивен?
                                                    • 0
                                                      Ну не ерзите

                                                      «особый класс психических явлений, выражающих в виде пристрастного субъективного переживания значение отражаемых предметов и ситуаций для удовлетворения потребностей живого существа» — вас это удовлетворяет? меня нет.

                                                      Ну не ерзите же.

                                                      Я понимаю, что абстракция = упрощение. Поэтому не нужно второго слова для одного и того же. Я знаю, что вы меня всегда сможете закидать ссылками где будет написано что-то это то-то и то-то. Но так как всё упрощено, я всё считаю «абстрактным», понимаете? вернувшись к тому, с чего мы начали, становится понятно, почему в применении к ии говорить «о, машина не способна бла-бла-бла абстрактные понятия» — не нужно.

                                                      Не договорились?..
                                                      И + ко всему то определение которое вы мне дали действительно неправдоподобно. Причём тут воспринимаемые невоспринимаемые…

                                                      3.
                                                      ну вот, приехали к обзывательствам)
                                                      «непонимание предмета» — а у вас понимание? у меня непонимание. И у вас непонимание, может быть меньшее. Все мы пытаемся осознать этот мир:)

                                                      А про агрессию я догадался, что речь идёт о книге, и я говорил о книге, что она здесь не причём.

                                                      Агрессия = «инстинкт борьбы, направленный против собратьев по виду, у животных и у человека» (из книги)
                                                      Эмоция — «психическое явление..»

                                                      Пока эти «инстинкты борьбы» и «психические явления» не будут связаны с физическими законами или не будут описаны своей четкой системой — вы уж извините буду считать их ненаучными… позволю себе так это назвать. Ну да, психология она много экспериментов провела и собрала много данных и поэтому уже наука видите ли. Ну не знаю, называйте как хотите…

                                                      Короче, подводя итог,

                                                      Я думаю ии возможен,
                                                      или невозможен, но аргументы про эмоцию и абстрактные понятия глуп, потому как он равнозначен тому, что вы (они она) говорите «создать ии нельзя потому что мы не знаем, как действует механизм», что == бред, ибо создание ии и есть расследование, изучение и «узнавание» механизма.

                                                      • 0
                                                        вас это удовлетворяет? меня нет.

                                                        И что с того?
                                                        Я понимаю, что абстракция = упрощение.

                                                        Ни в коем случае. Абстракция — прежде всего выделение некоторых свойств объекта, которые можно рассматривать отвлеченно (абстрактно) от остальных свойств объекта. Является одной из наиболее важных составляющих мыслительной деятельности.
                                                        вернувшись к тому, с чего мы начали, становится понятно, почему в применении к ии говорить «о, машина не способна бла-бла-бла абстрактные понятия» — не нужно.

                                                        Абстракция и абстрактное понятие — не одно и то же. Быть может, прежде чем меня поучать, следует научиться читать?
                                                        ко всему то определение которое вы мне дали действительно неправдоподобно

                                                        Какой смысл Вы вкладываете в свое «неправдоподобно» кроме того, что определение Вам не нравится?
                                                        А про агрессию я догадался, что речь идёт о книге, и я говорил о книге, что она здесь не причём.

                                                        Агрессия = «инстинкт борьбы, направленный против собратьев по виду, у животных и у человека» (из книги)
                                                        Эмоция — «психическое явление..»

                                                        Я отсылал Вас к «Агрессии» для того, чтобы Вы уяснили, какое значение эмоции имеют для эволюции. Зачем в ответ Вы мне приводите определение агрессии из книги? Вы решили, что этим определением книга исчерпывается? Смею заверить, нет. Там еще 400 страниц.
                                                        «непонимание предмета» — а у вас понимание? у меня непонимание. И у вас непонимание, может быть меньшее. Все мы пытаемся осознать этот мир:)

                                                        Какие обзывательства, помилуйте. Я констатирую факт. Отсутствия у Вас понимания обсуждаемого вопроса и полное нежелание с этим что-то сделать.
                                                        Пока эти «инстинкты борьбы» и «психические явления» не будут связаны с физическими законами или не будут описаны своей четкой системой — вы уж извините буду считать их ненаучными… позволю себе так это назвать. Ну да, психология она много экспериментов провела и собрала много данных и поэтому уже наука видите ли. Ну не знаю, называйте как хотите…

                                                        Наука останется наукой независимо от того, считаете Вы ее таковой или нет, поверьте. Научное исследование отличается от псевдонаучных фантазий точным следованием научной методологии.
                                                        • 0
                                                          черт, фф крякнулся, похоронив длинный научно-методологичный ответ) это судьба

                                                          но вы всё равно как-то жёстко всё воспринимаете. научиться читать, усвоить… ок, мастер. Вы всё понимаете? Тогда человечеству не повезло, что тот великий ум который всё понял так плохо умеет передавать свои знания…
                                                          • 0
                                                            Разумеется, я понимаю не все. Но, по крайней мере, я пытаюсь что-то понять.
                                                            • 0
                                                              аналогично и отдельное фи за сомнения в оном
                                              • –1
                                                Эмоциональные реакции, абстрактные понятия — это все какая-то лирика, прости господи. Есть куски мозга, эти куски отвечают за функции. Если человеку отчекрыжить лобные доли, то он становится весьма асоциальным типом.
                                                Что такого есть в лобных долях что мы это не можем сделать на компьютере? Почему гиппокамп можем, а лобные доли нет?
                                                Организовано сложнее?
                                                Ну да, сложнее.
                                                Ну так вот и дело в том, что вопрос в сложности, и не в чем ином.
                                                • 0
                                                  Эмоциональные реакции, абстрактные понятия — это все какая-то лирика, прости господи.

                                                  Это не лирика. Это вполне строгие понятия, без которых невозможно обсуждение данной темы.
                                                  Что такого есть в лобных долях что мы это не можем сделать на компьютере? Почему гиппокамп можем, а лобные доли нет?
                                                  Организовано сложнее?
                                                  Ну да, сложнее.
                                                  Ну так вот и дело в том, что вопрос в сложности, и не в чем ином.

                                                  Позволю себе процитировать упомянутую мной «Физику и философию» Гейзенберга:
                                                  «В то время [в XIX веке] некоторые ученые были склонны полагать, что факты психологии могут быть в конечном счете объяснены физикой и химией человеческого мозга. С точки зрения квантовой механики для таких предположений нет больше никаких оснований. Хотя в мозге физические процессы имеют отношение к психическим, все же нельзя предположить, что эти физические процессы достаточны для объяснения психических явлений. Мы, естественно, не стали бы сомневаться в том, что мозг ведет себя как физико-химический механизм, если его рассматривают в качестве такового. Но для понимания психических явлений следовало бы исходить из того факта, что в данном случае человеческий дух выступает в психологии и как объект, и как субъект научного исследования.»
                                                  • –2
                                                    Да при чем здесь физик-теоретик, да притом в области квантовой физики и проблемы сознания — кибернетики???

                                                    Квантовая механика приложима к проблеме сознания ничуть не более чем электродинамика (т.е. никак). Слава богу Максвелл не догадался по этому поводу ничего написать.
                                                    А то что кто-то там что-то притянул за уши от громкой фамилии ничуть менее притянутым быть не перестает.

                                                    • –1
                                                      Ознакомьтесь с указанным сочинением, будьте так любезны.
                                                      • –2
                                                        Судя по отцитированному отрывку оно того явно не стоит.
                                                        • –1
                                                          В таком случае не стоит и принимать участие в дискуссии и, тем более, советовать мне побольше читать.
                                            • –1
                                              да это «самолетопоклонники» они думают что если точно следовать ритуалу, или чтто-то точно дублировать то получится точно такой же результат. ru.wikipedia.org/wiki/%D0%9A%D1%83%D0%BB%D1%8C%D1%82_%D0%BA%D0%B0%D1%80%D0%B3%D0%BE они встречаются всюду и это самое нижнее понимание мира, оно основывается на неверном предположении что «есть только то что я вижу» (ну или читай знаю для чуть более развитых обществ)
                                              • +1
                                                Не, ну если вы идеалист, то разговора в самом деле не получится. Ибо парадигмы разные. Но не думаю, что вы говорите так именно из-за идеалистических убеждений.
                                              • +2
                                                Вы исходите из того убеждения, что достаточно точно описать некий объект (например, мозг) для того, чтобы точно описать его поведение. Это абсолютно неверно (хотя бы потому, что нельзя описать такой макрообъект с достаточной точностью), см. Вернер Гейзенберг, «Философия и физика».
                                                Абсолютно неверно — полагаться на измышления теоретиков крайнего толка, которые пытаются обобщить свои достижения в одной области на все остальное.Начнем с точности. Для этого обратимся к понятию минимальной необходимой точности. Что это? Это некая точность копирования, при которой значимые для нас характеристики системы останутся неизменными.
                                                Какую характеристику можно взять для ИИ? Допустим — прохождение теста Тьюринга.
                                                Так вот, у вас в мозгу отомрут тысячи нейронов к моменту, когда вы прочитаете этот текст. И что, вы не пройдете тест Тьюринга? Пройдете, уверен.Более того, рассмотрев систему с позиции квантовой механики мы обнаружим, что если поменять волновые функции всех этих (сколько-то там)ллионов электронов и прочих кварков, то тоже ничего существенного не произойдет (кто не верит — сходите на сеанс МРТ томографии). Т.е. квантовая точность тут тоже не рулит.Значит точность необходима и достаточна не просто на уровне нейронов, а гораздо выше — скорее на уровне ассоциаций нейронов. И что, по прежнему считаете, что таким образом невозможно эмулировать ИИ? Это я не касаюсь других вопросов, поскольку не вижу каких-либо фундаментальных причин, почему ИИ не может быть эмулирован на чем угодно и кроме мозга. Но категорически настаиваю, что на достаточно точной модели мозга он может и абсолютно точно _будет_ эмулироваться.
                                                В конце концов, что такое оригинал, как не абсолютно точная модель самого себя?
                                                • –2
                                                  Абсолютно неверно — полагаться на измышления теоретиков крайнего толка, которые пытаются обобщить свои достижения в одной области на все остальное.

                                                  Как бы несколько некрасиво программную книгу Гейзенберга называть «измышлениями теоретиков крайнего толка». Не вижу для того никаких оснований.
                                                  Так вот, у вас в мозгу отомрут тысячи нейронов к моменту, когда вы прочитаете этот текст. И что, вы не пройдете тест Тьюринга?

                                                  Из этого никак не следует, что если скопировать мой мозг с точностью ± 1000 нейронов, то копия пройдет тест Тьюринга.
                                                  Более того, рассмотрев систему с позиции квантовой механики мы обнаружим, что если поменять волновые функции всех этих (сколько-то там)ллионов электронов и прочих кварков, то тоже ничего существенного не произойдет (кто не верит — сходите на сеанс МРТ томографии).

                                                  Опять же, существует значительная разница между «изменить состояние системы во время ее работы» (которое, несомненно, будет практически мгновенно выровнено, т.к. мозг — саморегулируемая система) и «сделать копию, отличающуюся сколько-ко то там миллионами электронов и прочих кварков».
                                                  Т.е. квантовая точность тут тоже не рулит.

                                                  Не вижу никаких убедительных доводов в пользу этого рассуждения.
                                                  Но категорически настаиваю, что на достаточно точной модели мозга он может и абсолютно точно _будет_ эмулироваться.

                                                  Пойдем от противного: какой результат какого эксперимента Вы примете за опровержение Вашего тезиса?
                                                  • –2
                                                    Мозг вообще — нелинейная система, а нелинейным системам свойственно крайне неприятное свойство: если задаться неким начальным состоянием системы и попытаться рассчитать ее дальнейшее развитие, то через n-ое количество времени выяснится, что принятое начальное состояние недопустимо для этой системы. Иными словами, нельзя по предъявленному физико-химическому описанию некоторой структуры заранее сказать, является она мозгом (как психологической системой) или нет.
                                                    • 0
                                                      пардон, «через n-ое количество времени выяснится» следует читать как «через n-ое количество времени может выясниться».
                                                      • +1
                                                        Нет, нелинейные системы не обладают такими свойствами.

                                                        Более того, для нелинейных систем есть функция состояния где граничные значения иногда вполне могут быть просчитаны.

                                                        >Иными словами, нельзя по предъявленному физико-химическому описанию некоторой структуры заранее сказать, является она мозгом (как психологической системой) или нет.

                                                        Т.е. нельзя наверняка сказать, обладаете ли вы мозгом или нет? Смелое утверждение.
                                                        Ведь в вашей голове существует не что иное, как достаточно точное физико-химическое описание мозга воплощенное в «харде».
                                                        • –2
                                                          Нет, нелинейные системы не обладают такими свойствами.

                                                          Я написал только то, что подобрать состояние системы не всегда возможно. Не знаю, что Вы пытаетесь здесь оспорить.

                                                          Более того, для нелинейных систем есть функция состояния где граничные значения иногда вполне могут быть просчитаны.

                                                          Иногда — ключевое здесь слово.
                                                          Т.е. нельзя наверняка сказать, обладаете ли вы мозгом или нет? Смелое утверждение.

                                                          По физико-химическому описанию — нет.
                                                          Ведь в вашей голове существует не что иное, как достаточно точное физико-химическое описание мозга воплощенное в «харде».

                                                          Не вижу никакого противоречия. Да, мозг это физико-химический объект, если рассматривать его в этом качестве. Но ведь нас интересуют вовсе не физико-химические свойства мозга.
                                                          • +2
                                                            Все свойства мозга определяются его физикой. Так как вообще любые свойства любой системы определяются ей.
                                                            Кто считает иначе — тому в церковь, молиться за спасение невидимой и неосязаемой души.
                                                            • –1
                                                              Все свойства мозга определяются его физикой. Так как вообще любые свойства любой системы определяются ей.

                                                              Физические свойства мозга определяются его физикой. Но физические свойства мозга никого не интересуют.
                                                              • 0
                                                                Ни у какого объекта во вселенной нет иных свойств кроме физических.
                                                                Все дальнейшее — химические, биологические, психологические, социальные — лишь производное от них.
                                                                Я биолог если что, не физик.
                                                                • –3
                                                                  Ни у какого объекта во вселенной нет иных свойств кроме физических.
                                                                  Все дальнейшее — химические, биологические, психологические, социальные — лишь производное от них.

                                                                  Докажите.
                                                                  • 0
                                                                    Чайник Рассела? :)
                                                                    • 0
                                                                      Почему же. Просто мой оппонент как-то не считает нужным каким-либо образом подтверждать свои слова, что мне уже несколько надоело.
                                                                      • 0
                                                                        Это Вы делаете непроверяемые предположения, а не он. И доказывать, стало быть, Вам.
                                                                        • 0
                                                                          Это Вы делаете непроверяемые предположения, а не он.

                                                                          Какие например?
                                                                          • +1
                                                                            О наличии других компонентов разума, кроме физической и структурной.
                                                                            • +1
                                                                              Т.е. я точно так же могу утверждать что человеческое мышление определяется неощущаемыми потоками Варпа, или что тепловым движением молекул заведуют необнаружимые демоны Максвелла.
                                                                              • 0
                                                                                О наличии других компонентов разума, кроме физической и структурной.

                                                                                Я ничего такого не писал. Следите за руками.
                                                                                Мозг как физический объект, разумеется, не имеет никаких других свойств, кроме как физических. В системе понятий физики мозг довольно тривиальный объект, не обладающий никакими интересными физическими свойствами.

                                                                                Однако мозг в системе понятий психологии — значительно более интересный объект, обладающий сознанием, способный к целеполаганию и пр. Это все — психологические свойства, имеющие смысл в рамках системы понятий науки психологии. Эти понятийные системы — физическая и психологическая — никак между собой не пересекаются, соответственно психологические свойства не могут быть сведены к физическим. О чем долго и упорно пишет Гейзенберг.
                                                                                • 0
                                                                                  Понятийные системы не пересекаются, тем не менее причинность остаётся. Можно стимуляцией отдельных участков мозга влиять на психическое и эмоциональное состояние — стало быть, такая связь есть.
                                                                                  • 0
                                                                                    Можно. Это каким-то образом опровергает вышесказанное?
                                                                                    • 0
                                                                                      Дополняет. Локализация различных эмоций и функций на участках коры головного мозга — разве это не частичное сведение психологических свойств к физическим?
                                                                                      • 0
                                                                                        Скорее уж тогда к геометрическим ).
                                                                                        Это не сведение, это просто дополнение. Что такая-то эмоция помимо всего прочего вызывается активностью такой-то области коры мозга. Это, безусловно, чрезвычайно важная информация, например, для медиков, но никак не связующее звено между психологией и физикой.
                                                                                        • 0
                                                                                          Когда мозг будет объяснён весь, целиком и как система, мы в любом случае узнаем ответ :)
                                                                  • –2
                                                                    ну, если не брать метафизические, то кроме физических действительно ничего не будет.
                                                                    вас как биолога никогда не удивляло как такой сложный механизм, как клетка, мог появится путем случайных процессов?

                                                                    Был такой Фред Хойл, с легкой руки которого начало Вселенной стало называться Big Bang (Большой Бабах). Он вел передачу на радио и когда обсуждал эту теорию, на ходу в шутку придумал это название.

                                                                    Он весьма глубоко проанализировал количественную сторону биологической теории эволюции и пришел к выводу, что ее скорость слишком мала, чтобы за несколько миллиардов лет создать совершенство жизни. Возможно, вы слышали его «притчу о боинге».

                                                                    Представьте, что на огромной свалке в беспорядке разбросаны части авиалайнера «Боинг-747», разобранного до последнего винтика. И вот налетел ураган, прошелся могучим смерчем по свалке, перемешал и закрутил весь этот «металлолом». Велики ли шансы, что после такой «мясорубки» на свалке будет стоять полностью собранный «боинг», готовый отправиться в полет? Так вот — они не меньше, чем шанс случайно собраться простейшему живому организму из разрозненных химических «кирпичиков». Это со скрупулезной точностью подсчитал Хойл, выяснив, что уровень сложности простейшей живой клетки сопоставим с количеством деталей авиалайнера.

                                                                    Эта притча впервые была опубликована в 1983 году в книге Хойла «Разумная Вселенная».

                                                                    Последние три абзаца — из www.znanie-sila.ru/online/issue_2011.html
                                                                    • –2
                                                                      ну, если не брать метафизические, то кроме физических действительно ничего не будет.

                                                                      Хм, ну вот свойство клетки делиться — оно физическое или нет? Если физическое, то, очевидно, должно описываться в физических терминах — масса, импульс, заряд и пр. Можете описать это свойство физически?
                                                                      • 0
                                                                        не знаю за что нам с вами влепили по минусу, но мы видно на правильном пути )))
                                                                        на счет свойства делиться — не знаю к каким оно относится. скорее к биологическим. как его описать физически тоже не знаю.
                                                                      • 0
                                                                        а между прочим проводили эксперимент:
                                                                        под руководством Юри его ученик С.Миллер доказал, что природные аминокислоты образуются при пропускании электрического разряда через смесь аммиака с метаном, водой и водородом – компонентами добиологической атмосферы Земли. Благодаря этому классическому эксперименту Юри заслужил всеобщее признание как «отец космохимии».

                                                                        так что не боинг, но уже близко.
                                                                        • 0
                                                                          А с сознанием как?

                                                                          Сазерленду в январе 2009 удалось синтезировать нуклеотиды Ц и У (2 из 4, из которых состоит РНК): elementy.ru/news/431082 и он как мне кажется большой молодец. Но для этого понадобились специальные условия (как и у Миллера) — т.е. еще одна случайность в природе. Случайность за случайностью?

                                                                          Близко было всегда и всегда будет — в начале ХХ века казалось, все здание физики построено. Но за одним горизонтом оказался следующий. Появится ли сознание у той клетки, которую в результате всего этого смогут синтезировать в лаборатории?
                                                                          • 0
                                                                            Забавно, что согласно той самой статье, на которую вы сослались, возникновение аминокислот было не просто не случайно — оно было неизбежно в тех условиях. «Открытый авторами путь абиогенного синтеза цитидина поражает своим изяществом. Особенно впечатляет неоднократное использование побочных продуктов, получающихся на предыдущих этапах пути, в качестве необходимых помощников на следующих этапах.» Об этом вся вторая половина статьи.
                                                                            • 0
                                                                              Я имел ввиду случайность именно условий и необходимого количества веществ в реакции. Что будет если чего-то будет больше? Что будет если будут присутствовать другие вещества? Лабораторный вариант — одно, мир — все-таки другое.

                                                                              Если честно, я сам каждый раз поражаюсь, когда читаю эту статью, опять на ум приходят слова «все гениальное — просто». Дальнейшие открытия, уверен, будут такими же изящными и красивыми по сути. Просто сознание не состоит из физических атомов, его нет в нейронах, оно не появляется вследствие химических реакций. Я не спорю, что в природе могли появиться молекулы высокой сложности и даже их соединения. Я не согласен с тем, что сознание у этих соединений появилось вследствие усложнения структуры.
                                                                        • 0
                                                                          Фишка ведь в том, что боинг собрался не сразу. Концепции молекулярной эволюции позволяют изящно перепрыгнуть этот логический парадокс.
                                                                          • 0
                                                                            могу предложить вам написать Хойлу ответ на его книгу или хотя бы ее сначала прочитать :) — вдруг там про молекулярную эволюцию и есть?
                                                            • –3
                                                              >Из этого никак не следует, что если скопировать мой мозг с точностью ± 1000 нейронов, то копия пройдет тест Тьюринга.

                                                              Следует совершенно однозначно.

                                                              >Опять же, существует значительная разница между «изменить состояние системы во время ее работы» (которое, несомненно, будет практически мгновенно выровнено, т.к. мозг — саморегулируемая система) и «сделать копию, отличающуюся сколько-ко то там миллионами электронов и прочих кварков».

                                                              Это вы сами придумали.
                                                              Нет никакой разницы.
                                                              Самоорганизующаяся и существующая длительное время система всегда приходит к устойчивому состоянию.

                                                              >Пойдем от противного: какой результат какого эксперимента Вы примете за опровержение Вашего тезиса?

                                                              Скопировав полностью мозг человека мы не сможем заставить его пройти тест Тьюринга.

                                                              А вообще, даже спорить смешно, не стоит это вам делать. Лучше потратьте свое время на прочтение каких-либо иных книжек кроме пары, которых вы прочитали и решили, что все поняли.
                                                              Возьмите два процессора. Они сделаны абсолютно из разных субстанций, квантово отличаются полностью. Тем не менее оба работают одинаково.
                                                              Мозг ничем концептуально не отличается от процессора. Ввод и вывод, посередине некий обработчик информации. Как именно устроен обработчик не так уж и важно.
                                                              И уж точно на него не влияет расположение отдельных атомов, ибо собственно информационная функция системы реализуется на гораздо более высоком уровне.
                                                              • –1
                                                                Следует совершенно однозначно.

                                                                Простите, Ваши рассуждения логически неверны.
                                                                Это вы сами придумали.
                                                                Нет никакой разницы.

                                                                Не вижу никаких подтверждений Вашего тезиса.
                                                                Самоорганизующаяся и существующая длительное время система всегда приходит к устойчивому состоянию.

                                                                Несомненно. Поэтому если работающую систему направлено изменять (например, облучением во время томографии), то она сохранит устойчивое состояние.
                                                                А если ее скопировать неточно, то нет никакой гарантии, что на полученная в результате система сохранит способность к самоорганизации.
                                                                Скопировав полностью мозг человека мы не сможем заставить его пройти тест Тьюринга.

                                                                Иными словами, Ваша позиция нефальсифицируема, по крайней мере, в обозримом будущем.
                                                                А вообще, даже спорить смешно, не стоит это вам делать. Лучше потратьте свое время на прочтение каких-либо иных книжек кроме пары, которых вы прочитали и решили, что все поняли.

                                                                Я прочел довольно много книг, поверьте.
                                                                Возьмите два процессора. Они сделаны абсолютно из разных субстанций, квантово отличаются полностью. Тем не менее оба работают одинаково.

                                                                Процессор не является динамическим хаосом. Собственно, Вы это и написали — незначительные отклонения в начальном состоянии системы не приводят к изменениям ее поведения на макроуровне.
                                                                Мозг ничем концептуально не отличается от процессора. Ввод и вывод, посередине некий обработчик информации. Как именно устроен обработчик не так уж и важно.

                                                                Выше я указал Вам принципиальное различие.
                                                                • +1
                                                                  >Иными словами, Ваша позиция нефальсифицируема, по крайней мере, в обозримом будущем.

                                                                  Абсолютно фалисифицируема, ибо критерий фальсифицируемости — не возможность что-то доказать здесь и сейчас, а возможность проверить утверждение в принципе.

                                                                  >Я прочел довольно много книг, поверьте.

                                                                  Нужно не только читать, но и верно интерпретировать прочитанное. А так же критически подходить к авторитетам.

                                                                  >Процессор не является динамическим хаосом.

                                                                  А мозг, что, является? С какой стати? Там точно так же есть нейроны/ячейки и связи между ними.
                                                                  Да, процессор тоже может себя изменять во время работы, записывая в кэш информацию.

                                                                  >если работающую систему направлено изменять (например, облучением во время томографии), то она сохранит устойчивое состояние.
                                                                  А если ее скопировать неточно, то нет никакой гарантии, что на полученная в результате система сохранит способность к самоорганизации.

                                                                  Давайте не будем тут применять эту иезуитскую квантово-механическую логику.
                                                                  Да, согласно вашим представлениям мы не можем гарантировать работу сознания, так же как и не можем гарантировать нахождение нашего тела на этом самом месте через секунду. Ведь оно вполне (с какой-то крайне низкой вероятностью) может через эту самую секунду телепортироваться на луну вместе со всеми своими частицами. И там благополучно издохнуть.

                                                                  Только вот данные измышлизмы совершенно неприменимы в практической стороне постижения макрообъектов. И чайник будет кипеть несмотря на то, какие именно из его молекул обладают достаточной энергией для фазового перехода, и мозг будет иметь сознание, опять же, при любой мало-мальски вероятной комбинации кварков и электронов в существующей архитектуре. Невероятные комбинации — это к Гейзенбергу. Т.к. по его логике мы не можем быть уверены в том, что если мы вскипятили один чайник, то вскипит и другой.
                                                                  • 0
                                                                    процессорный кэш — это всего лишь способ буферизации частоиспользуемых данных из медленного хранилища данных в быстром хранилище.
                                                                    максимум, что можно притянуть к «изменению себя» у современных процессоров — это обновление микрокода (инициируемое софтом извне, микрокод предоставляется извне)
                                                                    • 0
                                                                      Сделать самопрограммируемый процессор тем не менее вполне возможно.
                                                                      • 0
                                                                        Который сам себе «придумывает» команды, которые изначально не заложены?
                                                                        • 0
                                                                          Теоретически да. Вроде генетического программирования.
                                                                          • 0
                                                                            Наверно я отстал немного… где можно почитать о такой теории?
                                                                            • 0
                                                                              Процессоры с изменяемой логикой — здесь и здесь, про генетическое программирование — здесь.
                                                                              • 0
                                                                                Кстати, физический процессор для этого не обязателен. Эмуляция вполне сойдёт.
                                                                                • 0
                                                                                  Если это имелось ввиду под «самопрограммируемостью», то да.
                                                                                  Дело в том, что в этих случаях система знает что должно получиться, то есть заранее известна цель и ГП это просто один из способов ее достичь — это почти как обучение нейросети с учителем.
                                                                                  Но процессор же не может сам себе поставить цель, поэтому как ни крути, а все что он умеет и может суметь описывается разработчиком в простых случаях или при анализе просто перейдет за границу прогнозов… в хаос :) детерминированный, кстати :).
                                                                                  • 0
                                                                                    Его цель будет задавать фитнесс-функция. Человек тоже вряд ли сознательно ставил себе цель эволюционировать до полётов в космос :)
                                                                                    • 0
                                                                                      Ну тут смысл немного в другом ;). Выше ж это написано: сколько б процессор сам себя не дописывал на макроуровне изменения не произойдут — процессор останется процессором :), а с людями немного по другому.

                                                                          • 0
                                                                            Чайник Рассела?
                                                                            • 0
                                                                              Где? Такие микросхемы уже существуют, их можно использовать.
                                                                              • 0
                                                                                Честно прочитал статью, не нашел ничего о
                                                                                само
                                                                                программировании.
                                                                                • 0
                                                                                  Это уже задача программы. Фишка в том что процессор может изменять свою логику, просто подавая сигнал на определённые входы. Представьте что он изменяет хранимую в памяти прошивку (например, генетическими алгоритмами), и перепрошивается. Это и будет самопрограммированием.
                                                                                  • 0
                                                                                    Простите, но, в моем представлении, самопрограммирование — это написание программы (решение некоторой задачи с заранее неизвестным алгоритмом) без привлечения человека. Это как бы совсем не то же самое, что произвольное изменение системного набора команд, даже если оно управляется генетическим алгоритмом.
                                                                      • 0
                                                                        Абсолютно фалисифицируема, ибо критерий фальсифицируемости — не возможность что-то доказать здесь и сейчас, а возможность проверить утверждение в принципе.

                                                                        Я написал — нефальсифицируема в обозримом будущем. Что не так?
                                                                        Нужно не только читать, но и верно интерпретировать прочитанное. А так же критически подходить к авторитетам.

                                                                        Я цитирую книгу Гейзенберга не потому, что Гейзенберг для меня авторитет; но потому, что я прочитал и критически осмыслил эту книгу. Вы же ее не читали, но тем менее позволяете себе выносить суждения в стиле «да что там этот Гейзенберг понимает». Не наблюдаете ли неких противоречий с рекомендуемой Вами позицией?
                                                                        А мозг, что, является? С какой стати? Там точно так же есть нейроны/ячейки и связи между ними.

                                                                        С определением динамического хаоса, очевидно, Вы тоже не ознакомились. Попробуйте для начала выяснить, о чем идет речь, прежде чем отвечать в таком стиле.
                                                                        Давайте не будем тут применять эту иезуитскую квантово-механическую логику.
                                                                        Да, согласно вашим представлениям мы не можем гарантировать работу сознания, так же как и не можем гарантировать нахождение нашего тела на этом самом месте через секунду. Ведь оно вполне (с какой-то крайне низкой вероятностью) может через эту самую секунду телепортироваться на луну вместе со всеми своими частицами. И там благополучно издохнуть.

                                                                        Еще раз, ознакомьтесь с определением детерминированного хаоса. Вероятность массивного объекта телепортироваться на Луну, разумеется, существует, но пренебрежима мала. А вот вероятность для хаотичного процесса перейти в нестабильное состояние вследствие ошибки в задании начального состояния может быть, в принципе, какой угодно.
                                                                        • 0
                                                                          У вас каша в голове. Не в хаотичности тут дело в как таковой, а в распределении функции состояния данной системы. Если система уже в потенциальной яме, как в случае с мозгом, то попробуй ее с этого равновесия сдвинь.
                                                                          • –2
                                                                            Простите, каша в голове у Вас. Я не вижу смысла продолжать с Вами дискуссию, если Вы элементарно не читаете тексты собеседника, не говоря уже о том, чтобы ознакомиться с приведенными ссылками.
                                                                            • –1
                                                                              Каша в голове у вас обоих. Один слепо верит в одну теорию, другой — в противоположную. Даже если одна из теория теорий верна, все равно вы оба слепые.
                                                                          • 0
                                                                            Мозг всё таки не совсем хаотичная система. Т.е. конкретно сознание. Одна из характеристик хаотической системы — небольшое изменение начальных состояний может приводить к большим отклонениям впоследствии. В медицинской же практике есть случаи когда у людей была разрушена часть мозга — и при этом они оставались разумны. Так что сознание не так уж хрупко.
                                                                            • 0
                                                                              Мозг как система, разумеется, устойчив к воздействиям определенного рода. Как Вы понимаете, из этого совсем не следует, что он окажется устойчив к тем воздействиям, которые в природе не случаются (а в природе не встречается копирование мозга).

                                                                              Кроме того, Вы опять же допускаете ту же ошибку, что и gleb_kudr: внешнее воздействие — это не то же самое, что изменение начальных условий. Попробую выразить математически: пусть состояние мозга описывается уравнением (для простоты, дискретным)

                                                                              x[n+1] = x[n] + H[n] + F(x[n], H[n]),

                                                                              где x[n] — состояние в момент времени n, H[n] — внешнее воздействие, F[n] — нелинейный оператор, определяющий (в том числе) реакцию на внешнее воздействие.

                                                                              Пусть мы считали с какой-то точностью состояние x[n], на которое в процессе считывания наложен шум H. Т.о. начальным состоянием новой системы будет x[n] + H, но третье слагаемое (реакцию системы на вносимые изменения) мы автоматически теряем, поскольку не можем знать H.

                                                                              Иными словами, мы должны скопировать не просто состояние мозга, но и ту реакцию, которая должна последовать со стороны системы для восстановления равновесия — а вот этого мы сделать не можем. Далее вступают в силу свойства динамического хаоса — изменение начальных условий, даже сколько угодно малое, приводит к макроскопическим изменениям за конечное время, вплоть до выхода системы из стабильного состояния.

                                                                              Подчеркиваю, речь никак не идет о хрупкости сознания — а о том, что мы не можем в процессе копирования воспроизвести действие механизмов, удерживающих систему в стабильном состоянии.
                                                                              • 0
                                                                                ИИ это не прямое копирование, а скорее воссоздание мозга. Получится не точная копия, а самостоятельная. То же самое уже происходит — когда ребёнок развивается в утробе и потом обучается после рождения. Никто пока не говорит о том чтобы засунуть голову в копир и получить прямой слепок.
                                                                                • 0
                                                                                  Не понимаю, в чем с Вашей точки зрения разница между воссозданием и копированием.
                                                                                  • 0
                                                                                    Попробую объяснить через аналогию. Вы говорите о том, что нельзя собрать (скопировать) движущийся по трассе Мерседес, не прерывая его движения. Это безусловно правильно. Но ведь это не единственный способ получения движушегося Мерседеса — можно собрать его в гараже и выехать на трассу.
                                                                                    • 0
                                                                                      На стоящий в гараже Мерседес тоже действуют разного рода динамические факторы — гравитация, например; и он точно так же сохраняет свою целостность, как и движущийся по — разница только лишь в амплитудах внешних воздействий.

                                                                                      А человеческий мозг, в отличие от Мерседеса, не останавливается никогда. Как Вы хотите его собрать в гараже?
                                                                                      • 0
                                                                                        Человеческий мозг начинается с «остановленного» состояния — зиготы. Собрать его вполне возможно.
                                                                                        • 0
                                                                                          Ну, положим, помимо зиготы необходима еще мать :-)

                                                                                          Впрочем, если Вы думаете, что наука сильно ближе подошла к синтезу клетки, чем к синтезу мозга, Вы сильно ошибаетесь. Пока достижения в этой области ограничиваются синтезом генома простейших. Здесь позволю себе привести фрагмент интервью Генриха Романовича Иваницкого, директора Института теоретической и экспериментальной биофизики РАН:

                                                                                          — Недавно в прессе появилась информация о том, что младший научный сотрудник Института прикладной механики РАН Олег Крыченко фактически сотворил научную сенсацию — создал неорганическую клетку методом «проекции единичных клеток, срезов клеток, культур тканей посредством высокоинтенсивного коротковолнового излучения на неорганические фотохимические составы». По Вашей оценке, представляет ли эта работа научную ценность?
                                                                                          — На мой взгляд, все подобные проекты безнадёжны. В своё время я пытался синтезировать эритроциты, и пришёл к выводу, что идея нереализуема в принципе. Дело в том, что каждая биологическая молекула работает в очень узком диапазоне своих физико-химических свойств, которые трудно воспроизвести без всего того, что окружает клетку. То есть как только я добиваюсь успеха на одном уровне, выясняется, что система может быть устойчивой лишь при решении всех вопросов организации следующего иерархического уровня, и так до бесконечности. Конечно, я не отрицаю возможности синтезировать и потом встроить в организм маленький фрагментик ДНК, но в создание полнофункциональной клетки не верю.
                                                                                          — И тем не менее об успешном синтезе клетки уже заявили Гарвардская медицинская школа, Университет Рокфеллера, Институт Крэйга Вентера…
                                                                                          — Они мозги пудрят журналистам. Заявляют то, что понятно широкой общественности и подо что можно получить большие деньги, а на самом деле занимаются совсем другими вещами. Думаю, в процессе этих исследований никакие клетки они не создадут, но получат массу других результатов, способных обеспечить прорыв в медицине.

                                                                                          Полностью здесь.
                                                                                          • 0
                                                                                            Зачем нам синтез? Для ИИ нам достаточно её компьютерной симуляции. Синтез — это уже куда то в сторону artificial life :)
                                                                                            • 0
                                                                                              Ну, о достижениях в симуляции клетки на компьютере я вообще ничего не слышал.
                                                                                              • 0
                                                                                                А они достаточно неплохи. Кортикальный модуль крысы (10к нервных клеток) успешно симулировали ещё в конце 2006 года.
                                                                                                • 0
                                                                                                  Я писал про одну клетку. Одну-единственную :-).
                                                                                                  • 0
                                                                                                    Его симулировали именно поклеточно, на низком уровне. Проект Blue Gene, можно почитать про него в Интернете.
                                                                                                    • 0
                                                                                                      Насколько низком? Очевидно, не на уровне химических реакций.

                                                                                                      P.S. «Почитать в интернете» я не принимаю. Дайте конкретную ссылку.
                                                                                                      • 0
                                                                                                        Уже сделано — на клеточном, сейчас делается — на молекулярном. Почитать можно здесь.
                                                                                                        • 0
                                                                                                          Эмуляция клетки на клеточном уровне — это сильно :-)
                                                                                                          Про молекулярный уровень ничего не нашел.
                                                                                                          • 0
                                                                                                            Про молекулярный уровень — 4 ссылка сверху, Is it possible to model the NCC at the molecular level?
                                                                                                            • 0
                                                                                                              Ага :-)
                                                                                                              «It is very unlikely that we will be able to simulate the human brain at the molecular level detail with even the most advanced form of the current technology.»
                                                                                                              • +1
                                                                                                                А молекулярный уровень по сути и не нужен. Главное — понять механизм взаимодействия клеток. Например, для того чтобы просчитать прочность дома из кирпичей, не нужно симулировать каждый атом — достаточно понимать как элементы системы взаимодействуют между собой.

                                                                                                                Вот эти взаимодействия проект Blue Brain и планирует понять. И потом уже, на их основе, строить ИИ. На этой странице они так и пишут.
                                                                                                                • –2
                                                                                                                  Клетка — не кирпич, ее состояние не описывается физическими параметрами. См. приведенную выше цитату Иваницкого о сложности организации иерархических уровней.

                                                                                                                  К сожалению, понимание качественного отличия клетки от кирпича почему-то зачастую многим недоступно, а epic fail программ создания искусственного интеллекта (способного хотя бы тупо чатиться) объясняется тем, что надо вот еще чуть-чуть петафлопсов накинуть.
                                                                                                                  • 0
                                                                                                                    Какими же параметрами оно должно описываться? :)
                                                                                                                    • 0
                                                                                                                      Не знаю. На одном форуме меня убеждали, что состояние клетки исчерпывающе описывается в терминах молекулярной биофизики, но не убедили :-).
                                                                                                • 0
                                                                                                  С какой точностью?
                                                                                                  • 0
                                                                                                    Хотя бы до молекул.
                                                                                                    • 0
                                                                                                      Впрочем, современная техника такой вычислительной мощности не обеспечивает. Переформулирую: с точностью до химического уровня.
                                                                                          • 0
                                                                                            На стоящий в гараже Мерседес тоже действуют разного рода динамические факторы — гравитация, например; и он точно так же сохраняет свою целостность, как и движущийся по — разница только лишь в амплитудах внешних воздействий.


                                                                                            Именно этой разницы хватает, чтобы невыполнимую задачу по сборке превратить в выполнимую.
                                                                                            • 0
                                                                                              Задачу по сборке Мерседеса — да.
                                                                          • 0
                                                                            Ну пока это не проверено, не однозначно. Хотя я таки склоняюсь к варианту что пройдет.
                                                                    • –3
                                                                      Не думаю что есть возможность в полном смысле скопировать работу мозга и сознание как следствие тоже. Мозг это ведь не просто логическое устройство с опр. алгоритмом. Столько факторов еще на его работу влияет, биохимия хотя бы, эмоции, мораль, как это можно в машину перенести, да и как же душа в конце концов?
                                                                      • +3
                                                                        Многие сложные системы (в том числе и мозг) представляют собой с точки зрения моделирования т.н. «детерминированный хаос», поэтому строгое моделирование таких систем невозможно в силу гейзенберговой неопределенности начального состояния системы. Можно описывать поведение системы в неких метатерминах (в случае мозга такими терминами будут «эмоция», «чувство», «поведение» и пр.); наука психология как раз представляет собой подобное описание.
                                                                        • +1
                                                                          Чувства в психологии, это вторичная реакция субъекта уже на свои собственные действия, благодаря этому возможно включение исследователя в процесс исследования, так появилась постнеклассической наука.

                                                                          > Можно описывать поведение системы

                                                                          чувства управляют поведением и наделяют цель ценностью, что определяет динамику субъекта, а моделирование же это структурованное знание, которое может налагать свою структуру на поведение.
                                                                    • +4
                                                                      Итак, общий вывод примерно следующий: если принять докинзову гипотезу, то в рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, сколько бы там нейронов не удалось смоделировать.


                                                                      фантастическая глупость, если только вы не хотите сказать, что для самосознания среднестатистическому человеку необходимо прослушать курс нейробиологии. ведь вы даже приблизительно не представляете, как устроен ваш мозг, но это не мешает существовать вашему самосознанию.

                                                                      для ИИ и вообще И (моего, вашего, его, ее) нет необходимости анализировать собственный дизайн. под рефлексией в данном случае понимается интерпретация собственного воздействия на воспринимаемый мир.

                                                                      т.к. окружающий мир мы воспринимаем только в качестве субъективной модели, то единственный способ ввести в нееЯ заключается в том, чтобы из обрабатываемого потока информации вычленить ту, которая непосредственно связана с субъектом — отражение в зеркале, мысли, эмоции, чувство голода, просчет вероятностей и т.д… это будет проекцией субъекта на окружающий мир, и ее он будет воспринимать тоже в рамках той самой грубой субъективной модели. для современных «умных» машин взаимодействие с окружающим миром и учет обратной связи является одной из актуальнейших задач на протяжении уже не одного десятка лет.

                                                                      Собственно, с подобными огрублениями, вероятно, и связаны системные ошибки мышления, которые можно наблюдать ежедневно.
                                                                      imho, homo sapiens — очень плохой эталон для создания ИИ с самосознанием, т.к. непрерывно глючит и бажит.