Пользователь
0,0
рейтинг
23 декабря 2009 в 18:39

О сознании и искуственном интеллекте

Тема обретения искусственным интеллектом сознания стала фактически общим местом современной фантастической литературы и кинематографа (достаточно упомянуть Азимова, «Терминатора», «Призрак в доспехах» et cetera ad infinitum). Меж тем мало кто из фантастов задумывался над тем, что же такое сознание, как возникло сознание у человека и каким образом ИИ может это самое сознание обрести.
В данном эссе нам хотелось бы обратить внимание на одно очень интересное (и, на наш взгляд, весьма правдоподобное) определение упомянутого феномена, которое дал не фантаст и не философ, а ученый-эволюционист Ричард Докинз в своей книге "Эгоистичный ген".

Докинз рассматривает человеческий мозг как универсальный построитель математических моделей реальности. В главе 4 он пишет:

Эволюция способности к моделированию, очевидно, привела в конечном итоге к субъективному осознанию. Почему это должно было произойти, представляется мне глубочайшей тайной, стоящей перед современной биологией. Нет оснований полагать, что электронные компьютеры действуют осознанно, когда они что-нибудь моделируют, хотя нам приходится допускать, что в будущем они, возможно, будут сознавать свои действия. Быть может, осознание возникает тогда, когда модель мира, создаваемая мозгом, достигает такой полноты, что ему приходится включать в неё модель самого себя.


Эта идея — сознание как включение архитектора в построенную им модель — разумеется, далеко не бесспорна (и вполне вероятно, нефальсифицируема по Попперу). В пользу этой теории можно привести некоторые косвенные рассуждения. Например, рефлексия в философии (обращение субъекта на самого себя) считается одним из важнейших актов сознания.
UPD. Еще один довод в пользу докинзовой гипотезы — существование аниматизма (веры в безличную одушевленность предметов и явлений), свойственного для многих (если не всех) первобытных обществ. В контексте теории Докинза, аниматизм возникает как попытка применить действующий способ моделирования поведения соплеменников к иным объектам.

Предположим, что докинзова гипотеза верна. Попробуем взглянуть на ИИ, используя такое определение сознания; сделав это, мы несомненно придем к выводу, что никакой Скайнет нам в ближайшее время не грозит.

В самом деле, для ИИ характерно четкое разделение предметной области и алгоритма работы самого ИИ. Это разделение идет, если угодно, еще от фоннеймановской архитектуры с ее разделением области команд и области данных.

Но, даже если мы поместим в память ИИ сведения о принципах его собственного устройства, обретет ли ИИ сознание? Увы, нет. Эта информация — алгоритм собственной работы — абсолютно бесполезна для ИИ в том смысле, что на ее основе невозможно сделать никаких выводов, прямо или косвенно влияющих на точность моделирования и, следовательно, верифицируемость предсказаний, полученных на основе модели.

Докинз умолчал в своей книге о том, зачем мозгу понадобилось включать самого себя в предметную область, т.е. какие выгоды получает архитектор от такого расширения модели. Мы попробуем ответить на этот вопрос.

Анализ собственного поведения нужен живому организму для того, чтобы предсказывать поведение других особей и, прежде всего, представителей того же вида. Очевидно, что такой навык существенно повышает приспособленность индивида к жизни в стае. Логично предположить, что такая способность востребована более всего у тех животных, которые образуют более-менее крупные иерархические стаи с интенсивными общественными связями, — например, люди. (UPD: в комментариях Докинза можно найти ссылку на исследования Николаса Хамфри, который пришел к тем же выводам)

И это второй веский аргумент в пользу того, что никакого сознания у ИИ в рамках существующих технологий появиться не может. ИИ не общается с себе подобными и вообще не имеет общественных связей, умение анализировать собственную программу абсолютно бесполезно для него.

Итак, общий вывод примерно следующий: если принять докинзову гипотезу, то в рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, сколько бы там нейронов не удалось смоделировать.



Настоящим передаю вышеизложенный текст в общественное достояние.
@forgotten
карма
271,0
рейтинг 0,0
Пользователь
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое

Комментарии (312)

  • +2
    Интересная идея. Только вот что помешает компььютеру достигнуть такой сложности модели? Что помешает ему проанализировать собственное поведение (не исходники, а именно нюансы поведения)?
    • –1
      Помешать — ничего не помешает. Хоть сейчас.
      Но эта информация для компьютера бесполезна.
      Основная цель моделирования — прогнозирование дальнейшее развитие ситуации, давать верифицируемые предсказания. Наличие в базе знаний собственного алгоритма никак не поможет компьютеру делать более точные прогнозы.
      • +10
        Секундочку. Вы рассуждаете как человек. ИИ же может иметь свои понятия о «полезности». И свои изобретения. Например оптимизация собственных алгоритмов или взлом компьютера автоваза для производства больших человекоподобных роботов.
        • +11
          огромных роботов. огромных!
        • +1
          Скажем так, человек развивается в условиях давления внешнего фактора (отбора). Поэтому развитие какой-либо способности (например, сознания) напрямую зависит от того, насколько эта способность позволяет выжить. Соответственно для развития сознания ИИ необходима подобная положительная обратная связь.
          • 0
            Прочитав слово отбор в вашем комментарии и вспомнив про то, что программы можно научить размножаться с модификациями кода, задумался, можно ли наладить процедуру отбора среди ИИ.
            • +1
              Дело в том, что дело не просто в отборе, извините за тавтологию.
              Естественный отбор представляет собой внешний фактор статистической выбраковки генетической информации. То, что действует он в виде «выживания наиболее приспособленных» — это, по сути, частность. Придумать подобных факторов можно немыслимое количество, но вот сделать так, чтобы под действием этого фактора происходило качественное усложнение генетического материала — задача далеко не такая простая, как кажется.
      • +1
        Проблема полезности мигом решается, если следовать эволюционной парадигме до конца. Полезно для организма/ИИ то, что ведет его к некой цели, заданной направляющей силой (т.е. законами природы в первом случае или инженером — во второй). А ежели оно к этой цели не приходит, значит уничтожается (отбор в любой форме, естественный или искусственный) и делается новый прототип, для которого его внутренняя «полезность» более совпадает с внешними обстоятельствами.

        Поэтому для волка полезны острые зубы, для садовой земляники — быть вкусной, а для программиста — интеллект, а не наоборот :)
  • 0
    Мне тоже всегда казалось, что наличие самосознания и самоанализа — одно из необходимых условий существования сознания. Есть ли другие необходимые условия, кроме адекватной целям модели мира?
    • 0
      Не знаю. Мне неизвестно о существовании каких-то серьезных исследований в этом направлении, помимо упомянутого Докинзом в примечаниях Деннетта, который, судя по краткому описанию Докинза, скорее занимался проведением параллелей между человеческим и искуственным интеллектом, нежели исследованием собственно феномена сознания.
  • +8
    Проблема заключается в том, что проверить наличие сознания даже у сущности, которая, бесспорно, ей обладает (например, вы), сторонний наблюдатель (например, я) никак не может.

    Единственная сущность, наличие сознания у которой для меня очевидна — это я сам. Кроме того, я допускаю наличие сознания у вас, Васи, Пети, Маши, Иры и Светы в силу того, что мы все-таки одного вида и одинаково устроены. Даже вопрос наличия сознания у собчаки и дельфинчика до сих пор открыт — чего уж говорить об искуственном интеллекте.

    Кроме того, на самом деле, сознание — это своего рода фетиш техноэпохи, попытка допрыгнуть до Б-га. По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная. Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

    Интеллект не обязательно определяется наличием сознания. Интеллектуальные системы (даже самообучающиеся) не обязательно должны осознавать сами себя, хотя, вполне возможно, по мере роста опыта системы она придет к мысли о том, что существует (как это уже было с человеком).
    • 0
      Кстати, хотелось бы услышать определение сознания. Желательно, взятое не из википедии.
      • +2
        Вряд ли можно дать четкое определение сущности, о которой известно очень мало.
        • –1
          Можно попробовать.

          Например, так.

          Сознание — комплекс механизмов, вызывающих у сущности ощущение идентичности с определенной частью мира.
        • +2
          Да что блин за чушь, надоело!!!

          Если есть слово, есть понятие. Оно может быть определено четко, а может расплывчито. Чем чётче тем лучше, вот и вся наука.

          Меня тоже напрягает эта туфта «сознание», «бог» (Б-г), когда никто для начала не рассказал о чём речь. Наша вселенная начинается с аксиоматики.
          • 0
            Хм. Не дадите ли определение «множества»?
            • 0
              *чувствует подвох в вопросе*

              попробую,

              «количество единиц, >= 2-х» :)
              • +4
                *чувствует подвох в вопросе*

                Не зря.
                «количество единиц, >= 2-х» :)

                Натуральные числа как раз определяются в математике как мощности конечных множеств. Нельзя через них определять множество.
                Начните хотя бы с Вики: ru.wikipedia.org/wiki/%D0%9C%D0%BD%D0%BE%D0%B6%D0%B5%D1%81%D1%82%D0%B2%D0%BE
              • 0
                Нельзя через двойку, как выше заметили.
                Что такое «единица» не определено.
                Ну и наконец бывают пустые множества и множества из одного элемента. (Да-да, что такое «элемент» не определено тоже)

                А всё дело в том, что для построения определений используются слова. Через слова выражаются некоторые понятия и их тоже надо определять. Ну и так как слов (естественного языка) конечное количество, нужно некоторое начало. Базовые, интуитивно понятные слова.
                • 0
                  Об этом обычно мало кто догадывается. Вот «право» — совокупность правовых норм, а «правовая норма» — составная часть права. И ничего, живут как-то :-)
                • 0
                  Да, на всякий случай, понятия «множество» и «элемент множества» и есть те самые базовые понятия. Для математики, конечно.
                • 0
                  Так, прежде всего я уважаю накопленный опыт человечества. Но люблю и свой небольшой накопать:)

                  Ну матиматическое множество оно пусть так. Но почему оно первично? Разве не единица первична? Единица — это любой объект, который мозг может отделить от фона. Соотвественно 2...N — это 2...N объекта, сгрупированных (выделенных) по какому-то общему признаку. Вот и множество)

                  Хотите называйте единица, хотите элемент. Возможно, я несостыковался с принятыми терминами но мне кажется суть тут одна.
                  • 0
                    Единица — это любой объект, который мозг может отделить от фона.

                    Вы заменили слово «множество» на слово «фон», и не более того.
                    • 0
                      ну ок. Также те, кто назвал это «множеством» заменили слово «Всё известное человеку» на «множество»… Ну чтож, мейкс сенс… С новым годом)
                      • 0
                        Определение Кантора, разумеется, так же не является определением. Множество в математике — неопределяемое понятие. Множество — то, что мы понимаем под ним.
          • +4
            >> Наша вселенная начинается с аксиоматики.

            нет универсальной аксиоматики и универсальной истины, это хорошо показал Курт Гёдель в своих теоремах о неполноте формальных систем
      • 0
        У сознания нет определения. Точнее, определений столько же, сколько исследователей, исследовавших сознание.
        • 0
          Тогда о чем речь в этой заметке?
          • 0
            сознание — как суслик в ДМБ. оно есть, но определения дать никто не может.

            еще вариант — о каком-то частном определении сознания.
            • +1
              Нельзя говорить о том, что не имеет определения, потому что мы можем разговаривать о разных вещах.
              • +1
                правильно, поэтому в научной статье начинают с определения — чтобы не возникало непоняток.
                • +1
                  И вот тут мы и приходим к парадоксу определений :).

                  Кратко суть: нельзя дать однозначно дать определение самому «определению» потому что каждому слову из определения тоже нужно давать определение, а что такое определение никто не знает.
                  • 0
                    Можно идти от априорных понятий. Сознание таковым не является.
                    • 0
                      Конечно можно, просто все выводы будут ограничены рамками о которых мы и условимся в начале разговора.
                  • 0
                    да, поэтому нужны точки отсчета. например у античных материалистов — это пять чувств. у идеалистов — дух. у буддистов — таковость. и т.д. у каждого из них свое определение определения и сознания.
    • +2
      > сознания у собчаки
      • +7
        сорри, рано отправил. Вы осознанно это ^^^ написали или опечатались? :)
    • +1
      Кроме того, на самом деле, сознание — это своего рода фетиш техноэпохи, попытка допрыгнуть до Б-га. По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная. Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

      Вообще, на сколько я понимаю, существует множество задач, в которых максимально эффективное выполнение работы связано с наличием интеллекта, например: перевод текстов, общение с человеком на естественном языке и т.д. Поэтому, как мне кажется, ИИ вещь очень даже практически полезная.
      • +1
        Интеллект — на здоровье. Причем тут сознание? Это разные вещи.
        • 0
          Приведу пример из своего предыдущего поста:

          Способность общаться с человеком на равных без сознания не возможна, т.к. человеческий язык строился изначально сущностями обладающими сознанием (т.е. людьми), исходя из этого не возможен и сравнимый по качеству с человеческим машинный перевод текстов (все по той же причине, что полное понимание языка требует сознания).

          Если мы хотим добиться этих целей, то получается, что сознание не является свойством, которое просто появляется само собой у людей и не имеет никакой ценности в отношении машин обладающих интеллектом.
          • +1
            Мне все ваши аргументы видятся очень сильно надуманными.

            Кто вам сказал, что для перевода нужно сознание? Хорошо, пусть для перевода нужно понимание текста (что само по себе не обязательно) — но зачем для понимания сознание?

            Понимание — это выстраивание некоторой цепочки абстракций согласно тексту. Где здесь необходимость в сознании? Где необходимость осознавать собственное существование?
            • 0
              Кто вам сказал, что для перевода нужно сознание? Хорошо, пусть для перевода нужно понимание текста (что само по себе не обязательно) — но зачем для понимания сознание?

              Не могу согласиться, для перевода, понимание необходимо. Без него вы получаете то, что делают сейчас системы машинного перевода.
              Понимание — это выстраивание некоторой цепочки абстракций согласно тексту

              Если язык формален, как к примеру языки программирования — то да. Логических цепочек вполне достаточно. Хотя даже в этом случае я бы не стал говорить, что компилятор именно понимает язык программирования а не выполняет над ним механические преобразования (хотя цепочки он выстраивает конечно же).
              В случае понимания естественного языка, мне кажется необходимо нечто большее чем выстраивание лог. цепочек.

              Если сознание — это только понимание факта своего существование, тогда да — оно не так уж и важно. Но мне кажется, что понимание и сознания два тесно связанных между собою понятия.
              • +1
                Вот пока вам «кажется»- разговор бессмысленен.

                Надо подводить теоретическую базу, и тогда уже что-то решать.
                • 0
                  Разве в этой области кто-нибудь знает что-нибудь точно?
                  • +1
                    Это вовсе не значит, что глубокие выводы можно делать на коленке.

                    Скажем, чтобы сделать ваш вывод, нужны знания в лингвистике, культурологии и нейродинамике.
                    • 0
                      Согласен, я лишь предположил основываясь на том, что я знаю.
    • 0
      Нефальсифицируемое определение сознания нужно выкинуть и придумать другое, фальсифицируемое.
    • 0
      >По факту, сознание у машины — вещь строго утилитарная, и, в общем-то, ненужная

      Это только до тех пор, пока мы не хотим расширить свои мыслительные способности. Как только захотели — нужно придумывать такую электронную структуру, которая совместима с человеческим мышлением на уровне сигналов нейронов, и которая, в будущем, обязательно должна обладать сознанием.

      >Главное для любой машины — максимально эффективно выполнять работу, и чем меньше она при этом будет задумываться над смыслом бытия — тем лучше.

      Для машины, решающей конкретную задачу — да, но например я вполне хотел бы создать сильный ИИ, не как машину, а как другой разумный вид. Более того, подозреваю, что я не один такой. Так что появление сильного ИИ — вполне вероятно.
  • 0
    я вообще не понимаю проблему — рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, особенно ЭВМ, а что с ЭВМ не так?

    Если знать алгоритм работы то на ЭВМ можно запрограммировать все что хочешь

    так что архитектура ЭВМ подходит для решения всех алгоритмов

    если знать алгоритм взаимодействия нейронов, то почему нет?

    я не говорю что типа не хватит вычислительных ресурсов, это совсем другая тема

    если чисто теоретически проскандировать и запрограммировать работу каждого нейрона в голове конкретного человека, и то с чего вы взяли что это нельзя эмалировать в на ЭВМ?

    на деле это будет обычный дубликат вашего сознания и всех ваших знаний и ваше сознание обретет вечную жизнь, точнее его дубликат)

    и по поводу взаимодействия один с другим, возьмите 2 ИИ запущенных на разных машинах, пусть взаимодействую

    короче говоря сознание в людском понимании этого слова будет достигнуто только при эмуляции мозга

    а сознание вообще, как что интеллектуальное не привязное к телу, что от просто понимающие, термина которому еще нет, возможно будет достигнута

    при взаимодействии ИИ с ИИ, ИИ с нами, ИИ с нами и ИИ
    • +3
      Читайте мое сообщение внимательно
      если чисто теоретически проскандировать и запрограммировать работу каждого нейрона в голове конкретного человека, и то с чего вы взяли что это нельзя эмалировать в на ЭВМ?

      Вы исходите из того убеждения, что достаточно точно описать некий объект (например, мозг) для того, чтобы точно описать его поведение. Это абсолютно неверно (хотя бы потому, что нельзя описать такой макрообъект с достаточной точностью), см. Вернер Гейзенберг, «Философия и физика».
      Но вообще мой текст не касается проблемы моделирования нейронов и рассматривает совсем иные вопросы.
      и по поводу взаимодействия один с другим, возьмите 2 ИИ запущенных на разных машинах, пусть взаимодействую

      Простое взаимодействие никак не является аналогом сложных социальных систем, в которых возможно появление сознания. Необходимо, чтобы в) анализ собственного поведения давал какие-то ощутимые преимущества, которые б) неким образом накапливались в ходе эволюции.
      короче говоря сознание в людском понимании этого слова будет достигнуто только при эмуляции мозга

      Боюсь, это утверждение Вами не обосновано сколько-нибудь серьезно.
      • +1
        Рефлексия сознания эволюционировала, чтобы повысить эффективность индивидуума в социуме. Что мешает машине стать частью социума людей? И изучать своё поведение с целью улучшения эффективности взаимодействия с людьми. Возможно, в результате машина не сможет построить свой собственный социум, но ужиться в человеческом может получиться.
        • +1
          Ну, для начала то, что машина неспособна на эмоциональные реакции. Затем то, что машина неспособна передавать и усваивать абстрактные понятия.
          • 0
            Слово «эмоциональные» не стоит использовать, пока вы рассуждаете о типа-научных вещах.
            Нету такого научного понятия…
            и второе — все понятия абстрактные. Если нет, расскажите в чём ключевая разница между абстрактными и неабстрактными. (а лучше не начинайте)

            И почему тогда машина не сможет встроиться в социум?
            • +1
              Слово «эмоциональные» не стоит использовать, пока вы рассуждаете о типа-научных вещах.
              Нету такого научного понятия…

              «эмоция» — вполне научное понятие. По поводу значимости эмоциональной реакции для макроэволюции см., например, Конрад Лоренц, «Агрессия».
              и второе — все понятия абстрактные. Если нет, расскажите в чём ключевая разница между абстрактными и неабстрактными.

              Абстрактное понятие — выражение свойств предмета, не воспринимаемых непосредственным наблюдением.
              (а лучше не начинайте)

              Если Вы не желаете услышать ответ, зачем задаете вопрос?
              • 0
                Хахахах, агрессия)) тут это не причём. Вы мне дайте определение эмоции и всё? зачем так сложно. «Вполне научное» — не уверен, что так бывает…

                Про «Абстрактное понятие — выражение свойств предмета....» — ноу комментс, это никак не так. Вы с таким же успехом могли бы сказать любой другой набор слов

                Если Вы не желаете услышать ответ, зачем задаете вопрос?

                А вы не поняли да, почему я это сказал? Потому что не верил в ваш конструктивный ответ…
                • 0
                  Хахахах, агрессия)) тут это не причём.

                  Книга «Агрессия» — очень даже причём.
                  Вы мне дайте определение эмоции и всё?

                  slovari.yandex.ru/dict/psychlex2/article/PS2/ps2-0367.htm?text=%D1%8D%D0%BC%D0%BE%D1%86%D0%B8%D1%8F&stpar3=1.8
                  «Вполне научное» — не уверен, что так бывает…

                  «Научность» определяется в первую очередь следованием научной методологии. «Агрессия» Лоренца без всяких сомнений — научное исследование.
                  Про «Абстрактное понятие — выражение свойств предмета....» — ноу комментс, это никак не так. Вы с таким же успехом могли бы сказать любой другой набор слов

                  Быть может, не стоит так явно демонстрировать свою неспособность к пониманию?
                  slovari.yandex.ru/dict/phil_dict/article/filo/filo-006.htm?text=%D0%B0%D0%B1%D1%81%D1%82%D1%80%D0%B0%D0%BA%D1%82%D0%BD%D0%BE%D0%B5%20%D0%BF%D0%BE%D0%BD%D1%8F%D1%82%D0%B8%D0%B5&stpar3=1.2
                  Так понятнее?
                  А вы не поняли да, почему я это сказал? Потому что не верил в ваш конструктивный ответ…

                  Простите, но я ответил на Ваши вопросы, а Вы в ответ демонстрируете полное непонимание предмета. Чей ответ неконструктивен?
                  • 0
                    Ну не ерзите

                    «особый класс психических явлений, выражающих в виде пристрастного субъективного переживания значение отражаемых предметов и ситуаций для удовлетворения потребностей живого существа» — вас это удовлетворяет? меня нет.

                    Ну не ерзите же.

                    Я понимаю, что абстракция = упрощение. Поэтому не нужно второго слова для одного и того же. Я знаю, что вы меня всегда сможете закидать ссылками где будет написано что-то это то-то и то-то. Но так как всё упрощено, я всё считаю «абстрактным», понимаете? вернувшись к тому, с чего мы начали, становится понятно, почему в применении к ии говорить «о, машина не способна бла-бла-бла абстрактные понятия» — не нужно.

                    Не договорились?..
                    И + ко всему то определение которое вы мне дали действительно неправдоподобно. Причём тут воспринимаемые невоспринимаемые…

                    3.
                    ну вот, приехали к обзывательствам)
                    «непонимание предмета» — а у вас понимание? у меня непонимание. И у вас непонимание, может быть меньшее. Все мы пытаемся осознать этот мир:)

                    А про агрессию я догадался, что речь идёт о книге, и я говорил о книге, что она здесь не причём.

                    Агрессия = «инстинкт борьбы, направленный против собратьев по виду, у животных и у человека» (из книги)
                    Эмоция — «психическое явление..»

                    Пока эти «инстинкты борьбы» и «психические явления» не будут связаны с физическими законами или не будут описаны своей четкой системой — вы уж извините буду считать их ненаучными… позволю себе так это назвать. Ну да, психология она много экспериментов провела и собрала много данных и поэтому уже наука видите ли. Ну не знаю, называйте как хотите…

                    Короче, подводя итог,

                    Я думаю ии возможен,
                    или невозможен, но аргументы про эмоцию и абстрактные понятия глуп, потому как он равнозначен тому, что вы (они она) говорите «создать ии нельзя потому что мы не знаем, как действует механизм», что == бред, ибо создание ии и есть расследование, изучение и «узнавание» механизма.

                    • 0
                      вас это удовлетворяет? меня нет.

                      И что с того?
                      Я понимаю, что абстракция = упрощение.

                      Ни в коем случае. Абстракция — прежде всего выделение некоторых свойств объекта, которые можно рассматривать отвлеченно (абстрактно) от остальных свойств объекта. Является одной из наиболее важных составляющих мыслительной деятельности.
                      вернувшись к тому, с чего мы начали, становится понятно, почему в применении к ии говорить «о, машина не способна бла-бла-бла абстрактные понятия» — не нужно.

                      Абстракция и абстрактное понятие — не одно и то же. Быть может, прежде чем меня поучать, следует научиться читать?
                      ко всему то определение которое вы мне дали действительно неправдоподобно

                      Какой смысл Вы вкладываете в свое «неправдоподобно» кроме того, что определение Вам не нравится?
                      А про агрессию я догадался, что речь идёт о книге, и я говорил о книге, что она здесь не причём.

                      Агрессия = «инстинкт борьбы, направленный против собратьев по виду, у животных и у человека» (из книги)
                      Эмоция — «психическое явление..»

                      Я отсылал Вас к «Агрессии» для того, чтобы Вы уяснили, какое значение эмоции имеют для эволюции. Зачем в ответ Вы мне приводите определение агрессии из книги? Вы решили, что этим определением книга исчерпывается? Смею заверить, нет. Там еще 400 страниц.
                      «непонимание предмета» — а у вас понимание? у меня непонимание. И у вас непонимание, может быть меньшее. Все мы пытаемся осознать этот мир:)

                      Какие обзывательства, помилуйте. Я констатирую факт. Отсутствия у Вас понимания обсуждаемого вопроса и полное нежелание с этим что-то сделать.
                      Пока эти «инстинкты борьбы» и «психические явления» не будут связаны с физическими законами или не будут описаны своей четкой системой — вы уж извините буду считать их ненаучными… позволю себе так это назвать. Ну да, психология она много экспериментов провела и собрала много данных и поэтому уже наука видите ли. Ну не знаю, называйте как хотите…

                      Наука останется наукой независимо от того, считаете Вы ее таковой или нет, поверьте. Научное исследование отличается от псевдонаучных фантазий точным следованием научной методологии.
                      • 0
                        черт, фф крякнулся, похоронив длинный научно-методологичный ответ) это судьба

                        но вы всё равно как-то жёстко всё воспринимаете. научиться читать, усвоить… ок, мастер. Вы всё понимаете? Тогда человечеству не повезло, что тот великий ум который всё понял так плохо умеет передавать свои знания…
                        • 0
                          Разумеется, я понимаю не все. Но, по крайней мере, я пытаюсь что-то понять.
                          • 0
                            аналогично и отдельное фи за сомнения в оном
          • –1
            Эмоциональные реакции, абстрактные понятия — это все какая-то лирика, прости господи. Есть куски мозга, эти куски отвечают за функции. Если человеку отчекрыжить лобные доли, то он становится весьма асоциальным типом.
            Что такого есть в лобных долях что мы это не можем сделать на компьютере? Почему гиппокамп можем, а лобные доли нет?
            Организовано сложнее?
            Ну да, сложнее.
            Ну так вот и дело в том, что вопрос в сложности, и не в чем ином.
            • 0
              Эмоциональные реакции, абстрактные понятия — это все какая-то лирика, прости господи.

              Это не лирика. Это вполне строгие понятия, без которых невозможно обсуждение данной темы.
              Что такого есть в лобных долях что мы это не можем сделать на компьютере? Почему гиппокамп можем, а лобные доли нет?
              Организовано сложнее?
              Ну да, сложнее.
              Ну так вот и дело в том, что вопрос в сложности, и не в чем ином.

              Позволю себе процитировать упомянутую мной «Физику и философию» Гейзенберга:
              «В то время [в XIX веке] некоторые ученые были склонны полагать, что факты психологии могут быть в конечном счете объяснены физикой и химией человеческого мозга. С точки зрения квантовой механики для таких предположений нет больше никаких оснований. Хотя в мозге физические процессы имеют отношение к психическим, все же нельзя предположить, что эти физические процессы достаточны для объяснения психических явлений. Мы, естественно, не стали бы сомневаться в том, что мозг ведет себя как физико-химический механизм, если его рассматривают в качестве такового. Но для понимания психических явлений следовало бы исходить из того факта, что в данном случае человеческий дух выступает в психологии и как объект, и как субъект научного исследования.»
              • –2
                Да при чем здесь физик-теоретик, да притом в области квантовой физики и проблемы сознания — кибернетики???

                Квантовая механика приложима к проблеме сознания ничуть не более чем электродинамика (т.е. никак). Слава богу Максвелл не догадался по этому поводу ничего написать.
                А то что кто-то там что-то притянул за уши от громкой фамилии ничуть менее притянутым быть не перестает.

                • –1
                  Ознакомьтесь с указанным сочинением, будьте так любезны.
                  • –2
                    Судя по отцитированному отрывку оно того явно не стоит.
                    • –1
                      В таком случае не стоит и принимать участие в дискуссии и, тем более, советовать мне побольше читать.
      • –1
        да это «самолетопоклонники» они думают что если точно следовать ритуалу, или чтто-то точно дублировать то получится точно такой же результат. ru.wikipedia.org/wiki/%D0%9A%D1%83%D0%BB%D1%8C%D1%82_%D0%BA%D0%B0%D1%80%D0%B3%D0%BE они встречаются всюду и это самое нижнее понимание мира, оно основывается на неверном предположении что «есть только то что я вижу» (ну или читай знаю для чуть более развитых обществ)
        • +1
          Не, ну если вы идеалист, то разговора в самом деле не получится. Ибо парадигмы разные. Но не думаю, что вы говорите так именно из-за идеалистических убеждений.
      • +2
        Вы исходите из того убеждения, что достаточно точно описать некий объект (например, мозг) для того, чтобы точно описать его поведение. Это абсолютно неверно (хотя бы потому, что нельзя описать такой макрообъект с достаточной точностью), см. Вернер Гейзенберг, «Философия и физика».
        Абсолютно неверно — полагаться на измышления теоретиков крайнего толка, которые пытаются обобщить свои достижения в одной области на все остальное.Начнем с точности. Для этого обратимся к понятию минимальной необходимой точности. Что это? Это некая точность копирования, при которой значимые для нас характеристики системы останутся неизменными.
        Какую характеристику можно взять для ИИ? Допустим — прохождение теста Тьюринга.
        Так вот, у вас в мозгу отомрут тысячи нейронов к моменту, когда вы прочитаете этот текст. И что, вы не пройдете тест Тьюринга? Пройдете, уверен.Более того, рассмотрев систему с позиции квантовой механики мы обнаружим, что если поменять волновые функции всех этих (сколько-то там)ллионов электронов и прочих кварков, то тоже ничего существенного не произойдет (кто не верит — сходите на сеанс МРТ томографии). Т.е. квантовая точность тут тоже не рулит.Значит точность необходима и достаточна не просто на уровне нейронов, а гораздо выше — скорее на уровне ассоциаций нейронов. И что, по прежнему считаете, что таким образом невозможно эмулировать ИИ? Это я не касаюсь других вопросов, поскольку не вижу каких-либо фундаментальных причин, почему ИИ не может быть эмулирован на чем угодно и кроме мозга. Но категорически настаиваю, что на достаточно точной модели мозга он может и абсолютно точно _будет_ эмулироваться.
        В конце концов, что такое оригинал, как не абсолютно точная модель самого себя?
        • –2
          Абсолютно неверно — полагаться на измышления теоретиков крайнего толка, которые пытаются обобщить свои достижения в одной области на все остальное.

          Как бы несколько некрасиво программную книгу Гейзенберга называть «измышлениями теоретиков крайнего толка». Не вижу для того никаких оснований.
          Так вот, у вас в мозгу отомрут тысячи нейронов к моменту, когда вы прочитаете этот текст. И что, вы не пройдете тест Тьюринга?

          Из этого никак не следует, что если скопировать мой мозг с точностью ± 1000 нейронов, то копия пройдет тест Тьюринга.
          Более того, рассмотрев систему с позиции квантовой механики мы обнаружим, что если поменять волновые функции всех этих (сколько-то там)ллионов электронов и прочих кварков, то тоже ничего существенного не произойдет (кто не верит — сходите на сеанс МРТ томографии).

          Опять же, существует значительная разница между «изменить состояние системы во время ее работы» (которое, несомненно, будет практически мгновенно выровнено, т.к. мозг — саморегулируемая система) и «сделать копию, отличающуюся сколько-ко то там миллионами электронов и прочих кварков».
          Т.е. квантовая точность тут тоже не рулит.

          Не вижу никаких убедительных доводов в пользу этого рассуждения.
          Но категорически настаиваю, что на достаточно точной модели мозга он может и абсолютно точно _будет_ эмулироваться.

          Пойдем от противного: какой результат какого эксперимента Вы примете за опровержение Вашего тезиса?
          • –2
            Мозг вообще — нелинейная система, а нелинейным системам свойственно крайне неприятное свойство: если задаться неким начальным состоянием системы и попытаться рассчитать ее дальнейшее развитие, то через n-ое количество времени выяснится, что принятое начальное состояние недопустимо для этой системы. Иными словами, нельзя по предъявленному физико-химическому описанию некоторой структуры заранее сказать, является она мозгом (как психологической системой) или нет.
            • 0
              пардон, «через n-ое количество времени выяснится» следует читать как «через n-ое количество времени может выясниться».
            • +1
              Нет, нелинейные системы не обладают такими свойствами.

              Более того, для нелинейных систем есть функция состояния где граничные значения иногда вполне могут быть просчитаны.

              >Иными словами, нельзя по предъявленному физико-химическому описанию некоторой структуры заранее сказать, является она мозгом (как психологической системой) или нет.

              Т.е. нельзя наверняка сказать, обладаете ли вы мозгом или нет? Смелое утверждение.
              Ведь в вашей голове существует не что иное, как достаточно точное физико-химическое описание мозга воплощенное в «харде».
              • –2
                Нет, нелинейные системы не обладают такими свойствами.

                Я написал только то, что подобрать состояние системы не всегда возможно. Не знаю, что Вы пытаетесь здесь оспорить.

                Более того, для нелинейных систем есть функция состояния где граничные значения иногда вполне могут быть просчитаны.

                Иногда — ключевое здесь слово.
                Т.е. нельзя наверняка сказать, обладаете ли вы мозгом или нет? Смелое утверждение.

                По физико-химическому описанию — нет.
                Ведь в вашей голове существует не что иное, как достаточно точное физико-химическое описание мозга воплощенное в «харде».

                Не вижу никакого противоречия. Да, мозг это физико-химический объект, если рассматривать его в этом качестве. Но ведь нас интересуют вовсе не физико-химические свойства мозга.
                • +2
                  Все свойства мозга определяются его физикой. Так как вообще любые свойства любой системы определяются ей.
                  Кто считает иначе — тому в церковь, молиться за спасение невидимой и неосязаемой души.
                  • –1
                    Все свойства мозга определяются его физикой. Так как вообще любые свойства любой системы определяются ей.

                    Физические свойства мозга определяются его физикой. Но физические свойства мозга никого не интересуют.
                    • 0
                      Ни у какого объекта во вселенной нет иных свойств кроме физических.
                      Все дальнейшее — химические, биологические, психологические, социальные — лишь производное от них.
                      Я биолог если что, не физик.
                      • –3
                        Ни у какого объекта во вселенной нет иных свойств кроме физических.
                        Все дальнейшее — химические, биологические, психологические, социальные — лишь производное от них.

                        Докажите.
                        • 0
                          Чайник Рассела? :)
                          • 0
                            Почему же. Просто мой оппонент как-то не считает нужным каким-либо образом подтверждать свои слова, что мне уже несколько надоело.
                            • 0
                              Это Вы делаете непроверяемые предположения, а не он. И доказывать, стало быть, Вам.
                              • 0
                                Это Вы делаете непроверяемые предположения, а не он.

                                Какие например?
                                • +1
                                  О наличии других компонентов разума, кроме физической и структурной.
                                  • +1
                                    Т.е. я точно так же могу утверждать что человеческое мышление определяется неощущаемыми потоками Варпа, или что тепловым движением молекул заведуют необнаружимые демоны Максвелла.
                                    • 0
                                      О наличии других компонентов разума, кроме физической и структурной.

                                      Я ничего такого не писал. Следите за руками.
                                      Мозг как физический объект, разумеется, не имеет никаких других свойств, кроме как физических. В системе понятий физики мозг довольно тривиальный объект, не обладающий никакими интересными физическими свойствами.

                                      Однако мозг в системе понятий психологии — значительно более интересный объект, обладающий сознанием, способный к целеполаганию и пр. Это все — психологические свойства, имеющие смысл в рамках системы понятий науки психологии. Эти понятийные системы — физическая и психологическая — никак между собой не пересекаются, соответственно психологические свойства не могут быть сведены к физическим. О чем долго и упорно пишет Гейзенберг.
                                      • 0
                                        Понятийные системы не пересекаются, тем не менее причинность остаётся. Можно стимуляцией отдельных участков мозга влиять на психическое и эмоциональное состояние — стало быть, такая связь есть.
                                        • 0
                                          Можно. Это каким-то образом опровергает вышесказанное?
                                          • 0
                                            Дополняет. Локализация различных эмоций и функций на участках коры головного мозга — разве это не частичное сведение психологических свойств к физическим?
                                            • 0
                                              Скорее уж тогда к геометрическим ).
                                              Это не сведение, это просто дополнение. Что такая-то эмоция помимо всего прочего вызывается активностью такой-то области коры мозга. Это, безусловно, чрезвычайно важная информация, например, для медиков, но никак не связующее звено между психологией и физикой.
                                              • 0
                                                Когда мозг будет объяснён весь, целиком и как система, мы в любом случае узнаем ответ :)
                      • –2
                        ну, если не брать метафизические, то кроме физических действительно ничего не будет.
                        вас как биолога никогда не удивляло как такой сложный механизм, как клетка, мог появится путем случайных процессов?

                        Был такой Фред Хойл, с легкой руки которого начало Вселенной стало называться Big Bang (Большой Бабах). Он вел передачу на радио и когда обсуждал эту теорию, на ходу в шутку придумал это название.

                        Он весьма глубоко проанализировал количественную сторону биологической теории эволюции и пришел к выводу, что ее скорость слишком мала, чтобы за несколько миллиардов лет создать совершенство жизни. Возможно, вы слышали его «притчу о боинге».

                        Представьте, что на огромной свалке в беспорядке разбросаны части авиалайнера «Боинг-747», разобранного до последнего винтика. И вот налетел ураган, прошелся могучим смерчем по свалке, перемешал и закрутил весь этот «металлолом». Велики ли шансы, что после такой «мясорубки» на свалке будет стоять полностью собранный «боинг», готовый отправиться в полет? Так вот — они не меньше, чем шанс случайно собраться простейшему живому организму из разрозненных химических «кирпичиков». Это со скрупулезной точностью подсчитал Хойл, выяснив, что уровень сложности простейшей живой клетки сопоставим с количеством деталей авиалайнера.

                        Эта притча впервые была опубликована в 1983 году в книге Хойла «Разумная Вселенная».

                        Последние три абзаца — из www.znanie-sila.ru/online/issue_2011.html
                        • –2
                          ну, если не брать метафизические, то кроме физических действительно ничего не будет.

                          Хм, ну вот свойство клетки делиться — оно физическое или нет? Если физическое, то, очевидно, должно описываться в физических терминах — масса, импульс, заряд и пр. Можете описать это свойство физически?
                          • 0
                            не знаю за что нам с вами влепили по минусу, но мы видно на правильном пути )))
                            на счет свойства делиться — не знаю к каким оно относится. скорее к биологическим. как его описать физически тоже не знаю.
                        • 0
                          а между прочим проводили эксперимент:
                          под руководством Юри его ученик С.Миллер доказал, что природные аминокислоты образуются при пропускании электрического разряда через смесь аммиака с метаном, водой и водородом – компонентами добиологической атмосферы Земли. Благодаря этому классическому эксперименту Юри заслужил всеобщее признание как «отец космохимии».

                          так что не боинг, но уже близко.
                          • 0
                            А с сознанием как?

                            Сазерленду в январе 2009 удалось синтезировать нуклеотиды Ц и У (2 из 4, из которых состоит РНК): elementy.ru/news/431082 и он как мне кажется большой молодец. Но для этого понадобились специальные условия (как и у Миллера) — т.е. еще одна случайность в природе. Случайность за случайностью?

                            Близко было всегда и всегда будет — в начале ХХ века казалось, все здание физики построено. Но за одним горизонтом оказался следующий. Появится ли сознание у той клетки, которую в результате всего этого смогут синтезировать в лаборатории?
                            • 0
                              Забавно, что согласно той самой статье, на которую вы сослались, возникновение аминокислот было не просто не случайно — оно было неизбежно в тех условиях. «Открытый авторами путь абиогенного синтеза цитидина поражает своим изяществом. Особенно впечатляет неоднократное использование побочных продуктов, получающихся на предыдущих этапах пути, в качестве необходимых помощников на следующих этапах.» Об этом вся вторая половина статьи.
                              • 0
                                Я имел ввиду случайность именно условий и необходимого количества веществ в реакции. Что будет если чего-то будет больше? Что будет если будут присутствовать другие вещества? Лабораторный вариант — одно, мир — все-таки другое.

                                Если честно, я сам каждый раз поражаюсь, когда читаю эту статью, опять на ум приходят слова «все гениальное — просто». Дальнейшие открытия, уверен, будут такими же изящными и красивыми по сути. Просто сознание не состоит из физических атомов, его нет в нейронах, оно не появляется вследствие химических реакций. Я не спорю, что в природе могли появиться молекулы высокой сложности и даже их соединения. Я не согласен с тем, что сознание у этих соединений появилось вследствие усложнения структуры.
                        • 0
                          Фишка ведь в том, что боинг собрался не сразу. Концепции молекулярной эволюции позволяют изящно перепрыгнуть этот логический парадокс.
                          • 0
                            могу предложить вам написать Хойлу ответ на его книгу или хотя бы ее сначала прочитать :) — вдруг там про молекулярную эволюцию и есть?
          • –3
            >Из этого никак не следует, что если скопировать мой мозг с точностью ± 1000 нейронов, то копия пройдет тест Тьюринга.

            Следует совершенно однозначно.

            >Опять же, существует значительная разница между «изменить состояние системы во время ее работы» (которое, несомненно, будет практически мгновенно выровнено, т.к. мозг — саморегулируемая система) и «сделать копию, отличающуюся сколько-ко то там миллионами электронов и прочих кварков».

            Это вы сами придумали.
            Нет никакой разницы.
            Самоорганизующаяся и существующая длительное время система всегда приходит к устойчивому состоянию.

            >Пойдем от противного: какой результат какого эксперимента Вы примете за опровержение Вашего тезиса?

            Скопировав полностью мозг человека мы не сможем заставить его пройти тест Тьюринга.

            А вообще, даже спорить смешно, не стоит это вам делать. Лучше потратьте свое время на прочтение каких-либо иных книжек кроме пары, которых вы прочитали и решили, что все поняли.
            Возьмите два процессора. Они сделаны абсолютно из разных субстанций, квантово отличаются полностью. Тем не менее оба работают одинаково.
            Мозг ничем концептуально не отличается от процессора. Ввод и вывод, посередине некий обработчик информации. Как именно устроен обработчик не так уж и важно.
            И уж точно на него не влияет расположение отдельных атомов, ибо собственно информационная функция системы реализуется на гораздо более высоком уровне.
            • –1
              Следует совершенно однозначно.

              Простите, Ваши рассуждения логически неверны.
              Это вы сами придумали.
              Нет никакой разницы.

              Не вижу никаких подтверждений Вашего тезиса.
              Самоорганизующаяся и существующая длительное время система всегда приходит к устойчивому состоянию.

              Несомненно. Поэтому если работающую систему направлено изменять (например, облучением во время томографии), то она сохранит устойчивое состояние.
              А если ее скопировать неточно, то нет никакой гарантии, что на полученная в результате система сохранит способность к самоорганизации.
              Скопировав полностью мозг человека мы не сможем заставить его пройти тест Тьюринга.

              Иными словами, Ваша позиция нефальсифицируема, по крайней мере, в обозримом будущем.
              А вообще, даже спорить смешно, не стоит это вам делать. Лучше потратьте свое время на прочтение каких-либо иных книжек кроме пары, которых вы прочитали и решили, что все поняли.

              Я прочел довольно много книг, поверьте.
              Возьмите два процессора. Они сделаны абсолютно из разных субстанций, квантово отличаются полностью. Тем не менее оба работают одинаково.

              Процессор не является динамическим хаосом. Собственно, Вы это и написали — незначительные отклонения в начальном состоянии системы не приводят к изменениям ее поведения на макроуровне.
              Мозг ничем концептуально не отличается от процессора. Ввод и вывод, посередине некий обработчик информации. Как именно устроен обработчик не так уж и важно.

              Выше я указал Вам принципиальное различие.
              • +1
                >Иными словами, Ваша позиция нефальсифицируема, по крайней мере, в обозримом будущем.

                Абсолютно фалисифицируема, ибо критерий фальсифицируемости — не возможность что-то доказать здесь и сейчас, а возможность проверить утверждение в принципе.

                >Я прочел довольно много книг, поверьте.

                Нужно не только читать, но и верно интерпретировать прочитанное. А так же критически подходить к авторитетам.

                >Процессор не является динамическим хаосом.

                А мозг, что, является? С какой стати? Там точно так же есть нейроны/ячейки и связи между ними.
                Да, процессор тоже может себя изменять во время работы, записывая в кэш информацию.

                >если работающую систему направлено изменять (например, облучением во время томографии), то она сохранит устойчивое состояние.
                А если ее скопировать неточно, то нет никакой гарантии, что на полученная в результате система сохранит способность к самоорганизации.

                Давайте не будем тут применять эту иезуитскую квантово-механическую логику.
                Да, согласно вашим представлениям мы не можем гарантировать работу сознания, так же как и не можем гарантировать нахождение нашего тела на этом самом месте через секунду. Ведь оно вполне (с какой-то крайне низкой вероятностью) может через эту самую секунду телепортироваться на луну вместе со всеми своими частицами. И там благополучно издохнуть.

                Только вот данные измышлизмы совершенно неприменимы в практической стороне постижения макрообъектов. И чайник будет кипеть несмотря на то, какие именно из его молекул обладают достаточной энергией для фазового перехода, и мозг будет иметь сознание, опять же, при любой мало-мальски вероятной комбинации кварков и электронов в существующей архитектуре. Невероятные комбинации — это к Гейзенбергу. Т.к. по его логике мы не можем быть уверены в том, что если мы вскипятили один чайник, то вскипит и другой.
                • 0
                  процессорный кэш — это всего лишь способ буферизации частоиспользуемых данных из медленного хранилища данных в быстром хранилище.
                  максимум, что можно притянуть к «изменению себя» у современных процессоров — это обновление микрокода (инициируемое софтом извне, микрокод предоставляется извне)
                  • 0
                    Сделать самопрограммируемый процессор тем не менее вполне возможно.
                    • 0
                      Который сам себе «придумывает» команды, которые изначально не заложены?
                      • 0
                        Теоретически да. Вроде генетического программирования.
                        • 0
                          Наверно я отстал немного… где можно почитать о такой теории?
                          • 0
                            Процессоры с изменяемой логикой — здесь и здесь, про генетическое программирование — здесь.
                          • 0
                            Кстати, физический процессор для этого не обязателен. Эмуляция вполне сойдёт.
                            • 0
                              Если это имелось ввиду под «самопрограммируемостью», то да.
                              Дело в том, что в этих случаях система знает что должно получиться, то есть заранее известна цель и ГП это просто один из способов ее достичь — это почти как обучение нейросети с учителем.
                              Но процессор же не может сам себе поставить цель, поэтому как ни крути, а все что он умеет и может суметь описывается разработчиком в простых случаях или при анализе просто перейдет за границу прогнозов… в хаос :) детерминированный, кстати :).
                              • 0
                                Его цель будет задавать фитнесс-функция. Человек тоже вряд ли сознательно ставил себе цель эволюционировать до полётов в космос :)
                                • 0
                                  Ну тут смысл немного в другом ;). Выше ж это написано: сколько б процессор сам себя не дописывал на макроуровне изменения не произойдут — процессор останется процессором :), а с людями немного по другому.

                    • 0
                      Чайник Рассела?
                      • 0
                        Где? Такие микросхемы уже существуют, их можно использовать.
                        • 0
                          Честно прочитал статью, не нашел ничего о
                          само
                          программировании.
                          • 0
                            Это уже задача программы. Фишка в том что процессор может изменять свою логику, просто подавая сигнал на определённые входы. Представьте что он изменяет хранимую в памяти прошивку (например, генетическими алгоритмами), и перепрошивается. Это и будет самопрограммированием.
                            • 0
                              Простите, но, в моем представлении, самопрограммирование — это написание программы (решение некоторой задачи с заранее неизвестным алгоритмом) без привлечения человека. Это как бы совсем не то же самое, что произвольное изменение системного набора команд, даже если оно управляется генетическим алгоритмом.
                • 0
                  Абсолютно фалисифицируема, ибо критерий фальсифицируемости — не возможность что-то доказать здесь и сейчас, а возможность проверить утверждение в принципе.

                  Я написал — нефальсифицируема в обозримом будущем. Что не так?
                  Нужно не только читать, но и верно интерпретировать прочитанное. А так же критически подходить к авторитетам.

                  Я цитирую книгу Гейзенберга не потому, что Гейзенберг для меня авторитет; но потому, что я прочитал и критически осмыслил эту книгу. Вы же ее не читали, но тем менее позволяете себе выносить суждения в стиле «да что там этот Гейзенберг понимает». Не наблюдаете ли неких противоречий с рекомендуемой Вами позицией?
                  А мозг, что, является? С какой стати? Там точно так же есть нейроны/ячейки и связи между ними.

                  С определением динамического хаоса, очевидно, Вы тоже не ознакомились. Попробуйте для начала выяснить, о чем идет речь, прежде чем отвечать в таком стиле.
                  Давайте не будем тут применять эту иезуитскую квантово-механическую логику.
                  Да, согласно вашим представлениям мы не можем гарантировать работу сознания, так же как и не можем гарантировать нахождение нашего тела на этом самом месте через секунду. Ведь оно вполне (с какой-то крайне низкой вероятностью) может через эту самую секунду телепортироваться на луну вместе со всеми своими частицами. И там благополучно издохнуть.

                  Еще раз, ознакомьтесь с определением детерминированного хаоса. Вероятность массивного объекта телепортироваться на Луну, разумеется, существует, но пренебрежима мала. А вот вероятность для хаотичного процесса перейти в нестабильное состояние вследствие ошибки в задании начального состояния может быть, в принципе, какой угодно.
                  • 0
                    У вас каша в голове. Не в хаотичности тут дело в как таковой, а в распределении функции состояния данной системы. Если система уже в потенциальной яме, как в случае с мозгом, то попробуй ее с этого равновесия сдвинь.
                    • –2
                      Простите, каша в голове у Вас. Я не вижу смысла продолжать с Вами дискуссию, если Вы элементарно не читаете тексты собеседника, не говоря уже о том, чтобы ознакомиться с приведенными ссылками.
                      • –1
                        Каша в голове у вас обоих. Один слепо верит в одну теорию, другой — в противоположную. Даже если одна из теория теорий верна, все равно вы оба слепые.
                  • 0
                    Мозг всё таки не совсем хаотичная система. Т.е. конкретно сознание. Одна из характеристик хаотической системы — небольшое изменение начальных состояний может приводить к большим отклонениям впоследствии. В медицинской же практике есть случаи когда у людей была разрушена часть мозга — и при этом они оставались разумны. Так что сознание не так уж хрупко.
                    • 0
                      Мозг как система, разумеется, устойчив к воздействиям определенного рода. Как Вы понимаете, из этого совсем не следует, что он окажется устойчив к тем воздействиям, которые в природе не случаются (а в природе не встречается копирование мозга).

                      Кроме того, Вы опять же допускаете ту же ошибку, что и gleb_kudr: внешнее воздействие — это не то же самое, что изменение начальных условий. Попробую выразить математически: пусть состояние мозга описывается уравнением (для простоты, дискретным)

                      x[n+1] = x[n] + H[n] + F(x[n], H[n]),

                      где x[n] — состояние в момент времени n, H[n] — внешнее воздействие, F[n] — нелинейный оператор, определяющий (в том числе) реакцию на внешнее воздействие.

                      Пусть мы считали с какой-то точностью состояние x[n], на которое в процессе считывания наложен шум H. Т.о. начальным состоянием новой системы будет x[n] + H, но третье слагаемое (реакцию системы на вносимые изменения) мы автоматически теряем, поскольку не можем знать H.

                      Иными словами, мы должны скопировать не просто состояние мозга, но и ту реакцию, которая должна последовать со стороны системы для восстановления равновесия — а вот этого мы сделать не можем. Далее вступают в силу свойства динамического хаоса — изменение начальных условий, даже сколько угодно малое, приводит к макроскопическим изменениям за конечное время, вплоть до выхода системы из стабильного состояния.

                      Подчеркиваю, речь никак не идет о хрупкости сознания — а о том, что мы не можем в процессе копирования воспроизвести действие механизмов, удерживающих систему в стабильном состоянии.
                      • 0
                        ИИ это не прямое копирование, а скорее воссоздание мозга. Получится не точная копия, а самостоятельная. То же самое уже происходит — когда ребёнок развивается в утробе и потом обучается после рождения. Никто пока не говорит о том чтобы засунуть голову в копир и получить прямой слепок.
                        • 0
                          Не понимаю, в чем с Вашей точки зрения разница между воссозданием и копированием.
                          • 0
                            Попробую объяснить через аналогию. Вы говорите о том, что нельзя собрать (скопировать) движущийся по трассе Мерседес, не прерывая его движения. Это безусловно правильно. Но ведь это не единственный способ получения движушегося Мерседеса — можно собрать его в гараже и выехать на трассу.
                            • 0
                              На стоящий в гараже Мерседес тоже действуют разного рода динамические факторы — гравитация, например; и он точно так же сохраняет свою целостность, как и движущийся по — разница только лишь в амплитудах внешних воздействий.

                              А человеческий мозг, в отличие от Мерседеса, не останавливается никогда. Как Вы хотите его собрать в гараже?
                              • 0
                                Человеческий мозг начинается с «остановленного» состояния — зиготы. Собрать его вполне возможно.
                                • 0
                                  Ну, положим, помимо зиготы необходима еще мать :-)

                                  Впрочем, если Вы думаете, что наука сильно ближе подошла к синтезу клетки, чем к синтезу мозга, Вы сильно ошибаетесь. Пока достижения в этой области ограничиваются синтезом генома простейших. Здесь позволю себе привести фрагмент интервью Генриха Романовича Иваницкого, директора Института теоретической и экспериментальной биофизики РАН:

                                  — Недавно в прессе появилась информация о том, что младший научный сотрудник Института прикладной механики РАН Олег Крыченко фактически сотворил научную сенсацию — создал неорганическую клетку методом «проекции единичных клеток, срезов клеток, культур тканей посредством высокоинтенсивного коротковолнового излучения на неорганические фотохимические составы». По Вашей оценке, представляет ли эта работа научную ценность?
                                  — На мой взгляд, все подобные проекты безнадёжны. В своё время я пытался синтезировать эритроциты, и пришёл к выводу, что идея нереализуема в принципе. Дело в том, что каждая биологическая молекула работает в очень узком диапазоне своих физико-химических свойств, которые трудно воспроизвести без всего того, что окружает клетку. То есть как только я добиваюсь успеха на одном уровне, выясняется, что система может быть устойчивой лишь при решении всех вопросов организации следующего иерархического уровня, и так до бесконечности. Конечно, я не отрицаю возможности синтезировать и потом встроить в организм маленький фрагментик ДНК, но в создание полнофункциональной клетки не верю.
                                  — И тем не менее об успешном синтезе клетки уже заявили Гарвардская медицинская школа, Университет Рокфеллера, Институт Крэйга Вентера…
                                  — Они мозги пудрят журналистам. Заявляют то, что понятно широкой общественности и подо что можно получить большие деньги, а на самом деле занимаются совсем другими вещами. Думаю, в процессе этих исследований никакие клетки они не создадут, но получат массу других результатов, способных обеспечить прорыв в медицине.

                                  Полностью здесь.
                                  • 0
                                    Зачем нам синтез? Для ИИ нам достаточно её компьютерной симуляции. Синтез — это уже куда то в сторону artificial life :)
                                    • 0
                                      Ну, о достижениях в симуляции клетки на компьютере я вообще ничего не слышал.
                                      • 0
                                        А они достаточно неплохи. Кортикальный модуль крысы (10к нервных клеток) успешно симулировали ещё в конце 2006 года.
                                        • 0
                                          Я писал про одну клетку. Одну-единственную :-).
                                          • 0
                                            Его симулировали именно поклеточно, на низком уровне. Проект Blue Gene, можно почитать про него в Интернете.
                                            • 0
                                              Насколько низком? Очевидно, не на уровне химических реакций.

                                              P.S. «Почитать в интернете» я не принимаю. Дайте конкретную ссылку.
                                              • 0
                                                Уже сделано — на клеточном, сейчас делается — на молекулярном. Почитать можно здесь.
                                                • 0
                                                  Эмуляция клетки на клеточном уровне — это сильно :-)
                                                  Про молекулярный уровень ничего не нашел.
                                                  • 0
                                                    Про молекулярный уровень — 4 ссылка сверху, Is it possible to model the NCC at the molecular level?
                                                    • 0
                                                      Ага :-)
                                                      «It is very unlikely that we will be able to simulate the human brain at the molecular level detail with even the most advanced form of the current technology.»
                                                      • +1
                                                        А молекулярный уровень по сути и не нужен. Главное — понять механизм взаимодействия клеток. Например, для того чтобы просчитать прочность дома из кирпичей, не нужно симулировать каждый атом — достаточно понимать как элементы системы взаимодействуют между собой.

                                                        Вот эти взаимодействия проект Blue Brain и планирует понять. И потом уже, на их основе, строить ИИ. На этой странице они так и пишут.
                                                        • –2
                                                          Клетка — не кирпич, ее состояние не описывается физическими параметрами. См. приведенную выше цитату Иваницкого о сложности организации иерархических уровней.

                                                          К сожалению, понимание качественного отличия клетки от кирпича почему-то зачастую многим недоступно, а epic fail программ создания искусственного интеллекта (способного хотя бы тупо чатиться) объясняется тем, что надо вот еще чуть-чуть петафлопсов накинуть.
                                                          • 0
                                                            Какими же параметрами оно должно описываться? :)
                                                            • 0
                                                              Не знаю. На одном форуме меня убеждали, что состояние клетки исчерпывающе описывается в терминах молекулярной биофизики, но не убедили :-).
                                      • 0
                                        С какой точностью?
                                        • 0
                                          Хотя бы до молекул.
                                          • 0
                                            Впрочем, современная техника такой вычислительной мощности не обеспечивает. Переформулирую: с точностью до химического уровня.
                              • 0
                                На стоящий в гараже Мерседес тоже действуют разного рода динамические факторы — гравитация, например; и он точно так же сохраняет свою целостность, как и движущийся по — разница только лишь в амплитудах внешних воздействий.


                                Именно этой разницы хватает, чтобы невыполнимую задачу по сборке превратить в выполнимую.
                                • 0
                                  Задачу по сборке Мерседеса — да.
            • 0
              Ну пока это не проверено, не однозначно. Хотя я таки склоняюсь к варианту что пройдет.
    • –3
      Не думаю что есть возможность в полном смысле скопировать работу мозга и сознание как следствие тоже. Мозг это ведь не просто логическое устройство с опр. алгоритмом. Столько факторов еще на его работу влияет, биохимия хотя бы, эмоции, мораль, как это можно в машину перенести, да и как же душа в конце концов?
      • +3
        Многие сложные системы (в том числе и мозг) представляют собой с точки зрения моделирования т.н. «детерминированный хаос», поэтому строгое моделирование таких систем невозможно в силу гейзенберговой неопределенности начального состояния системы. Можно описывать поведение системы в неких метатерминах (в случае мозга такими терминами будут «эмоция», «чувство», «поведение» и пр.); наука психология как раз представляет собой подобное описание.
        • +1
          Чувства в психологии, это вторичная реакция субъекта уже на свои собственные действия, благодаря этому возможно включение исследователя в процесс исследования, так появилась постнеклассической наука.

          > Можно описывать поведение системы

          чувства управляют поведением и наделяют цель ценностью, что определяет динамику субъекта, а моделирование же это структурованное знание, которое может налагать свою структуру на поведение.
  • +4
    Итак, общий вывод примерно следующий: если принять докинзову гипотезу, то в рамках существующих парадигм построения ИИ (и ЭВМ вообще) сознание не будет обретено ИИ никогда, сколько бы там нейронов не удалось смоделировать.


    фантастическая глупость, если только вы не хотите сказать, что для самосознания среднестатистическому человеку необходимо прослушать курс нейробиологии. ведь вы даже приблизительно не представляете, как устроен ваш мозг, но это не мешает существовать вашему самосознанию.

    для ИИ и вообще И (моего, вашего, его, ее) нет необходимости анализировать собственный дизайн. под рефлексией в данном случае понимается интерпретация собственного воздействия на воспринимаемый мир.

    т.к. окружающий мир мы воспринимаем только в качестве субъективной модели, то единственный способ ввести в нееЯ заключается в том, чтобы из обрабатываемого потока информации вычленить ту, которая непосредственно связана с субъектом — отражение в зеркале, мысли, эмоции, чувство голода, просчет вероятностей и т.д… это будет проекцией субъекта на окружающий мир, и ее он будет воспринимать тоже в рамках той самой грубой субъективной модели. для современных «умных» машин взаимодействие с окружающим миром и учет обратной связи является одной из актуальнейших задач на протяжении уже не одного десятка лет.

    Собственно, с подобными огрублениями, вероятно, и связаны системные ошибки мышления, которые можно наблюдать ежедневно.
    imho, homo sapiens — очень плохой эталон для создания ИИ с самосознанием, т.к. непрерывно глючит и бажит.
    • 0
      см. следующее сообщение.
    • 0
      :):) Согласен, некоторые экземпляры действительно глючные.
      Но обобщать не стоит, потому что есть и весьма интересные образчики.

      Кроме того, в следующей версии мы предоставим продукт в новом стильном корпусе, более устойчивом к проявлениям внешней среды. Кроме того, мы собираемся добавить сопроцессор, который позволит производить математические операции в миллионы раз быстрее, чем современные аналоговые нейросети.
      • 0
        о, скорей бы :)
    • 0
      Да как же человеческое сознание глючит и бажит? Это самый совершенный и ценный механизм, известный человечеству.
      • +2
        одно другому не мешает. словосочетание «самый совершенный» тому пример.
        • 0
          А что вы называете глючностью мозга? Шизофрению? Многие проблемы в работе мозга вызываются органическими поражениями, проблемами с кровообращением, интоксикацией. Это сторонние причины.
          • +2
            я привел ссылку на букет багов, которые повсеместно встречаются у людей и без повреждений мозга.
      • 0
        Еще как глючит.
        en.wikipedia.org/wiki/Cognitive_bias
        Ну и совсем примитивные примеры — зрительные и слуховые иллюзии.
        • 0
          «Это не баг, это фича». Так работает сознание. То что Вы представляете его работу как то иначе — не повод объявлять это глюками.
  • +2
    фантастическая глупость,

    Что глупость — докинзова гипотеза или моя ее интерпретация?
    если только вы не хотите сказать, что для самосознания среднестатистическому человеку необходимо прослушать курс нейробиологии. ведь вы даже приблизительно не представляете, как устроен ваш мозг, но это не мешает существовать вашему самосознанию.

    Вы допускаете очевидную логическую ошибку: для осознания не требуется знание о работе собственного мозга, но наличие модели работы собственного мозга. Это совершенно разные вещи.
    т.к. окружающий мир мы воспринимаем только в качестве субъективной модели, то единственный способ ввести в нееЯ заключается в том [...]

    Простите, почему Вы решили, что это единственный способ?
    Далее, я не вижу оснований считать, что вычленение «Я» из потока входящей информации является достаточным признаком сознания. Напротив, докинзово определение неявно подразумевает такую способность как необходимое условие.
    imho, homo sapiens — очень плохой эталон для создания ИИ с самосознанием, т.к. непрерывно глючит и бажит

    А я же, напротив, считаю homo sapiens превосходным эталоном ИИ с самосознанием в силу универсальности и высочайшего быстродействия.
    • 0
      А почему бы не смоделировать для ИИ среду обитания. Он сможет там и общаться и сознавать себя ;). Думаю выводы в статье все же неверные.
      Посмотрите 13-ый этаж :)
      • 0
        Ни одна система не может породить систему сложнее себя самой, есть такой тезис.
        • +1
          Ммм… ну я могу еще тысячу тезисов сейчас прям сочинить. Будем продолжать считать тезисы аксиомами?
          И не очень понятен смысл тезиса, к моему сообщению.
          • 0
            Примерно так: попытки точно смоделировать социальную среду (в том виде, в котором она существует в человеческом обществе) заведомо бессмысленны, как в силу громадной сложности этой среды, так и в силу многократно упомянутых мной принципа Гейзенберга и динамической хаотичности. По большому счету, это стремление воспроизвести уже существующую в природе систему (будь то мозг сам по себе или, как Вы предлагаете, социальную среду) — оно от бедности, от непонимания общих принципов построения этой системы.
            • +1
              Во первых среда может быть упрощена, в зависимости от задач, до небольшой социальной группы например.
              Во вторых, высокая сложность, не делает задачу бессмысленной. И уж тем более не делает ее невозможной, это вас куда то понесло.
              Точно так же можно сказать «ИИ сделать крайне сложно, ведь например человеческий мозг очень сложная система, а значит делать ИИ заведомо бессмысленно».
              • +1
                Во первых среда может быть упрощена, в зависимости от задач, до небольшой социальной группы например.

                Уменьшение количества агентов в такой системе не сделает ее намного проще. Кроме того, никем не доказано, что существует такое упрощение среды, которое сохранит существенные для вопросов моделирования макроэволюции свойства.
                Во вторых, высокая сложность, не делает задачу бессмысленной.

                Я писал: попытки точно смоделировать среду бессмыссленны в силу громадной сложности среды (а также неопределенности). Вы допускаете логическую ошибку, путая задачу (точно смоделировать) со сложностью предметной области (среды).
                • 0
                  Вы продолжаете оперировать тезисами и предположениями, и строить на них выводы :(.
                  PS Там не логическая ошибка. Скорее не верно сформулировал фразу — имел «в виду не делает бессмысленными попытки смоделировать среду, чтобы получить сознание.» то есть теоретическая возможность остается. Рассчитать ее реальность на основе не доказанных тезисов не получиться ;)
        • 0
          Простая функция f(z)=z^2+c при итерировании порождает множество Мандельбротта, которое на много сложнее. А человек легко придумывает математические задачи, решение которых на много сложнее, чем он может понять. А значит эта математическая задача, как система, сложнее чем математическое мышление этого человека.

          Не говоря уж о том, что давно изобретены группы, которые устроены бесконечно сложно — равенство элементов в них алгоритмически не разрешимо, а значит они включают в себе всю математику, а если принять тезис, что вселенная построенная по математическим законам, то и вселенную.
    • 0
      Модель на каждом этапе можно брать все более упрощенную (попробуйте представить себя, а себя представляющего себя, а дальше? Ну вот и все ;) ). Рекурсия, знаете ли. Результат рекурсии никакая не бесконечность а более менее вменяемое число.
      • 0
        Отмечу особо — рекурсии с упрощением.
  • +3
    Не стоит путать сознание и рефлексию. Рефлексия — вполне механическая штука, необходимая для повышения эффективности социальных взаимодействий. Вне социума она функционально неоправдана. Сознание же — ужасно эфемерная штука, из разряда скорее философии, нежели нейробиологии. Вопросы вроде «Почему красное — красное?» и все такое.

    Рефлексия отражается на поведени и наблюдаема. Сознание — нет.

    Интересующимся ИИ рекомендую «Об интеллекте» Джеффа Хокинса

    • +1
      в догонку интересующимся, рекомендую Ж.Пиаже «Психология интеллекта».
    • 0
      То что не отражается на поведении и ненаблюдаемо (и не вычисляемо и т.д.) не существует с позиций современной научной парадигмы.
      В этом, кстати, большая проблема именно с сознанием в вашем толковании (aka душа, ненаблюдаемая и т.д.), так как многие отказываются признавать того, что она не существует как таковая и даже из ее существования делают аксиому, на основании этой аксиомы отвергая научный подход как таковой.
  • 0
    хотите сказать что стайные животные обладают самосознанием?
    • +2
      А почему нет? Человек может нажраться до уровня, скажем, ниже уровня интеллекта собаки. Разве он утрачивает самосознание? Мой опыт мне говорит, что нет. А если интеллект собаки может превысить интеллект находящегося в сознании человека, то можно предположить, что собака тоже обладает сознанием.
      • +1
        главный страх фантастов по поводу самосознания ИИ в том что он решит что он лучше человека, перестанет подчиняться и уничтожит его. почему же собаки терпят подчиненное положение и не стремятся уничтожить людей?
      • 0
        А если интеллект собаки может превысить интеллект находящегося в сознании человека, то можно предположить, что собака тоже обладает сознанием

        Спорное утверждение, потому что интеллект не равен сознанию.
        Машины делают многие операции намного более интеллектуально, чем человек, но мы отказываем машине в сознании.
        • 0
          Но значит ли это, что интеллект этих машин выше нашего?
          Тогда проблема в терминологии.
          Иными словами — мозг собаки не позволяет делать таких сложных предсказаний, какие позволяет делать мозг человека.
          • 0
            Да, есть разница в терминах.

            Я понимаю интеллект как «вычислительные мощности», которые работают в соответствии с программой. У машины — герцы, у человека — способности к решению задач какого-либо типа (рисование, математика, нейробиология...). Интеллект связан с той задачей, которую он решает. Машина более интеллектуальный считатель, чем человек, но менее интеллектуальный писатель, например. Каково ваше определение интеллекта?

            При таком определении интеллекта ответ на ваш вопрос — интеллект машин выше нашего в тех случаях, когда они решают задачи лучше нас.

            Именно сознание пишет программу для этих «мощностей», направляет мыслительные усилия в нужную сторону.

            — Я буду рисовать сегодня. Эта картина красивая. — Так машина не скажет, если в ней не заложена соответствующая программа.
            • 0
              Топайте читать эволюцию мышления таких умов как Лоренц, Кант, Юм и прочих классиков.
        • +1
          Интеллект это не про умственные способности, как многие думают, а про способность психики поддерживать свое равновесие.
      • 0
        >можно предположить, что собака тоже обладает сознанием.

        А что, не очевидно что ли, что обладает?
        Наивная глупость человека считать себя венцом природы, сверхуникальным и чего еще там по списку. Да это обезьяна. Поумневшая чуть чуть, но обезьяна ведь до мозга костей.
    • 0
      Хочу. В докинзовом смысле сознанием обладают многие стайные животные. Другое дело, что степень «сознательности» по Докинзу не дискретна — у человека ее очевидно больше.
      • 0
        > В докинзовом смысле сознанием обладают многие стайные животные.

        на самом деле Докинз писал, что только человек обладает сознанием.
        • 0
          Нельзя ли точную цитату?
  • НЛО прилетело и опубликовало эту надпись здесь
    • +2
      Как раз мои рассуждения показывают, что приспособление и даже изменение собственного кода не является достаточным условием для того, чтобы считать действия робота осознанными.
      • НЛО прилетело и опубликовало эту надпись здесь
  • +4
    фоннеймановской архитектуры с ее разделением области команд и области данных. — это в гарвардской архитектуре есть разделение на область данных и область программы. Будь такое в Фон-Неймановской архитектуре, мы бы не знали о выполнении вредоносного кода при переполнении буфера.
    • +2
      «фоннеймановской архитектуры с ее разделением области команд и области данных»

      Тоже споткнулся на этой фразе. Дальше не читал — ученые и инженеры тратят уйму времени на уточнение и согласование границ понятий, а здесь даже простые вещи противоречат друг другу.

      Вспомним Витгенштейна:
      «6.5. Для ответа, который не может быть высказан, не может быть высказан вопрос. Загадки не существует. Если вопрос вообще может быть поставлен, то на него можно также и ответить.»

      Дайте мне полное формальное определение «искусственного интеллекта» — и я вам его сделаю.
  • НЛО прилетело и опубликовало эту надпись здесь
    • –1
      Собственно, я об этом черном по белому написал — ИИ, построенный на моделировании мозга, не может обрести сознание.
      • 0
        Т.е. если создать полную копию человеческого мозга, с памятью исходника, то у него не будет сознания?
        • 0
          если сознание появляется вследствие усложнения структуры материи — то будет. не факт, что эта теория верна. это материализм.
          • 0
            Сознание и самосознание это сильно другой уровень абстракции, за которым стоит громадная система из человеческой памяти, обмена информацией с обществом и память общества. Т.е. рассматривать вопросы психологии и философии прыгая сразу на нейроны это как представлять игру, браузер или графический редактор даже не в командах процессора, а в функциональных схемах и в битиках по ним гоняемым.
            Тем не менее, благодаря этим битикам мы можем участвовать в этой дискуссии, как и благодаря нейронам в нашем мозгу, опять же участвовать в этой дискуссии. Следовательно если мы смоделируем мозг (не важно на чём), с теме же начальными данными, что и у ребёнка, поселим в общество — со временем разовьётся нормальный человек, со всеми психологическими и философскими заморочками. Так что я вижу причин, по которым когнитивную симуляцию стоит списывать со счетов.
            • +1
              ага, а интуицию и прочие неизученные штуки как впихать? ;)
              они ведь на то и неизученные, что никто не знает, как они работают.

              П.С. лепет про то, что, мол, неявно считываем информацию с окружающих считаю несостоятельным — большие расстояния и разброс во времени опровергают.
              • –1
                +1
              • 0
                >они ведь на то и неизученные, что никто не знает, как они работают
                Ага, давайте ещё начнём искать божественное начало.
                >неявно считываем информацию с окружающих считаю несостоятельным
                Это вообще про что?
                • 0
                  ага, давайте объясним все психоанализом и сведем существование Вселенной к производственным отношениям )))
                  его не надо искать. оно или есть или нет. дело вкуса, так сказать.
                • 0
                  >Ага, давайте ещё начнём искать божественное начало.
                  желающие могут хоть с бубнами плясать
                  >неявно считываем информацию с окружающих считаю несостоятельным
                  это про чрезмерный материализм
        • 0
          Нельзя создать полную копию человеческого мозга, принцип неопределенности Гейзенберга и динамический хаос мешают.
          • 0
            Полная не нужна.
          • 0
            Что-то у вас как мантра прям =)
            Про неопределённость лучше сказать проще — в мозгу существенны квантовомеханические эффекты. В процессоре они, впрочем, существенны тоже, просто по понятным причинам это совершенно другие эффекты. Добиться похожести одного на другое, если очень хочется, никакими физическими законами не запрещено. Другое дело, что мы ещё не понимаем, как мозг использует эти эффекты, зачем они и насколько критичны. Я почти уверен, что «возникновение сознания» тут не при чём — я и так «мистик от математики», но образ души, которая прячется в планковском пространстве — это слишком «лишняя сущность» даже для меня. Скорее, как вы и писали, интуиция и прочее вплоть до экстрасенсорики (если вдруг). То есть то, чем мы и сами в общем-то пользоваться не умеем. А нужно ли это ИИ? получится ли ИИ без этого? Я думаю вполне.
            Я уже лет пять плотно подвизаюсь в лабораториях, в которых копошаться с ИИ самого фантастического толка — так вот есть мнение, что проблема сознания сугубо надуманна и сильно раздута. Сознание человека, знаете ли — лишь верхушка айзберга всей работы мозга. Самая простая, понятная и в общем-то малофункциональная верхушка. К тому же, видимо, сознание это не вкл-выкл, это целое пространство, и в какой-то форме им обладает и ваш чайник, и микроб, и вы. По мере усложнения машин (как «сверху вниз», так и «снизу вверх») они будут всё более приближаться в этом пространстве к нам, а может, уходить куда-то вбок. А однажды, наверняка, пройдут мимо и уйдут очень далеко.
            • –1
              Выше я описал, что речь вовсе не о квантовых эффектах, а о том, что мозг автоматически поддерживает собственную стабильность. Для того, чтобы скопировать такую систему, необходимо скопировать не только текущее состояние, но и реакцию системы на ошибки копирования. Поскольку ошибок копирования мы не знаем, то и воспроизвести реакцию мозга на их появление мы не можем. Что, вероятнее всего, автоматически приведет либо к потере стабильности, либо, как минимум, к тому, что на выходе получится совсем не копия.
      • 0
        Извиняюсь, автор, но это гон уже откровенный. Я выше написал, но еще добавлю.

        Сознание можно моделировать на чем угодно. Даже на камешках в пустыне (был такой занимательный пример машины Тьюринга). И уж тем более в мозгу или в нормальной его модели.
        То что камешки в пустыне будут работать не означает что не сработает моделирование мозга.
        • –1
          Сознание можно моделировать на чем угодно. Даже на камешках в пустыне (был такой занимательный пример машины Тьюринга). И уж тем более в мозгу или в нормальной его модели.

          Моделировать — можно. А вот можно ли смоделировать — неизвестно. Мне, по крайней мере, не известна ни одна сколько-нибудь приближенная к реальности модель сознания, ни на камешках, ни на основе машины Тьюринга, ни на основе ИИ.
  • 0
    В целом зачотно, но к истине имеет мало отношения.

    Включением модели/программы саму в себя периодически используется, например при рассмотрении связок «мета-мета-модель — мета-модель — модель». Ничего революционного (кроме несколько лучших удобств при разработке и, одновременно, изрядного головоломания на стадии проектирования) в этом нет.

    Про «исследование себя с целью изучения окружающих» — это имеет место быть, но, вообще-то, себя изучают с целью понять свои возможности и ограничения — чтобы не подставляться лишний раз и не упустить шанс.

    Опять же к слову, нет ничего сложного запихать в МАС механизмы отслеживания поведения себя с целью лучшего предсказания поведения других агентов… но опять же, это пальцем в небо — ничего прорывного не даст.
    • 0
      Попробуйте, может и даст.
      • 0
        смысла не вижу, чтобы пробовать.
    • 0
      Да, рефлексия — это необходимое условие, но отнюдь не достаточное.
  • 0
    Насчёт того, что ИИ не общается друг с другом — это спорно. А как же многоагентные системы, социумы агентов и т.д.?

    Разделение команд и данных (которого, кстати, как верно отметили нет в фон-неймановской архитектуре) кстати не меняет алгоритмической мощности вычислительной модели…
    • +1
      Агенты не строят социальных систем, общаясь друг с другом. Они просто обмениваются информацией.
      • 0
        а где разница?

        Для справки, агенты не просто передают друг другу данные («запрос-ответ»), они договариваются в условиях предпочтений и ограничений («можешь сделать? — могу — делай»). Чем не социум.
        • +1
          Разница в том, что существует положительная обратная связь между выживаемостью и положением в обществе. Т.о. чем лучше индивид способен понимать поведение свое и окружающих, тем больше у него шансов занять высокое положение в обществе (при прочих равных, разумеется) и тем больше у детерминирующего сознание гена шансов распространиться в популяции.
          • 0
            Вот и подошли ближе к сути.

            1. если вбить в достаточно сложную железку, действующую в реальном мире, «инстинкт выживания» — может случиться бяка апокалиптического толка.
            2. Вообще-то, доминирующее общественное положение не обеспечивает доминирования гена в популяции, потому что у «доминирующих» остается очень мало времени на создание семьи и воспитание детей. Кроме того, сейчас популярно поведение, при котором у человека есть всего 1-2 ребенка. Алсо, не будем забывать про известную формулку «способности» + «воспитание» = «успех». Далеко не все успешные отцы способны воспитать успешных детей.
            • 0
              1. если вбить в достаточно сложную железку, действующую в реальном мире, «инстинкт выживания» — может случиться бяка апокалиптического толка.

              А так же механизм размножения, и бяка когда-нибудь сможет случиться через пару миллионов лет.
              Вообще-то, доминирующее общественное положение не обеспечивает доминирования гена в популяции

              А я не писал о «доминирующем». Я писал о высоком — в смысле, достаточно высоком, чтобы иметь повышенные шансы на передачу гена потомству.
              • 0
                1. до размножения и всяких его вариаций можно додуматься по-ходу — так что пускай сама железка проблемами страдает.

                2. давайте не путать «шансы» и «вероятность». В случае «шансов» ими можно и не воспользоваться (что, собственно, и происходит). Распределение же вероятностей говорит, что самые высокие шансы нынче у безграмотного мусульманина в горах, у которого чуть не два десятка детей.
                • 0
                  1. до размножения и всяких его вариаций можно додуматься по-ходу — так что пускай сама железка проблемами страдает.

                  Еще раз повторю следующую мысль: почему естественный отбор приводит к качественному усложнению организмов — на данный момент тайна за семью печатями. Я очень сильно сомневаюсь, что подобного эффекта можно добиться в искусственной среде, просто скопировав какие-то внешние проявления естественного отбора.
                  2. давайте не путать «шансы» и «вероятность». В случае «шансов» ими можно и не воспользоваться (что, собственно, и происходит). Распределение же вероятностей говорит, что самые высокие шансы нынче у безграмотного мусульманина в горах, у которого чуть не два десятка детей.

                  Развитие человека как вида давно происходит негенетическим образом, поэтому данный аргумент не принимается. См. Гринин, Коротаев. Социальная макроэволюция.
                  • +1
                    >Развитие человека как вида давно происходит негенетическим образом

                    Наглая ложь.

                    И тому есть примеры очень простые.

                    Погуглите серповидноклеточную анемию.

                    Вот то, что развитие вида человека происходит не только на основе генетики — это да. Но списывать генетические процессы со счета — верх дилетантизма.
                    • +1
                      Простите, но я не давал поводов обвинять меня во лжи. Будьте любезны как-то держать себя в руках. Это раз.
                      Возьмите себе в привычку подтверждать свои заявления чем-нибудь поболее слов «погуглите». Это два.
                      • 0
                        Не буду держать.

                        Студентам я говорю это прямо, если они мне начинают устраивать на зачетах подобные прогоны вместо того, чтобы пойти подучиться.
                        • 0
                          Я не студент и не у Вас на зачете. И я таки жду подтверждения Ваших слов о том, что тезис «Развитие человека как вида давно происходит негенетическим образом» является наглой ложью.
                          • 0
                            То что я генетик по образованию и преподаю в данной области разумеется вас убедить не способно.

                            Про серповидноклеточную анемию я отправил вас читать, вы не захотели.

                            Чего вы еще требуете тогда?
                            • –2
                              То что я генетик по образованию и преподаю в данной области разумеется вас убедить не способно.

                              Вы вроде бы выше сами советуете не полагаться на авторитеты, разве нет?
                              Про серповидноклеточную анемию я отправил вас читать, вы не захотели.

                              Вы как-то довольно размыто сформулировали, что именно предлагаете мне прочитать.
                              Чего вы еще требуете тогда?

                              Подтверждения Ваших слов о том, что тезис «Развитие человека как вида давно происходит негенетическим образом» является наглой ложью.
                              • –2
                                Вы как-то довольно размыто сформулировали, что именно предлагаете мне прочитать.

                                Это не упоминая о том, что сами Вы отказываетесь читать те ссылки, которые привожу я.
                              • +1
                                zhurnal.lib.ru/g/garik/seminar.shtml

                                Специально для вас, очень популярным языком.
                                • 0
                                  1. В статье ничего не сказано о том, когда возникла эта мутация. Очевидно, много раньше цивилизации.
                                  2. Так же совершенно очевидно, что появление такой мутации не может расцениваться как развитие человека как вида. За последние 5-10 тысяч лет не случилось ни одного сколько-нибудь заметного генетически обусловленного ароморфоза, в то же время социальных ароморфозов произошло множество, причем невосприимчивость к малярии как-то несколько меркнет на фоне, допустим, приручения огня или изобретения колеса.
                                  • +1
                                    Развитие как вида складывается из совокупности микроэволюционных изменений.

                                    Ознакомьтесь внимательно с концепцией синтетической теории эволюции.

                                    Невосприимчивость к малярии меркнет с вашей точки зрения, а с точки зрения древних людей эта была одна из ключевых мутаций, способствовавшая их выживанию. Важнее чем огонь, который в Африке и не очень-то был нужен.

                                    И сейчас количество носителей этого признака не остается неизменным, а меняется, то есть популяции эволюционируют на самом что ни на есть генетическом уровне, хочется вам этого или нет.
                                    • 0
                                      Развитие как вида складывается из совокупности микроэволюционных изменений.
                                      Ознакомьтесь внимательно с концепцией синтетической теории эволюции.

                                      Я очень внимательно ознакомился с СТЭ. И отлично знаю, что макроэволюция не есть механическая совокупность микроэволюционных изменений, но их интеграл; более того, ряд эволюционистов вообще полагает макроэволюцию качественно отличной от микроэволюции.
                                      Невосприимчивость к малярии меркнет с вашей точки зрения, а с точки зрения древних людей эта была одна из ключевых мутаций, способствовавшая их выживанию. Важнее чем огонь, который в Африке и не очень-то был нужен.

                                      1. В исходном сообщении было специально оговорено, что негенетическим образом человек развивается с определенного времени (ниже я конкретизировал, с какого — примерно 5-10 тысяч лет).
                                      2. Приручение огня не просто обеспечивает теплом, но, что значительно более важно, открывает путь к термической обработке пищи, что дает человеку гигантское эволюционное преимущество.
                                      И сейчас количество носителей этого признака не остается неизменным, а меняется, то есть популяции эволюционируют на самом что ни на есть генетическом уровне, хочется вам этого или нет.

                                      Микроэволюционирует. А мы речь ведем о развитии человека как вида, т.е. о макроэволюции.
                                      • 0
                                        >Я очень внимательно ознакомился с СТЭ.

                                        Недостаточно внимательно.

                                        >ряд эволюционистов вообще полагает макроэволюцию качественно отличной от микроэволюции.

                                        А ряд физиков всерьез полагает, что землю создал господь-бог.

                                        >открывает путь к термической обработке пищи, что дает человеку гигантское эволюционное преимущество.

                                        В самом деле? И какое же? Особенно инетересно услышать про гигантское.

                                        >Микроэволюционирует. А мы речь ведем о развитии человека как вида, т.е. о макроэволюции.

                                        Макроэволюция есть ни что иное как продолжение микроэволюции.
                                        • 0
                                          В самом деле? И какое же? Особенно инетересно услышать про гигантское.

                                          См. И.В.Сохань, «Обработка пищи огнем как антропогенетическая революция». В частности.
                                          1. Изменение биохимического состава, а отсюда и качественных и количественных возможностей потребления пищи;
                                          2. Реорганизация социума, разделение мужского и женского труда;
                                          3. Рост коммуникации и социализации, появление ритуалов приема пищи.
                                          По сути, с приручением огня в человеческом обществе появляется разделение труда, которое по Дюркгейму есть один из важнейших факторов развития общества.
                                          Макроэволюция есть ни что иное как продолжение микроэволюции.

                                          Мне остается только руками развести и пожалеть Ваших студентов.

                                          Цитирую «Эволюционный процесс» Гранта (надеюсь, достаточно авторитетный источник?):

                                          «Одна из проблем эволюционной биологии касается того, представляет ли собой макроэволюция просто продолжение микроэволюции или же между этими двумя процессами имеется какоето существенное различие. Многие эволюционисты, в том числе все сторонники синтетической теории, полагают, что интерпретацию явлений макроэволюции следует основывать на наших представлениях о процессах, происходящих на микроэволюционном уровне.
                                          [...]
                                          [Эта] точка зрения вызывает, однако, возражения со стороны фракции меньшинства в каждом почти поколении эволюционистов. Гольдшмидт (Goldschmidt, 1940, 1955*) настаивал на том, что макроэволюционное изменение детерминируется особыми (процессами — системными мутациями и скачкообразными изменениями, которые не действуют на микроэволюционном уровне. В последние годы Стэнли (Stanley, 1975, 1979*) и Гулд (Gould, 1980, 1982*) придерживаются мнения о существовании коренного различия между микро- и макроэволюцией. Гулд утверждает, что попытка объяснить макроэволюцию на основе микроэволюции представляет собой редукционизм и неоправданную экстраполяцию и что такой подход ошибочен.
                                          [...]
                                          В природе не существует разрыва между микро- и макроэволюцией. Этот предполагаемый разрыв заполняют явления видообразования. В обширной выборке филетичеоких групп эволюционные дивергенции возникают на любом уровне — от рас через виды и группы видов до родов и категорий более высокого ранга. Органическая эволюция составляет единое целое.

                                          Огромное различие в масштабах времени между микро- и макроэволюцией в их крайних формах заставляет остерегаться сверхупрощенных экстраполяций от одного уровня к другому. Многие микроэволюционные изменения повторимы и предсказуемы. В отличие от этого макроэволюция — процесс исторический.
                                          [...]
                                          И наконец, какой аспект микроэволюции следует выбирать в качестве отправной точки для экстраполяции на микроэволюцию? В ранний период синтетической теории эволюционисты экстраполировали от собственно микроэволюции, т, е. от эволюции на популяционном уровне, считая видообразование побочной темой. Однако по ряду причин следует считать, что видообразование занимает в макроэволюции более важное место, чем полагали прежде.»
                                          (выделение всюду мое — forgotten)

                                          В.И. Назаров. Учение о макроэволюции. На путях к новому синтезу. (выделение мое — forgottent)

                                          «С. С. Шварц [1980] назвал соотношение микро- и макроэволюции «центральным вопросом эволюционного учения». Действительно, в дискуссиях последнего полутора десятка лет важнейшие спорные моменты эволюционной теории так или иначе группируются вокруг этого общего узлового вопроса, а многие из них просто оказываются его составными частями.
                                          [...]
                                          К настоящему времени по данной проблеме накопилось большое число разнообразных точек зрения. Поиском критериев для их систематизации специально занялся философ из ГДР П. Беуртон [Beurton, 1976, 1985]. Предложенная им типология получила одобрение [Борзенков, Северцов, 1983]. Рассмотрим вкратце четыре выделенные Беуртоном группы взглядов.

                                          Первая группа. Микро- и макроэволюция различаются не качественно, а чисто количественно. Основу механизма эволюции составляет исключительно «статистическая трансформация популяций» в понимании Райта, осуществляемая с помощью мутаций и отбора. Отсюда любое явление макроэволюции может быть объяснено на микроэволюционном уровне.

                                          Вторая группа. Макроэволюция отличается от микроэволюции качественной специфичностью своих закономерностей, но обычные факторы эволюции — мутации, рекомбинации и отбор — в обоих случаях одни и те же. Однако морфологические изменения не могут быть полностью объяснены генами. Примером могут служить взгляды Ренша, Ремане, Олсона. К этой же группе причисляет себя сам Беуртон.

                                          Третья группа. Существуют специфические факторы макроэволюции, действующие большей частью внезапно и способные приводить сразу к крупным эволюционным шагам (например, возникновению родов). Таковы, в частности, макромутации. Иллюстрацией этого могут быть гипотезы Гольдшмидта и Шиндевольфа.

                                          Четвертая группа. Качественная специфичность макроэволюции столь велика, что значение обычных факторов микроэволюции как необходимой предпосылки макроэволюции полностью отрицается. Эволюция жизни есть циклический процесс возникновения, расцвета и заката все новых форм организации, заранее запрограммированный.
                                          [...]
                                          Первая группа откровенно редукционистская и в настоящее время, вероятно, представлена единицами. Ко второй группе относится большинство пионеров и современных представителей синтетической теории. Третья и четвертая группы не имеют четкой границы. Для их разделения лучшим критерием было бы установление обязательности или необязательности осуществления макроэволюции через микроэволюцию. Если для третьей группы такой путь допустим, то взгляды Гольдшмидта и Шиндевольфа должны быть перенесены в четвертую группу.»

                                          Вы, судя по всему, относите себя к первой группе?
                                          • 0
                                            К первой разумеется, если фраза вот такая «Однако морфологические изменения не могут быть полностью объяснены генами.»

                                            Ибо это полный бред, не знаю, откуда авторы его взяли.

                                            У макроэволюции есть отличия, скажем, она требует изоляции кака фактора видообразования.
                                            Но ни одно из отличий не связано с требованием чего-то иного кроме генов.

                                            Да, первая статейка — барахло. Типично гуманитарный взгляд на вещи, даже критиковать смешно.

                                            >1. Изменение биохимического состава, а отсюда и качественных и количественных возможностей потребления пищи;

                                            Ни слова о качественных и количественных возможностях, какие они были и какие стали. Сплошная бла бла.

                                            >2. Реорганизация социума, разделение мужского и женского труда;

                                            Есть у обезьян.

                                            >3. Рост коммуникации и социализации, появление ритуалов приема пищи.

                                            Есть у обезьян.
                                            • –3
                                              К первой разумеется


                                              Это вполне очевидно, поскольку Ваши взгляды исчерпывающе описываются термином «редукционизм» (редукция психологии к химии, химии к физике, макроэволюции к микроэволюции и т.д.).

                                              Могу вновь только посочувствовать Вашим студентам и порекомендовать обратить Ваше внимание на выделенный мной фрагмент из Гранта о недопустимости упрощенных экстраполяций; попробуйте все-таки усомниться в истинности своих взглядов и внимательно почитать «Общую теорию систем» Берталанфи, Сорокина, Дюркгейма, Колмогорова и упомянутую книгу Гейзенберга.

                                              Ибо это полный бред, не знаю, откуда авторы его взяли

                                              Все ссылки в статье приведены.

                                              У макроэволюции есть отличия, скажем, она требует изоляции кака фактора видообразования.


                                              Грант, например, выделяет в качестве основного отличия макроэволюции от микроэволюции то, что макроэволюция исторический процесс. Впрочем, сомневаюсь, что Вы читали, скажем, труды Ключевского и представляете себе, что это значит.

                                              Но ни одно из отличий не связано с требованием чего-то иного кроме генов


                                              Эта точка зрения и есть редукционизм.
                                              В условиях динамически хаотичных иерархических систем только лишь понятий нижнего уровня недостаточно для описания высшего уровня системы — для этого требуется вводить метапонятия, описывающие метазакономерности поведения системы. Эта мысль, очевидно, Вам непонятна.

                                              Да, первая статейка — барахло. Типично гуманитарный взгляд на вещи, даже критиковать смешно.


                                              Вы всерьез считаете, что такого рода суждения усиливают Вашу позицию?

                                              Ни слова о качественных и количественных возможностях, какие они были и какие стали. Сплошная бла бла.


                                              Ровно то же я могу сказать о Ваших сообщениях в этой теме.

                                              Есть у обезьян.


                                              Вы хотя бы читаете то, что критикуете? Написано, что освоение огня привело к реорганизации социума — Вы пишете «есть у обезьян». Что есть — реорганизация социума? Или, быть может, у обезьян есть разнесенное по времени и месту разделение труда, когда изготовление конечного продукта (в данном случае пищи) проходит несколько различных стадий, причем действия исполнителя (по крайней мере, на некоторых стадиях) генетически не запрограммированы? Поделитесь.

                                              Есть у обезьян.


                                              У обезьян есть ритуал приема пищи??? Чем дальше, тем больше чудных открытий.
                                              • 0
                                                Да уж. Воистину, всеобщая грамотность не такое уж хорошее изобретение.

                                                Счастливо, спорить с вами не намерен, ибо ценю свое время.

                                                • –3
                                                  Кажется, обычно в интернете принято в таких ситуациях писать «слив засчитан»
  • 0
    есть шанс что через пару сотен лет будет так называемый

    «примитивный» ителлект
    человеческий-биологический

    и «настоящий»
    квантовый-кремниевый

    Почему бы Сознанию не жить в микросхемах? ;-)
    • 0
      Шанс есть всегда. Может, и коровы летать научатся.
    • 0
      Я бы сказал «настоящий» — кремниевый и «божественный» — квантовокремниевый.
  • +2
    Подытоживая, для создания ИИ необходимо:

    1. Слияние предметной области и алгоритма. Ну, это просто: цикл for — муха, цикл while — котлета. for(;;); for(;;); while(true); — две мухи и одна котлета. for(;;) while(true); — муха съела котлету.

    2. Компьютеры должны жить более-менее крупными иерархическими стаями. За одной потенциально опасной стаей DARPA ведёт оперативное наблюдение ещё с конца 60-ых годов прошлого века, вот что удалось узнать: визуализация части агентурной сети компьютеров (по состоянию на 15 января 2005 года, информация любезно предоставлена OPTE).
    • 0
      Круто! Поделитесь травкой :)
      • 0
        Он все правильно говорит. Другими словами: мы отличаемся от программ тем, что у нас на верхем уровне нет отдельно жестких неизменяемых алгоритмов и отдельно данных. И наше сознание состоит из кучи иерархических низкоуровневых нейронно-сетевых специализированных блоков. Из миллиона маленьких роботов состоит наше сознание, как выразился Д. Деннетт.
        • 0
          Да, он правильно говорит. Мне б такую отвязную фантазию :)
          • 0
            Читайте труды по аналитической философии!
            • 0
              Это какие?
  • 0
    Не понимаю о чем статья.
    Об ИИ говорится как о чем-то определенном.
    В принципе ИИ понятие более или менее определенное, но связывать его с ЭВМ, по моему мнению, ошибочно.
    ЭВМ это всего лишь один из способов, возможно не самых удачных, его создать. И это совсем не означает полное отсутствие таковой возможности.
    • 0
      Статья о сознании.
  • 0
    Исходя из эволюционной теории происхождения человека (и человеческого сознания), если компьютеры поставить в естественные или искусственные условия конкуренции, скажем с тем же человеком, то при соблюдении остальных принципов эволюции (вариабельность и воспроизведение), через некоторое количество итераций возможно возникновение даже более продвинутого варианта сознания.
    • +1
      Возможно.
      Однако надо понимать, что эволюция может двигаться не только от простого к сложному. Почему эволюционное движение приводит именно к качественному усложнению организмов и какие специфические условия для этого необходимы — одна из наиболее «покрытых мраком» областей эволюционной теории.
      • +1
        Первое, что приходит на ум — это внешняя коррекция линии развития эволюции, в случае с компьютером — её может проводить человек. Да, при этом теряется естественность процесса и при сильном вмешательстве может даже ничего не получиться, но от явных тупиков спасти, думаю можно.
        • +1
          кто же корректирует развитие человеческого сознания?
          • +1
            согласно современным научным представлениям — там само собой получилось, благодаря «нашему набору» физических констант )
            • +1
              получается, что для эволюции в сторону усложнения нужна коррекция, но в случае человека это получилось само собой :)
              тоже неплохо :)
              • 0
                У человека свой путь развития, у других свой, то, что мы в одном мире не гарантирует, что всё будет совершенно одинаково развиваться. ИИ, в первую очередь, нужен человеку ). И он может (и будет) всеми силами способствовать его появлению разными способами.
                • 0
                  на принципе голографичности (подобия малого в великом; например sprott.physics.wisc.edu/pickover/pc/brain-universe.html) базируется хороший кусок теории познания. Если этот принцип окажется недействующим — бОльшая часть научного знания обрушится, и с ИИ будет совсем туго.
                  мысли вслух.
      • 0
        разве качественное уложнение не значит более эффективное? то есть не «значит» а не ведёт к повышению эффективности?
        Или вопрос переносится уже на то, почему, с точки зрения какой конечной цели «эффективность»?
        • 0
          Эффективный = оптимальный по некоторому критерию. О каком критерии идет речь?
          • 0
            ну очевидно некая выживаемость
            • 0
              Я не совсем понимаю смысла Вашего возражения. Выживаемость — это довольно абстрактный показатель. У кого выживаемость больше — у таракана или у обезьяны?
              • 0
                1) у меня не было возражения — был вопрос

                2) Я думаю что у таракана)) и мне казалось что такой параметр должен существовать. То есть что-то вроде увеличения числа особей в долгом пероде… или захвата территории… Ну одни виды же исчезают, а другие процветают — неужели нет отражающего эти процессы параметра?..
                • 0
                  Параметров можно много придумать, а смысл? Вид, идеально приспособленный для выживания в одних условиях может моментально исчезнуть, стоит условиям чуть-чуть измениться. Вид существует не сам по себе, а в рамках некоторого биоценоза.
                  • 0
                    я исправил свой комментарий, сначала там было в перечислении примеров «приспосабливается к разным условиям», удалил, потому что подумал что читатель может и сам подставить что посчитает нужным ибо суть вопроса не в этом а в том какой критерий эффективности вида организма
                    • 0
                      поговорили
                      • 0
                        Вы от меня какого-то ответа ждете?
                        • 0
                          ну вы же не ответили на тот камент ("… 2) Я думаю что у таракана)) и мне казалось что такой параметр должен существовать. То есть что-то вроде увеличения числа особей в долгом пероде… или захвата территории… Ну одни виды же исчезают, а другие процветают — неужели нет отражающего эти процессы параметра?..")

                          То есть очевидно остался вопрос насчёт выживаемости-эффективности

                          • 0
                            > Ну одни виды же исчезают, а другие процветают — неужели нет отражающего эти процессы параметра?
                            Нет такого универсального параметра, который отразит некоторую «абсолютную» выживаемость. Вид существует (процветает или вымирает) во вполне определенных условиях — не только географических, но и в условиях сосуществования с другими видами.
                            • 0
                              понимаете, я готов поверить, что нет универсального параметра, но только не с таким аргуметом. Абсолютные параметры совершенно всегда отражают [ вещи/явления/меры ] которые существуют в определённых условиях и в сосуществовании с другими явлениями вещами и так далее. Их сначала пытаются максимально очистить от влияния переменных… Ну я думаю понятно что я говорю.

                              Поэтому наверняка можно найти некое «при прочих равных», тараканы лучше приспосабливаются к разным сосуществованиям / процветают в разных климатах / выживают в большем диапазоне температур, давлений, влажностей

                              В чём принципиальная невозможность поиска такого параметра?
                              • 0
                                В его бессмысленности. В таком случае самым приспособленным организмом окажется какая-нибудь Deinococcus Radiodurans.
                                • 0
                                  я думаю здесь надо искать в области сложности реакции организма на внешние раздражители.
                                  Сложный организм может отреагировать (защититься) на/от большего количества опасностей, чем деинококкус радиоустойчивый. В нашем мире деинококусу просто повезло, что он такой крутой, а другом, как вы и говорили, он помрёт, а человек че-нить придумает.
                                  • 0
                                    > Сложный организм может отреагировать (защититься) на/от большего количества опасностей, чем деинококкус радиоустойчивый.
                                    Весьма маловероятно.
                                    > В нашем мире деинококусу просто повезло, что он такой крутой, а другом, как вы и говорили, он помрёт, а человек че-нить придумает.
                                    Если внезапно жахнет 10К Гр жесткого излучения, человек ничего не успеет придумать.
                                    • 0
                                      > Весьма маловероятно.

                                      почему, если мы уже можем залезть в него микроскопом и увидеть, почему он такой устойчивый и использовать его механизмы. Таким образом человек становится квинтессенцией всего природного накопленного многообразия.

                                      А про внезапно — на то нам и дана наша сложность, чтобы предвидеть, и чтобы не было «внезапон». Бактерия такой возможности не имеет

                                      Хотя тут такая мысль пришла. Отрицать наличие параметра эффективности — равнозначно отрицанию естественного отбора как понятия вообще. Потому что он происходит в условии конкуренции, а конкуренции за что?

                                      Действительно, сравнивать ту бактерию и человека, наверное, не стоит, потому что мы с ней живём (в данных нам солнцем условиях) в разных нишах и ни за что не конкурируем, так я думаю. В своей нише она наверняка «победила» тоже не один вид бактерий, как человек «победил» тигров и слонов.
                                      • 0
                                        вообще странно слышать от человека «тайна покрытая мраком» и дальше — только отнекивания от вопроса. Либо вы уже обобсуждались этой проблемой и больше сил нет, или вам кажутся очевидными те вещи, которые у вас в голове образовались в процессе её обсуждения — а я о них не догадываюсь. Либо третее, надеюсь, что не оно)) п.с. «обсуждение» — не стоит понимать буквально…
                                        • 0
                                          > только отнекивания от вопроса
                                          Сформулируйте вопрос.
                                          • 0
                                            мне надо было написать про все слова «не надо понимать буквально»? У слова вопрос есть еще значение «проблема», «тема», топик. Вопрос.
                                            • 0
                                              Где?
                                      • 0
                                        > В нашем мире деинококусу просто повезло, что он такой крутой, а другом, как вы и говорили, он помрёт, а человек че-нить придумает.

                                        В таком случае Ваш «параметр» становится все более неопределенным. Какой организм устойчивее — способный защититься от внезапной опасности или тот, который может ее предвидеть?

                                        > Отрицать наличие параметра эффективности — равнозначно отрицанию естественного отбора как понятия вообще.

                                        Не вижу, как из первого следует второе. Это какие-то детские конструкции в стиле «то кого заборет — тигр или лев» получаются.

                                        > Потому что он происходит в условии конкуренции, а конкуренции за что?
                                        Много за что. Если в наиболее общем виде — за энергию в том или ином виде.
                                        • 0
                                          > В таком случае Ваш «параметр» становится все более неопределенным. Какой организм устойчивее — способный защититься от внезапной опасности или тот, который может ее предвидеть?

                                          Я вижу здесь наоборот повышенную определённость параметра, потому что если ты предвидишь, ты при прочих равных более защищён, если можешь создавать осознанные устройства защиты — тоже более защищён.

                                          >Не вижу, как из первого следует второе

                                          Ну давайте по-взрослому, неподецки, будем пытаться.

                                          Естественный отбор — это конкуренция, за что, за энергию. Конкуренция подразумевает победителя. Кто выигрывает в конкуренции? По логике — тот, кто получил больше энергии, кто переработал её быстрее, эффективнее? Или как? Или в конкуренции у победителя нельзя выявить параметры, которые позволили ему «выиграть»?

                                          • 0
                                            > Я вижу здесь наоборот повышенную определённость параметра, потому что если ты предвидишь, ты при прочих равных более защищён, если можешь создавать осознанные устройства защиты — тоже более защищён.

                                            Это если тебе дано время.

                                            > Естественный отбор — это конкуренция, за что, за энергию. Конкуренция подразумевает победителя. Кто выигрывает в конкуренции? По логике — тот, кто получил больше энергии, кто переработал её быстрее, эффективнее? Или как? Или в конкуренции у победителя нельзя выявить параметры, которые позволили ему «выиграть»?

                                            Параметр _в каждой конкретной ситуации_ выявить можно. Однако отсюда не следует существование какой-то абсолютной шкалы, по которой можно оценить выживаемость.

                                            • 0
                                              ок. спасибо за ваше время.
                                              мне жаль моего
  • +4
    на мой взгляд чтобы появился разум подобный человеческому в нейросети необходимо не обучать нейросеть, а дать ей возможность влиять на внешние раздражители
    пока нейросеть может только воспринимать информацию у неё не появляется необходимости думать, осозновать себя, ведь сознание в ней будет побуждать её к сопротивлению или наоборот ускоренному обучению
    но это всё равно что научить писать человека без рук — нет ни способа проверить обучился ли, ни какой либо разумной цели делать это

    но когда нейросеть сможет изменять своё окружение, тогда то и начнётся познание, а следовательно и развитие интелекта и разума
    не стоит считать что в человеке есть разум от рождения
    и разум появляется не с течением времени
    и читая человеку книги, мы не научим его говорить если он будет нем
    в первую очередь человек учится говорить чтобы высказать своё мнение, тем самым изменив своё окружение
    • +1
      >необходимо не обучать нейросеть, а дать ей возможность влиять на внешние раздражители

      За детьми никогда не наблюдали?

      Они это реализуют в полной мере, причем одновременно ;)
      • 0
        в принципе на это и намекал
        ни в коем случае не хочу сказать что разум не может зародиться и другим образом, но вот поймём ли мы этот другой разум… я сомневаюсь
  • +1
    Все же не стоит забывать, что когда мы говори AI, мы подразумеваем некоторую аппроксимацию. Не стоит здесь впадать в крайности. Можно, например, приглядеться к парадоксу Umwelt, чтобы понять, что мы в собственном устройстве мозга понимаем до сих пор не всё.

    Авторская же гипотеза подходит к одному из интереснейших математических понятий рефлексии, работа в этой области конечно же ведется причем не первый год. В частности, внес большой вклад наш соотечественник Лефевр(см. Конфликтующие структуры).

    Мое личное( и честно сказать, не совсем «математически» строгое) мнение, что все же человеческий мозг определяется наличием абстрактно-символьного мышления, т.е. возможностью выбора системы исчисления, элементарных единиц с которыми он оперирует и в соотвествии с ними возможностью выбирать допустимую область операций и прочие радости жизни.
    • +1
      Абстрактно-символьное мышление есть не только у человека, но и у многих животных. Главное отличие человеческого общества (не человека, а общества) от популяции животных (по Питириму Сорокину) — это передача абстрактных понятий.
      • +1
        В научной литературе можно встретить описания совершенно замечательных фактов. Например, голубые сойки в Англии научились проклевывать тонкую пробку у бутылки с молоком и съедать сливки, из-за чего молочникам пришлось перейти на более прочные крышки. Знание о том, как добыть сливки, практически моментально распространилось по всей популяции.

        Крысы способны запоминать запахи ядов и не только распространять это знание, но даже и передавать его через поколения. Однако далее этого коллективная память крыс не пошла.

        И только человек способен не просто оперировать абстрактными понятиями и передавать знания другим, но и сохранять и накапливать знания, передавая их через поколения.
        • +1
          К.Юнг называл это явление коллективным бессознательным.

          Обычно приводят историю про водителей авто, чем больше ширится практика управления автомобилем, тем легче следующему поколению освоить навык вождения.

          Ж.Пиаже также писал о том что абстрактным мышлением обладает только человек.
          • 0
            А так же мартышки, оттаскивающие товарок от банана, потому что «так принято».

            Если кто не знает, о чем это — читать тут nkozlov.ru/library/other/nikonov/s462/?resultpage=17 сразу после слов «В углу клетки висит приманка. Но брать ее нельзя. „
  • 0
    Бредет Терминатор, побитый такой, весь в ранах, еле ноги волочит…
    — ???
    — Скайнет уже не тот…
  • 0
    мне кажется что общество просто ИИ понимает как железку с процессором, совсем не обязательно что это будет так ( а может и уже есть, только нам не говорят ), это стереотип
  • 0
    Мдя, на ответы большинства современных мыслителей мне хочется упомнить величайшего философа всех времён и народов.

    Luminous beings are we, not this crude matter.


    По предположениям учёных, этот философ жил 170000 лет назад. Эта фраза покинула его уста, когда ему было 900 лет. Спорить не стоит с великим Йодой магистром. Компьютеров бояться не должны мы. Управлять мы можем ими вечно, пока не бояться их будем.

  • –1
    Если б можно было создать ии с сознанием, основываясь на текущих знаниях людей о мире, то это бы уже сделали. А так — даже представить хотя бы что-то отдалённо похожее на сознание никто не может.
    Так что, мы ничтожно мало пока знаем о мире, и все наши знания и науки всё ещё херня. Имхо — копать надо глубже.
  • 0
    Ну, если подумать, теоретически самые вероятные кандидаты в ИИ — вирусы\антивирусы. У вирусов от сложности их «мышления» зависит их жизнь и выполнение поставленной программой задачи, уже сейчас вирусы умеют размножаться, в какой-то степени мутировать и т.п. Ну а антивирусам придется становиться все сложнее для борьбы с вирусами.
    Вспомните, каким образом Скайнет захватил мир ;)
  • 0
    Сознание — порождение мотивации,

    • 0
      согласен с вами.
      Таким образом, если дать программе мотивацию к, например выживанию любой ценой, мы получим агрессивное сознание, цель которого — выжить.
      так, примерно?
      • 0
        Боюсь, это слишком большое упрощение. Процитированная 4-ая глава «Эгоистичного гена» как раз посвящена (в том числе) мотивации, почитайте.
  • +3
    Созданное сознание написало статью, что создать сознание невозможно. Почему? Потому что гладиолус. )