Пользователь
0,3
рейтинг
28 сентября 2012 в 04:59

Нейробиология и искусственный интеллект: часть третья – представление данных и память

Продолжение.

Глава 1: Нейробиология и искусственный интеллект: часть первая — ликбез.
Глава 1.5: Нейробиология и искусственный интеллект: часть полуторная – новости от Blue Brain Project.
Глава 2: Нейробиология и искусственный интеллект: часть вторая – интеллект и представление информации в мозгу.


Рис. 1

Ну что же, прописные истины закончились. Теперь переходим к спорным вещам.
Не буду описывать, как важна память для любой системы процессинга информации. Однако с человеческой памятью все очень непросто. В принципе, мы выяснили, что есть сигналы, которые путешествуют по нейронам, есть возбуждающие и ингибирующие синапсы, которые контролируют прохождение сигналов, есть нейромодуляторы, которые изменяют восприимчивость синапсов к сигналам, но каким образом это все работает вместе, что в итоге получается осмысленная когнитивная деятельность? Далеко не факт, что если собрать такую систему с миллионами нейронов, она заработает адекватно, а не как, скажем, эпилептик.

Это дает повод спекулировать об альтернативных теориях сознания, в которых берут какой-нибудь малоизученный эффект и объявляют его панацеей. Одна из таких теорий была выдвинута Р. Пенроузом и С. Хамероффом – квантовая теория сознания, основанная на теоретических предпосылках к квантовому взаимодействию тубулиновых микротрубочек, составляющих цитоскелет нейронов. Если будут желающие, могу обсудить эту теорию в отдельной главе, а пока вернемся к более проверенным теориям.



Итак, прежде чем браться за человека с его сотней миллиардов нейронов, было бы неплохо посмотреть, что творится в более простых случаях. А в простейшем случае, когда эффект памяти можно определить как “изменение реакции на повторяющееся раздражение”, его можно наблюдать на примере нервной системы червей C. elegans, у которого 302 нейрона и 5000 синапсов. Не смотря на такую рудиментарную нервную систему, C. elegans развили способность чувствовать температуру с точностью в 0.1° С и могут научиться ассоциировать ее с количеством доступной еды, тем самым давая нам возможность утверждать, что механизмы ассоциативной памяти могут работать и с небольшим количеством нейронов. Простота нейронной системы, в свою очередь, помогла ученым детально изучить механизмы, ответственные за возможность ассоциировать. В данном случае было выяснено, что количество производимого кальций-связывающего протеина Ce-NCS-1 прямо пропорционально способности обучаться. Причем этот протеин производится как в нейронах непосредственно чувствующих температуру, так и в проводящих сигнал нейронах (вставочный, промежуточный нейрон, interneuron), и прямо влияет на свойства синапсов между ними. Вставочные же нейроны уже собирают и интегрируют информацию с температурных и обонятельных нейронов. Занимательная штука тут, что этот протеин принадлежит к группе кальций-чувствительных протеинов, которые можно найти везде, от дрожжей до людей [1].

Более сложные механизмы, такие как формирование условных и безусловных рефлексов, изучаются, например, на мухах дрозофилах, в основном путем выключения определенных генов. Например, мухи с выключенной экспрессией допамина и серотонина отказывались усваивать новую ассоциативную информацию. Ежели экспрессия была просто снижена, то степень обучаемости зависила от количества этих нейротрансмиттеров. При этом важно заметить, что если таких мух удалось обучить чему-то, то они уже не забывали это. Получается, что эти нейтротранмиттеры ответственны скорее за обучение, нежели за память.

Важный аспект, то что у дрозофил уже появляется разделение на кратковременную и долговременную память, за которые ответственны разные области мозга. В частности, можно вырастить мух, которые будут вполне помнить ассоциативные правила в течение только нескольких секунд. Разделение на кратковременную и долговременную память происходит из динамической природы работы нейронов (они же общаются паттернами спайков), необходимости поддерживать определенную активность в течение некоторого периода времени (чтобы информация из разных отделов мозга успела интегрироваться) и необходимости хранить полученный в результате опыт (а вот он уже вряд ли хранится в виде паттернов спайков). Для теории (искусственного) интелекта же такое разделение, вообще говоря, не обязательно: если уж мы будем знать как представлять и обрабатывать информацию, то как хранить ее на компьютере мы уже представляем себе. Плюс к этому, я пока не встречал исследований, показывающих обработку знаний в долговременной памяти без привлечения кратковременной (хотя сама обработка имеет место быть, например, в случаях когда мы вспоминаем что-то из прошлого. Тогда, кстати, долговременная память, вообще говоря, перезаписывается заново, и поэтому, если вы что-то вспоминаете часто, то со временем становится трудно отделить реальность от домыслов).

Поэтому далее я буду в основном говорить о кратковременной памяти. Ее в свою очередь можно разделить на “мгновенную” (immediate memory), имеющую большой объем, но охватывающую временной диапазон от долей секунды, до нескольких секунд, и рабочую (working memory) – охватывающую от нескольких секунд до нескольких минут. Исследования на обезьянах показали, что информация о стимуле может поддерживаться постоянной активацией нейронов в течение нескольких секунд после исчезновения самого стимула, и есть модели нейросетей, которые успешно такие процессы моделируют [2]. Общее правило хранения информации можно описать следующим образом: чем более длительная память, тем меньше в ней хранится детальной информации о стимуле и больше абстрактной, концептуализированной. Механизмы мгновенной памяти обеспечиваются непосредственно в тех областях коры головного мозга, где идет обработка сенсорной информации [3,4] (о чем мы говорили в предыдущей главе), а вот рабочая память, как более глобальная, включает в себя механизмы не только коры головного мозга (неокортекс), но и его древесины внутренних структур, таких как гиппокамп (через который, кстати, идет консолидация кратковременной памяти в долговременную).

Какие молекулярные механизмы могут быть задействованы для реализации кратковременной памяти? Кратковременная синаптическая пластичность проявляется как ослабление или усиление следующего сигнала после предыдущего. Обычно, если 2 сигнала приходят быстро (<20 мс), то второй ослабляется в силу локального уменьшения количества пузырьков с нейромедиатором или деактивации потенциал-зависимых протеинов. Если между двумя сигналами проходит 20-500 мс, то второй сигнал зачастую производит больший эффект. В случае слабых синапсов одного сигнала может не хватить чтобы деполяризовать пост-синаптическую мембрану, и второй сигнал, как бы, воспользуется высвобожденными нейротрансмиттерами от первого как стартовой площадкой, повышая вероятность успешной передачи сигнала. Так же наблюдаются и более длительные эффекты, такие как усиление (facilitation) синаптической связи (разделяется на быстродействующее – порядка 10мс и долгое – сотни мс), пост-судорожная потенциация (post-tetanic potentiation) – до нескольких минут, а так же ослабление (depression), связанное как с истощением нейромедиаторов, так и с воздействием накапливающегося количества медиаторов внутри синапса (homosynaptic) и/или приходящим от соседних синапсов (heterosynaptic). Вместе эти процессы могут быть ответственны за локализацию паттернов возбуждения в некоторой области: одни не дают паттернам расползаться по нейронной сети, а другие – поддерживают активность паттерна.


Рис. 2. Активация нейронов места в зависимости от положения в лабиринте (активность разных нейронов показана разным цветом).

Важность возможности локализации паттернов возбуждения можно уже было оценить в предыдущей главе из рис. 6. Интересно то, что в гиппокампе (и не только) крыс (и не только), структуре прямо не связанной со зрительной корой, можно выделить такие высокоспециализированные клетки, которые активизируются если крыса уже визуально знакома с местом [5] (рис. 2). Причем, их активность мало зависит от, например, освещенности местности, т.е. они скорее связаны с текущем представлением крысы о месте пребывания, нежели с непосредственным наблюдением оного. Такие клетки называют “place cell” – клетками места. Так вот в таких клетках возбуждение поддерживается в течение всего времени, пока крыса пребывает в соответствующем месте. А поскольку подобное поведение клеток было замечено не только в гиппокампе, выдвигаются теории, что такая пространственная информация служит общим “ярлыком” для согласованного взаимодействия различных структур мозга с целью обеспечения возможности организации адаптивного поведения.

Хочется так же отметить, что “все дороги ведут в гиппокамп“, и, несмотря на то что не все виды памяти завязаны на гиппокамп (например, с поврежденным гиппокампом можно научиться играть на музыкальных инструментах), он играет важную роль как в формировании памяти, так и в интеграции текущей визуальной информации и соответствующей информации в рабочей памяти.


Рис. 3. Взаимодействие различных структур мозга для координации движения.

Ну вот как-то так.
Отсюда и следуют принципы, закладываемые в искусственные интеллектуальные системы: ассоциативность и контент-адресуемость для моделей памяти, а так же возможности обучения, классификация, планирование, методы решения других проблем. Много вопросов остается о представлении данных. Джеф Хоккинс, который в частности придумал компанию Palm и ее наладонники, предлагает моделировать память и представление информации в ней с помощью иерархически-временной модели (hierarchy temporal model), которую уже описывали здесь и которая прямиком следует из структуры неокортекса. Хотя при всех несомненно интересных идеях, пока сильного ИИ никому не удалось сделать. Значит истина где-то рядом.

[1] – Elements of Molecular Neurobiology, 3d ed., C. Smith, 2002
[2] – A Spiking Network Model of Short-Term Active Memory, D. Zipser et al., The Journal of Neuroscience, 1993, 13(8), 3406-3420
[3] – Neuroscience, 3d ed., D. Purves, 2004
[4] – The Prefrontal Cortex as a Model System to Understand Representation and Processing of Information, Representation and Brain, S. Funahashi, 2006, XII, 311-366.
[5] – A Neural Systems Analysis of Adaptive Navigation, S. Mizumori et al., Molecular Neurobiology, 2000, 21, 57-82
@netmaxed
карма
79,0
рейтинг 0,3
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое

Комментарии (41)

  • НЛО прилетело и опубликовало эту надпись здесь
    • +1
      Повредишь его — будешь как герой фильма Memento.
    • 0
      смотря что вы подразумеваете под «все». как я написал, нацчиться играть на инструментах таки можно, например.
  • 0
    «Тогда, кстати, долговременная память, вообще говоря, перезаписывается заново, и поэтому, если вы что-то вспоминаете часто, то со временем становится трудно отделить реальность от домыслов).»

    А есть объяснение тому, что одно воспоминание, которое часто вспоминал, но не мог вспомнить всех деталей или оно было не таким ярким, через пару лет вспоминается случайно во всех красках и подробностях? И можно ли такому воспоминанию доверять? Может как раз таки при перезаписи оно было «дописано» сном, или воображением?
    • +3
      Недавно анонс исследования был, мол любое воспоминание провоцирует перезапись памяти. Подобно динамической памяти (DDR). Похоже, что этот механизм используется для фиксации ложных воспоминаний, при котором воспоминание о событии есть, а самого события не было.

      Еще полезна метафора для кратковременной и долговременной памяти:

      Кратковременная память — это память циркулирующих по контуру сети импульсов (или потенциалов в КМОП). Триггеры, регистры,… Напряжение убрали — все забылось.

      Долговременная память — это изменение физической структуры/состояния, проводимости синапсов, ячеек памяти FlashROM, МRАМ, состояний мемристоров,… Энергонезависимая память.
      • 0
        Я так понимаю, что временная память это некое подобие буфера обмена между «память-воспоминание-память» и «сенсорика(источники информации из вне)-кратковременная память-память постоянна»
        Сразу много вопросов глупых)
        Какова скорость записи в мозг, если ему необходим буфер в котором 2-3 секунды еще «висят» данные. Могут эти данные быть неким подобием якоря для быстрого доступа к только что записанным данным.

        Если долговременная память это энергозависимая память, и нам известно, что у трупа вся «электрическая» активность исчезает на 3ти сутки после смерти, появится ли технология которая сможет «забекапить» данную память пока она активна?
        • +1
          Встречал верхние оценки записи в долговременную память середины 20 века — 2 бит/с. Но тут дело темное, что считать записанными данными, а что нет. Студент на экзамене может в 10...100 раз больше рассказать, если намеками вытягивать из него данные. «А не вольтметром ли измеряется напряжение?»

          Технология бекапа точно появится, вопрос во времени. Томографы постоянно совершенствуются. Но пока это дорогое удовольствие. Для бекапа понадобится не менее петабайта (а может и эксобайт). Но что с бекапом делать? Можно исследовать, выдумывать методы сжатия с потерями/без потерь. Запустить симуляцию — очень дорогое удовольствие (оценочно, числодробилка в Экзофлопс нужна). Восстановить бекап — а, собственно, куда? Живой мозг постоянно меняется.
          • 0
            А вот с записью действительно совсем не понятно, какой там латенси? Возможно даже не секунды, а минуты и часы. Всё-таки перестройка структуры связей их свойств может быть весьма затратной по времени. Пока нужные участки ДНК активируются, пока информационную РНК насинтезируют, пока они белки нафолдят, а потом еще и в нужные места вставят, пройдёт целая вечность по сравнению с прохождением импульса по аксону.

            Если учесть, что петафлопс суперкомпьютеры уж взяли, то и экзофлопс через пару десятков лет, думаю, достигнут. А еще лет через 5-10 и «десктопы» (или что там будет вместо них) подтянутся. По крайней мере будем надеяться на лучшее.
            • 0
              long-term potentiation, которая связана с долговременной памятью, может быть от нескольких минут, до месяцев.
              Как вам такой разброс? :)
            • 0
              Если внезапно «перезагрузить» мозг, то обычно теряется от 20 до 40 последних минут жизни. Хотя это нормальное распределение и крайние зоны заметно шире. Но основная часть записывается в этот период.

              Хорошо представляю о чём речь, так как в 2003-м мне в метро организовали ЧМТ из-за чего я на несколько суток превратился в героя фильма Memento :) Помнил только несколько последних минут, а примерно пол-часа, предшествующие травме почти полностью стёрлись из памяти. Со временем удалось восстановить буквально только 3-4 точечных эпизода.
        • 0
          я не совсем понял, что значит «временная память» в вашем предложении.
          скорость записи в мозг — очень расплывчатая характеристика. Если мы возьмем глаз, который «пишет» в визуальную область коры, то там будут гигабайты. А вот размерность «сознания» исчисляется несколькими битами (если принять определенные параметры расчета).
          Данные, которые «висят» скорее всего служат для контент-адресации, да.
          Если докажут, что долговременная память хранится в виде физических изменений синапсов, то да, можно будет сделать бекап. А электрическая активность, все-таки, связана не только с когнитивными функциями, там еще и «сервисные» функции обеспечивать надо. Так что после смерти, скорее всего, там полный хаос.
          Кстати, что считать смертью еще очень большой вопрос.
          • 0
            Согласен. Все таки интересно было бы узнать, что происходит в мозгу когда человек мертв. Провести симуляцию определенную и получить результат например и сравнить с результатом у живого человека. Или еще глубже, с начала скажем спровоцировать воспоминание человека по средствам некой стимуляции мозга (звук, микроимпульс), проверить повторяется ли оно при воздействии. а потом после смерти человека проверить еще раз. Но это вряд ли получится. Извините если что-то не так говорю… я в этом не разбираюсь, просто интересно.
            • 0
              когда человек мертв, в мозгу происходит процесс разложения.
              мало того, если я правильно помню, то в «момент смерти», который на самом деле никакой не момент, нейроны, не получая кислорода, начинают бешено сигналить. Отсюда и спецэффекты типа «свет в конце туннеля» :)
              Так вот если там такая предсмертная активность имеет место быть, то она уж точно перезапишет всю кратковременную память, а если учесть, что сигналы для запоминания сортируются по важности, то таким образом мы перезапишем довольно много, и чем дольше агония — тем меньше шансов найти что-либо упорядоченное.
              • 0
                А я вроде читал что свет в конце туннеля это ишемия зрительного нерва
                • 0
                  ишемия, если мне не изменяет память, это недостаток кислорода в крови, о чем я и написал: «нейроны, не получая кислорода, начинают бешено сигналить»
              • 0
                А я слышал безосновательную, но забавную байку, что это — результат выброса неслабого количества DMT из эпифиза. Туда же все видения, описываемые побывавшими в клинической смерти.
                • 0
                  ну насколько нам говорит википедия, DMT у млекопитающих вырабатывается в следовых количествах.
                  а «бешено сигналить» как бы подразумевает выброс каких-нибудь медиаторов, да :)
                  • 0
                    На этот аргумент наша забавная теория отвечает, что весь ДМТ лежит в эпифизе до поры-до времени.
                    Есть парочка интересных фильмов на тему — «DMT: The Spirit Molecule» — там это все псевдонаучно впаривается, и «Enter the Void», где теория предсмертного трипа непосредственно затронута в художественном стиле.
                    • +1
                      итак, вот что нам пишут умные люди:
                      «These include decreased ATP, increased cAMP, decreased pH, increased cytosolic Ca2+, increased
                      cytosolic Na+, membrane depolarization, free radical production, release of glutamate (and other transmitters), increases in FFA, and decreases in phospholipids, in particular phosphatidylinositides..»
                      отсюда
                      Т.е. перестает вырабатываться АТФ в достаточном количестве, что приводит к остановке перекачки ионов Na/K и как следствие — нарушение мембранного потенциала. А мы помним, что его значение поддерживается в отрицательной области (порядка -60 мВ) как раз этими самыми протеинами-«насосами». Получается эффект сильного выброса активирующего нейромедиатора. Ну и сами медиаторы высвобождаются — глютамат и другие. А вот про Dimethyltryptamine там ни слова.
                      Ну что, будем верить статье в журнале с impact factor 28? :)
                      • 0
                        Я и сам не особо верю в эти россказни, они очевидно выглядят как ненаучная теория. Те люди говорят, что ДМТ выбрасывается непосредственно перед смертью, быстро деградирует, и в результате никто его никогда не видел.
          • 0
            Глаз пишет в зрительную область два мегабита всего лишь, как мне только что сказали
          • 0
            Про долговременную память как структуру синапсов кажется давно доказано… и ведь действительно, с трупов её можно считывать было бы, пока мозги не разложились… запускать потом симуляции, смотреть результат…
    • 0
      есть много иллюзий, которые подтверждают, что даже если вы в чем-то уверены, то это не всегда правда.
      так что доверять воспоминаниям нужно очень аккуратно в любом случае :)
      по поводу процесса вспоминания: это нетривиальный процесс и есть много экспериментов, подтверждающих, что даже несмотря на то, что информация есть у вас в мозгу, она не всегда одинаково доступна. На мухах это проверяли путем включения и выключения определенных протеинов, например, а вообще «вспоминаемость» чего-либо зависит от состояния мозга в конкретный момент. Поэтому психологи и рекомендуют возвращаться на место, которое у вас ассоциируется с тем, что нужно вспомнить.
      я вот по себе, например, заметил, что если какая-то мысль ушла и никак ее не вспомнить, то стараться — только хуже делать. А вот если не нервничать и спокойно начать думать о чем-то другом, постепенно возвращаясь к забытой теме, то вспоминается гораздо лучше. И, кстати, беспокоиться нет причин — если мысль пришла в голову однажды, то она придет и еще :)
  • 0
    «квантовая теория сознания, основанная на теоретических предпосылках к квантовому взаимодействию тубулиновых микротрубочек, составляющих цитоскелет нейронов» — ну вот, даже из названия понятно, что мы буквально в шаге от доказательства существования Души, Бога, Жизни-после-смерти итд ;-)
    • 0
      я бы не хотел быть категоричным, но к нашему сознанию квантовая теория имеет очень опосредованное отношение.
      хотя это не отменяет того предположения, что ежели нам удастся понять, как сознание работает, то может и удастся реализовать его на квантовом уровне.
  • 0
    странная статья. вроде интересно, но по большей части ничерта непонятно.
    Заголовок статьи — представление данных и память. Я для себя это понял как «представление данных в памяти, механизмы/виды памяти и попадание данных в память». Либо я неправильно понял название, либо статья не об этом.
    В статье нет какой-либо структуры… Сильно порадовал пассаж «Какие молекулярные механизмы могут быть задействованы для реализации кратковременной памяти? Кратковременная синаптическая пластичность проявляется как ослабление или усиление следующего сигнала после предыдущего.»
    Это как если бы я сказал — «какие существуют механизмы маршрутизации между автономными системами? Реализация редиструбъюции из внутренних протоколов во внешние различается между вендорами и в основном выражается в манипуляции и передаче весов маршрутизации в стандартизированые или проприетарные параметры.»
    в итоге, немного затронуты виды памяти и вскользь сказано о механизмах реализации их видов «в железе», то есть в мозгу. но вот о представлении данных в памяти совсем ничего.
    • НЛО прилетело и опубликовало эту надпись здесь
      • +2
        да это-то ясно ) просто предыдущие статьи циклы более толковы ) эту как-будто в большой спешке и без плана в голове писали
        • 0
          тут сложно составить план и на чем-то остановиться. в мозге все настолько взаимосвязано и сложно классифицируемо, что любое описание либо разрастается до размеров энциклопедии, либо будет обрезано и неполно.
    • +2
      В этом и весь вопрос =) Чтобы понять как это все работает, нужно огромное количество времени, технологии и штук 10-15 гениев в разных областях науки.
      Это с роди тому, как системный блок пытается понять как он работает самостоятельно)
    • 0
      да, получилось сумбурненько, согласен.
      о самом представлении данных мы говорили во второй главе, а тут — как все это взаимодействует и получаются те свойства памяти, какие мы имеем.
  • 0
    Далеко не факт, что если собрать такую систему с миллионами нейронов, она заработает адекватно, а не как, скажем, эпилептик

    Пробовали вроде бы на суперкомпьютере симулировать много нейронов (не помню сколько, миллионы, миллиарды).
    Только результаты не очень смогли интерпретировать.
    Ну есть альфа-волны, бета, гамма, и чего? :)
    Сейчас попробую найти…
    • 0
      давай, почитаем
      • 0
        Ну, конкретно про то исследование, которое я имел ввиду не нашёл.
        Но попутно нашёл интересный проект — полная симуляция мозга.
        www.humanbrainproject.eu/
        На сайте довольно подробно описано что и как хотят делать.

        Проект рассчитан на 10 лет, будут вовлечены несколько университетов, сейчас находится в стадии подготовки.
        Бегло пробежав отчёт для еврокомиссии — реализация проекта потребует 1.2 миллиарда евро. Не понял только выделили деньги уже или пока нет.

        Пожалуй, буду следить. Интересно.
        • 0
          мда, я смотрю, пацаны ваще не палятся :)
          НВР — это расширение Blue Brain Project на еще более мощные компы.
          пусть стараются, на ближайшие 10 лет они работой себя обеспечили, молодцы, чо :)
  • 0
    Мне все это кажется настолько сложны, что строение самой сложной вычислительной системы, созданной когда-либо человеком кажется просто игрой в крестики-нолики. Интересно во сколько больше сложность мозга (если её можно было бы как-то выразить) сложности самой сложной системы созданной человеком
    • 0
      сложно то, что непонятно. когда понятно, то как-то сразу все становится просто :)
      то, что мозг сложная система, еще не значит, что его нельзя упростить без потери интересующего нас функционала.
      опять же, мозг не только обрабатывает информацию, он еще и поддерживать свою жизнедеятельность должен и развитие, на что его клетки в основном и расчитаны. А то, что в результате получается какая-то когнитивная деятельность, сам мозг беспокоит меньше всего. И наверняка, как всегда с эволюцией, там много чего ненужного и неоптимального (с точки зрения именно интеллекта). Так что не удивлюсь, если вся интеллектуальная деятельность окажется выполнима на ничтожной доле ресурсов мозга, в то время как все остальные ресурсы уходят как раз на поддержку мозга в рабочем состоянии.
      • 0
        Ну тогда это ещё больше завораживает, если как вы говорите только малая часть мозга способна генерировать чувства, идеи, собственные выводы ну и прочее )
        • 0
          и чего ж тут завораживающего? :)
          система ваще неоптимизирована, фу такой быть :)
  • 0
    А как эта теория обьясняет феномен Абсолютной памяти. Когда человек посмотрев секунду на обьект (страницу текста например) полностью его запоминает до запятой. И почему некоторые воспоминания немогут быть вызваны в данный момент времени, но потом в течении дня внезапно может всплыть запрощенное воспоминание во всех деталях?
    • 0
      а никак :)

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.