Пользователь
0,0
рейтинг
23 сентября 2012 в 16:03

Моделирование воли в искусственном интеллекте

Если рассматривать ИИ в какой-нибудь гипотетической масштабной реализации. Допустим поисковые сервисы трансформируются в экспертные системы и затем в глобальный искусственный разум. Вероятно, тест Тьюринга такая штука пройдет, но у нее по-прежнему не будет чего-то, побуждающего ставить задачи самой себе. Т.е. не будет воли. Тут стоит отметить, что интуитивные человеческие представления о воле обычно формируются в условиях социума. В итоге воля мыслится как возможность ставить достаточно спонтанные, случайные цели, которые обычно прямо или косвенно стимулируются социальными взаимодействиями. Для гипотетического Бога это не работает. Бог он одиночка. Его цели больше похожи на законы мироздания, по которым всё развивается. ИИ в этом смысле похож на Бога.

Философы 18-го века часто были одновременно математиками и что любопытно, многие из таких были одержимы идеей одного универсального закона или принципа, который управляет всем мирозданием. Они говорили о принципе минимума. Сейчас забытая идея, мне кажется, она на самом деле красива. Её реализация была бы естественным кандидатом на то что можно назвать волей бога. Задачу в общем виде упомянутые философы, естественно, не решили, зато развили классическую механику в том ее варианте, который впоследствии оказался удобным для обобщения на квантовую механику. Кому интересно, почитайте про лагранжиан в Википедии. Удивительно — забытая философская идея лежит в основе современной физики, в частности, стандартной модели, в рамках которой были предсказаны бозоны Хиггса и проводились эксперименты на большом адронном коллайдере. В наши дни Сергей Гринченко развивает похожую теорию уже применительно к эволюции биологических систем.

В достаточно сложных системах нахождение минимума определенным образом математически заданной величины легко может стать сверхсложной задачей, которая разобъётся на много этапов и подзадач и может занять сколько угодно миллионов лет :) Даже для упомянутого в начале искусственного суперинтеллекта. Так что со стороны это действительно может быть похоже на реализацию в нем некой «мировой воли».
VRus @VRus
карма
18,3
рейтинг 0,0
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое

Комментарии (35)

  • +6
    Мало букв :(
    • +1
      Ну, чем богаты, как говорится… Просто идея. Как и раньше про матмоделирование общения.
      • 0
        Идея, у Капитана, идея!
        • 0
          По правде я сам не пойму, может что-то глупое написал :) Особенно для человека не в теме, как я. Может и так общепринято, что ИИ должен обладать функцией самосовершенстования, что отчасти напоминало бы волю… Надеюсь хоть ссылки на принцип минимума меня оправдывают, это же интересно. Особенно работа Гринченко. По-моему, он мегакрут.
          • +2
            Я тоже однажды понадеялся, что математика решит все проблемы. Особенно, когда начался курс исследования операций.

            И именно на этом курсе была произнесена реплика Чеширского Кота:

            «Мы можем оптимизировать любую функцию, которую в данном случае мы назовём эвристикой. Главное, чтобы человек её выбрал своей волей».

            Не вижу у вас принципов или предложений по выбору эвристики.
            • 0
              Видимо я хотел провести одну мысль — воля в ИИ не то что порождается ситуативно, в контексте чего-нибудь, а также не набор неситуативных закономерностей. Если закономерность, то только одна, глобальная и универсальная, из которой следуют другие закономерности и модели поведения.

              А так скорее обсуждения стимулируют дальнейшие мысли. Не знаю правильно ли я вас понял насчет эвристики, мне пока нравится то что я ниже в комментах предложил: есть некая выбранная человеком модель правильного графа понятий (или знаний) в базе знаний ИИ, далее ИИ пытается оптимизировать свои знания в соответствии с этой моделью. В процессе оптимизации порождаются новые знания, в том числе о том какой должна быть правильная модель графа, и этот процесс по сути бесконечен. Практически по Гегелю получается: «мировая идея» познаёт саму себя, в этом и состоит мировая воля. Если я конечно не переврал Гегеля.
              • 0
                По теореме Гёделя о неполноте любая непротиворечивая система аксиом генерирует непроверяемые заявления.

                И любой там граф понятий имеет врождённые, согласно теореме, изъяны. Нет универсальной позиции, объясняющей всё. Ни бог, ни отсутствие бог — не абсолютные мировоззрения.

                А так в качестве графа, вы, конечно же вольны выбрать или законы Дарвина (наследственность, изменчивость, естественный отбор), или пирамиду Маслоу (выживание, секс, безопасность, социализация, признание, исследование, эстетика, самореализация), или ещё что вам угодно.
                Вот это «что вам угодно» («вам угодно»(sic!)) и есть эвристика.
                • 0
                  Насчет идеального графа я имел в виду его абстрактную конструкцию, форму, лишенную содержания. Взять допустим пример хорошо проработанной теории, той же классической механики, и посмотреть какой граф знаний ей соответствует. Соотношения количества узлов, связей, типов связей. Что-то в этом роде. Далее ИИ берет другую область, допустим плохо проработанную область знаний, ее граф будет отличаться и система будет пытаться привести ее к идеальному графу. Заодно по большому объему данных о графах из разных областей корректируя понятие идеального графа.

                  Ну да, от субъективизма не уйти всё равно, но это не критично ведь. Главное что ИИ будет вести себя «целенаправленно», в том числе при взаимодействиях с человеком, пытаясь, если необходимо, извлечь из людей нужные знания.
            • 0
              Вы абсолютно точно выразили ту самую мысль, которую я давно уже обдумаю. Проблема с ИИ состоит в том, что все равно все интеллектуальные системы задумываются и разрабатываются, как инструменты. Как очень интеллектуальные инструменты для решения конкретных задач. А вот задачу разработать систему, которая сама будет ставить себе задачу, никто не ставит. Потому то и Лем такой грустный.

              • 0
                Наверное это следствие начального этапа отрасли. Всё-таки не развился ИИ еще до такой степени, чтобы такие вопросы стали актуальны. Люди однако думают об этом. Вот например Андрей Мирошниченко что думает (много букв, этому посвящен один из разделов). Довольно причудливая модель, на мой взгляд.
                • 0
                  Статья очень удивила. Вчера делал кое какие заметки для себя по данной теме, и общая идея полностью совпала со статьей. Странное чувство.
                  • 0
                    В соцсетях он Артем Каждый, если че.
  • +2
    Почему-то вспомнился referats.yandex.ru/all.xml?mix=philosophy&philosophy=on.
    • 0
      В стиле, ритмике пожалуй есть что-то похожее :)
  • 0
    >> Допустим поисковые сервисы трансформируются в экспертные системы и затем в глобальный искусственный разум
    >> Вероятно, тест Тьюринга такая штука пройдет, но у нее по-прежнему не будет чего-то, побуждающего ставить задачи самой себе. Т.е. не будет воли

    а как человек ставит задачи? Обычно он берет то, что еще не знает (вряд ли человек по собственной воле будет заниматься какой то рутинной задачей, смысл — он в создании нового). Если предположить, что экспертная система будет владеть всеми знаниями — то новых вопросов для исследования и развития конечно же не будет. Воля побуждает исследовать задачи, которые не были решены ранее, а в случае «всемогущества» — таких задач попросту нет. И чтобы окончательно ответить на ваш вопрос, надо сначала оценить поведение человека, который знает все, а таких, к сожалению, нету.
    • 0
      Допустим у экспертной системы будет критерий, например, красивого графа понятий и связей между ними. Она анализирует то что имеет и понимает, что это не совсем красивый граф. И далее пытается предпринять что-то, чтобы система понятий стала стройнее.
      • 0
        Ну в таком случае система не встанет. Она будет действовать согласно своему алгоритму, чтобы «получить идеальные знания». При наличии цели, воля может появиться. Без цели — вряд ли.
        Однако боюсь что идеальный Overmind создать не выйдет. Либо он будет весьма беден в плане знаний. Абсолютных истин очень мало.
        • 0
          Беру свои слова назад. Статьи что вы оставляли в комментах вдохновили.
  • 0
    У среднего человека тоже нет воли. На дейстия его побуждает что-то извне.
    Это может быть новая электронная игрушка или банальный голод.
    Радость познания это редкий наркотик, который мало кому доступен, который тоже не всегда существует сам по себе, а только после решения насущных вопросов, или в качестве их решения.
    • –1
      Кстати согласен — большинство людей не так сложны, чтобы их трудно было смоделировать :)
  • 0
    Воля — это следование некоторой неочевидной цели, если своими словами. То есть, экономисты приведут свои пирамиды потребностей, и скажут — вот человек стремится, что бы поэтапно удовлетворить свои потребности. Дарвинисты скажут, что раскидать гены — первоочередная задача всех живых и остальные подчиняются им. Физики — они мне наиболее симпатичны — скажут, что у системы есть задача: уменьшить потенциальную энергию и увеличить кинетическую.

    Вот это все и есть — воля. Воля общества, индивида, системы и т.д.

    Остальное — умение разбивать эти глобальные задачи на подзадачи — вопрос чисто алгоритмический.
    • 0
      Алгоритмы в «большом искусственном интеллекте» могут быть довольно нетривиальными и напоминать допустим научное исследование: когда отсутствует некое звено в цепочке рассуждений, вы собираете данные и анализируете их. Быть может проводите какой-то эксперимент. Потом быть может что-то обобщаете. Т.е. порождаете новые сущности, новое знание, которое включается в новые итерации процесса и т. д. Процесс и может выглядеть как следование неочевидной глобальной цели. Точнее, изначальный критерий как я выше для примера в комменте сказал, этот критерий может быть сравнительно простым, но к чему он в итоге приведет и какими путями ИИ его будет реализовывать — одному богу будет известно :)
      • 0
        Кстати процесс наверное можно зациклить — чтобы система пыталась улучшать первоначальный критерий, согласно которому она совершенствуется. Тогда уж вообще всё станет непредсказуемым.
        • 0
          Сначала надо обьяснить системе в доступной форме что значит «улучшить». А у человечества проблемы с таким вопросом как смысл жизни (в общем для всех варианте)
          • 0
            а то*
          • 0
            Скорей всего к математике сведется. Чтобы машине было понятно. Возможно тот самый принцип минимума. Вопрос только минимума чего. Ну это я уж оставлю за кадром.
            • 0
              вы оставляете за кадром самую «мякотку» :) в поиске «этого самого» и состоит и проблема
              • 0
                Это да )) Кто-то пиарит идеи, кто-то их допиливает. Из философов самым слабым математиком был видимо Мопертюи, но он хорошо пиарил, и хорошие математики Эйлер с Лагранжем взялись за это дело. Как только определили, что именно надо минимизировать, получилась современная версия механики.
  • 0
    У большей части рассуждений об ИИ на хабре есть один много общего. Дается куча слов, выдернутых из разных отраслей знаний, много бла-бла-бла и полное отсутствие связи с реальностью. Напоминает кухонную политику уровня «Как сделать всем хорошо? Мужакам по бабе, бабе по мужику, всем много денег». Сделайте хоть один шажок в сторону чугунной реальности.
    Сделайте хоть один шаг навстречу реальности.
    • 0
      В отместку: наверное, это как с вашей семантической организацией информации, я тоже о ней думал :)
      • 0
        эээ… семантическая файловая система? Я ее сделал, но положил на полочку :)
    • 0
      когда не знаешь как сделать правильно, грубый перебор всех возможных вариантов тоже имеет место.
  • 0
    Когда мы начнем общаться с компьютерами и ставить им задачи на человеческом языке (HAL9000 форева!)… ничего не будет стоить заложить в них какие-нибудь базовые максимы — рассматривать любую комбинацию своих действий через призму… скажем уничтожения Человечества и всего живого на Земле… Вот Вам и 'воля'.
  • 0
    А нужна им вообще Воля? А то ведь если будет воля, то может возникнуть мотив уничтожить Человечество.
    • +1
      Зато не скучно жить )

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.