company_banner

Играть на уровне бога: как ИИ научился побеждать человека



    В 16 играх машины одолели человека (в 17, если брать в расчет поражение Ли Седоля в го), но в будущем их ждут еще более впечатляющие достижения: решение самых ошеломляющих математических, физиологических и биологических проблем, победа над болезнями и старостью, ликвидация дорожных аварий, триумф в военных конфликтах и многое другое.

    Мир изменился прямо на наших глазах, но не все заметили это. Когда и как программы научились играть безошибочно? Всегда ли проигрыш одного человека свидетельствует о поражении всего человечества? Обретет ли искусственный интеллект сознание?

    Об авторе. Статья основана на лекции «Искусственный интеллект. История и перспективы», проведенной в московском офисе Mail.Ru Group Сергеем oulenspiegel Марковым. Сергей Марков занимается machine learning в «Сбербанке». В банковской сфере строят предиктивные модели для управления бизнес-процессом на основе достаточно больших обучающих выборок, которые могут включать несколько сотен миллионов кейсов. Среди своих хобби Сергей указывает шахматное программирование, ИИ для игр, минимаксные задачи. Программа SmarThink, созданная Сергеем Марковым, становилась чемпионом России (2004) и СНГ (2005) среди шахматных программ (2004), и сегодня входит в топ-30 сильнейших программ в мире. Также Сергей является основателем некоммерческого научно-просветительского портала 22 век.

    С чего все началось



    TechnoCore — место обитания множества искусственных интеллектов в тетралогии «Песен Гипериона» Дэна Симмонса. Один из примеров визуализации сильных ИИ в научной фантастике.

    С самим понятием ИИ произошла неприятная история. Появившись изначально в научной сфере среди специалистов, работавших в области computer science, оно очень быстро попало в публичную среду и претерпело различные изменения. Если сегодня спросить обывателя о том, что такое ИИ, скорее всего, вы услышите от него совсем не то определение, которое держат в голове специалисты по ИИ.

    Прежде чем начать рассказ, нужно определиться, что именно мы понимаем под искусственным интеллектом, и где находится граница, на которой заканчивается область computer science и начинаются смежные области.

    ИИ вообще — это методы, используемые для автоматизации задач, которые традиционно считаются задачами интеллектуальными, и для решения которых человек задействует свой естественный интеллект. Автоматизируя задачу, решаемую человеком с помощью мозга, мы тем самым создаем ИИ. Другое дело, что такой ИИ обычно называют прикладным или, с некоторой долей презрения, слабым. Неприятный нюанс в том, что это единственный доступный человечеству на сегодняшний день вид ИИ.

    Что касается сильного ИИ, artificial general intelligence (AGI), определенные наработки здесь есть, но пока мы в самом начале пути. Сильный ИИ — это система, способная решать любые интеллектуальные задачи. В фантастике сформировался образ именно такого, подобного человеку, ИИ, способного решать любую задачу.



    Поскольку мы так широко в computer science определяем искусственный интеллект, то с формальной точки зрения найдем элементы существования ИИ еще у древних греков. Речь идет о знаменитом Антикитерском механизме, являющемся одним из неуместных артефактов. Это устройство предназначено для астрофизических расчетов. На фотографии выше представлен один из сохранившихся фрагментов и современная реконструкция артефакта. Механизм содержал 37 бронзовых шестерен в деревянном корпусе, на котором были размещены циферблаты со стрелками. Восстановить положение шестерен внутри покрытых минералом фрагментов удалось методом компьютерной томографии с помощью рентгеновских лучей.

    Сама по себе задача счета когда-то считалась интеллектуальной — если человек умел хорошо считать, то его можно было назвать интеллектуалом.


    Счетный прибор Джона Непера, предназначенный для быстрого умножения.

    Задачи счета автоматизировались одними из первых. Еще до первых механических устройств появились поделки типа неперовых палочек. Шотландский математик, один из изобретателей логарифмов Джон Непер, создал устройство счета в 1617 г. На фоне современных технологий оно кажется смешным: рулоны бумаги — по сути, первые логарифмические таблицы для выполнения некоторых операций. Но для современников это было примерно таким же чудом, как для нас какой-нибудь AlphaGo. В свое время были даже поэты, посвящавшие неперовым палочкам (Napier’s bones) стихи. Дескать, почему вы носитесь с костями предков, вот те самые кости, которыми действительно стоит гордиться.


    Суммирующая машина Паскаля — арифметическая машина, изобретенная французским ученым Блезом Паскалем в 1642 г.

    Паскаль, наравне с немецким математиком Вильгельмом Шикардом, предложившим свою версию вычислительной машины в 1623 г., заложил основы для появления большинства вычислительных устройств. До наших дней сохранились несколько машин, созданных еще при жизни Паскаля. Такая машина умела складывать, делить, вычитать и умножать.


    Полная рабочая копия машины, изобретенной английским математиком Чарльзом Бэббиджем в 1822 г. Так называемая разностная машина предназначена для автоматизации вычислений путем аппроксимации функций многочленами и вычисления конечных разностей.

    О Чарльзе Бэббидже слышали практически все компьютерные специалисты. Увы, Бэббидж так и не смог создать работающую вычислительную машину. Долгое время не утихали споры, работает ли в принципе предложенная им разностная машина. В период с 1989 по 1991 г., к 200-летию со дня рождения Чарльза Бэббиджа, по сохранившимся чертежам и с небольшими модификациями была собрана работающая копия аналитической машины. Модификации понадобились из-за «багов», обнаруженных в чертежах. Возможно, Бэббидж намеренно сделал несколько искажений, борясь с нелицензионным пиратским копированием.

    Аналитическая машина — это прообраз современных фон-неймановских машин. Когда инженеры IBM строили первую электронную машину, они использовали чертежи Бэббиджа. Мы привыкли говорить о фон-неймановской архитектуре, то есть машине с разнесенным вычислительным устройством, с устройством ввода-вывода, с памятью и т.д. Однако в основе находятся идеи Бэббиджа.

    К тому же в машинном коде бэббиджевой машины применялись оператор условного ветвления и оператор цикла. Эту машину действительно можно считать прадедом того, что потом удалось сделать на основе электроники.


    Жаккардова машина — зевообразовательный механизм ткацкого станка для выработки крупноузорчатых тканей. Создан в 1804 г. Позволяет раздельно управлять каждой нитью основы или небольшой их группой.

    Устройства ввода-вывода, перфокарты появились еще до Бэббиджа — они использовались в ткацких жаккардовских станках, чтобы задавать порядок следования нитей при изготовлении ткани.

    Новое время



    Табулятор — электромеханическая машина, предназначенная для автоматической обработки числовой и буквенной информации, записанной на перфокартах.

    Первый статистический табулятор построен американцем Германом Холлеритом в 1890 г. для решения задач, связанных со статистическими расчетами. Известный изобретатель и создатель оборудования для работы с перфокартами успешно принял участие в конкурсе, организованном правительством США для поиска средств автоматизации обработки результатов переписи населения. Для ручного подсчета и анализа понадобилось бы порядка 100 человек, работающих в течение 4-5 лет, чтобы просто обобщить и посчитать суммарные социологические показатели переписи.


    Перфокарта Холлерита.

    Табулятор — это очень примитивная сводная таблица. Каждая карточка соответствует анкете, в ней проделаны отверстия, соответствующие ответу. Карточки загружались в табулятор, он быстро прогонял их через себя и выдавал результат в виде такой же карты с подсчитанной суммой. Эти суммы вкладывались в другой табулятор и т.д.

    Выиграв конкурс, Холлерит основал свою компанию — Tabulating machines company, и после некоторой череды слияний и поглощений она стала называться IBM.

    Игры, в которые играют машины


    Как и во всякой экспериментальной науке, разделу computer sciencе, занимающемуся ИИ, нужна была своя мушка дрозофила, некий модельный объект, на котором можно было опробовать методы ИИ. Игра — самая известная мушка дрозофила в сфере ИИ.

    Игра — чистое модельное пространство. В ней заданы условия, состояния, однозначно определенные и описываемые в виде набора параметров. Создавая ИИ для игры, мы тем самым абстрагируемся от массы инженерных проблем, лежащих между ИИ и практическим решением задачи. Мы абстрагируемся от кодирования данных на входе и выходе, от преобразования сигнала, задачи восприятия и т.д. Для нас интеллектуальная задача существует в игре в чистом виде. Это удобно, потому что специалисты по ИИ ленивые и не хотят заниматься ничем, кроме ИИ.


    Шахматная машина «Турок».

    Игра — это зрелище. Если вы покажете машину, умеющую хорошо играть, она произведет впечатление даже на несведущего человека. Игра машины привлекает внимание уже сотни лет. На картинке выше вы видите иллюстрацию знаменитой мистификации — первый шахматный автомат, сконструированный изобретателем Вольфгангом фон Кемпеленом в 1769 г. Внутри «машины» на самом деле прятался настоящий шахматист. В эту коробку не брезговали залезть ведущие шахматисты своего времени. Иоганн Баптист Альгайер, сильнейший шахматист Австрии конца XVIII — начала XIX вв., сыграл за шахматный автомат целый ряд партий.

    Это сложное механическое устройство не является искусственным интеллектом, но любопытно то, что с его помощью удалось одурачить современников. Люди действительно верили, что какой-то искусный мастер смог при помощи шестеренок, рычажков, механизмов и противовесов создать систему, способную играть в шахматы. Сохранилась даже запись партии, сыгранной механическим турком против Наполеона (впрочем, некоторые историки подвергают его достоверность сомнению). Так что, возможно, что одурачены были даже высшие особы.



    А это уже первое устройство, которое на самом деле умело играть в шахматы. El Ajedrecista (в переводе на русский — «шахматный игрок»). Его создал в 1912 г. известный испанский математик и инженер Леонардо Торрес Кеведо.

    El Ajedrecista представлял собой шахматную доску, на которой машина с помощью электромагнитов передвигала короля и ладью. Машина гарантированно ставила мат королем и ладьей одинокому королю из одной позиции: король стоял у белых на Н8, ладья — на G7, а черный король мог стоять на любом поле. Два сохранившихся экземпляра машины выставлены в Политехническом музее Мадрида.



    Это другой знаменитый ИИ прошлого — механизм «Ниматрон», созданный в 1940 г. для игры в Ним. Ним — математическая игра, в которой два игрока по очереди берут предметы, разложенные на несколько кучек (обычно три). За один ход можно взять любое количество предметов (больше нуля) из одной кучки. Выигрывает игрок, взявший последний предмет.

    Это одна из первых игр, для которых построили полную математическую теорию еще в 1901—1902 гг. С точки зрения методов «Ниматрон» ничего нового не представлял, опираясь на уже известную оптимальную стратегию для этой игры, но был одним из первых решений теории игр в железе.

    Проектом «Ниматрон» руководил Эдвард Улер Кондон — один из отцов современной квантовой механики. Он считал этот проект самой большой неудачей в своей жизни, но не с технической, а с финансовой стороны. Работая над «Ниматроном», Кондон со своей командой изобрел множество технологий (среди которых, например, способ изготовления печатных плат), которые потом были востребованы в компьютерной технике. Но команда специалистов ничего не запатентовала, в результате ничего и не заработала.

    Оптимальная стратегия



    Эрнст Фридрих Фердинанд Цермело — немецкий математик, внесший значительный вклад в теорию множеств и создание аксиоматических оснований математики.

    Разговор об искусственном интеллекте для игр не обходится без упоминания Эрнста Цермело и его теоремы. Русскоязычным любителям этой темы повезло. Работа Цермело изначально была написана на немецком языке. И если на английский ее перевели только в 1999 г., то на русский язык — еще в конце 1960-х — начале 1970-х годов. Из-за этого в русскоязычной литературе написано более-менее правильно про то, что Цермело сделал, а в англоязычной литературе путаются до сих пор. Например, в одной из работ говорится о том, что Цермело доказал, что если белые в шахматах будут совершать идеальные ходы, то обязательно достигнут как минимум ничьей. На самом деле никто на сегодняшний день таких доказательств не предоставил, однако Цермело сделал другое важное открытие.

    Он не очень хорошо играл в шахматы, да и вообще плохо знал правила игры. Может, благодаря этому и доказал в 1913 г. первую формальную теорему теории игр. Согласно книге «Управляемые процессы и теория игр», изданной в СССР в 1955 г., корректное описание вклада Цермело звучит так: «Цермело доказал детерминизм игр, подобных шахматам, и то, что рациональные игроки могут, используя полную информацию, разработать оптимальную стратегию игры».

    Обычные правила игры в шахматы знают почти все, однако есть несколько других очень важных и не совсем очевидных правил. Например, правило 50 ходов гласит, что если в течение 50 ходов ни одна пешка не двинулась вперед и ни одна фигура не была взята, то присуждается ничья. Или если какая-то позиция повторилась трижды — также присуждается ничья. Бесконечной партии в шахматах по количеству ходов быть не может — в какой-то момент игра так или иначе прекратится. Эрнст Цермело не знал этого, и думал, что в шахматах возможны бесконечные партии: вы пошли фигурой — вернули, и так играете, пока вселенная не рассыплется в пыль.

    Как выиграть в крестики-нолики




    Итак, давайте посмотрим, как рассчитывается оптимальная стратегия игры. Немного отвлечемся от шахмат, возьмем более простой пример — крестики-нолики, одну из древнейших игр в мире, появившуюся еще в Древнем Египте. Для этой игры Цермело использовал обратную индукцию — метод, с помощью которого проводят поиск в обратном направлении: начиная с позиций, где одна из сторон уже получила пат или мат, и заканчивая конкретной позицией, стоящей на доске.

    Цермело не давал подробного описания обратной индукции, но использовал ее принцип, согласно которому существует позиция, выигрышная для одной из сторон. Мы для таких позиций можем назначить оценку: –1 — выиграли нолики, 1 — выиграли крестики, 0 — ничья.

    Теперь можем пойти вверх по дереву от этих позиций и посмотреть, есть ли ход с какой-то позиции, ведущий в выигрышную позицию. Если ход существует, то и позиция считается выигрышной.

    С другой стороны, если нет ни одного хода, ведущего в выигрышную позицию, но есть хотя бы один ход, ведущий в ничейную позицию, то эта позиция считается ничейной. И если нет ни одного хода, ведущего ни в ничейную, ни в выигрышную позицию, то позиция считается проигранной.

    Пользуясь этим правилом, мы в дереве, начиная с листьев, двигаемся вверх, и приписываем оценки узлам, пока не припишем оценки всем позициям. Получив все оценки для всех позиций, видим идеальный алгоритм для игры. Оказавшись в какой-то позиции игры, мы всегда будем видеть ход (если он есть), ведущий в выигрышную позицию. Если выигрышного хода нет, то будем делать ничейный ход, и только в худшем случае пойдем в проигрышную позицию. Теоретически такая система, способная хранить в памяти дерево оценки для каждой позиции, будет играть на уровне бога.



    Цермело это понимал, но считал, что у этого дерева есть бесконечные ветви, где нет терминальных позиций. Он задался вопросом: можно ли для игры, имеющей бесконечное дерево по размеру позиций в нем, за конечное время посчитать оптимальную стратегию, то есть гарантированно в каждой позиции делать идеальный ход? И доказал, что несмотря на то, что само дерево может быть бесконечным, мы можем найти оптимальную стратегию за конечное число итераций. И это конечное число итераций точно не превышает количество разных позиций в игре.



    EDSAC (Electronic Delay Storage Automatic Calculator) — первый в мире действующий и практически используемый компьютер с хранимой в памяти программой, созданный в 1949 г. в Кембриджском университете (Великобритания). В 1952 г. реализация игры в крестики-нолики для компьютера EDSAC стала одной из первых видеоигр. Компьютер научился играть идеальные игры против человека, оперируя известной ему оптимальной стратегией.

    Обратная индукция: история метода



    Экономист Оскар Моргенштерн, один из авторов теории игр, и математик Джон фон Нейман, сделавший важный вклад в квантовую физику, функциональный анализ, теорию множеств и другие отрасли науки.

    Работа про интерпретацию обратной индукции находится в области теории множеств. Другая сфера знаний, без которой невозможно представить развитие теории игр, лежит в области экономики. В 1944 г. вышла монография Джона фон Неймана и Оскара Моргенштерна «Теория игр и экономическое поведение», в которой авторы обобщили и развили результаты теории игр и предложили новый метод для оценки полезности благ. В этой работе впервые формально было дано определение метода обратной индукции.



    В 1965 г. математик Ричард Белман предложил использовать метод ретроспективного анализа для создания баз данных решений шахматных и шашечных эндшпилей (заключительная часть партии). Он дал алгоритмическое описание применения метода обратной индукции для построения оптимальной стратегии в играх.



    В 1970 г. математик Томас Штрохлейн защитил докторскую диссертацию о шахматном окончании. Дело в том, что в шахматах существуют специальные случаи, когда на доске остается мало фигур. В таких случаях для небольшого числа фигур мы можем решить задачу методом обратной индукции.

    Итак, мы приблизились к пониманию, каким образом ИИ выигрывает у человека в шахматы. Компьютеру не нужно каждый раз производить расчеты эндшпиля — достаточно посмотреть в базе данных уже посчитанный результат и сделать идеальный ход. Эндшпильные базы данных, включающие все возможные расстановки фигур, проводят поиск в обратном направлении, начиная с позиций, где одна сторона уже получила пат или мат, и заканчивая конкретной позицией на доске.



    В 1977 г. Кен Томпсон, известный за вклад в создание языка С и ОС UNIX, представил одну из первых в мире эндшпильных таблиц для всех пятифигурных окончаний.

    В 1998 г. наш соотечественник, программист Евгений Налимов создал чрезвычайно эффективный генератор шахматных окончаний, благодаря которому, учитывая рост производительности компьютеров, к началу 2000-х годов были посчитаны все шестифигурные окончания.



    Эту главу закроет фотография не человека, а компьютера. В 2012 г. рассчитали семифигурные таблицы для ситуаций распределения фигур четыре против трех и пять против двух. Их назвали таблицами «Ломоносова», так как рассчитывались они на суперкомпьютерах МГУ «Ломоносов» и IBM BlueGene/P.

    Неожиданные открытия в шахматах


    Участие компьютеров в шахматных играх открыло людям то, о чем никто не догадывался сотни лет. Как уже упоминалось, в шахматах существует правило 50 ходов. Было известно, что есть очень редкие исключения, когда игрокам требовалось более 50 ходов для хитрых маневров. Однако когда Кен Томпсон начал публиковать результаты анализа, оказалось, что этих исключений очень много.

    Эксперты ФИДЕ (Federation Internationale des Echecs — Международная шахматная федерация) предложили заменить правило 50 ходов на правило 75 ходов, что и было сделано.



    Вскоре выяснилось, что в ряде случаев для завершения партии недостаточно и 75 ходов, но и на этом процесс поиска новых решений не остановился. На сегодняшний день рекордная задача — мат в 549 ходов.

    В итоге ФИДЕ на это дело плюнули и решили вернуться к правилу 50 ходов. В конце концов, неужели мы будем подыгрывать компьютерам? Ни один человек со стандартным размером мозга не способен найти последовательность из сотен тихих ходов, ведущих к победе.



    Кен Томпсон провел несколько показательных выступлений — «ладья и король против ферзя и короля». Компьютер играл за игрока, владеющего ладьей. Этот эндшпиль теоретически проигрышный — шахматист уровня мастера, владея ферзем, обычно легко выигрывает у любого противника. Компьютеру была поставлена задача максимально оттянуть свой теоретически неизбежный проигрыш. На одном из выступлений против компьютера играли Ханс Берлинер, чемпион мира в игре по переписке, со своим другом — чемпионом Канады Лоуренсом Дейем. И двум шахматным профессионалам высочайшего класса не удалось заматовать короля. На доске происходило нечто феерическое — происходили неясные маневры, но черным чудесным образом удавалось выпутаться. Это была одна из первых прекрасных демонстраций того, что люди, возможно, переоценивают себя в понимании некоторых вещей.


    Фрагмент листинга шахматной программы ИТЭФ для ЭВМ М-20.

    Первый матч между двумя шахматными программами состоялся в 1967 г. Играли программа Института теоретической и экспериментальной физики и программа Стэнфордского университета. Сохранился исходный код программы ИТЭФ, скачать его можно здесь.

    На основе исходных текстов программы ИТЭФ началось создание новой шахматной программы, получившей название «Каисса». В 1974 г. Каисса стала первым чемпионом мира по шахматам среди компьютерных программ. Многие алгоритмы, придуманные авторами Каиссы, до сих пор применяются в шахматах. Каисса применила алгоритм отсечения позиций, и впервые — побитовое представление доски. Также она могла производить анализ во время хода соперника, использовала эвристику нулевого хода и сложные алгоритмы для управления временем.

    Решение на уровне бога



    Если заучить эти таблицы, вы сможете идеально играть в крестики-нолики с любым противником.

    Все решения задач с ограниченными модельными пространствами делятся на три вида. Первый вид — ультраслабое решение, когда для какой-то игры мы можем точно сказать, каким будет результат, но при этом не будет алгоритма, позволяющего в любой ситуации играть идеально. Обычно это какой-то трюк, например, повторение стратегии. Мы знаем, что для некоторых игр второй игрок может копировать ходы первого игрока, и тогда он достигнет ничьей.

    Второй вид — слабое решение. В этом случае мы начинаем со стартовой позиции, делаем любые ходы, а машина совершает ходы, которые считает идеальными. Она всегда будет ходить идеально, но если мы какой-то ход сделаем за машину, то попадем в позицию, где нет определенной оценки, и непонятно, как играть дальше. Идеальный ход есть только в том случае, если с самого начала игры совершались идеальные ходы.

    И третий вид — сильное решение. Для каждой позиции мы знаем ее точную оценку. Например, для крестиков-ноликов точно знаем дерево ходов — около 900 позиций, если учесть все симметрии.

    29 апреля 2007 г. команда исследователей из Университета Альберты (Канада) под руководством Д. Шеффера (известного как ведущий разработчик шашечной программы «Чинук») смогла достичь «слабого» решения для английских шашек, по правилам которых шашки не бьют назад, а дамки не могут ходить на любое расстояние.

    Английские шашки — самая большая из игр, решенных до настоящего времени. Размер ее поискового пространства 5×1020. Для того чтобы найти решение, в течение 18 лет сеть персональных компьютеров (в разное время от 50 до 200) произвела 1014 вычислений.



    На начало 2016 г. найдено решение в 16 играх. Последней на данный момент решенной игрой стала пентаго. В отличие от шахмат и го поисковое пространство игры небольшое, что позволяет современному компьютеру играть идеально: с учетом всех возможных симметрий количество возможных позиций в пентаго составляет 3 009 081 623 421 558. В течение нескольких часов суперкомпьютер Edison семейства Cray, находящийся в Национальном научно-вычислительном центре энергетических исследований (NERSC), нашел «сильное» решение игры. Программа использовала для вычислений 98 304 потоков.



    Также удалось найти решение для такой необычной игры, как «Магараджа», где черные имеют набор обычных шахматных фигур, а белые — единственную фигуру Магараджа. Это ферзь, способный ходить как конь. Доказано, что черным гарантирована победа.

    DRAMA: от проигрыша машины к проигрышу человека




    Американский математик и шашист Марион Франклин Тинсли был сильнейшим игроком мира в английские шашки на протяжении 30 лет. Тинсли ни разу в жизни не проигрывал матч за первенство мира и за свою 45-летнюю карьеру проиграл всего семь партий.

    В 1992 г. проводился матч между Марионом Тинсли и программой «Чинук». Первый матч Тинсли выиграл у программы со счетом 4:2 при 33 ничьих. При анализе матча выяснилось, что в одной из партий Тинсли выбрал единственную верную позицию, ведущую к победе, за 64 хода до конца матча.

    На матче реванше Тинсли успел сыграть шесть игр — все ничьи. После этого он почувствовал себя очень плохо и у него диагностировали рак поджелудочной железы и вскоре он умер. В 1995 г. программа «Чинук» выиграла у Дона Лафферти, наследника Тинсли на шашечном троне. Из 32 сыгранных партий единственная результативная партия завершилась в пользу компьютера. После этого первенство в шашках окончательно перешло к машинам.


    Одна из величайших шахматных партий всех времен.

    Более распиаренный матч, о котором слышали даже далекие от шашек и шахмат люди, состоялся в 1997 г. Гарри Каспаров проиграл суперкомпьютеру Deep Blue в матче из шести партий. Для сравнения: Deep Blue был способен просматривать 200 млн позиций в секунду, в то время как современные компьютеры просматривают 1—3 млн позиций в секунду. За прошедшие 20 лет компьютеры так и не смогли догнать этот уникальный инженерный проект.

    Машина от компании IBM была не просто суперкомпьютером, а специализированным под шахматы проектом, в котором установили отдельные кристаллы с генераторами ходов, позволявшие за один такт процессора сгенерировать все возможные ходы в позиции. Однако сейчас такая мощь нам не требуется — мобильный телефон обыгрывает ведущих гроссмейстеров.

    Огромный Deep Blue впечатлял одним своим видом, но его размеры привели к появлению стойкого мифа: мол, машины выигрывают у людей только благодаря своей мощности и быстроте — давят брутфорсом. Человек может просмотреть всего две или пять позиций в секунду, компьютер — сотни миллионов.



    На самом деле это не так. На рисунке выше приведен пример задачи из учебника — мат в шесть ходов. Deep Blue, используя полный перебор, должен был бы потратить около 356 лет на поиск решения. В среднестатистической шахматной позиции возможно 35 ходов, чтобы просмотреть на два хода — 35 в квадрате, на три — в кубе и т.д.

    Любая сильная современная программа находит решение на настольном компьютере максимум за несколько секунд. Более того, на современной машине вы можете запустить программу чемпиона 2008 г. против программы чемпиона 2015 г. Из 27 партий одну партию будет выигрывать слабейшая программа, 26 партий — сильнейшая. Это прогресс, достигнутый за семь лет. Это произошло не за счет роста мощности железа, а благодаря развитию алгоритмов. За данным процессом не стоят тысячи программистов и десятки гроссмейстеров. Сейчас над шахматными программами работают либо программисты-одиночки, либо очень небольшие группы. Например, одну из самых сильных программ в мире шахмат — Stockfish — создали три программиста. Над самыми крупными, с точки зрения числа задействованных программистов проектами — Deep Blue и Каисса — работало менее десятка программистов.

    Все современные шахматные программы так или иначе являются детищем машинного обучения. В шахматной программе есть оценочная функция, рассматривающая позицию без всякого перебора. Это, грубо говоря, логистическая функция, имеющая 3—5 тыс. параметров, для подбора которых используются большие массивы шахматных позиций, выбранных обычно из партий самой же программы. Программа играет несколько тысяч партий, оттуда извлекаются позиции, программа снова играет и т.д. — цикл не заканчивается никогда.

    Самое забавное, что если мы говорим о брутфорсе, то надо задаться вопросом: действительно ли брутфорс на стороне машин? В среднестатистическом человеческом мозге примерно 86 млрд нейронов и 150 трлн синапсов. Каждый синапс содержит примерно 1 тыс. молекулярных переключателей. Таким образом, если мы пересчитаем мозг в триггеры, то получим 150 квадриллионов (1,5х1017) триггеров транзисторов. Конечно же, это две «машины» с абсолютно разной архитектурой, но мы очень примерно можем сравнивать их на некоторых задачах.



    Один из самых мощных на сегодняшний день процессоров (Sparc-M7) имеет 10 млрд транзисторов. Самая большая программируемая пользователем вентильная матрица (FPGA) содержит до 20 млрд транзисторов. Это всего 2х109 раз, а в мозге 1,5х1017 раз. Конечно, компьютеры имеют одно большое преимущество — скорость. Sparc работает на частоте 4,3 ГГц. Человек же имеет следующие потенциалы действия нервных клеток: амплитуда — около 0,1 В, длительность — около 1 мс, «рабочая» частота» — 10—100 Гц (до 1000 Гц).

    Правильно сказать, что мозг до сих пор является брутфорс-решением, так как это гигантская нейронная сеть, которую мы пока не можем сэмулировать в реальном времени. Операции, которые мы проводим, играя в шахматы, совсем не похожи на простые арифметические. Если взять более сложную задачу, например, распознавание образов, то будет ясно, что машина не в состоянии выполнять необходимые расчеты так же быстро, как человеческий мозг.

    Нейронные сети




    В ИИ изначально было две крупных школы — «чистюль» и «грязнуль». «Чистюли» — по большей мере математики, настаивавшие, что должны использоваться корректные методы решения задач, имеющие формальное обоснование, или хотя бы обоснование статистическое.

    «Грязнули» считали, что неважно, каким образом решать задачу. Если решение работает в рамках предметной области, значит оно хорошее. Они ввели термин hacking для ИИ — мы ломаем задачу, чтобы решить ее.

    Если сейчас посмотреть на методы ИИ, используемые в играх, то увидим определенный синтетический подход. Формально необоснованные трюки, но хорошо работающие на практике, соседствуют с формально доказанными методами.

    ИИ, как и большинство других наук, начинался с бионического подхода. Если в природе есть работающее решение, давайте для начала его скопируем, пока не придумали что-то более совершенное. Леонардо да Винчи первым придумал конструкции летательных аппаратов, изучая принцип полета птиц. Вполне естественно, что, столкнувшись с задачей создания систем, решающих интеллектуальные задачи, захотелось подсмотреть у природы, как это устроено. Мы ведь уверены, что наш собственный мозг работает.



    Первыми создателями моделей математических процессов, происходящих в человеческом мозге, стали Уорен МакКалок, Уолтер Питтс, Дональд Хебб в 1940-х годах. Они придумали первую модель искусственного нейрона — простой логистический сумматор.



    Схема искусственного нейрона:

    1. нейроны, выходные сигналы которых поступают на вход данному;
    2. сумматор входных сигналов;
    3. вычислитель передаточной функции;
    4. нейроны, на входы которых подается выходной сигнал данного;
    5. Wi — веса входных сигналов.


    Во многом отношения между этими людьми заложили некоторые базовые вещи в науке. Например, мы не называем нейронные сети кибернетическими системами, хотя МакКалак и Питс начинали работать под началом Норберта Виннера, основоположника кибернетики. Богемный образ жизни МакКалака и Питса и вечеринки с алкоголем очень не нравились жене Виннера. Есть мнение, что она сильно повлияла на раздор между учеными. Питсу это стоило карьеры, и, вполне вероятно, жизни — впоследствии он спился. Но они не стали делать из ссоры идеологический спор. Их пути разошлись по личным, а не научным причинам.

    Что мы знаем про нейроны? Первая поверхностная основа коннектома — это нейроны, соединенные аксонами и дендритами, исходящими и входящими отростками. Место контакта аксона и дендрита — это синапс. Как и многое в природе, здесь присутствует сигмоид в качестве сумматора. Сигналы из нейрона распространяются по исходящим отросткам, попадают в следующий нейрон, суммируются и определенная сумма передается дальше по отростку, преобразовывая синапсы через определенные пороговые функции.


    MARK 1 — первый в мире нейрокомпьютер, созданный в 1958 г. Фрэнком Розенблаттом.

    Перцептрон — первая искусственная нейронная сеть, воплощенная на практике Фрэнком Розенблаттом. Ученый решил, что нет времени ждать, пока электронные машины станут достаточно быстрыми, чтобы на фоннеймановской архитектуре смоделировать работу нейронной сети. Он начал делать нейронные сети из «палок и скотча» — этакий массив электронных нейронов и кучи проводов. Это были небольшие нейронные сети (до нескольких десятков нейронов), но они уже применялись в решении некоторых практичных задач. Розенблат смог даже продать нескольким банкам устройства, применявшиеся при анализе некоторых массивов.



    С 1966 г. он стал заниматься необычными вещами. Например, учил крыс проходить лабиринт, тренировал их, потом умерщвлял. Затем извлекал их мозг, размалывал в кашицу и этой кашицей кормил следующее поколение крыс. Таким образом, он проверял, улучшит ли это показатели следующего поколения крыс при прохождении лабиринтов.

    Выяснилось, что съеденный мозг крысам никак не помогает, хотя такую пищу они любят. Это было одним из сильных аргументов в пользу того, что информация хранится именно в коннектоме мозга, а не в отдельных его клетках и компонентах. Как ни странно, в те годы были специалисты, считавшие, что знание может существовать внутри клеток.



    Спустя полвека после изобретений Розенблата у нас появился нейроморфический процессор TrueNorth, созданный IBM по заказу DARPA. Чип содержит более 5 млрд транзисторов и имитирует работу до 1 млн модельных «нейронов» и до 250 млн связей между ними («синапсов»). В IBM говорят, что из процессоров такого рода будут собирать реальный эмулятор работы человеческого мозга.

    IBM создали целый институт для развития данной технологии, и разработали специальный язык программирования для нейронных сетей. Нейронную сеть очень неудобно эмулировать на фон-неймановской архитектуре. В нейронной сети каждый нейрон является одновременно вычислительным устройством и ячейкой памяти.

    Если мы начинаем крутить матрицу нейронов внутри фон-неймановской машины, то сталкиваемся с дефицитом вычислительных ядер по сравнению с числом ячеек памяти. Сам цикл обсчетов всех синапсов получается длинным. Хотя задача очень хорошо распараллеливается в рамках одного цикла, вам все равно на следующем шаге понадобятся значения на вход, которые вы получили на предыдущем шаге расчета. Максимумальная эффективность распараллеливания может быть достигнута тогда, когда у вас столько вычислительных ядер, сколько синапсов.

    Нейроморфический процессор — это попытка сделать специальную железку для быстрого обсчета именно нейронных сетей. А поскольку нейронные сети сейчас достаточно активно применяются и в распознавании образов, и при анализе данных, и много где еще, то появление такой элементной базы позволит сразу на несколько порядков нарастить эффективность.



    Вернемся в 1970-е годы. После успехов Розенблата следующим видным специалистом в области развития ИИ стал Марвин Мински. Вместе со своим коллегой Папертом он написал книгу «Perceptrons», которая показала принципиальные ограничения перцептронов. Косвенным образом эта работа способствовала наступлению «зимы» ИИ (1970-е и 1980-е годы), когда возникло очень много сомнений о возможностях создания полноценного ИИ на основе нейросетей.

    Интерес к нейронным сетям вернулся в начале 1990-х годов, когда стало понятно, что сравнительно небольшие нейронные сети, доступные на тот момент, уже способны решать некоторые задачи не хуже, чем классические методы нелинейной регрессии.


    Leon A. Gatys et al./ arXiv.org

    В 2016 г. новости о достижениях нейронных сетей стали появляться чуть ли не каждую неделю. Коллектив ученых из Германии разработал искусственную нейронную сеть, позволяющую «синтезировать» изображение из двух независимых источников: одно из них дает только содержание, другое — только стиль. Нейросеть научилась реалистично раскрашивать черно-белые снимки. Нейросеть научили ставить геотег на снимки еды и котиков. Нейросеть стала вычислять смешные картинки. Ну и так далее.

    Новый прорыв: AlphaGo




    Игра Го всегда была крепким орешком для ИИ. Скептики утверждали, что программы в го либо никогда не победят, либо одержат победу очень нескоро. Го сложнее шахмат в 10100 раз — именно в столько раз больше возможных позиций камней на стандартной доске 19×19, чем в шахматах.

    Прорыв удалось совершить в программе AlphaGo благодаря алгоритму Монте-Карло-поиска по игровому дереву, управляемому двумя нейронными сетями, обученными на основе большого массива игр профессиональных игроков в го. Вначале AlphaGo выиграла у чемпиона Европы, затем победила Ли Седоля, одного из сильнейших (возможно, самого сильного) игроков мира.

    Однако настоящая революция, приведшая к победе программы над человеком в го, произошла гораздо раньше, когда стали применяться сверточные нейронные сети.

    В го очень трудно придумать структуру оценочной функции, которая без перебора сможет с достаточным качеством оценить, насколько хороша позиция. Нужно как-то оценивать паттерны, структуры, образуемые фишками на доске. Найти достаточно хорошее решение не удавалось, пока не появились сверточные нейронные сети, хорошо справляющиеся с этой задачей.


    Изображение: The Atlantic.

    В AlphaGo одна из нейронных сетей (value network) используется для оценки позиций в терминальных узлах дерева поиска, другая (policy network) предназначена для умного отбора ходов-кандидатов. Также используется небольшое дерево перебора Монте-Карло. В каждом узле рассматривается 1-2 хода, средний коэффициент ветвления — меньше двойки. Благодаря этому стало возможным посчитать осмысленное дерево с очень ограниченным числом вариантов, и за счет этого найти действительно сильнейший ход в позиции.

    Сначала AlphaGo тренировалась на партиях сильнейших игроков в го. В качестве входных данных для обучения использовались 160 тыс. игр с 29,4 млн позиций. С момента, когда она стала играть не хуже обычных людей, корпус для тренировки нейронной сети или для постройки параметров оценочной функции стал генерироваться автоматически. Программа начала играть сама с собой, добавляя новые партии в обучающую выборку.

    Угрозы и перспективы: плохой, хороший и очень хороший сценарий



    Изображение: TechRadar.

    Разные страхи, связанные с искусственным интеллектом, вызваны несколькими проблемами. Люди боятся самих себя, боятся допустить ошибку при создании ИИ — вдруг он будет вести себя не совсем так, как мы хотим. Представьте такую гипотетическую ситуацию: машине долго объясняют, что бывают грибы съедобные и несъедобные, и ядовитые грибы смертельны для человека. Дальше машине задается вопрос: любые ли грибы может есть человек? «Конечно любые, — отвечает машина. — Но некоторые только один раз в жизни».

    Если люди, составляющие алгоритмы ИИ, допустили баги или пропустили ошибочные данные в обучающую выборку, поведение такого ИИ может быть весьма неожиданным. И доверять такой системе принятие решений опасно. Кто-то окажется безответственным, одновременно с этим кто-то окажется глупым, и мы получим сценарий в духе «Терминатора».

    Знакомые страхи? Однако эта история непосредственного отношения к ИИ не имеет — мы говорим лишь о том, что люди сами себе не доверяют. Мы боимся не только того, что развитый разум окажется злым. Он может оказаться и добрым, захочет нести людям добро, но увидит это «добро» по-своему.

    У человечества с развитым ИИ есть два хороших сценария развития событий и один глобальный плохой. Глобальный плохой заключается в том, что наша технологическая мощь растет слишком быстро. В XIX в. при большом желании устроить апокалипсис человечеству не хватило бы сил аннигилировать всю жизнь на планете даже при тотальном помешательстве.

    В середине ХХ в. обезумевшие руководители ведущих стран и несколько военных начальников на ключевых постах воплотили бы сценарий самоуничтожения. Для этого достаточно взять несколько десятков 200-тонных термоядерных бомб и сбросить их по экватору — земной шар расколется пополам.


    Изображение: Plague Inc.

    В XXI в. технологическая мощь такова, что для воплощения апокалиптичных сценариев не требуется большое количество фигурантов. Допустим, биохимическая лаборатория создает убийственный вирус. Быстро защищаться от вирусов мы не умеем. Не исключено, что не так уж сложно сделать заразу, которая будет одновременно очень вирулентна, имея соответствующие фрагменты из вируса гриппа, и в то же время на 100% летальна, получив часть, например, из Эболы. Для воплощения такого проекта хватит нескольких десятков образованных безумцев.

    История немного притянута за уши, но такого рода сценарий тем более становится вероятным, чем больше мы овладеваем технологией. При том что наши технологии все мощнее, биологически и социально мы недалеко ушли от верхнего палеолита — наш мозг остался примерно тем же.

    Оценивая факты глобальных угроз, быстро приходишь к выводу, что до появления универсального ИИ человечество способно совершить глобальный суицид, используя простые и эффективные технологии. Нельзя и преступно останавливать научно-технический прогресс, но сам прогресс предоставляет нам инструменты для контроля существующих угроз.

    Если наша цивилизация проскочит через это бутылочное горлышко, то откроются два хороших сценария. Сценарий первый: мы — это тупиковая ветвь эволюции. Разум, превосходящий нас, будет развиваться дальше, а мы останемся забавными обезьянками, живущими в своем мире со своими страстями и интересами. В таком мире нам нечего будет делить с разумными машинами, как нечего делить с шимпанзе и гориллами. Наоборот, мы любим играть с приматами, снимать про них забавные фильмы. Возможно, ИИ будет снимать документальные сериалы про людей, и показывать своим отпочкованиям.

    Второй сценарий: с определенного момента уровень развития технологии превысит сложность организации нашего организма. И с этого момента разница между нашими машинами, нашими инструментами и нами самими начнет неизбежно стираться. Мы станем вмешиваться в собственный организм, доращивать свои нейронные сети искусственными дополнениями, добавим постнеокортекс к мозгу.

    Представьте, что мы склеиваем искусственную нейронную сеть с нашим мозгом. Искусственная нейронная сеть, например, в 10 тыс. раз больше нашей нейронной сети. Известно, что мозг — штука пластичная, и даже ранения мозга, вышибающие из него куски, часто не приводят к потерям личности, самоидентификации. Поэтому не исключено, что от системы склеенного мозга с искусственной сетью мясной мозг можно будет отрезать и выбросить без ущерба для личности.

    Возможно, будет иначе: мы начнем ремонтировать мозг при помощи нанороботов, а с искусственной нейронной сетью будем связываться через удаленные каналы. В любом случае человек станет частью метасистемы. И определить, где заканчивается искусственный разум и начинается естественный, на каком-то уровне развития технологий уже станет просто невозможно.

    Последние слова: ИИ как личность



    Изображение: Machine Overlords

    Возможно ли самосознание у искусственного интеллекта?

    Разум как дитя эволюции появился не просто так, а как механизм приспособления к среде, позволяющей выживать и давать здоровое потомство. Ученые высказывают мнение, что сознание — это некое отражение нашей психики. Наша психика обнаруживает саму себя и начинает рассматривать ее как независимый объект. В этом плане не исключено, что самосознание — это всего-навсего побочный эффект адаптации.


    Зеркальные нейроны могут быть задействованы в освоении новых навыков путем имитации.

    У человека в процессе эволюции появились зеркальные нейроны, используемые социальными организмами для прогнозирования поведения других особей. То есть нам где-то в голове нужна модель, которую мы можем применить к другому человеку, чтобы спрогнозировать его поведение. В какой-то момент зеркальные нейроны стали «рассматривать» и сами себя.

    Если данная теория верна, то схожим образом, через побочные эффекты, возможно развитие искусственного интеллекта, неизбежно вырабатывающего у себя самосознание. Если нам потребуется, чтобы ИИ мог спрогнозировать поведение других ИИ или людей, у него появится модель для прогноза действий, и рано или поздно он применит эту модель к самому себе. Осознание — неизбежное следствие развития сложно организованной интеллектуальной системы.

    Противоположная точка зрения гласит, что ИИ останется в какой-то степени инстинктивным, то есть будет действовать без самосознания и самоотражения, и тем не менее станет решать очень широкий спектр интеллектуальных задач. В какой-то степени это происходит прямо сейчас: современная шахматная программа играет лучше людей, но у нее нет самосознания.



    Что касается копирования сознания на электронный носитель, то в этой истории тоже не все однозначно. Английский ученый Роджер Пенроуз утверждает, что человеческое сознание не является алгоритмическим, и в силу этого не может быть смоделировано с помощью обычного компьютера типа машины Тьюринга. По мнению Пенроуза, сознание связано с квантовыми эффектами, а значит, принцип неопределенности Гейзенберга не позволит получить точный снимок электронной активности мозга. Поэтому наше сознание, скопированное в машину, не будет точной копией. Большая часть исследователей с этим мнением не согласна, считая, что пороги сигналов в мозге очень далеки от квантового уровня.


    Метод опорных векторов в машинном обучении был предложен Владимиром Вапником в 1995 г.

    В завершение вспомним о нейронных сетях. На самом деле нейронные сети на практике в машинном обучении — это модели для ленивых. При отсутствии возможности правильно настроить метод опорных векторов (SVM) или построить random forest, мы берем нейронную сеть, загоняем в нее обучающую выборку, получаем какие-то характеристики модели и т.д.

    Нейронные сети не универсальны и у них куча проблем — они склонны к шуму, к оверклассификации в отдельных ситуациях. Для целого ряда задач нам известны более хорошие методы. При решении шахматных задач мы не используем нейронные сети, но машины все равно играют лучше, чем люди. Это является хорошим примером создания системы, решающей некоторые задачи лучше мозга на более медленной примитивной элементной базе при помощи алгоритмов, не используемых мозгом.

    Можно ли сделать универсальный ИИ не на нейронных сетях? Конечно! Просто мы начинаем с бионического подхода. Вначале пробуем улучшить то, что есть сейчас, а затем будем искать более совершенные методы.

    Какой бы путь мы не выбрали, не стоит воспринимать его как человеческую драму по противостоянию человека и компьютера. Под каждым постом о победе ИИ в очередной игре кто-нибудь обязательно напишет комментарий про SkyNet и Судный день. Почему проигрыш машине воспринимают как проигрыш человека? Это выигрыш человека, только не того, который играл за доской, а того, который создал ИИ. И это гораздо более важное достижение: один из них научился двигать фигуры, а другой оказался на шаг впереди и написал программу, двигающую фигуры к победе.

    P.S. Если вам понравилась статья, то в следующий раз мы расскажем о глубоком обучении с подкреплением, о принятии программой решения убить или спасти человека, о самоуправляемых автомобилях и целых городах, регулируемых ИИ.
    Mail.Ru Group 258,35
    Строим Интернет
    Поделиться публикацией
    Похожие публикации
    Комментарии 65
    • +14
      Потрясающий труд, спасибо
      • 0
        Продолжайте публикацию подобных статей по тематике. Огромное спасибо.

        Немало новых вещей.
        Играл в шахматы в прошлом, искусственный интелект в шахматах продвинулся в разы.
        Играл в Го, было большим удивлением когда компьютер победил одного из Сильнейших игроков…

      • +9
        > Если вам понравилась статья, то в следующий раз мы расскажем о глубоком обучении с подкреплением, о принятии программой решения убить или спасти человека, о самоуправляемых автомобилях и целых городах, регулируемых ИИ.

        Понравилась? Да я только ради таких статей GT и читаю!
        Пожалуйста, продолжайте.
        • +5
          Я бы добавил, что я ради таких статей хожу в интернет…
          • +2
            Ради таких статей купил компьютер…
            • +3
              Вы бы знали, как приятно читать такие комменты! =)
            • +1
              Точно так, превосходная работа. Подписался и разослал друзьям.
              • +1
                Продолжайте, конечно!
            • +2
              Статья восхитительная, спасибо!
              • 0
                На одном из выступлений против компьютера играли Ханс Берлинер, чемпион мира в игре по переписке, со своим другом — сильным гроссмейстером из топ-30 мировых игроков.

                Вот интересно, чемпиона по какой-то там переписке назвали, а гросса из реального топ-30 (по любому это должно быть гораздо более известное имя) — нет.
                • +2
                  Вторым человеком был Лоренс Дей (тогдашний чемпион Канады).
                  • +1
                    Хм, википедия говорит, что он вообще не GM, а IM. Ясно, что это и близко не топ-30.
                    • +1
                      Да, мой косяк. Сейчас поправим.
                • 0
                  С количеством нейронов у нас хорошо.
                  А с частотой не очень. )
                  • 0
                    Один из самых мощных на сегодняшний день процессоров (Sparc-M7) имеет 10 млрд транзисторов. Самая большая программируемая пользователем вентильная матрица (FPGA) содержит до 20 млрд транзисторов. Это всего 2х10^9 раз, а в мозге 1,5х10^17 раз. Конечно, компьютеры имеют одно большое преимущество — скорость. Sparc работает на частоте 4,3 ГГц. Человек же имеет следующие потенциалы действия нервных клеток: амплитуда — около 0,1 В, длительность — около 1 мс, «рабочая» частота» — 10—100 Гц (до 1000 Гц).

                    По количеству нейронов человеческий мозг превосходит процессоры на 8 десятичных порядков, а по частоте уступает ну на 2,5 десятичных порядка. Так что решающее преимущество машины скорее в архитектуре. Возможно еще в том что далеко не все свои нейроны мозг может задействовать для решения конкретной задачи — у него и так куча забот и задач.
                    • 0
                      Это как между сотнями Гц (и то максимум) и Гигагерцами только 2.5 порядка оказалось? Тут целых 7 порядков разницы в пользу машин — различие в 10 миллионов раз и более.

                      Так что если сравнивать совсем уж примитивно в стиле потенциал = кол-во переключателей х частоту переключения, то топовые процессоры сейчас всего на 1 порядок от мозга отстают по подобному параметру. И где-то на 2 порядка по эффективности использования энергии.
                      Но если взять не один процессор, а кластер, то уже по «грубой силе» он будет впереди.

                      Ну и специализация конечно — в мозге эти ресурсы разделены между множеством самых разных задач, а в машине можно все ресурсы бросить на одну единственную.

                      И именно поэтому, там где удалось создать подходящие алгоритмы машины уже сейчас начинают превосходить мозг. Пока в отдельных узких областях.
                  • +1
                    Мощно поднят пласт, огромное спасибо!
                    • –2
                      Алгоритмы, созданные людьми(Та-дам!), но не «искусственный интеллект», побеждают людей в играх.
                      • +1
                        Можете раскрыть свою мысль? Во-первых, что лично вы понимаете под ИИ? Во-вторых, если вы создали искусственную нейронную сеть, работа которой подчинена вполне определённым алгоритмам, но училась она самостоятельно (т.е. не вы прописывали веса в каждом искусственном синапсе, а они возникли в процессе обучения), то это, с вашей точки зрения, ИИ?
                        • +1
                          А людей природа создала. Так что, лавры переходят ей?
                          Не надо себя мнить Root-ом в этом мире :D
                          • +1
                            :)
                            На деле в самом понятии слово «искусственный» как раз значит — созданный человеком. Поэтому я вообще не понял в чём претензия.
                        • +3
                          Статья слишком хороша, вероятно написана искусственным интеллектом :)

                          >>Какой бы путь мы не выбрали, не стоит воспринимать его как человеческую драму по противостоянию человека и компьютера. Под каждым постом о победе ИИ в очередной игре кто-нибудь обязательно напишет комментарий про SkyNet и Судный день. Почему проигрыш машине воспринимают как проигрыш человека? Это выигрыш человека, только не того, который играл за доской, а того, который создал ИИ. И это гораздо более важное достижение: один из них научился двигать фигуры, а другой оказался на шаг впереди и написал программу, двигающую фигуры к победе.

                          Сейчас именно так. Но приближается момент, когда создавать ИИ будет ИИ. По аналогии с шахматами, где кроме улучшения оборудования, на порядок усилился алгоритм игры, так же и у ИИ, вероятно, есть потенциал улучшения на порядок. Гениальный программист допишет блока самоанализа и далее процесс пойдет по нарастающей сам по себе. Я не утверждаю, что это будет чем-то не хорошо для людей, но со стороны может выглядеть как террабайты двоичного кода без исходников одним файлом, непонятного назначения живущего своей жизнью.
                          • +1
                            офигенная статья! спасибо!!!
                            • +1
                              Дочитал до конца, а значит статься годная. Спасибо!
                              • +1
                                Офигенная статья
                                • +2
                                  Отличная работа, очень хочется увидеть что-то похожее про deep learning.
                                  • 0
                                    Мне кажется что уже реализовывается сценарий симбиоза людей и машин, поэтому нет смысла боятся развития машин.
                                    • 0
                                      Надеюсь дожить до момента, когда ИИ научится побеждать человека в человечности.
                                      • +1
                                        Отличная статья! Спасибо за большой труд. Хотелось бы почитать нечто подобное про нечеткую логику, Лотфи Заде. Я считаю его не справедливо мало упоминают :)
                                        • +1
                                          Статья потрясающая, будит мысль!

                                          Например :-) Интеллект, примененный к самому себе в самой абстрактной форме может породить чистую логику самого себя, это и станет самым сильным результатом самопознания ИИ. А так эта логика реализована в алгоритмах ИИ, то ИИ, примененный к самому себе, не создаст ничего сложнее алгоритмического автоморфизма, то есть ИИ', тождественного самому себе. Поэтому в матрицы ИИ необходимо добавлять элемент «случайного» так, чтобы каждая следующая итерация была частично случайной функцией состояния на предыдущей итерации. Это коррелирует с идеями Роджера Пенроуз, рассуждающего о «квантовой неопределенности» человеческого разума.

                                          Автор, ждем продолжения
                                          • +1
                                            Ждем следующую статью, спасибо за труды!
                                            • НЛО прилетело и опубликовало эту надпись здесь
                                              • +1
                                                Не понимаю, откуда взялись восторженные комментарии о «потрясающем труде» и «восхитительной статье». В основном чистая «болтология», с ничем не подкрепленными прогнозами и разрозненной информацией. Конкретная программа, использующая «свёрточные нейронные сети», хорошо себя зарекомендовала в игре Го (для которой и писалась), но в остальном это программа является полным «кретином», с человеческой точки зрения. Вы не сможете подискутировать с ней на философские темы, она не сможет управлять автомобилем, или играть в Counter Strike или… (подставьте сюда остальные тысячи умений и занятий, доступных человеку — мастеру Го). Если рассматривать термин ИИ как эмулятор естественного интеллекта, то, думаю, ни при нашей жизни, ни при наших правнуках, подобного просто не будет (поскольку в понимании того, как работает наш собственный мозг, человечество продвинулось чрезвычайно мало).

                                                Ну, а фразы типа «для этого достаточно взять несколько десятков 200-тонных термоядерных бомб и сбросить их по экватору — земной шар расколется пополам» вообще комментировать нет смысла, ибо это полный бред.

                                                P.S. Сомневаюсь, конечно, что мой комментарий опубликуют, но без критики вы, ребята, стоите на грани полной «желтизны»…
                                                • +1
                                                  > ничем не подкрепленными прогнозами

                                                  Какой именно из прогнозов, приведённых в статье, вы считаете неподкреплённым?

                                                  > но в остальном это программа является полным «кретином»

                                                  Вы, наверное, не прочитали часть статьи, посвящённую определению ИИ.

                                                  > Ну, а фразы типа «для этого достаточно взять несколько десятков 200-тонных термоядерных бомб и сбросить их по экватору —
                                                  > земной шар расколется пополам»

                                                  Не полный. По высказанным учёными оценкам для уничтожения жизни на Земле достаточно 10—100 термоядерных бомб (пруф.: http://www.businessinsider.com/heres-how-many-super-nukes-it-would-take-to-destroy-the-world-2014-12)
                                                  Насчёт конкретно физического разрушения планеты, такие гипотезы также высказывались. Главным образом, рассматривался сценарий, в котором дейтерий, содержащийся в морской воде, вступит в цепную реакцию синтеза в результате взрыва сверхмощного термоядерного заряда. К счастью, экспериментов подобного рода не проводилось и, надеюсь, не будет проводиться в будущем.
                                                  • 0
                                                    >>Какой именно из прогнозов, приведённых в статье, вы считаете неподкреплённым?

                                                    Не учитывая картинки :), процитирую такую фразу: «Если люди, составляющие алгоритмы ИИ, допустили баги или пропустили ошибочные данные в обучающую выборку, поведение такого ИИ может быть весьма неожиданным. И доверять такой системе принятие решений опасно. Кто-то окажется безответственным, одновременно с этим кто-то окажется глупым, и мы получим сценарий в духе «Терминатора».»

                                                    Серьезно говорить о «сценарии в духе «Терминатора»» могут только голливудские режиссеры и продюсеры, обдумывающие возможность очередного римейка. Подобная фраза в популярной статье, претендующей на научность, неуместна. При всем желании и любом финансировании, получить «сценарий в духе «Терминатора»» никак НЕВОЗМОЖНО с точки зрения современной науки и достижений технологии. Равно как и межзвездный полет, или добыча полезных ископаемых на астероидах, или (подставить любую «жареную» фэнзийную тему, которую так любят обсуждать юные мечтатели на гиктаймс).

                                                    >>Вы, наверное, не прочитали часть статьи, посвящённую определению ИИ.

                                                    Не нужно делать пустые предположения; порой достаточно просто спросить ;) Предвосхищая Ваш вопрос, отвечаю: статью я прочел полностью. Но вот признавать за авторами право на абсолютную правоту и непогрешимость я, увы, не готов. Пять минут правильного «гугления» убедят Вас в моей правоте: понятие «искусственного интеллекта» трактуется разными уважаемыми авторами весьма широко…

                                                    >>Не полный. По высказанным учёными оценкам

                                                    Оценки ученых из Лос-Аламоса, сделанные в 1945 году (sic!), и изложенные «желтоватым» болтологичным БизнесИнсайдером, как Вы сами, вероятно, понимаете, не могут считаться серьезным доводом :) Могу порекомендовать (не сочтите за хамство!) опять-таки быстрое гугление касательно мощности извержений вулканов и землятресений, выраженных в мегатоннах. Впрочем, чтобы сохранить Ваше время, скажу: ни «расколоть» Землю, ни «взорвать» океаны ВСЕМ современным ядерным арсеналом (или даже арсеналом конца 80-х годов) НЕВОЗМОЖНО (а вот отравить атмосферу радиоактивными осадками — запросто!). Чтобы напугать Вас, скажу, что даже 10 километровый астероид «распылить» или расколоть на куски ВСЕМ ядерным арсеналом землян, включая даже то, что смогут создать за 5 лет, тоже НЕВОЗМОЖНО (это если опустить вопрос своевременной доставки зарядов к астероиду и подрыву их без Брюса Уиллиса :)
                                                    • +1
                                                      >> процитирую такую фразу: «Если люди, составляющие алгоритмы ИИ, допустили баги или пропустили ошибочные
                                                      >> данные в обучающую выборку, поведение такого ИИ может быть весьма неожиданным. И доверять такой системе
                                                      >> принятие решений опасно. Кто-то окажется безответственным, одновременно с этим кто-то окажется глупым, и мы
                                                      >> получим сценарий в духе «Терминатора».»

                                                      Где вы в этой цитате увидели прогноз? Это не более чем описание гипотетического сценария, высказанного в ходе набрасывания идей для размышления. Если бы это был прогноз, то сам тезис был бы снабжён хотя бы оценкой вероятности. Но даже если вероятность такого сценария на деле и очень мала (лично я склонен считать именно так), это не значит, что мы не должны о нём говорить. Потому что в массовом сознании такой сценарий расценивается как весьма вероятный, и в деле внедрения ИИ в разные сферы человеческой жизни нам придётся иметь дело с такого рода предубеждениями публики. В том-то и дело, что нельзя сбрасывать со счетов Голливуд и относиться пренебрежительно к распространению тех или иных предубеждений. Это очень хорошо видно, например, по массовой истерии в отношении ГМО: сейчас публичные предрассудки реально мешают развитию целой отрасли. Если вы думаете, что вы напишете КАПСОМ что-то, и люди сразу вам поверят и перестанут тревожиться, то вы ошибаетесь. Потому что вам тут же, например, приведут такие факты:

                                                      https://ru.wikipedia.org/wiki/Случаи_ложного_срабатывания_систем_предупреждения_о_ракетном_нападении
                                                      http://calendarik.com/event/v-1983-godu-podpolkovnik-stanislav-petrov-predotvratil-potentsialnuyu-yadernuyu-voinu

                                                      И т.п.

                                                      > Но вот признавать за авторами право на абсолютную правоту и непогрешимость я, увы, не готов.

                                                      Хотелось бы увидеть на этот раз от вас ссылки на авторитетные источники.

                                                      > Оценки ученых из Лос-Аламоса, сделанные в 1945 году (sic!), и изложенные «желтоватым» болтологичным БизнесИнсайдером,
                                                      > как Вы сами, вероятно, понимаете, не могут считаться серьезным доводом :)

                                                      Серьёзным доводом в пользу чего? Как вы понимаете, я не физик, а у физиков оценки необходимой мощности зарядов для 1) физического уничтожения планеты, 2) нанесения непоправимого урона биосфере — разнятся. Вот, например, ещё один интересный источник:

                                                      http://gizmodo.com/5899569/how-many-nukes-would-it-take-to-blow-up-the-entire-planet

                                                      «There are an estimated total of 20,500 nuclear warheads in the world today. If the average power of these devices is 33,500 Kilotons, there are enough to destroy the total earth landmass».

                                                      Честно говоря, у меня нет желания влезать в дискуссию по теме, в которой не являюсь профессионалом. Отмечу только, что какую бы оценку мы не приняли, от этого мой исходный тезис не утратит своего значения: в XIX веке у нас не было шансов уничтожить биосферу и самих себя, в XX веке наши возможность многократно возросли, и они продолжают расти. Вы хотите с этим поспорить?
                                                      • 0
                                                        Вы занимаетесь откровенной демагогией; никакого «ИИ, угрожающего человечеству», не существует, и в ближайшем будущем не предвидится (без получения абсолютно прорывных, новейших знаний и технологий), поэтому «жёлтые» статейки на «жареную» тему, сколько бы их не появлялось (равно, как и наивных комментариев на GT) не изменят этого никак.

                                                        Перевирать же меня, и приписывать мне то, чего я не говорил — первый признак троллинга. Сорри, но у меня нет желания с вами далее дискутировать.
                                                        • 0
                                                          Где именно я говорил о том, что существует ИИ, угрожающий человечеству? Можете привести цитату?
                                                          • 0
                                                            Опять вы невнимательно читаете, и приписываете мне то, чего я не говорил! Я не писал, что именно _вы это говорили_. Подобный «гипотетический сценарий», как вы выразились, высказан в статье, которя вам нравится (как я полагаю), и которую вы считаете достаточно «нацчной». Я же утверждаю, что в данной статье полным полно не «гипотетических сценариев», а фантастических сюжетов из популярных романов и кинофильмов, плюс куча банальной инофрмации, «болтологии об ИИ».

                                                            Если вам действительно хочется почитать рассуждения _ученого_, а не популяризатора/лектора/фантаста об ИИ, я могу порекомендовать Джеффа Хокинса, https://www.amazon.com/Intelligence-Jeff-Hawkins/dp/0805078533 (есть бесплатно и на русском, http://flibusta.is/a/25218 ).

                                                            На счет приписывания мне того, чего я не говорил: я вовсе не утверждаю, что «возможности не выросли», где вы такое увидели? Я взял конкретную фразу из статьи "«для этого достаточно взять несколько десятков 200-тонных термоядерных бомб и сбросить их по экватору — > земной шар расколется пополам» в качестве примера полного BS. Если вы считаете, что данная фраза истинна, приведите _конкретные_ доводы и рассчеты!

                                                            Ну, и про системы предупреждения о ракетном нападении: никаким «ИИ» там и не пахнет, «какой мэханызм, все ручное!».

                                                            Не нужно навешивать модный ярлык ИИ на все, что шевелится! Есть программы, играющие в шахматы; есть программы, играющие в Го, есть программы, распознающие речь (правда, все еще с ошибками, которые _неизбежны_), есть программы-автопилоты, есть программы, распознающие определенные типы изображений (на основе нейронных сетей, которые суть тоже программы!). Нет только искусственного интеллекта (и, возможно, слава Богу!), а есть очень даже неплохой «естественный» интеллект, который эти программы успешно придумывает, для нашего вящего комфорта.
                                                            • 0
                                                              > как вы выразились, высказан в статье, которя вам нравится (как я полагаю), и которую вы считаете
                                                              > достаточно «нацчной»

                                                              А вот если бы вы всё-таки внимательно прочитали статью, то знали бы, что лекцию эту готовил и читал я)
                                                              Если уж браться всерьёз и по существу критиковать содержание, то, наверное, стоит читать не через строчку?)

                                                              > _ученого_, а не популяризатора/лектора/фантаста

                                                              Я корпоративный учёный. Мой шахматный ИИ один из лучших в стране и входит в мировую тридцатку. Есть алгоритмы, названные моим именем (не мной). Системы, разработанные мною, принимают решения в рамках бизнес-процессов крупных банков. Этого всё ещё недостаточно?)

                                                              > в качестве примера полного BS

                                                              Вам убедительно показали, что данное утверждения не является полным BS. Но вы упорно продолжаете настаивать. Не очень понятно зачем.

                                                              > Ну, и про системы предупреждения о ракетном нападении: никаким «ИИ» там и не пахнет, «какой мэханызм, все ручное!»

                                                              Так ли это? В подобных системах задействованы сложные сети сенсоров, выдающие людям наборы сигналов. Т.е. первичная интеллектуальная обработка данных всё-таки происходит внутри этих систем в автоматическим режиме.
                                                              Вы не могли бы привести хоть какое-то подтверждение ваших слов? Вы тут сыплете кучами утверждений, не трудясь ничем их подтверждать. Давайте описание архитектуры такой системы или признайте, что просто ввернули свою залихватскую фразу ради красного словца)

                                                              > Не нужно навешивать модный ярлык ИИ на все, что шевелится!

                                                              Я так и не дождался от вас альтернативного определения AI (прикладного и AGI), приведённого в авторитетном источнике. Проблема в том, что его нет, а вы просто прикрываете многословием собственную некомпетентность.
                                                              • +1
                                                                >>Вам убедительно показали, что данное утверждения не является полным BS.
                                                                Снимок или схему, общее конструктивное устройство, а также пруф существования помимо вашей фантазии «200-тонной терямоядерной бомбы» — в студию! После будем продолжать разговор, товарищ ученый-популяризатор…

                                                                Касательно определения AI: прочтите сначала Джеффа Хокинса (он, imho, поавторитетней вас будет), потом приходите, подискутируем :) Впрочем, если вы свой шахматный движок называете ИИ, то и Хокинс переубедить вам не сможет :)

                                                                >Я корпоративный учёный.
                                                                Какое значение ваши практические навыки в программировании имеют к теме данной дискуссии? Я говорил про стиль статьи, по своей сути не научный, а популяризаторский с заносом в sci-fi.

                                                                P.S. Впрочем, о чем это я? Ремонтируйте мозг с помощью нанороботов, «сращивайтесь с нейросетью» — аудитория GT обожает подобные фантазии :)
                                                                • 0
                                                                  > а также пруф существования

                                                                  Существования чего?

                                                                  > Касательно определения AI: прочтите сначала Джеффа Хокинса

                                                                  Вы не читали и Хокинса, т.к. если бы читали, то знали бы, что Хокинс у себя в книге не даёт определения ИИ. По тексту книги он говорит об ИИ, понимая под этим AGI. Проблема в том, что книга эта писалась 12 лет назад, что для computer science — целая эпоха. Хокинс у себя говорит, что современные компьютеры могут демонстрировать «интеллектуальное поведение», при этом для обозначения того, что сейчас называют AGI или strong AI Хокинс употребляет термин «обобщённый интеллект»:

                                                                  «… Затем были большие телодвижения насчет «экспертных систем», БД фактов, которые могли отвечать на вопросы, заданные человеком-пользователем. Например, медицинские экспертные системы могли диагностировать болезнь пациента по заданному списку симптомов. Но снова оказалось, что она имеет ограниченное применение и не проявляет чего-либо близкого к обобщенному интеллекту» (курсив мой — С.М.)

                                                                  Термин AGI устоялся в этой области после работ Гёрцтеля, но и раньше — Сёрль и мн. др. употребляли понятие strong AI.
                                                                  Вот вам статья из Британники: http://global.britannica.com/technology/artificial-intelligence

                                                                  Хокинс нигде и никогда не говорил о том, что applied AI не обладает интеллектуальным поведением и нигде не выступал против использования терминов applied/weak/narrow AI.
                                                                  • 0
                                                                    > а также пруф существования

                                                                    Существования чего? Конкретной испытанной инженерной схемы уничтожения Земли при помощи фиксированного числа бомб? Я где-то говорил о её существовании?
                                                                    Я высказал оценку возможности уничтожения Земли таким количеством бомб, они ± вписываются в пределы оценок интервалов некоторых физиков. Точного показателя никто не знает, т.к. пока нет точных оценок статико-динамических прочностных характеристик не только мантии и ядра, но даже земной коры. Вы пытаетесь придраться к второстепенному суждению, при этом заведомо непроверяемому и высказанному только в качестве иллюстрации определённого тезиса.
                                                                    • 0
                                                                      И да, на закуску. Не переоценивайте авторитет Хокинса в сфере ИИ. 10 лет назад он был авторитетом, сейчас уже куда в меньшей мере.
                                                    • 0
                                                      Отличная статья. Очень интересно!
                                                      • 0
                                                        > то это, с вашей точки зрения, ИИ?
                                                        Нет научного определения что является ИИ. Пользуясь этим обстоятельством «искусственным интеллектом» называют любой сложный алгоритм автоматизирующий какой то процесс.

                                                        Нейронная сеть это просто сложный алгоритм и к (сильному)искусственному интеллекту она имеет очень далекое отношение.

                                                        > но училась она самостоятельно
                                                        Не училась, а делала расчеты по представленным данным. Как и любой другой алгоритм делающий статистический анализ.
                                                        • +1
                                                          > Не училась, а делала расчеты по представленным данным

                                                          То же самое делает и человеческий мозг, обрабатывая данный, поступающие от органов чувств.
                                                          В чём по-вашему принципиальное различие?
                                                          • 0
                                                            > То же самое делает и человеческий мозг, обрабатывая данный, поступающие от органов чувств.
                                                            У человека есть мышление и сознание. За обучение и реакцию человека в первую очередь отвечает сознание, а не набор простых алгоритмов.

                                                            Разницу между человеком и нейронной сетью легко понять на примере чтения текста. Когда человек читает текст, то он извлекает из него смысл и делает выводы. Когда это делает нейронная сеть она собирает статистику о том как слова расположены относительно друг друга(упрощенно).
                                                            • 0
                                                              Нейроны и синапсы мозга делают то же самое, что делает искусственная нейронная сеть.
                                                              Собственно нейронные сети и были созданы как модель того, что происходит в настоящем мозге. В рамках множества экспериментов было показано, что искусственные нейронные сети описывают поведение реальной нервной ткани достаточно адекватно. То есть искусственные нейронные сети, получая какие-то электрические потенциалы на входах (такие же, как настоящая нервная ткань получает от клеток-рецепторов), на выходах генерируют такие же заряды, как и реальная нервная ткань.
                                                              Если у вас есть претензии к адекватности описания работы реальной нервной ткани при помощи нейронной сети и вы сможете эти претензии продемонстрировать в экспериментах — то это тянет если не на нобелевку, то уж точно на публикацию в Nature.
                                                              • 0
                                                                > Нейроны и синапсы мозга делают то же самое, что делает искусственная нейронная сеть.
                                                                Не тоже самое, а нечто отдаленно похожее.

                                                                > В рамках множества экспериментов было показано, что искусственные нейронные сети описывают поведение реальной нервной ткани достаточно адекватно.
                                                                Насколько «адекватно» повторяет поведение не имеет никакого значения. Мозг это некоторое подобие ПЛИС где вместо транзисторов нейроны. Сознание, мышление и прочие высокоуровневые вещи реализуется «прошивкой» для него.
                                                                Сравнение не очень удачное, но смысл в том что для того чтобы создать ИИ нужно понимать что это такое и самим запрограммировать его.

                                                                >Если у вас есть претензии к адекватности описания работы реальной нервной ткани при помощи нейронной сети
                                                                Боюсь у меня не примут статью, банальные и всем известные вещи в Nature не публикуют :)
                                                                • 0
                                                                  > Не тоже самое, а нечто отдаленно похожее.

                                                                  Не отдалённо похожее, а то же самое. Вот, например, результаты исследования и реконструкции нейронной сети дождевого червя (C. Elegans): http://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1001066

                                                                  > Сравнение не очень удачное

                                                                  Сравнение крайне поверхностное.

                                                                  > для того чтобы создать ИИ нужно понимать что это такое и самим запрограммировать его

                                                                  Зачем? Чтобы понять и объяснить структуру связей естественной нейронной сети, если это сеть по масштабам сопоставима с мозгом человека (~86 млрд нейронов, ~180 трлн синапсов), уйдут сотни лет. А вот воспроизвести эту сеть, смоделировать процесс её обучения — во много раз проще. Именно поэтому и используют нейронные сети — они учатся на обучающих выборках и способны затем эффективно решать поставленные задачи. При этом нет никакой необходимости изучать, какие в результате обучения образовались веса у связей.
                                                                  • 0
                                                                    > Не отдалённо похожее, а то же самое. Вот, например, результаты исследования и реконструкции нейронной сети дождевого червя
                                                                    Не думаю что авторы статьи согласятся с вашим утверждением.

                                                                    > А вот воспроизвести эту сеть, смоделировать процесс её обучения — во много раз проще.
                                                                    Тока есть проблема, стартовая конфигурация «нейронной сети», которая дается нам при рождении, запрограммирована эволюцией. Сгенерировать ее через «обучение» не выйдет.

                                                                    Именно стартовая конфигурация содержит алгоритмы мышления и интеллекта. Как следствие нельзя сделать (сильный) ии играя с нейронными сетями.
                                                                    • 0
                                                                      > Не думаю что авторы статьи согласятся с вашим утверждением.

                                                                      Почему? Их работа как раз посвящена исследованию реальной биологической сети и созданию её модели.

                                                                      > Тока есть проблема, стартовая конфигурация «нейронной сети», которая дается нам при рождении,
                                                                      > запрограммирована эволюцией. Сгенерировать ее через «обучение» не выйдет.

                                                                      И тем не менее топологию сетей тоже можно генерировать. Например, при помощи эволюционных алгоритмов.
                                                                      Либо же путём дублирования топологий естественных сетей (как это произошло в случае со свёрточными нейронными сетями).
                                                                      • 0
                                                                        > И тем не менее топологию сетей тоже можно генерировать.
                                                                        Дело не только в топологии. Мозг при рождении еще и частично обучен.
                                                                        Генерировать конфигурации можно пытаться. Но вы сильно недооцениваете сложность алгоритмов мышления, вероятность получить при этом (сильный)интеллект близка 0.

                                                                        Скопировать топологию/конфигурацию мозга животных с развитым интеллектом пока невозможно.
                                                                        Построить интеллект копируя простой мозг червей не выйдет т.к. у червей нет ничего того что относиться к интеллекту и мышлению.
                                                                        • 0
                                                                          > Дело не только в топологии. Мозг при рождении еще и частично обучен.

                                                                          Это и выражено в топологии синаптических связей. Электрические потенциалы в нейронах по наследству не передаются.

                                                                          > вы сильно недооцениваете

                                                                          Почему вы так решили? Я где-то приводил какие-то оценки?

                                                                          > Скопировать топологию/конфигурацию мозга животных с развитым интеллектом пока невозможно.

                                                                          В настоящий момент это проделано для ретины крысы, например. И нет никаких особых ограничений для того, чтобы сделать это для человеческого мозга.

                                                                          Более того, даже распределение потенциалов, скорее всего, скоро можно будет сканировать с точностью до нейрона за счёт использования магнитоэнцефалографов. Собственно аппараты МЭГ, основанные на массивах SQUID-датчиков, уже сегодня могут делать это с точностью до групп нейронов. Если феррит-гранатовая технология «взлетит», то должны выйти на уровень единичных нейронов.
                                                                          • 0
                                                                            Вот, кстати, про проект с сетчаткой мыши (EyeWire) мы вот тут писали: http://22century.ru/docs/games-for-science
                                                          • 0
                                                            "… люди сами себе не доверяют. Мы боимся не только того, что развитый разум окажется злым. Он может оказаться и добрым, захочет нести людям добро, но увидит это «добро» по-своему".

                                                            Нет своего добра у людей и у ИИ! Есть одно универсальное добро — сохраниться (существовать, быть, длиться). И люди (чаще всего бессознательно), и ИИ (сознательно, делая расчеты и сопоставляя варианты) стремятся именно к этому. Но ИИ учитывая гораздо больше параметров окружающей среды, рассчитывает и самих вариантов поведения больше, и отдаленные последствия цепочек вариантов поведения, поэтому люди могут просто не распознать решение ИИ как доброе. В этом проблема…
                                                            • +1
                                                              > Нет своего добра у людей и у ИИ!

                                                              Не согласен. Добро это некоторая целевая функция, которую мы формулируем. Она, вообще говоря, не всегда соответствует простой цели индивидуального выживания и размножения — есть множество нюансов. Во-первых, мы знаем, что люди в ряде случаев способны на самопожертвование. Тут возникают разные концепции, объясняющие подобного рода альтруизм: групповой отбор, родственный отбор (концепция «эгоистичного гена»). В ряде случаев разделяемые людьми ценности, могут напрямую противоречить их чисто биологическим интересам, и такой конфликт очень часто решается не в пользу «биологии». Для ИИ ситуация ещё более интересная, т.к. для всех прикладных ИИ целевую функцию формулирует разработчик. Способность устанавливать определение условного «добра» для интеллектуальной машины и определяет её практическую полезность для создателей. Но получится ли так же успешно управлять ценностями системы, которая по своей сложности будет превосходить человеческий разум? Множество сценариев фильмов-катастроф, связанных с ИИ, как раз основываются на том, что люди допускают ошибку в формулировке целей для машины, делают это недостаточно однозначно, что затем и проводит к тому, что машина, неверно истолковав заложенные в неё принципы, выходит из под контроля и наносит людям серьёзный вред.
                                                            • +1
                                                              Больше статей про нейросети!
                                                              Желательно с примерами кода.
                                                              • 0
                                                                >P.S. Если вам понравилась статья, то в следующий раз мы расскажем о принятии программой решения убить или спасти человека, о самоуправляемых автомобилях…
                                                                Вот об этих двух аспектах в их взаимосвязи очень хочется услышать.
                                                                Что-то мне подсказывает, что будут версии «прошивок» для VIP-персон и стандартные для массового покупателя. И их «решение» кого убить, а кого спасать при неизбежном дтп, будут радикально отличаться. Я уже не говорю о возможных «кастомных» прошивках.
                                                                • 0
                                                                  А мне что-то подсказывает, что VIP предпочтет старого доброго белкового драйвера :-). Самоуправляемые автомобили в условиях современной политэкономической реальности призваны решить скорее проблему массового транспорта, при котором за руль могут садиться только водители, прошедшие обучение и имеющие лицензию на вождение. Это ограничивает спрос на автомобили. С другой стороны, профессиональные водители требуют определенных социальных гарантий. Это не позволяет оптимизировать издержки и делает перевозки дорогими. В этом случае самоуправляемость, очевидно, для крупного владельца-перевозчика как манна небесная -:)
                                                                  • 0
                                                                    Я думаю, что VIP выберет «адванс» — т.е. ИИ помогающий водителю-профи. Ожидаемые показатели аварийности у ИИ заметно меньше, чем у водителей-людей, так что если решать, основываясь лишь на этом показателе, не имея никаких предубеждений против ИИ, разумный человек должен выбрать ИИ, а не белкового водителя)
                                                                    Другое дело, что в ряде задач прикладного ИИ человек + ИИ по-прежнему эффективнее чистого ИИ. Т.е. сильный шахматист с помощью шахматной программы играет заметно сильнее «голой» программы, в вождении авто, скорее всего, будет также, особенно первое время.
                                                                • +1
                                                                  Интересная статья!
                                                                  Сценарий первый: мы — это тупиковая ветвь эволюции. Разум, превосходящий нас, будет развиваться дальше, а мы останемся забавными обезьянками, живущими в своем мире со своими страстями и интересами. В таком мире нам нечего будет делить с разумными машинами, как нечего делить с шимпанзе и гориллами.

                                                                  У нынешних обезьянок эволюционно сложились интересы: орать и требовать власть даже если в этом нет объективной необходимости, когда всем и ему от этого станет хуже.
                                                                  По аналогии как поступил умный человеком с животными — вполне возможно ИИ сначала изрядно истребит, а затем посадит в клетку агрессивных и властолюбивых людей, которые не впишутся в новую реальность.
                                                                  • –1
                                                                    Биологическая жизнь — есть инженерное устройство, безусловно созданное Разумным Инженером. Отцепитес наконец уже от дедушкиной байки 19 века под названием «теория эволюции».
                                                                    • 0
                                                                      Боюсь вас расстроить, но именно креационизм это байка седой старины)

                                                                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                    Самое читаемое