Пользователь
0,0
рейтинг
17 февраля 2015 в 11:21

Революция в области искусственного разума. Часть первая: путь к Сверхразуму из песочницы

Вторая часть
Примечание переводчика: Данная статья является переводом публикации «The AI Revolution: The Road to Superintelligence». Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Мы стоим на пороге перемен сравнимых, разве что с самим рождением человечества. Вернор Виндж.

Каково это находиться здесь?



Захватывающе, на правда ли? Но сейчас мы не видим правой части графика.

И нам кажется, что мы находимся здесь.


Уже не так интересно…

Далёкое будущее уже не такое далёкое

Давайте представим себе, что у нас есть машина времени, и мы переносимся в 1750-й год, в мир, в котором об электричестве ещё ничего не знали, где передача сообщений на дальние расстояния представляла собой разве что перекрикивание через поле или стрельбу в воздух из пушек, а единственным топливом для транспорта было сено. Возьмём оттуда первого попавшегося прохожего и переносимся обратно в 2015-й год, после чего, прогуливаясь с ним по любому современному городу, наблюдаем за его реакцией на привычные для нас вещи. Мы даже не можем себе представить что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе, разговаривая с людьми, ещё утром находившимися на другом континенте, наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас, прослушивая музыкальное произведение, которое оркестр играл 50 лет назад или рассматривая мой волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть карту и увидеть своё местоположение в реальном времени, или разговаривать с человеком находящимся на другом конце страны, и другие вещи магического происхождения. И это ещё до того как вы расскажете ему про Интернет, МКС, Большой Адронный коллайдер, ядерное оружие или общую теорию относительности.

Этот опыт будет для него шокирующим, или даже “крыше-сносящим” и это только частично описывает его впечатления. Возможно он даже умрёт от испытанного шока.

Но что будет, если этот человек по возвращении назад в свой родной 1750-й год захочет повторить наш эксперимент, сядет в машину времени и перенесётся на те же 250 лет назад в 1500-й год, заберёт оттуда первого попавшегося прохожего в свое время и покажет ему жизнь в 1750-м? Человек из 1500-го будет удивлён прогрессу и многим не знакомым вещам в 1750-м, но этого вряд ли будет достаточно чтобы убить его. Его ощущения не будут такими “крыше-сносящим”. Отличий между жизнью в 1500-м и в 1750-м гораздо меньше, чем между жизнью в 1750-м и в 2015-м. Человек из 1500 узнает много удивительных вещей о пространстве и физике, будет удивлён масштабом европейских Империй, и конечно же, ему придётся внести сильные поправки в своё представление карты мира. Но различий в повседневной жизни в 1500-м и 1750-м, транспорте, связи и других вещах, определённо будет не достаточно чтобы убить его.

Для того, чтобы наш знакомый из 1750-го мог так же повеселиться как и мы с ним, ему придётся перенестись гораздо дальше, примерно в 12000 — год до нашей эры, во времена до Первой Аграрной революции, которая привела к созданию первых городов, и дала возможность для развития цивилизации. Если бы кто-нибудь из охотничье-собирательского общества, из времени когда человек был по сути лишь ещё одним из видов животных, увидел бы огромные империи 1750-го года, величественные церкви, океанские корабли, огромные коммуны и накопленные человечеством знания, он возможно бы умер.

Но что если после смерти и ему тоже захотелось повторить наш эксперимент? Если он перенесётся из 12000-го года до нашей эры в 24000-й год до нашей эры, возьмёт человека живущего там и вернётся с ним обратно в 12000-й до нашей эры, покажет ему жизнь в своём времени, то человек, наверное произнесёт что-то вроде: “ок, и что поменялось?”. Для человека из 12000-го года до нашей эры, чтобы так же развлечься, придётся перенестись назад более чем на 100 000 лет, что бы найти там кого-то, кого он сможет удивить огнём и существованием языка.

Для того чтобы погибнуть от пережитого шока при путешествии в будущее, необходимо переместиться на достаточное расстояние, чтобы достигнуть “убивающего уровня прогресса”, или Единицу Убивающего Прогресса (ЕДП). Так ЕДП занял 100 000 лет для охотничье-собирательского общества, для общества после аграрной революции, один ЕДП занял всего около 12000 лет, Постиндустриальный мир продвинулся на столько быстро, что для человека из 1750-года надо переместиться всего на пару сотен лет вперёд что бы получить один ЕДП.

Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет Законом Ускоряющейся Отдачи. Это происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое. В 19-м веке человечество имело гораздо больше знаний и более продвинутые технологии, чем в 15-м веке, так что не удивительно что человечество в 19-м веке сделало гораздо больше открытий, чем в 15-м.

Это так же работает и в меньших масштабах. Фильм “Назад в будущее” вышел в 1985-м, и прошлое в нём было представлено 1955-м. В фильме, когда герой Майкла Джей Фокса отправился в 1955, его удивило то, что телевидение было ещё в диковинку, цена на газировку того времени, отсутствие любви к гитарным запилам и необычный слэнг. Это был совершенно другой мир, но если бы фильм был снят сегодня, а прошлое было бы представлено 1985-м годом, фильм был бы, возможно, более забавным и отображал бы гораздо большую разницу между мирами. Герой бы оказался во времени до персональных компьютеров, интернета, мобильных телефонов, и социальных сетей. Подросток, рождённый в конце 90-х, чувствовал бы себя гораздо более чужим в 1985-м, чем Марти МакФлай в 1955-м.

Причиной тому всё тот же закон ускоряющейся отдачи. Средний темп изменений между 1985-м 2015-м был гораздо выше, чем темп изменений между 1955-м и 1985-м, и всё это благодаря тому что мир в 1985-м был гораздо более развитым, что позволило произойти гораздо большим изменениям за последние 30 лет, чем за предшествовавшие им 30 лет.

Так что перемены становятся всё большими и их скорость всё возрастает. Это говорит нам о том что нас ждёт достаточно интересное будущее, не так ли?

Курзвейл полагает, что эквивалент прогресса всего 20-го века был бы достигнут за 20 лет при сохранении темпа развития 2000-го года. То есть темп развития в 2000-м году был в пять раз выше среднего темпа развития за 20-й век. Рэй также утверждает что эквивалент прогресса за весь 20-й век уже был достигнут в период между 2000-м и 2014-м годами, и что следующий эквивалент прогресса 20-го века будет достигнут уже к 2021-му году.

Если Курцвейл прав, то мы можем быть так же шокированы 2030-м, как наш знакомый из 1750-го года был шокирован 2015-м. И следующий ЕДП будет достигнут всего за пару десятилетий, и мир в 2050 будет настолько отличаться от сегодняшнего, что мы вряд ли вообще смогли бы его узнать.

И это не научная фантастика. Это то, во что верят лучшие умы современности, которые гораздо умнее нас с вами и обладают большими познаниями в этой области. Если оглянуться назад в историю их предсказания начинают выглядеть вполне логично.

Так почему же когда я говорю “мир через 35 лет может оказаться для нас неузнаваемым”, вы думаете “круто..., но, вряд ли” Три причины для скептического отношения “крыше-сносящим” предсказаниям будущего:

1. Нам кажется что история линейна. Пытаясь представить прогресс грядущих 30-ти лет, мы оглядываемся назад на аналогичный период времени, чтобы представить себе масштабы возможных изменений. Прогнозируя насколько 21-й век изменит мир, мы берём прогресс за 20-й век и прибавляем его к 2000-му году. Именно эту ошибку совершил наш знакомый из 1750, выбрав в качестве подопытного, человека из 1500-го года, ожидая что впечатления того от 1750-го будут сопоставимы с его собственными от путешествия на такое же время вперёд. Мы привыкли мыслить линейно, тогда как здесь необходимо мыслить экспоненциально. Гораздо более логичным методом прогнозирования грядущих изменения было бы не оглядываться назад на 30 лет, а делать выводы взяв за основу современную скорость развития. Такой прогноз уже будет гораздо более точным, но всё равно недостаточно. Что бы прогнозировать будущее ещё точнее, необходимо брать за основу ещё большую скорость прогресса.



2. Недавние события не дают нам понимания общей картины происходящего. Во-первых, если взять достаточно маленький кусок даже очень крутой экспоненциальной кривой, он будет казаться прямым, точно так же если взять огромный круг и посмотреть на него достаточно близко, он будет казаться вполне прямым. Во-вторых экспоненциальный рост, на самом деле не плавный. Как объясняет Курцвейл: прогресс на самом деле происходит по S-образной кривой.



S образная кривая рождается тогда, когда новая парадигма только появляется. Кривая проходит три стадии:
Медленный рост (начальная стадия экспоненциального роста).
Быстрый рост (поздняя, взрывная стадия экспоненциального роста).
Выравнивание уже новой, созревшей парадигмы.

Если брать в расчёт только недавние события, то та часть S образной кривой, в которой мы находимся может исказить наше понимание скорости развития технологий. Отрезок времени между 1995-м и 2007-м был чрезвычайно насыщенным, он застал: взрывной рост интернета, восхождение Microsoft, Google и Facebook, рождение самого феномена социальных сетей, массовое появление мобильных телефонов и позднее смартфонов. Это была вторая фаза S образной кривой, и период 2008-2015 был уже не столь впечатляющим, по крайней мере с точки зрения технологий. И делая прогноз развития беря за основу лишь скорость изменений последних лет, невозможно получить точное представление того что нас ждёт, поскольку в этом случае мы упускаем из вида общую картину. Возможно мы уже стоим на пороге новой большой второй фазы S-образной кривой экспоненциального роста.

3. Наш опыт превращает нас в упрямых стариков, когда мы думаем о будущем. Наше понимание мира строится на основе нашего опыта, и он определяет наше представление о скорости развития, основываясь на происходящих событиях. Так же мы ограничены нашим воображением, которое на основе нашего опыта строит предположения, но наши знания не дают нам возможности делать точные прогнозы будущего. И когда мы слышим предсказания, неукладывающиеся в нашу картину мира, мы склонны считать их глупыми и не обоснованными. Когда позднее в этой статье я буду рассказывать вам, что вы вероятно проживёте 150-250 лет, а то и вовсе не умрёте, ваше подсознание скажет что-то вроде “Это просто нелепо, единственное в чем я уверен, так это в том, что все рано или поздно умрут”. Да, конечно, никто из когда-либо живших на земле ещё не смог пережить собственную смерть. Но и никто не летал на самолётах, до тех пор пока их не изобрели.
Если рассуждать логически, то стоит ожидать повторения исторических закономерностей, то есть ожидать в ближайшие десятилетия гораздо больших изменений, чем нам подсказывает наша интуиция. Так же логично предположить, что если наиболее развитые существа на нашей планете делают всё больше прорывов, со всё ускоряющимся темпом, то рано или поздно они сделают прорыв настолько огромный, что он изменит весь мир и их самих. Примерно так же как эволюция делала прорыв за прорывом на пути создания разума, пока не создала человека, который полностью изменил планету и жизнь всех существ на ней. И если вы присмотритесь к происходящему сейчас в науке и технологиях достаточно внимательно, вы увидите признаки грядущего прорыва, который в очередной раз полностью изменит наш мир.

Путь к Сверхразуму

Что такое искусственный интеллект (ИИ)?

Для меня, думаю как и для вас, искусственный интеллект, до недавнего времени, был лишь выдумкой из научной фантастики, но недавно всё изменилось, когда о нём стали говорить достаточно уважаемые люди, и вы, наверняка не понимаете чем это вызвано.

Существует три причины, по которым большинство людей не до конца понимают определение “искусственный интеллект”:

1.ИИ ассоциируется с фильмами. Звёздные войны, Терминатор, Космическая Одиссея 2001 и даже Джетсоны. Всё это фантастика, так же как и герои-роботы. Поэтому ИИ звучит слишком фантастично.
2.ИИ слишком широкое понятие. Разброс форм ИИ слишком велик: ИИ разнится от калькуляторов до беспилотных машин. Термин ИИ применим к слишком широкому кругу вещей, что делает его понимание достаточно сложным.
2.Даже когда мы пользуемся ИИ, мы не всегда это осознаём. Джон Маккарти, предложивший термин “ИИ” в 1956-м, заметил: “как только он начинает работать никто больше не называет его искусственным интеллектом”. именно по этому ИИ часто воспринимается как нелепое понятие из очень далекого будущего, а не как нечто реальное. И в то же время это звучит как поп-концерт из прошлого, который нам уже никогда не посетить. Рэй Курцвейл говорит что слышал от большого количества людей, что ИИ это нечто, что умерло уже в 80-х, что по его же заявлению равносильно утверждению, что интернет погиб во время краха доткомов в начале нулевых.

Для лучшего понимания ИИ нам необходимо во-первых перестать представлять себе человекоподобных роботов, робот это всего лишь оболочка для ИИ, на самом деле ИИ это компьютер внутри робота, если конечно этот компьютер нарочно был вставлен в робота. Таким же образом программное обеспечение отвечающее за работу Siri. Это ИИ, а приятный женский голос, это всего лишь форма с взаимодействия с пользователем, и тут не задействован ни один робот.
Во-вторых, вы наверняка знакомы с понятием сингулярности или технологической сингулярности. Сингулярность это понятие из математики описывающее ситуацию в которой привычные правила перестают работать. Оно так же используется физиками для описания невероятно плотного вещества черных дыр или для описания всего вещества вселенной до момента Большого Взрыва, опять же ситуация к которой привычные нам законы физики не применимы. Вернор Виндж в своём знаменитом эссэ применил термин технологическая сингулярность к моменту в будущем, когда возможности ИИ превзойдут наши собственные. По его мнению в этот момент наш мир будет изменён настолько, что привычные нам правила будут к нему уже не применимы. Позже Рэй Курцвейл определил технологическую сингулярность как момент, в который по закону ускоряющейся отдачи, скорость развития будет стремиться к бесконечности, и в который, наш мир кардинально изменится. Я заметил что многие люди, связанные с ИИ, почему-то перестали пользоваться данным термином, так что я не буду в этой статье использовать его слишком (не смотря на то что речь будет идти именно о технологической сингулярности). И последнее, не смотря на то, что понятие ИИ слишком размыто, все ИИ можно разделить на три категории по их возможностям.

1. ИИ узкого применения. Его так же иногда называют слабым ИИ. Это ИИ специализированный в некой строго определённой области. Такой ИИ может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Ни на что большее он не способен.
2. ИИ общего применения. Он же сильный ИИ, или ИИ человеческого уровня. Это ИИ который соответствует уровню разума человеку во всех областях, машина способная выполнять все те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам ещё только предстоит её решить. Профессор Линда Готтфредсон описывает разум как “общую мыслительную активность, способную среди прочего к осознанию, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, быстрому обучению, и обучению на собственном опыте”. Сильный ИИ будет способен делать всё это так же легко, как и любой человек.
3. Искусственный Сверхразум. Ник Бостром, философ и председатель Всемирной Трансгуманистической Ассоциации, даёт следующее определение Сверхразуму: “разум, превосходящий лучшие умы человечества во всех областях, включая общие знания, и социальные навыки”. Искусственный Сверхразум достаточно широкое понятие, которое разнится от разума лишь слегка превосходящим человека, до разума превосходящего человека во всех областях в триллионы раз. Собственно искусственный Сверхразум и является причиной столь острой дискуссии вокруг ИИ, а так же того, что слова бессмертность и вымирание в обсуждениях ИИ, встречаются так часто.

На сегодняшний день человечество уже построило и использует множество слабых ИИ. ИИ революция — это путь от слабого ИИ к искусственному Сверхразуму, пролегающий через создание сильного ИИ. Давайте более подробнее остановимся на том, что же думают лучшие теоретики ИИ, и ученые и почему революция может произойти гораздо быстрее, чем мы того ожидаем.

ИИ уже управляет нашим миром

ИИ узкого применения — это ИИ возможности которого равны или превосходят человеческие в определённой области. Несколько примеров:

  • В современном автомобиле достаточно часто используются ИИ системы узкого применения: от компьютера системы АБС, который определяет блокировку колёс и препятствует потере управления над автомобилем, до системы впрыска топлива, которая определяет сколько топлива должно поступить в цилиндр, в какой момент и какая структура топливно-воздушной смеси оптимальна в данный момент. Автономные машины, которые активно тестирует Google, скрывают в себе надёжную ИИ систему, способную правильно реагировать на дорожную обстановку и управлять движением автомобиля в реальном времени.

  • В вашем смартфоне существует огромное количество ИИ систем, каждый раз когда вы пользуетесь навигацией, просматриваете рекомендованную вам музыку в Пандоре, проверяете прогноз погоды на завтра, разговариваете с Siri, вы взаимодействуете с ИИ.

  • Спам-фильтр в электронной почте — классический пример ИИ. В него изначальна зашита некая логика, по которой он отделяет спам и блокирет его, и постепенно, основываясь на ваших личных предпочтениях, подстраивается под вас. То же самое делает и термостат от Nest, он определяет ваши предпочтения по температуре в течение дня и подстраивается под вас.

  • Вы наверняка замечали эту странную вещь: вы только что искали что-нибудь на Amazon, и потом на других сайтах встречали рекламу именно этого товара. Или что Facebook каким-то образом узнаёт людей, которых вы знаете, и предлагает добавить их в друзья. Всё это результат совместной работы большого количество специализированных ИИ, которые обмениваются информацией между собой, и используют её что бы узнать вас, узнать что вам нравится и, основываясь на этом, определить, что и когда вам показывать. Таким же образом работает секция “Люди купившие этот товар так же покупают это...”, это тоже ИИ, задача которого анализировать поведение миллионов людей, что бы заставить нас покупать больше.

  • Google Translate — тоже яркий представитель рода ИИ, показывающий прекрасные результаты в одной, очень узкой сфере. Распознавание голоса — тоже ИИ. Существуют другие приложения, использующие предыдущие два, для перевода речи в режиме реально времени, зачитывая то, что вы сказали сразу же на другом языке.

  • Когда самолёт касается взлётной полосы, ИИ определяет к какому выходу и терминалу самолёт должен подъехать. Цена билетов на самолёт тоже определяется не человеком, а ИИ.

  • ИИ уже превзошли человека в таких играх как Шашки, Шахматы, Скраббл и Нарды.

  • Поиск Google, тоже является ИИ, который использующим сложные алгоритмы ранжирования страниц, и определяет какие страницы показать именно вам.

  • И это только потребительские ИИ. ИИ так же распространены у военных, в финансовом секторе (высокочастотная торговля, которая уже составляет более чем половину дневных операций на биржах США). Даже в медицине применяются экспертные системы, помогающие врачам ставить диагнозы, самой известной такой системой, конечно же является IBM Watson.


ИИ узкого применения, существующие сейчас, не представляют для нас особой опасности. В худшем случае они могут спровоцировать небольшую катастрофу, которая не заденет большую часть населения планеты или даже страны. Например, веерное отключение электричества, проблемы с оборудованием на ядерной электростанции или катастрофу на бирже (примером тому может служить черный четверг 6 мая 2010, когда сбой ИИ обрушил рынок, забрав с собой более триллиона долларов рыночной стоимости, после восстановления работы системы удалось вернуть только часть потерянных денег).
Пока что ИИ не имеет достаточной силы и возможностей, что бы представлять опасность для жизни на планете, но мы уже видим всё увеличивающуюся сеть ИИ, которые являются предшественниками других ИИ, способных кардинально изменить наш мир. По мнению Аарона Саенца (Aaron Saenz), существующие ИИ подобны аминокислотам в первичном супе, из которого однажды зародилась жизнь на земле.

Путь от слабого ИИ к сильному

Почему это так сложно?

Ничто не заставит вас восхищаться человеческим интеллектом больше, чем знание о том, как сложно создать компьютер равный ему по способностям. Строительство небоскрёбов, завоевание космоса и детальное понимание событий происходивших после большого взрыва, не идут ни в какое сравнение с пониманием работы нашего собственного мозга. На сегодняшний день человеческий мозг является самым сложным явлением из всего, что мы знаем.

Интересно, что при постройке сильного ИИ проблемы возникают не там, где бы вы из ожидали. Построить компьютер, способный перемножить два десятизначных числа меньше чем за секунду легко, а вот построить компьютер, который бы отличил собаку от кошки очень сложно. Мы уже построили компьютер, способный обыграть лучших игроков в шахматы. Но построить компьютер, который смог бы понять детскую книжку, а не просто распознать слова, пока что очень сложно. Google сейчас вкладывает миллиарды долларов на создание такого ИИ. Сложные вещи такие как вычисление, торговой стратегии, перевод с одного языка на другой, даются компьютерам очень легко. Но такие лёгкие вещи как зрение, движение и восприятие — невероятно сложны. Как сказал ученый Дональд Кнут “ИИ сегодня преуспели во всём, что требует мышления, но им никак не даётся то, что человек и животные делают не осознанно”. Если задуматься, то достаточно быстро приходит понимание того, что вещи, которые кажутся нам лёгкими, на самом деле являются невероятно сложными, и они нам кажутся лёгкими только потому, что эти умения были оптимизированы за миллионы лет эволюции. Когда мы тянемся рукой к какому-нибудь объекту, наши мышцы, сухожилия и кости в плече, локте и запястье совершают огромное количество движений, согласуют эти движения с информацией получаемой через зрение, чтобы мы могли сделать четкое прямое движение рукой. Создаётся впечатление, что всё это происходит без какого-либо напряжения, и кажется очень лёгким, но это лишь потому что в нашем мозгу стоит совершенное программное обеспечение, разработанное и оптимизированное эволюцией специально для этих операций. С другой стороны, умножение длинных чисел или игра в шахматы являются новыми задачами для биологических существ, и у нас не было достаточно времени, чтобы оптимизировать эти умения, поэтому компьютеру гораздо легче победить нас на этом поле. Задумайтесь, какую программу вы бы скорее взялись написать: программу, которая может перемножать длинные числа, или ту, которая смогла бы опознать букву “В” во всех вариациях шрифтов и даже во всём многообразии рукописных вариантов написания?
Интересный факт: Если дать эту картинку для оценки компьютеру и человеку, то оба смогут понять что это прямоугольник составленный из квадратов двух разных цветов.



Но если убрать черную часть, и раскрыть картинку полностью…



Для человека не составит сложности опознать все эти цилиндры, различные плоскости и трёхмерные углы, но для компьютера эта задача окажется непосильной, он увидит лишь различные двухмерные фигуры и тени, которые не сможет правильно интерпретировать. Наш мозг совершает огромное количество операций, чтобы интерпретировать эти фигуры и тени в трёхмерные объекты. Так же и для картинки ниже — компьютер на ней увидит лишь двухмерную черно-белую картинку, когда человек способен понять, что это фотография черного трёхмерного камня.


Credit: Matthew Lloyd

Все наши примеры были ограниченны простейшими застывшими картинками. Для того что бы называться сильным ИИ компьютеру будет необходимо уметь распознавать выражение лица, и понимать разницу между различными эмоциями.

Так как же мы всё таки достигнем этого?

Первый шаг к созданию сильного ИИ: увеличение вычислительной мощности

Увеличение вычислительной мощности — необходимый элемент в создании сильного ИИ. Если ИИ должен быть таким же умным, как и человек, то и вычислительные способности его железа должны быть близки к вычислительным способностям человеческого мозга. Один из способов определить вычислительную мощность мозга — это посчитать количество операций выполняемых за секунду. Для этого надо вычислить максимальное количество операций в секунду различных отделов мозга и сложить получившиеся показатели. Рэй Курцвейл придумал более простой способ оценить этот показатель. Он взял примерное количество операций в секунду выполняемое частью мозга, посчитанную учеными, и соотношение массы этой части к массе всего мозга, и перемножил их. Звучит сомнительно, но он проделал эту операцию несколько раз беря за основу данные полученные разными учеными и всегда приходил к примерно одному и тому же результату — 10^16 (10 квадрилионов) опереций в секунду. На сегодняшний день мощнейший супер-компьютер, китайский Тяньхэ-2, уже превзошел этот показатель, выдавая примерно 34 квадриллиона операций в секунду. Но Тяньхэ-2 — это огромная машина, занимающая 720 квадратных метров пространства и потребляющий 24 мегаватт энергии (наш мозг потребляет всего 20 ватт), и его строительство обошлось в 390 миллионов долларов. Это конечно же не массовый продукт, на данный момент ему даже не нашли никакого коммерческого применения. Мы оцениваем компьютеры по тому, сколько вычислительной мощности можно купить за 1000 долларов. Курцвейл уверен, что сильные ИИ получат свой шанс стать массовым продуктом, когда за 1000 долларов можно будет купить компьютер способный выдавать 10^16 операций в секунду.



Согласно закону Мура, который выполняется на протяжении всего времени существования компьютеров, максимальная вычислительная мощность удваивается примерно каждые два года. То есть развитие компьютеров, так же как и развитие человека, имеет экспоненциальный характер. Если посмотреть на график в верху, то мы сейчас находимся ровно там где Курцвейл и предполагал. То есть на отметке 10 триллионов операций в секунду за 1000 долларов. То есть современные компьютеры ценой в 1000 долларов уже превзошли возможности мозга мыши. Звучит не очень впечатляюще, но если вспомнить, что в 1985 мы были на отметке одна триллионная человеческого мозга, одна миллиардная в 1995 и одна миллионная в 2005, то в 2015-м это уже одна тысячная. В эту прогрессию легко укладывается создание к 2025 году компьютера равного по вычислительной способности человеческому мозгу стоимостью в 1000 долларов. На сегодняшний день железо уже позволяется нам создать сильный ИИ и сделать его массовым продуктом в течение 10 лет. Но вычислительная мощность сама по себе не делает компьютер сильным ИИ. Так что следующая задача это раскрыть потенциал этого компьютера.

Второй шаг к созданию сильного ИИ: Сделать его умным

Это достаточно сложная часть. На самом деле никто не понимает как сделать компьютер умным. До сих пор не утихают споры о том как добиться того, чтобы ИИ мог понять слово, как бы оно ни было написано, или отличить собаку от кошки. Но на сегодняшний день уже существует несколько стратегий для создания сильного ИИ и рано или поздно одна из них окажется удачной и позволит создать сильный ИИ. Немного подробнее остановимся на существующих стратегиях:

1.Копирование работы мозга
Это похоже на то, как-будто ученые сидят рядом с ребёнком, которому всё даётся так легко и непринуждённо, что он продолжает, несмотря на все старания ученых, получать более высокие оценки за контрольные, что они в определённый момент думают: “а, к черту всё, почему бы просто не списывать у него”. И это имеет смысл. Мы тщетно пытаемся построить супер сложный компьютер, но нам повезло иметь прекрасный прототип в виде нашего собственного мозга, так почему бы этим не воспользоваться. Ученые всего мира стараются разгадать принципы работы мозга, и то как эволюции удалось создать настолько крутую штуку. По оптимистичным прогнозам им это удастся примерно к 2030-му году. Как только учёные разгадают все тайны мозга, мы поймём, как ему удаётся быть настолько мощным и эффективным, и сможем использовать эти знания для создания более мощного ИИ. Одним из способов копирования работы мозга для создания компьютера — это использование искусственных нейронных цепей. В начале это просто сеть соединённых между собой транзисторов “нейронов”, которые, подобно мозгу младенца, не обладают никакими знаниями. Потом этот “мозг” обучается, например пытаясь распознать рукописный текст, с начала просто выдаёт случайные буквы, но после того, как он угадывает первую букву, нейронные связи, выдавшие этот ответ усиливаются (закрепляются), если ответ был неверным, то связи ослабляются. Этот процесс повторяется огромное количество раз, таким образом машина самообучается и оптимизируется под выполнение определённой задачи. Мозг работает по похожему принципу, и мы продолжаем изучать создание и ослабление нейронных связей, таким образом открывая для себя всё новые способы обучения искусственных нейронных цепей. Более сложный способ эмуляции работы мозга — это полное воссоздание его структуры. Для этого берётся мозг, разрезается на тонкие слои, сканируется и потом при помощи мощного программного обеспечения строится его виртуальная модель, которую запускают на мощном компьютере. В результате мы получаем компьютер, способный на все операции, на которые способен человеческий мозг, его остаётся только обучить. Если ученые смогут разработать сверхточный способ копирования мозга, то мы можем даже добиться того, что все воспоминания и даже личность хозяина мозга будут перенесены в компьютер. Таким образом, если мозг принадлежал Джиму прямо перед тем, как он умер, то наш компьютер проснётся Джимом(?), и мы получим сильный ИИ, способный на всё то же на что способен человек, дальше мы сможем превратить его в Сверхразум, что наверняка придётся Джиму по вкусу.
Но как далеко мы от полной эмуляции работы мозга? Недавно, была воссоздана работа 1мм среза мозга, содержащего в себе всего 302 нейрона. В человеческом мозгу около 100 миллиардов нейронов. Если результат вас не впечатлил, то самое время вспомнить про экспоненциальный рост. Сейчас мы можем воссоздать работу мозга червя, потом, через достаточно долгий период, воссоздадим работу мозга муравья, потом мыши и неожиданно эта идея будет уже казаться куда более правдоподобной.

2. Заставить эволюцию работать на нас
Если мы придём к тому что списывать у нашего вундеркинда слишком сложно, можно попробовать копировать его технику подготовки к экзаменам. Построить компьютер равный по мощности нашему мозгу возможно, эволюция мозга тому доказательство. И если воссоздание работы мозга, является слишком сложной задачей, почему бы не имитировать эволюцию? Как показывает практика точное копирование биологических прототипов не всегда является лучшим решение, и крыло самолёта тому яркий пример.
Так как же заставить эволюцию построить нам сильный ИИ? Ответом на данный вопрос является генетический алгоритм, который работает следующим образом: каждый раз по выполнению задания проводится оценка результатов, это происходит раз за разом (в процессе эволюции “производительность” живого существа мерилась по тому смог ли он передать свои гены следующим поколениям или нет). Группа компьютеров будет работать над решением одной задачи, и самые успешные “скрещиваются”, передавая половину своего программного обеспечения новой машине. После долгого процесса такой селекции будут создаваться всё более производительные компьютеры. Самая большая проблема тут — это создание автоматической системы оценки результатов и “скрещивания”. Минус такого подхода в том, что такая “эволюция” может занять миллионы лет, а нам результат необходим в течение ближайших десятилетий.
Но у нас есть преимущество над эволюцией, во-первых эволюция развивается бессистемно, и на каждую полезную мутацию приходится куда большее количество бесполезных или даже вредных мутаций. Если же мы будем контролировать процесс, сохраняя только полезные мутации и даже подталкивая компьютеры к ним, мы можем значительно ускорить процесс. Во-вторых, у эволюции нет цели, она может выбрать и путь уменьшения “производительности” мозга, так как содержать большой мозг для животного это роскошь, он потребляет слишком много энергии. В третьих, чтобы эволюции создать более производительный мозг, ей необходимо решить проблему подачи энергии клеткам, у нас же нет такой проблемы, так как мы будем использовать чистое электричество. Без сомнений мы справимся с этой задачей гораздо быстрее, чем эволюция, но остаётся открытым вопрос будет ли это достаточно быстро, чтобы игра стоила свеч.

3. Заставить ИИ создать самого себя
Когда ученые заходят в тупик, то стараются создать такой эксперимент, который бы провёл сам себя. И это возможно самый многообещающий способ.
Основная его идея этого метода в том, чтобы создать слабый ИИ со специализацией в исследовании ИИ и внесении изменений в собственный код, что позволит ему не только обучаться, но и создавать себя самому. Мы научим компьютер быть программистом, и таким образом компьютеры сами помогут нам улучшить их. И их главной задачей будет разработать способ улучшения их самих.

И всё это дело ближайшего будущего
Быстрый прогресс в области оборудования, и различные эксперименты с программным обеспечением, могут принести сильный ИИ в нашу жизнь очень быстро. И на то есть две причины:

1. Экспоненциальный рост достиг таких скоростей, что даже то, что как нам кажется движется очень медленно, может привести через короткий промежуток времени к взрывному росту. Гиф в низу хороши иллюстрирует этот процесс:



Источник

2. То что касается программного обеспечения, развитие может казаться медленным, но одно открытие может резко изменить ситуацию (подобно тому, как наука топталась на месте, пытаясь описать движение небесных тел в геоцентрической системе, но когда люди взяли за основу гелиоцентрическую систему мира, всё стало на много легче). Так же и с саморазвивающимся компьютером. Ещё вчера казалось, что он очень далёк от создания сильного ИИ, но одна “мутация” в его программном обеспечении может сделать его в 1000 раз эффективнее, и вот он уже на пороге человеческого уровня разума.

Путь от Сильного ИИ к Сверхразуму
Когда мы достигнем ИИ человеческого уровня, то мы будем жить с ними в мире и равенстве.

Конечно же нет.

Сильный ИИ с тем же уровнем разума что и человек, на самом деле имеет огромные преимущества:

Аппаратное обеспечение:
  • Скорость. Частота работы наших нейронов примерно 200 Гц, в то время как современные процессоры работают на 2 ГГц, то есть в 10 миллионов раз быстрее чем наши нейроны, а ведь к тому времени когда мы получим сильный ИИ, эта цифра будет ещё внушительнее. Передача данных между нейронами равна примерно 120 м/с что не идёт ни в какое сравнение с оптоволокном, способным передавать данные со скоростью света.

  • Размер и память. Мозг ограничен размером черепа, он никогда не будет на много больше чем сегодня, при скорости передачи 120 м/с сигналы между далёкими друг от друга отделами мозга будет передаваться слишком долго. У компьютеров же нет такого ограничения, они могут быть практически любого размера и иметь в своём арсенале куда больше вычислительной мощности. Это же справедливо и для памяти, как оперативной, так и для физической.

  • Надёжность. И дело не только в том, что память компьютеров гораздо точнее человеческой. Транзисторы гораздо точнее, чем нейроны, и у них гораздо меньше шансов на деградацию (их легко заменить). Мозг быстро устаёт, в то время как компьютеры могут работать 24/7.


Программное обеспечение:
  • Возможность обновления и масштабирования. В отличие от человеческого мозга, программное обеспечение компьютера легко обновлять и модифицировать. В то же время программы можно улучшать и в тех областях, в которых человеческий мозг имеет не такие уж и хорошие способности. Зрение человека является очень продвинутой и слаженной системой, но в то же время математические способности мозга оставляют желать лучшего. Компьютеры могут сравняться с человеком в том что касается зрения, но при этом получить более оптимизированные математические способности или более продвинутые способности в любой другой сфере.

  • Человечество обошло все другие виды животных в том, что касается взаимодействия между отдельными индивидами. Это началось с создания языка и формирования крупных общин, потом эта способность была усилена изобретением письменности и печати и в недавнее время, с развитием интернета, получила огромный толчок в своём развитии. И именно благодаря нашему коллективному интеллекту мы смогли так далеко уйти по уровню развития от всех других видов животных. Компьютеры же в свою очередь обойдут нас в этом. Благодаря интернету, ИИ смогут синхронизировать свои знания, и таким образом каждый из них будет иметь доступ ко всем знаниям, полученным любым из ИИ. Так же они смогут эффективнее людей работать над одной задачей, так как у них не будет конфликта интересов, плохого настроения, проблем с мотивацией и других проблем, свойственных человеку. ИИ, который сможет достичь человеческого уровня через самопрограммирование, будет смотреть на “человеческий уровень интеллекта” не более чем как на важную веху своего развития, и, конечно же, ничто не заставит его остановиться на это уровне, он проскочит его и будет огромными прыжками увеличивать свои “умственные способности”, используя весь арсенал своих преимуществ перед человеком. И рано или поздно станет искусственным Сверхразумом.


И это конечно испугает человечество, и на то есть причины, А) Мы знаем всех животных населяющих Землю и понимаем уровень их интеллекта именно потому, что их уровень гораздо ниже нашего и Б) Умный человек нам кажется на порядок умнее глупого человека, мы видим это примерно таким образом:



Когда ИИ будет развиваться, мы увидим что он становится достаточно смышлёным для животного. Потом, как только он достигнет нижней границы человеческого интеллекта, Ник Бостром называет это “уровнем деревенского дурачка”, мы будем думать “ой, как мило, он же как деревенский дурачок”. Тут есть одна ошибка. С точки зрения развития разума, весь спектр человеческого интеллекта, от деревенского дурачка до Эйнштейна, занимает очень меленький промежуток, то есть сразу после достижения уровня человеческого дурачка и получения звания ИИ человеческого уровня, наш ИИ неожиданно и очень быстро станет умнее Эйнштейна, и мы даже не представляем, где могут быть границы его развития.



Что же будет дальше?

Взрывное развитие ИИ

С этого момента статья становится довольно страшной, надеюсь вам понравилась “нормальная” часть статьи. Хочу предупредить вас о том, что то что я буду рассказывать дальше не научная фантастика и не страшилка, а вполне реальные прогнозы большого количества ученых. Просто помните это, пока будете читать заключительную часть статьи.

Как было сказано выше, большая часть методов создания сильного ИИ предполагает саморазвитие ИИ до этого уровня. И даже если сильный ИИ будет создан другим способом, с его стороны будет достаточно глупо не заняться саморазвитием. И здесь мы приходим к тому, что называется рекурсивным самосовершенствованием. Это произойдёт примерно так:

Развитие до нижней границы человеческого уровня разума займёт у ИИ десятилетия. Компьютер будет понимать окружающий его мир примерно так же как 4-х летний ребёнок. Потом, неожиданно, примерно через час, система выдаст Теорию великого объединения, которая объединит в себе общую теорию относительности и квантовую механику, то есть сделает то, на что не способен ни один человек. 90 минут спустя ИИ станет искусственным Сверхразумом в 170 000 раз умнее человека.

Сверхразум такой силы будет для нас на столь же непостижим, как для шмеля Кейнсианство. В нашем мире быть умным значит иметь IQ выше 130, быть глупым значит иметь IQ порядка 85, у нас даже нет названия для IQ 12 952.

Залог доминирования человека на планете лежит в его относительной разумности в сравнении с другими живыми существами. С того момента, как мы создадим искусственный Сверхразум, он станет самым могущественным “существом” на нашей планете, и всё живое и даже само существование жизни будет полностью зависеть от прихоти этого Сверхразума.

И если человечество с его скудным умом смогло изобрести WI-FI, то для столь умного “существа” вряд ли будет проблемой управлять всеми атомами и их движением как ему заблагорассудится. Всё что мы считали магией, любые сверх способности, которые мы когда-либо приписывали любому из самых могущественных богов, будут в его распоряжении. Всё, о чем мы когда-либо могли мечтать: излечение любых болезней, победа над голодом или даже самой смертью, управление погодой для защиты жизни на земле, всё это станет возможным. Настолько же возможным, насколько и полное уничтожение жизни на земле. Когда мы создадим этот Сверхразум, ему не будет равных на планете, и останется лишь один вопрос: Будет ли он добрым?
Артём @Kh_artem
карма
16,0
рейтинг 0,0
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое

Комментарии (130)

  • +7
    Осилил статью, отличный перевод! Популяризируем трансгуманизм, побольше бы статей. Радует, что стали чаще появляться такие вот вводные статьи для большинства. Продолжение есть? Я имею в виду на английском, просто автор упомянул про 150-250 лет, но в конце «забыл» про это.
    • 0
      Есть, ссылка в конце оригинальной статьи.
    • +3
      Да есть, её так же планирую перевести. Очень рад что статья нашла своего читателя.
      • 0
        Собственно я давно этим увлекся, сам попал сюда с подобной статьей, покороче правда ;) В черновиках есть еще пара идей, постараюсь дописать.

        Ждем перевода!
    • –3
      Хе :-)
      Продолжение можно будет наблюдать через экран своего монитора достаточно быстро. А потом и в окне че-то должно поменяться.

      Вот вам. Эти сверхразумы уже тут. Уже пять лет тут у всех под носом.

      Самореплицируют друг друга используя вполне себе генетические алгоритмы естественного отбора. Обучаются. Становятся умнее, надежнее быстрее, автономнее, независимее. Скоро умные контракты расцветут.

      То есть уже прямо сейчас можно писать код автономных агентов: Раз, Два, Три. В первых двух случаях они будут работать прямо сейчас. В третьем — буквально через пару месяцев.

      Те кто с уровнем деревенского дурачка наивно полагают что эта такая штука, когда гики поиграются и отпустит.
      Те кто могут себя назвать разумными видят в этом серьезного конкурента финансовым и государственным структурам.
      Те кто как Эйнштейн видят в этом революцию ВООБЩЕ ВО ВСЁМ, в том числе и в области глобального интеллекта. Именно такого, о котором идет речь в статье.

      На данный момент криптовалютные системы используют биологических(юзеры) и искусственных(ноды, майнеры) агентов. Не далек тот день когда биологические агенты им станут не нужны.

      Как вы думаете совпадение ли это? Расчеты Курцвейла и Сатоши сошлись на 2040 году? Просто задумайтесь об этом на секунду.
      Если Вам действительно интересна эта тема, то вот моя подборочка регулярных материалов и источников. Даже контрибьютить можно. Вот еще подборка хорошая разных статей.
  • +3
    Спасибо!

    Хочется на это надеятся, но мне в голову пришёл один момент, который может поломать эту экспоненту – время жизни одного поколения.
    Скорее всего я ошибаюсь, но есть ощущение, что революционных изменений до появления следующего поколения.
    В терминах статьи, ЕДП всегда будет >= времени смены одного поколения.

    Просто до сих пор время ЕДП было сильно больше 1 поколения, поэтому данный фактор не влиял на кривую прогресса.
    • +2
      Тоже об этом думал. В конце 20-го века роидлось первое поколение, для которого скорость изменения окружающего мира вида невооруженным глазом. Каждый из нас помнит, как 10-15 лет назад жизнь была совершенно другой.
      Но мне кажется, для НТП это плюс, а не минус. Люди, привыкшие к изменениям, будут меньше препятствовать прогрессу.
      • +18
        — Чой-то, внучёк, у тебя глазки бегают, снова дряни какой выжрал поди?!
        — Деда, сколько раз повторять, я с фолловерами контачусь. И я не наркоман! Мне доктор таблетки прописал, чтоб новый наноэкран в глазах прижился!
        — А, ну ладно, ладно… Кхе-кхе, пойду дальше свой киндл читать… Нано-шмано… Был в моё время нано-инноватор один! Тоже глазки бегали…
      • +2
        Мы то помним как жизнь была другой, если сесть за старые журналы или найти «древний» магнитофон. Сегодняшние смартфоны, OK Google и прочие вещи воспринимаются будто всегда были. И правда всё ускоряется.
  • 0
    очень интересно! спасибо за такую большую работу по переводу! прочиталось легко и, думаю, можно далеким от этой темы людям показывать, чтобы просвещались. Плюс поставить не могу, кармы мало. Очень жду продолжения!
  • НЛО прилетело и опубликовало эту надпись здесь
    • +1
      Опять 25. Вы так говорите, будто ИТ — какая-нибудь хипстерская игрушка, а не основа коллективного разума цивилизации и прогресса каких-либо технологий вообще. В докомпьютерную эпоху это была бумага, книгопечатание, примитивные счетные машины и т. д., и после появления науки как таковой этот уровень ИТ позволил быстро насоздавать экстенсивными методами ряд самых базовых технологий для решения самых насущных задач растущего населения еще толком не освоенной планеты. Темпы этих изменений в быту шокировали современников, но затем мы к таким переменам привыкли и перестали их замечать, а базовые технологии, типа автомобилей, в то же время приобрели форму, близкую к оптимальной, и перестали так быстро внешне меняться. К началу 1970-х обозначилась потребность в переходе на интенсивные методы (по экологическим, демографическим и другим причинам), когда на первое место вышли ИТ как способ, в частности, умнее и эффективнее распоряжаться имеющимися ресурсами. Но при этом мы отнюдь не замыкаемся на этой планетке, а экспоненциально наращиваем солнечную энергетику, строим электромобили с аккумуляторами, проектируем пассажирский трубопроводный транспорт и рвемся в космос. Хоть и в 1970-х идеология «пределов роста» оказала существенное влияние на ожидания общества, сместив их к концу века от яблонь на Марсе к киберпанку и Матрице, но сейчас уже наоборот наблюдается скорее отход от «полной виртуальности» к «новой экспансии» в пространство и время. В частности, появление упомянутых статей — признак осознания важности такого развития, неприемлемости «темно-зеленых» бредней.
      • НЛО прилетело и опубликовало эту надпись здесь
    • +1
      Вроде как биотехнологии в последнее время заметно двинулись, в том числе благодаря прогрессу в IT.
      • НЛО прилетело и опубликовало эту надпись здесь
        • 0
          В первую очередь, генетика (расшифровка, модификации, вплоть до синтеза генома) и биоинформатика, протезирование (в т. ч. 3d-печать тканей), нейроинтерфейсы, да хоть OpenConnectome. Первая расшифровка генома заняла 13 лет и несколько лярдов долларов, а спустя всего 10 лет любой может себе на 23andme заказать. 60 лет назад от грибка вымерли почти все бананы, а сейчас можно было бы успеть оперативненько ГМОдифицировать сорта. У крыс лазером регенерируют зубы из стволовой ткани. Китайцы готовятся тестировать технологию «трёх родителей». Это ли не парадигм шифт?
          Из более теоретических областей – в эволюционной биологии дофига всего открылось и перевернулось, и даже там можно практичного накопать.
          Вообще, есть такая особенность, что для человека со стороны действительно важные штуки могут казаться мелочью. Как и у нас, программистов – изобретение языков высокого уровня стало вполне себе прорывом, только поди это объясни неспециалисту. «И чё, как совали компьютеру дырявые картонки, так и суёте, нет бы с ним разговаривать, как у этого, как его, Азимова».
          • НЛО прилетело и опубликовало эту надпись здесь
          • –1
            генетика


            Обратите внимание, что это не новые научные открытия — а практическое воплощение открытий полувековой давности.

            То есть это все конечно хорошо и правильно что мы внедряем на практике открытия середины XX века, но где новые шаги вперед сопоставимые с открытием генома, ядерной энергетики, электричества, радио?

            • –1
              И куда они «вроде как» двинулись эти технологии, что можно было бы назвать, уже сейчас, шагом в истории развития человечества?

              Заметьте, там не было про принципиально новые™ открытия. А начало интенсивного их использования — вполне себе шаг.
              Кроме того, я не очень понимаю априорные критерии, по которым эти шаги можно сопоставлять, и мои, видимо, отличаются от ваших. А при некоторой выбранной планке можно заявить, что и после огня и колеса ничего нового не было.
              • +1
                Отлично, что будем делать после того как внедрим все изобретенное раньше?

                Кроме того, я не очень понимаю априорные критерии, по которым эти шаги можно сопоставлять


                Расширение возможностей человека.

                Например изобретение телеграфа радикально расширило возможности по передаче информации по сравнению с бумажными письмами. Радио — по сравнению с телеграфом. Мобильные телефоны — по сравнению со стационарными — хотя здесь уже увеличение сильно меньше, мобильник конечно удобнее радиостанции, но радиостанция дала саму возможность беспроводной передачи данных — а это огромный скачок, это возможность их передачи там где вообще раньше никакой не было, а не просто повышенное удобство. Появление смартфонов и пакетной передачи данных — еще меньше степень увеличения возможностей.

                Ну а появление смартфонов с пальцевым вводом — это уже с точки зрения расширения возможностей почти ничего. Сравните это с переходом от передачи телеграмм по проводам к возможности связать по радио из любой точки вне зависимости от наличия проводов.

                Чтобы совершить аналогичный рывок сейчас надо изобрести какой-то способ передачи инормации сильно быстрее радиоволн, вроде гиперпередатчиков из основанной на линейной экстраполяции фантастики.

                То же самое со средствами передвижения.Поезд и автомобиль — это резкий скачок вперед по сравнению с лошадьми. Самолет — резкий скачок вперед по сравнению с автомобилем. Ракеты — резкий скачок по сравнению с самолетами.

                До появления ракет мы не могли летать в космос, после появления можем. Это серьезно расширение наших возможностей.

                А что называют сверхскоростным прогрессом сейчас? Те же самые ракеты но тратящие поменьше топлива и несколько более дешевые в производстве? Сравните это с переходом от самолетов к ракетам в целом в середине XX века.

                Я не говорю что прогресс остановился вообще. Но вот замедление как мне кажется наблюдается.
                • 0
                  Никакого замедления нет. Чтобы сделать машину (когда вокруг одни лошади), нужен огромный интерес и невероятный энтузиазм, а главное — идея. Просто одержимость создать такое устройство, и да, её можно реализовать в одиночку. Да, надо быть гением своего времени, но можно.

                  А сейчас? Сейчас вы хотите того же самого, только чтобы варп-двигатели появлялись. А это не просто изобретение, которое может изобрести гений, это просто свод тысяч технологий и апогей технологического развития человечества, тут нужна команда из сотен ученых, посвятивших этому жизнь и не факт (!), что у них что-то из этого выйдет.

                  Я считаю, что не прогресс замедляется, а сложность прогресса увеличивается и мы просто не успеваем увеличивать нашу производительность, по отношению к росту сложности. Да, мы пытаемся катализировать прогресс посредством интернета, связи, компьютеров, вычислений, но этого недостаточно и эта «недостаточность» только растет, нужно что-то более революционное. Тот же ИИ или интерфейс Человек-Компьютер. Вот тогда мы и начнем видеть, как прогресс ускоряется на наших глазах.
                  • +1
                    Никакого замедления нет. (...) Вот тогда мы и начнем видеть, как прогресс ускоряется на наших глазах.


                    Эти два предложения противоречат друг другу.

                    Если сейчас замедления нет, то почему мы увидим ускорение только в будущем после выполнения определенных условий?

                    Сейчас вы хотите того же самого, только чтобы варп-двигатели появлялись.


                    Я писал не про «хочу» а про объективный анализ происходящего.

                    Я привел метод оценки скорости прогресса. После чего банально совместил эту самую скорость со шкалой времени. И все.

                    Возможно в будущем прогресс снова ускорится. Но я как раз и пишу что это только возможно.

                    Я считаю, что не прогресс замедляется, а сложность прогресса увеличивается и мы просто не успеваем увеличивать нашу производительность, по отношению к росту сложности.


                    Так вообще-то это и есть замедление прогресса. Вы здесь пишите уже про причины такого замедления.

                    Возможно он замедляется из-за сложности — это другой вопрос.

                    Да, мы пытаемся катализировать прогресс посредством интернета, связи, компьютеров, вычислений, но этого недостаточно и эта «недостаточность» только растет, нужно что-то более революционное. Тот же ИИ или интерфейс Человек-Компьютер.


                    Вы не замечаете как сами противоречите себе? Сначала вы говорите что никакого замедления нет, а потом говорите что мы пытаемся прогресс ускорить но это не получается.

                    Касательно революции — я не отрицаю ее возможности. Я пытаюсь сказать что сейчас этой революции нет и нет никаких гарантий что она произойдет вот и все.

                    Вот вы говорите что прогрессу мешает рост сложности. И что возможно этот рост сложности будет преодолен революцией в области ИИ.

                    Не замечаете здесь замкнутого круга? Ведь если рост сложности мешает прогрессу в целом, то он мешает в том числе и прогрессу в области ИИ.

                    Получается проблема курицы и яйца — для создания ИИ надо преодолеть сложность, для преодоления сложности надо создать ИИ.

                    Ну и второе возражение более простое — нет строгих доказательств что нам мешает только рост сложности.

                    Вполне возможно что мы уперлись в фундаментальные ограничения на уровне законов природы.

                    И например способов радикально ускорить перемещение в космосе или новых источников энергии принципиально отличающихся от известных сейчас (того же термояда) просто не существует. Ну или они недоступны в пределах нашей солнечной системы.
                    • –1
                      Нет, я не противоречу себе. Если выразить прогресс численно, то он останется на том же уровне. Я имею в виду, что на одомашнивание лошади требуются исследования сложности 1/3x, для исследования автомобиля — x, для самолетов — 3x, для ракет — 9x, а для варп-двигателя — 27x! Каждая новая революция дается всё сложнее, но при этом все эти революционные открытия произошли не в линейном порядке. Казалось бы, по моей логике лошадей должны были начать использовать и сразу закончить, ведь учитывая «низкую» сложность можно было сразу изобрести автомобиль ещё до нашей эры, ведь это «просто». А нет, просто, когда прогресс быстрый и когда он ускоряется.

                      Раньше для людей было сложно оседлать лошадь, сейчас сложно даже представить, что такое сверхсветовое движение.

                      Не будь ускорения прогресса, после лошадей и машины мы бы не увидели самолет ещё 100 тысяч лет.
                      • +1
                        Что вы в таком случае вообще называете прогрессом и как вы его измеряете?

                        Я называю прогрессом факты совершения важных открытий.

                        Изобрели огонь — факт прогресса. Одомашнили лошадь — факт прогресса. Изобрели автомобиль, самолет, радио — это все факты прогресса которые можно поместить на временную шкалу.

                        Я не пытаюсь оценивать сложность и вероятность изобретения автомобиля в каменном веке или сделать прогноз на будущее, я просто размещаю исторические факты на временной шкале.

                        1/3x, для исследования автомобиля — x, для самолетов — 3x, для ракет — 9x, а для варп-двигателя — 27x!


                        Почему для варп-двигателя 27, а не, допустим, 10000 или вообще бесконечность (варп-двигатель невозможен по фундаментальным физическим законам)?

                        Я не вижу смысла в таких оценках так как они представляют собой чистой воды фантазии и не основаны на объективных фактах.

                        Факт изобретения самолета например хорошо задокументирован. Степень увеличения возможностей человека при неком желании можно даже количественно измерить и она уж точно объективно задокументирована лететь быстрей чем ехать на поезде и можно прилететь в такие места которые вообще недоступны на наземном транспорте.
                        • 0
                          Под прогрессом я подразумеваю скорость генерирования новых исследований и изобретений. И совсем необязательно, чтобы они были революционными. Ведь то, что было бы два века назад невероятно сложным и необъяснимым в нашем веке просто очередное «микроулучшение».

                          Возьмем пример: IMOD дисплей на базе маленьких зеркал и интерференции света.
                          По вашей логике разработка этой технологии это просто пшык в сравнении с самолетом, просто очередное «микроулучешние» в технологии отображения данных. Да, возможно это так, но за этой технологией лежат годы работы ученых и других специалистов. Это тоже надо считать прогрессом и значимой технологией.

                          Эти коэффициенты я поставил просто так, они не имеют ничего общего с реальностью, главное, что у самолета этот коэффициент меньше чем у ракеты.
                          • 0
                            Тогда все очень просто — из вашего прогресса никак не следуют выводы, описанные статье и обычно описываемые сторонниками сингулярности.

                            Да, ваш прогресс может ускоряться и ускорять практически бесконечно.

                            Проблема в том что возможности человека этот никак не расширит. Не будет сильного ИИ, полетов к другим звездам и прямо манипуляции атомами, описанных в статье вот и все.

                            Обычно сингулярность понимают именно как скачкообразное расширение возможностей человека, считается что после сингулярности человек или заменивший его ИИ станут всемогущими.

                            Определений всегда можно придумать массу — важно то какой в них практический смысл в отношении событий реального мира.
                            • 0
                              А кто сказал, что я прям с каждым словом статьи согласен?) Она интересная, местами есть правда, но не более.
                              • 0
                                Мои аргументы и определение прогресса — этот ответ на статью и в целом на распространенную сейчас идею сингулярности, которая вот-вот сделает человека всемогущим.

                                Они с вашими практически не пересекаются.
  • +1
    Знатная статья! Великолепный перевод! Огромный труд.
  • 0
    /цинично усмехаясь/
    Что-то такое, насчет того, что уже вот-вот технический прогресс подарит нам искусственный интеллект и уже пора думать как мы с этим будем жить, я уже читал, да. И ловкость рук с запихиванием в понятие «исскуственный интеллект» элементарной автоматики там тоже применялась, и наивные предложения «запихнем мозг в микротом, нарежем на тонкие ломтики, потом воспроизведем структуру и получим ИИ» тоже имелись.
    Вот только были это книжки годов эдак 60-х…

    • +3
      Только в этих эдак 60-ых годах не было даже в мечтах железа, способного это всё дело запустить.
      • –1
        Оптимизм на тему «вот-вот», тем не менее был ровно такой же как бы не еще больше.
        Что какбы намекает что лет через полста потомки имеют все шансы посмеяться над нынешними оптимистами…
        • 0
          Ну вот конкретно Курцвейл был одним из тех самых оптимистов 60-х и в 1965 году написал программу-«композитора», сочинявшую некую музыку. И остается оптимистом до сих пор, причем его прогнозы по существу или по срокам практически не пересматривались. Потому что в их основе лежат скорее расчеты, чем воображение под влиянием самых первых успехов «ИИ», типа экспериментальных программ-переводчиков из тех же времен.
  • +3
    Всем, кто осилил статью, в очередной раз настоятельно советую прочитать «Сеть Нанотех» авторства Александра Лазаревича. А потом — «Технокосм» =)
    • +1
      Автору перевода — отдельное спасибо! Жду продолжения!
  • –2
    Не совсем согласен. Человек не будет уступать ии:
    1) когда человек хорошо разберет работу мозга, то станет ясным как белый день очень много вещей, такое как эмоции, как мы принимаем решения и многое другое, психологам практически не останется работы, потому что будут известны все механизмы. Это будет новое поколение людей, обсолютно отличающиеся от нас мышлением, они будут более логичны, лучше контролировать себя, это все плодотворно повлияет на развитие культуры и технологий. Сейчас каждый человек имеет проблемы в своей жизни только потому что он плохо понимает происходящую ситуацию, у него есть только интуиция, а интуиция это просто нечеткое понимание происходящей ситуации и я думаю эта проблема решиться, даже сейчас я изучая ИИ стал адекватней реагировать на окружающий мир, мне уже не нужны советы, достаточно понять истинную причину проблемы, а проблема всегда кроется в самом себе, вернее проще осознать проблему в себе, потому что ее можно исправить в отличии от откружающего мира, в том числе людей, у меня в жизни стало действительно меньше проблем!

    2) Людям не составит труда дополнять свой мозг новыми мощностями, вплоть до полного переноса мозга в цифровой, как в фильме призрак в доспехах. Так же если увеличить мощьность мозга, то и увеличится время бодрствования, ведь мы спим только для того чтобы сжать информацию и удалить лишнее за текущий день, и если еще добиться ускорения этого процесса в мозге, вы представьте какое кпд можно выдавать, мы пол жизни спим!

    3) я считаю что мощностей возможно нужно будет в двое меньше для сильного ии, тут вопрос алгоритмов оптимизации.

    В итоге с автором я согласен с тем что это будет скоро, и абсолютно не стоит бояться ИИ, бояться стоит самих себя, проблемы будут только в нас, то как мы на все будем реагировать. Больше всего меня тревожит вопрос религий, как они будут на это все реагировать, религиозным людям будет гораздо сложнее осознать текущую действительность
    • +1
      по поводу сна есть другая теория, подтвержденная экспериментами
      polit.ru/article/2014/05/04/pigarev/
      • 0
        Вы можете как то вкратце суть изложить почему это все же другая теория? Потому что я вторую огромную статью сейчас не осилю.
        По поводу сна я имел вот это — habrahabr.ru/post/216633/
        • 0
          вкратце суть статьи такова, что кора головного мозга не специализированный вычислительный елемент, а универсальный. Днем она обрабатывает информацию из глаз, ушей и других чувств, которая поступает из внешнего мира, а ночью переключается на обработку информации из наших внутренних органов, в которых огромное количество сенсоров. Таким образом мозг никогда не спит, просто идет переключение между разными процессами обработки информации
          • 0
            Это само собой, я не говорю что во время сна этого не происходит. Я лишь затронул часть информации которая обрабатывается за целый день. В статье которая в предыдущем комментарии это все хорошо описывается и я с ней согласен, более того она абсолютно ничем не расходится с моей а просто дополняет, я вообще бы дал почитать Ивану Пигареву работы Редозубова, я думаю ему бы это сильно помогло
            • 0
              мой комментарий был к этой строчке
              «ведь мы спим только для того чтобы сжать информацию и удалить лишнее за текущий день»
            • +1
              У многих людей почему-то существует заблуждение, будто мозг работает на какую-то произвольную долю своей максимальной производительности. Мозг всегда работает на 100% и если, мы например какими-либо препаратами, например заместим обычные нейромедиаторы более быстрыми, то все, что мы получим это слабоконтролируемый приступ эпилепсии. Если у человека мозг по каким-то причинам работает не на 100%, то это говорит об органическом поражение тканей. Следует понимать, что используя препараты, техники обучения или какие-либо иные способы стимуляции мыслительной активности этим мы отбираем у других процессов в организме «процессорное время», так сказать. И таким методом у нас может получится психически неуравновешенный психопат, курсирующий между шизофренией и гениальностью (это еще, если повезет) с проблемами сна и лимбической системы. Даже нейроимпланты не будут в этом случае панацеей, так как мозг по сути очень энергосберегающая система и в случае, если мозг приспособится к имплантам, то сам станет работать менее эффективно. Вся надежда на направленную эволюцию и генную терапию, которая позволит увеличить саму массу мозга.
    • +1
      интуиция это просто нечеткое понимание происходящей ситуации
      Интуиция — это один из способов оптимизации, когда для четкого понимания не хватает вычислительной мощности/скорости :)

      Например, при вождении: мы уже давно имеем достаточную теоретическую базу для расчета коэффициентов трения, вектора силы своей машины, других машин, расположение других машин в пространстве, примерное их положение через некоторый небольшой отрезок времени и т. д. Другое дело, что среднему человеку для этого понадобится тонна справочников и несколько дней вычислений — результат будет уже не актуальным.
      • 0
        Верно, я тоже и имел ввиду. Просто когда ведешь машину не нужно разбирать свои действия, а вот в сложно психологической обстановке стоит.

        Простой пример — общение с собственной женой, девушкой. С ними часто идет какой то диалог, где часто ты находишься уже в тупике т.к. не понимаешь уже чего сам хочешь и чего она хочет, девушки очень искусно умеют жонглировать восприятием оппонента, они могут легко тебя заставить верить во что угодно и самое главное тебе будет казаться что это твое мнение и твое решение, девушки в этом нас часто превосходят.

        Вот пример:
        Жена доказывает что она права, с ее слов выглядит все логично но интуиция показывает что что то тут не так, и чтобы в этом разобраться надо все разбирать до мельчайших деталей, чтобы понять что на самом деле происходить, потом все это сформулировать и поделиться с женой, когда ты это делаешь, жену это ставит в тупик. Они привыкли что мужчины в этом плане отступают, потому что эту бодягу нам не интересно разгребать и проще согласиться и пойти дальше делать свои дела.

        • +3
          разобраться надо все разбирать до мельчайших деталей, чтобы понять что на самом деле происходить, потом все это сформулировать и поделиться с женой, когда ты это делаешь, жену это ставит в тупик

          Поделитесь секретом, как вы это делаете? Как вы добиваетесь того, чтобы жена дослушала ваш разбор, не перебила, не перевела разговор на другую тему, не подняла другие вопросы, которые до этого не рассматривались?
          • 0
            И чтобы не обиделась.
      • 0
        Если брать по Гальперину интуицию по отношению к очень подробно изученной сферы деятельности, то интуиция это не вербализированный результат оценки ситуации. По мере изучения какого-либо действия или навыка мы проходим определенные стадии. Возьмем навык счета — сначала мы проговариваем действие, потом учимся делать его в уме и в конце концов переходим со слов и символов на целостные образы. Это уже говорит о наличие автоматизма. Например я помню в бытность, когда был студентом писал очень много курсовых и дипломов. Практическая часть работ у психологов состояла из анализа каких-либо переменных методами статистики. Когда я просчитывал результаты, то уже интуитивно понимал и предсказывал какой будет результат у вычислений. Можно взять еще пример пожарника: горел какой-то завод, сам пожарник впал в некоторый ступор и затем закричал своим коллегам что бы они отходили от завода. Спустя пару минут произошел взрыв и благодаря пожарнику жертв не было. При разборе случая сам пожарник не понял сразу почему закричал, но потом проанализировав ситуацию понял, что судя по огню, дыму он понял, что может произойти взрыв и скомандовал на отход от источника возгорания.
  • +3
    А что если сверхразум облегчит жизнь людям, люди постепенно забудут как это работает, изобретателей станет меньше, учиться не будет смысла и для нас этот сверхразум станет таким же непознанным объектом как наш собственный мозг?

    Или такой вариант: мы создадим этот сверхразум, сами обленимся и останемся на своей текущей ветке развития, а может и даже откатимся чуток назад и станем не доминирующим видом на Земле, а уже вторым по счету после сверхразума, а текущий сверхразум встанет на пьедестал доминирования, а потом мы для него станем одним из видов земной фауны.

    Прошу прощения, за мысли вслух…
    • +1
      такая часть люде всегда будет, они и сейчас есть, но это просто от воспитания окружающим миром. Человеку по своей природе всегда мало и он хочет больше, поэтому такого не произойдет.
    • 0
      Так и будет. В лучшем случае.
    • 0
      люди постепенно забудут как это работает, изобретателей станет меньше, учиться не будет смысла


      Это будут уже не люди, а животные. Я надеюсь такое произойдет не со всеми. Но если произойдет то не вижу смысла жалеть животных. Человек остается человеком пока он занимается творчеством и познанием (обучением), именно это отличает его от животного.
    • 0
      Как вариант, сверхразум может помочь человеку трансформировать органичивающее его способности тело в нечто более продвинутое.
  • +4
    Искусственный интеллект, который был бы способен создавать бактерий, микробов и прочие организмы можно было бы назвать ИИсус)
    • +10
      ИИ.sys, ага:)
      • 0
        Тогда уж AI.SYS
  • +6
    90 минут спустя ИИ станет искусственным Сверхразумом, 91 минуту спустя вселенная схлопнется и начнется игра сначала )
    • 0
      Ага. Эту идею, если не ошибаюсь, продвигает писатель Никонов в книге «Апгрейд обезьяны». Он высказывает мысль, что конечная цель существования человека это ни много ни мало взорвать всю Вселенную.
      Так что на 91-й минуте цель будет достигнута.
      • 0
        Помню у кого-то был рассказ на подобную тему. Там описывались разные периоды истории и в каждом случае кто-то из людей спрашивал «Как преодолеть энтропию вселенной?». Местная википедия отвечала «недостаточно данных». Каждый раз там был все более поздний период и в концовке произошла тепловая смерть вселенной. Спустя миллиарды лет википедия выдала:" решение найдено!" и этот суперкомпьютер устроил новый Большой взрыв.
  • +3
    Какие интересные спекуляции, особенно вот это

    >>90 минут спустя ИИ станет искусственным Сверхразумом в 170 000 раз умнее человека.

    Считаю, спекулирую если хотите, что существуют фундаментальные ограничения и на возможности интеллекта, в которые мы (или постлюди) неизбежно упремся. Как скорость света или масса нейтронной звезды…

    Тем более, что даст создание ИИ? Еще один разум среди 7-9 миллиардов… Люди ведь некуда не денутся и людям придется решать человеческие проблемы
    • НЛО прилетело и опубликовало эту надпись здесь
      • +1
        Нет, я стараюсь смотреть на мир, где далеко не все люди имеют доступ к современным технологиям (да что там говорить, к медицине хотя бы уровня 60-х). Поэтому у меня такой пессимистичный настрой: откуда ИИ возьмет энергию и ресурсы, чтобы решить наши человеческие проблемы? На самом деле, еще один разум. Пусть и очень мощный, да.
        • 0
          Ресурсы — это вообще не проблема и тем более для ИИ. Забудьте про дефицит ресурсов. Причины недоступности современных технологий и других экономических благ для части населения Земли (которая тем не менее сокращается) — прежде всего политические, в том числе и основанные на пропаганде мальтузианских бредней про дефицит ресурсов (типа того, как дурят северных корейцев, что американцы по карточкам получают целый килограмм хлеба). Читайте Диамандиса, Тоффлера, Курцвейла, FM-2030, Саймона, Борлоуга и др.

          Ресурсов в нашем распоряжении сегодня не так много прежде всего из-за слаборазвитости технологий. Солнечной энергии вокруг — завались, есть энергия — значит будет и опреснение воды, и сколь угодно глубокая переработка отходов, молекулярный нанотех и т. д.
          • +1
            Дело не в том, что энергии и ресурсов нет, а в том, что на их освоение требуется время. Не 90 минут.
    • +2
      Какие фундаментальные ограничения? Речь даже близко не заходила о таких штуках, как компьютрониум из нейтронной звезды, где мы в принципе можем с ними столкнуться.
      Наш существующий мозг (как и весь организм) кишит эволюционными багами, которые особенно проявляются в отношении интеллекта. Задачей эволюции не было целенаправленное создание разума с максимальным IQ (о каких-либо «целях» эволюции вообще говорить некорректно), просто так получилось, что интеллектуальные возможности мозга людей оказались эволюционно эффективными.
      Так же как предел скорости полета птиц не ограничивает авиацию и не запрещает космонавтику, так и интеллект человека в его нынешней форме — капля в море по сравнению с потенциально возможным.
      Если взять, скажем, квантовые вычисления — там линейное добавление количества кубитов вызывает экспоненциальный рост производительности системы. То есть даже если мы просто подключим мозг к квантовому компьютеру, теоретически мы сможем эмулировать сколь угодно мощный интеллект (даже если спекулятивная теория Пенроуза верна).
      • +1
        Как я понимаю, в случае компьютрониума из нейтронной звезды (что само по себе весьма спорная концепция с точки зрения термодинамики), вы признаете возможность существование ограничений на интеллект. Также, как я понял, вы приравниваете уровень интеллекта к IQ, с чем я не соглашусь, так как данный тест оценивает только некоторые особенности когнитивных способностей особей в одной популяции.

        Я соглашусь, что мое мнение очень спорное, но у меня все же есть некоторые косвенные основания считать, что существуют фундаментальные ограничения на параметры интеллекта. Например: если в процессе своей работы интеллект должен работать как совокупность множества синхронизированных вычислительных узлов, то должны ли они находиться в одном световом конусе от события активации первоначального узла? Есть еще несколько подобных идей (без всякого quantum woo), которые мне иногда приходят в голову. Это в высшей степени спекулятивно. Возможно, я ошибаюсь. Я буду рад, если я ошибаюсь (да и сам написал, что возможно постлюди дойдут до предела). Только каковы эти пределы?
        • 0
          Общее определение IQ — коэффициент общей обучаемости. то есть скорость с которой человек способен обучиться выполнению новой интеллектуальной задаче.
          • 0
            Интересное определение, раньше я такого не встречал
            • 0
              Скажем так это перевод на русский язык :)
              • 0
                Вот честно, нигде не встречал. Про general intelligence встречал. Про cognitive abilities видел.
                • 0
                  Честно говоря я даже не помню конкретно откуда это определение. Помню по лекциям на общей психологии звучало такое определение.
    • –6
      Мой Вас совет. Понаблюдайте как работают криптовалютные сети. Больше вопросов не останется.
      • +2
        Бессмысленный совет. Наблюдать игры спекулянтов с очередным модным финансовым инструментом?
        • –4
          Вы как тот человечек на второй картинке.

          Аппелирую к комментарию выше.

          Почитайте бумаги, посмотрите в код. Добавлю еще немного, пожалуй. Вот.

          Революция в научной среде:



          Кода много интересного:



          А всё это потому-что есть такая штука как алгоритмы консенсуса. Один из которых решил Проблему византийских генералов.
          А консенсус алгоритмы умеют делать замкнутую систему сбалансированной, устойчивой и как бе умной.
          Так что поверьте. Если где и смотреть, то там.
          • 0
            Разумеется, рост публикаций с нуля до конечной величины даст бесконечную оценку в процентах. Технологическая сингулярность? Тема популярна, постградам надо писать статьи, постдокам нужна работа, профам нужны гранты, математикам нужна цитируемость…
            • –3
              Да уж. Видимо слово «код» вам ни о чем не говорит. Понятно почему ТМ хабр расколола.
              • 0
                Код мне знаком, в прикладном ключе. Я прежде всего ученый-инженер.

                На картинке выше нашел Boinc, который существовал еще до всяких биткоинов. Так что обычный маркетинговый ход, не более.
                • 0
                  Boinc — не мотивированный код. Gridcoin — да. Приложите свой ключ туда. Ну или в Ethereum/MaidSafe.
        • 0
          Так уж и быть! Поделюсь еще одним ништяком в тему:

  • 0
    Думаю сверхразум, в целях оптимизации, добровольно-принудительно попромит нас всех перекочевать в нестареющие железные тела… таким и повреждения смертельные для человека не страшны и кислород в космосе не нужен (представте сколько планет без атмосферы можно будет колонизировать).
    Обрисую мир: Молодняк может наслаждаться своим биологическим телом до самой смерти. После смерти сознание умершего будет перенесено в индивидуальную передвижную машину (робота, если угодно)… я бы назвал их Elder. Затем вновь созданый Elder должен отработать свое новое тело (бурением астероидов, как вариант), а уж потом заниматься, чем захочет. Как Вам перспективка? Подискутируем?
    • +8
      Один из огромного множества вариантов. И скорее всего нереальный. Вы пытаетесь оценить будущее, используя ценности настоящего:)
    • 0
      Эти тела должны быть просто шедевром мысли и быть невероятно универсальной штукой, чтобы захотелось в них пересесть.
      • 0
        Ну как бы выбора особо не будет…
        И как Вам этот, как вариант? — ИПМ
    • 0
      Ага, а потом начнётся EXTERMINATE!!!

      хабр съел ссылку: ru.wikipedia.org/wiki/%D0%94%D0%B0%D0%BB%D0%B5%D0%BA%D0%B8
      • 0
        Или оттуда же: ru.wikipedia.org/wiki/Киберлюди
        • +1
          Вот только ни киберлюди, ни далеки не являются ИИ :)
          • 0
            Киберлюди как раз и являются теми людьми в нестареющих железных телах, о которых говорилось в оригинальном посте ветки, моя отсылка именно к этому. Мне она просто показалась несколько более корректной, нежели отсылка к далекам.
            • 0
              Неа, киберлюди это больше роботы с wetware процессором, занятые лишь одной целью, как зонды фон-неймана в отношении органики.
          • 0
            А этот тредик не про ИИ, а про:
            >> Обрисую мир: Молодняк может наслаждаться своим биологическим телом до самой смерти. После смерти сознание умершего будет перенесено в индивидуальную передвижную машину
    • +4
      Вы исходите из ложной дилеммы, будто может существовать только привычное нам сегодня биологическое тело (стареющее по дефолту и кишащее другими багами) или же какое-то супероптимизированное «железное», в которое нужно аплоудиться. Почти как в м/ф «Роботы»:).

      Реально же мы постепенно апгрейдим себя уже сейчас и почему человеческий «молодняк» в целях «оптимизации» с помощью ИИ не сможет сделать свое тело нестареющим? Или перейти к распределенному хранению сознания с синхронизацией между мясом, железом и каким-нибудь сверхзащищенным облачным хранилищем? И между делом модифицировать себя железками по своему усмотрению? А зачем принудительно загонять загруженного человека в железном теле на бурение какого-то астероида, если это может сделать и более тупая машина? В целях воспитания коммунистической сознательности, товарищ Милиневский?:)

      Будущее скорее за сколь угодно тесной интеграцией человеческого и машинного разума, с существенной эволюцией образа жизни и решаемых задач. Нам сейчас это может быть труднее представить, чем в 18 веке сегодняшнюю интернет-культуру, но как-то так будет.
      • 0
        Думаю наши будущие тела должны быть каким-то очень плотным симбиотическим произведением искусства, по настоящему уникальным и при этом невероятно технологичным. Тут должны быть все преимущества нашего тела и плюс бессмертие, быстрая регенерация, реструктуризация поверхности на субатомном уровне (для противостояния различным внешним агрессиям: рациация, жар, холод, сильные удары и т.д.), (+ это, скорее всего, очень далекое будущее). Можно ещё добавить невероятную реакцию, силу и скорость движений + гибкость всех движений, вплоть до абсолютно невозможных в выполнении в «стандартном» теле.
        • 0
          > все преимущества нашего тела

          Например? Я тут сходу вижу одни недостатки и ограничения.
          • 0
            Гибкость, универсальность и точность позиционирования. Гибкость в данном случае ключевое. Посмотрите на вашу руку, никакой протез пока не дошел до такой «крутости», можно накладывать пальцы крест-накрест, раздвигать ножницами и т.д.
            • +1
              Ну, во-первых, это не преимущества рук, а недостатки протезов (ибо тут ставятся немного другие приоритеты при разработке их на существующей техн. базе). Посмотрите хоть на пром. роботов для сравнения — там особых ограничений на габариты/энерговооруженность нет.
              И к слову, вот вам недостатки сходу:
              — диапазон подвижности очень ограничен
              — мало степеней свободы
              — низкая прочность и надежность
              — усталость мышц
              — таки низкая точность позиционирования (вы можете подвинуть мизинец ровно на 1.2мм влево и держать так его 4 часа?)
              — и еще куча их
              • 0
                Так я разве спорю, я ж выше сказал, что надо чтобы этот синтетический организм был шедевром с практически нулем недостатков. В последнем предложении я об этом сказал.
                • 0
                  Так вы же писали «должны быть все преимущества нашего тела», вот я и попросил уточнить, какие именно, ибо, на мой взгляд, нету их, совсем.
                  Может быть имелись в виду «свойства» или «возможности»?
        • 0
          Дорого и неэффективно. Гораздо проще постоянно обновлять бекап сознания и превратить тело в расходный инструмент. Погибнет или сносится — просто перегружаем сознание в другое из бекапа.
          • 0
            Я понимаю, что это вряд ли будет доступно всем, но у некоторых избранных (элитные военные отряды, прокуроры и т.д.) почему нет?
    • 0
      А досрочно можно?
    • 0
      Зачем железные и зачем неподвижные? И зачем тратить время разумного существа на бурение астероида, с которым справится примитивная автоматика?

      Лично мне кажется что тело станет чем-то вроде одежды. В облаке будет храниться непрерывно обновляемый бекап сознания, а тела будут меняться в зависимости от выполняемой задачи.

      Надо лететь исследовать космос — сознание загружается в железный космический корабль. Надо выполнять какие-то сложные монтажные работы — тело загружается в подвижного робота. Надо отдыхать на земле — сознание загружается в красивое и молодое биологическое тело.

      Полная аналогия с тем как сейчас человек надевает красивую и легкую одежду на отдыхе или скафандр в космосе.
  • +1
    А потом окажется, что скорость научно-технического прогресса представляет из себя вовсе не экспоненту, а сигмоиду. И получится как в той картинке про экстраполяцию с xkcd.
    • 0
      Даже если сигмоида, то век обещает быть очень интенсивным :)
  • +2
    Очередная хрень в духе «футурологов».
    0 измерять производительность операциями в секунду некорректно. производительность сильно зависит от архитектуры.
    Пока не научатся делать аппаратные нейрочипы с архитектурой, сравнимой с биол. нейросетями, дело не сдвинется с мёртвой точки.
    1 на графиках нет чисел.
    2 нет обоснования
    3 отсутствие конфликта интересов спорно
    4 работа сильного ии на людей спорна
    5 будующее а-ля «терминатор» спорно
    меры безопасности для защиты от скайнета очень просты:
    А) запускать узкоспециализированные программы (только слабый ии)
    Б) вводить только задачи, отладка компьютером не должна быть обозреваема
    В) выводить только решения задач, и они не должны влиять на индивидов (иначе ии может устроить си, в результате которого какой-то индивид или группа станет руками ии втёмную). Пример такой задачи — разработка физической теории, при этом теория должна уйти в ОД, и должны быть гарантии этого.
    Г) как бы компьютер не само совершенствовался, он всё равно ограничен оборудованием => контроллировать совершенствование можно контролируя доступные ии ресурсы.
    6 сильный ии не нужен — это напрасная трата денег. Эффективнее сделать много слабых ии под конкретные задачи.
    • +2
      Вы сейчас по сути создали небольшой свод правил, или даже законов. Законы — запреты, а запреты имеют свойство быть нарушенными. Люди всё равно когда-нибудь да создадут сложный ИИ, надо оно им или нет.
    • 0
      Это же популярная статья, а не научная. В оригинале у Курцвейла, Винджа и др. (даже в популярных книгах) есть все нужные цифры. Как раз ваше «спорно» совершенно бездоказательно, как и оголтелый наезд на футурологов. Курцвейл как минимум сам занимается разработкой технологий и его прогнозы где-то на 80-90% осуществляются в запланированные сроки (да и остальные в основном относятся к социальным предпочтениям и «закрываются» новыми технологиями, например прогноз о доминировании голосового ввода информации).
    • 0
      по поводу 6-ого пункта не соглашусь.
      Как раз нужда в сильном ИИ заставит, как только появится такая возможность, вкладывать все корпорации в развитие ИИ.
      объясняю на примере: один ученый уровня Хокинга стоит 150т.р. в месяц и работает 40 часов в неделю. обслуживание комплекса ИИ возможно будет обходится в ту же сумму, но пахать он будет 24-е часа в сутки 365 дней в году.
      • 0
        Вот пусть и делают слабый ИИ, заточенный конкретно под разработку физ. теории, который может быть не будет сверхразумом, зато и делать будет что надо, а не что он сам захочет, и без оверхеда на универсальность. Сильный же ИИ делают для другого. Нет, не для войны, для неё годится слабый ИИ, а политики настолько политики, что не отдадут власть какому-то ИИ. Сильный ии делают потому, что могут. Или не могут. В любом случае побочные продукты разработки сильного ии будут годится во множество других приложений, в том числе не связанных с ии вообще.
    • 0
      Пример такой задачи — разработка физической теории, при этом теория должна уйти в ОД, и должны быть гарантии этого.

      Ха, вы когда-нибудь видели продукты жизнедеятельности программ автоматического доказательства теорем?

      Тут голову сломаешь, разбирая простейшие доказательства типа a+1+1=a+2.
      Ну получит человечество 15 гигабайт белиберды типа p27489 → p27483 & ~p27481 & p27281, p27490 → ~p27487,
      Дальше-то что? Вся сила человеческой науки в том, что каждый результат, будь то формула или теория, человек переваривает в понятные образы, а учителя со всех сил помогают их сформировать. А машинные теории можно использовать, лишь переведя их в человеческий язык. Что конечно проще, чем создавать теорию с нуля, но не каждый возьмётся за перевод.
      • 0
        Ну для этого мы и хотим сильный ИИ, который хотя бы в некоторой степени будет человеком.
      • 0
        >Ха, вы когда-нибудь видели продукты жизнедеятельности программ автоматического доказательства теорем?
        Нет.

        Насколько я понимаю, дальше эту белиберду нужно упаковать в наиболее компактный вид (генетическим алгоритмом с хитрой эвристикой в качестве fitness-функции?) и вывести старые теории как приближения.
        Не факт, что выведенная машиной теория будет хуже, чем выведенные человеком. Может мы используем неверные представления, отсюда и стопор? При введении новой теории каждый раз приходится перерабатывать представление, так как старое неудобно или вообще неприменимо. Классическая механика — импульсы и координаты, потом лагранжианы и обобщённые координаты, потом гамильтонианы, квантовая — векторы состояния, операторы, матрицы плотности, сто — тензор энергии-импульса.
        • 0
          Теории можно сформулировать в удобных для человека представлениях, но не представляю, можно ли это сделать автоматически. А вручную очень трудоёмко. Как если бы восстанавливали какие-то сложные и неизвестные ранее алгоритмы вычислительной математики из машинного кода, сгенерированного векторизующим компилятором.
  • –1
    По аналогии с комментарием выше про ИИ.sys'a, пришла такая мысль:
    Если ИИ правда станет самым умным существом — почему бы ему не стать существом, которое о нас (о людях) будет заботиться и учить доброте и пониманию, ведь если ИИ такой умный он сможет просчитать любое наше действие и предсказать человеку (фильм Военные игры) какая модель поведения приведёт к наиболее благоприятным последствиям. И конечно, он понимая, что наш интеллект намного ниже, и нам не понять (или не осилить) всей цепочки размышлений — будет просто давать конечные советы к действию (не убий, не укради и т.п.).
    • –2
      Это уже не советы, а какие-то религиозные директивы. Если такой разум не будет способствовать апгрейду нашего разума (изучение этой самой цепочки, а если она слишком велика — аппаратный апгрейд) — это уже сценарий «зоопарка» и его доброта сомнительна. По-настоящему гуманный сверхразум предложил бы нам программу ускоренного развития при первом нашем желании.
  • +1
    >>> Залог доминирования человека на планете лежит в его относительной разумности в сравнении с другими живыми существами
    Только вот существование человека на планете в заложниках у его глупости и безрассудности. Вот появится подобный арабоземлянин с запасом оружейного унобтания и помножит эти ваши экспоненты на ноль.
    • +1
      Извините, вот эти ребята https://www.youtube.com/watch?v=MPLKSI5grFY
      • 0
        К тому времени, когда подобный землянин получит «унобтаний», мы со своими экспонентами сможем нейтрализовать его роем синей слизи еще тогда, когда у него возникнет одна только мысль «нажать кнопку».
  • 0
    В который раз повторяю, вопросы про злобность ИИ вытекают из голливудских фильмов и врожденной человеческой ксенофобии. Вот только есть одна вещь — чем развитее становится общество, а вместе с ним и человек, тем оно становится гуманнее и ориентированнее на созидание взамен разрушения. Даже в нашем ограниченном разбросе разумности, поставить рядом того же Эйнштейна и какого-нибудь реднека. Умные люди в основном менее агрессивны и добрее, порой ещё и идеалисты. Даже при линейной экстраполяции на ИИ, выходит что если он будет умнее человека, то скорее всего в нем настолько же меньше будет желания к разрушению чего либо.
    • +1
      Ага, и выйдет Саваоф Баалович Один :)
  • +1
    Отличная статья, фильм в тему — Превосходство
    • 0
      Таким образом, если мозг принадлежал Джиму прямо перед тем, как он умер, то наш компьютер проснётся Джимом(?), и мы получим сильный ИИ, способный на всё то же на что способен человек, дальше мы сможем превратить его в Сверхразум, что наверняка придётся Джиму по вкусу.
      на этом месте подумал об этом же фильме.
  • +2
    Статья рассчитана на крайне некритическое восприятие — в ней масса логических противоречий.

    Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет Законом Ускоряющейся Отдачи. Это происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое.


    В начале автор критикует линейную экстраполяцию в отношении человеческого прогресса — из-за следования которой наши предшественники не могли предсказать скорость прогресса в XIX-XX веках.

    А в следующем абзаце делает предсказания в отношении будущего на основании той же самой линейной экстраполяции, которую ругал абзацем выше.

    Видимо предполагается что читатель не способен воспринимать более-менее крупные и связные объемы информации и уже забыл о том что говорилось чуть выше и полностью увлечен разглядыванием красивых графиков.

    Хотя банальная логика говорит что если мы считаем сам подход линейной экстраполяции прошлого ошибочным то это в равной мере относится и к предсказаниями, основанным на линейной экстраполяции скорости прогресса XIX-XX века. И предсказать на ее основании ту же скорость в будущем, что и раньше, мы не можем по тем же самым причинам, по которым не могли предсказать скорость прогресса XIX-XX века на основании скорости предыдущих веков.

    Собственно это простое соображение делает бессмысленным большую часть статьи, основанную на логически неверном выводе. Но в ней хватает и других косяков.

    переносимся обратно в 2015-й год, после чего, прогуливаясь с ним по любому современному городу, наблюдаем за его реакцией на привычные для нас вещи. Мы даже не можем себе представить что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе, разговаривая с людьми, ещё утром находившимися на другом континенте, наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас, прослушивая музыкальное произведение, которое оркестр играл 50 лет назад или рассматривая мой волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть карту и увидеть своё местоположение в реальном времени, или разговаривать с человеком находящимся на другом конце страны, и другие вещи магического происхождения


    А теперь давайте вспомни когда были изобретены все эти замечательные вещи. Автомобили более 100 лет назад, двигатель внутреннего сгорания — 1860 год, бензиновый двигатель — 1885, а первые паровые автомобили вообще 1768. Звукозапись — более 100 лет назад, первый фоноавтограф — 1857 год. Радиосвязь — больше 100 лет назад. Система спутниковой навигации — это комбинация радиосвязи (изобретена более 100 лет назад) и спутников (первый запущен более 50 лет назад, сами технологии изобретены еще раньше).

    И внезапно мы замечаем что почти все чудеса, описанные в этом отрывке, были изобретены более 100 лет назад.

    И весь сверхбыстрый прогресс последних десятилетий сводится к улучшенным реализациям изобретений вековой давности. Более удобные и красивые автомобили, более быстрая и удобная радиосвязь, более компактные устройства звукозаписи.

    Даже генная инженерия, компьютеры на транзисторах, ядерная энергетика и космические корабли (включая ядерные двигатели) основаны на изобретениях и открытиях которым уже больше полувека.

    И никаких открытий сравнимых с изобретением радио (атомной энергетики, реактивных двигателей, самолетов, двигателя внутреннего сгорания, электричества) нет и не предвидится, есть только реализация всех тех же радиостанций с более красивыми кнопками и более плавным прокручиванием списков в меню.

    И если человечество с его скудным умом смогло изобрести WI-FI, то для столь умного “существа” вряд ли будет проблемой управлять всеми атомами и их движением как ему заблагорассудится.


    Автор как-то тихо и не заметно делает крайне любопытный логический вывод.

    1) ИИ будет очень умным, умнее человека, умнее Эйнштейна. Это утверждение вполне обосновано.
    2) Этот ум позволит ему обрести абсолютное, божественное всемогущество и игнорировать законы физики

    Утверждение 2 никак не следует логически из 1. Сколь угодно высокий интеллект никак не гарантирует того, что его обладатель сможет игнорировать известные законы физики.

    Интеллект Эйнштейна не давал ему никаких волшебных возможностей по управлению движениями атомов по сравнению даже с животным. И нет никакой гарантии что крутой интеллект не упрется в фундаментальный ограничения на уровне законов физики.
    • 0
      По поводу ваших последних суждений. Думаю автор предполагает, что законы физики простираются значительно глубже и выше, чем мы можем себе представить. То есть нынешние законы физики описывают частное, не имея общей теории, которая возможно откроет нам широкие горизонты.

      По сути какой магии хочет человек?
      1. Сверхсветовое движение, хотим за пять минут быть у Проксима Центавры. Энергозатраты неважны.
      2. Сверхсветовая связь, хотим общаться с внеземными цивилизациями быстро. Ну или хотя бы со своими межзвездными колониями.
      3. Возможность лепить любое вещество на субатомном принтере. Мечта алхимиков.
      4. Иметь источник энергии с простым, имеющимся везде веществом (УТС).

      Сейчас ученые окончательно сказать, что пункты 1 и 2 невозможно вообще — не могут. Они предполагают, что некая возможность имеется и надо бы сначала подождать теории всего.
      • 0
        1 и 2 дают временные парадоксы. Вселенная не любит парадоксов…
      • 0
        Ключевой момент в том что у нас нет никаких оснований для прогноза того, что такие законы есть и тем более что мы откроем их в ближайшем будущем.

        Может есть, а может и нет. Может откроем завтра, а может через пару тысяч лет. А может мы вообще все живем в матрице.

        В статье же делается крайне категоричный прогноз того, что мы неизбежно все это откроем. Для которого нет никаких объективных обоснований кроме «нам приятно об этом мечтать сейчас».
    • +1
      По изобретениям хорошая подборка
      ru.wikipedia.org/wiki/%D0%A5%D1%80%D0%BE%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%8F_%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B5%D1%82%D0%B5%D0%BD%D0%B8%D0%B9_%D1%87%D0%B5%D0%BB%D0%BE%D0%B2%D0%B5%D1%87%D0%B5%D1%81%D1%82%D0%B2%D0%B0

      Сейчас актуальны, по мимо прочего, фотоника, как будущее электроники.
      Набор/Печать объемных материалов (в том числе биологических) из базовых микро/нано составляющих.
      Апгрейд человека различными вживляемыми миниатурными техноштучками.
      • +1
        Весь вопрос в том, какую прибавку к возможностям человека дают такие изобретения.

        Например изобретение самолетов, ДВС, радио или электричества дало огромную прибавку.

        А что дало изобретение Blue-ray или плазменного телевизора из вашей таблички? Сколько за последние десятилетия изобретений сравнимых с изобретением радио?

        Если экстраполировать скорость развития XIX-XX века то мы сейчас должны летать на Марс за пару дней и по цене аналогичной авиаперелету из России в США или там передавать информацию хотя бы в масштабах солнечной системы с такой же скоростью, с какой мы ее передаем в масштабах планеты (условно говоря спокойно общаться по Скайпу с родственниками на Юпитере).

        Собственно говоря такой экстраполяции очень много в научной фантастике середины XX века.

        Как не сложно заметить реальный прогресс оказался намного медленнее этой линейно экстраполяции и признаков ускорения не видно — судя по нынешним тенденциям мы и через 100 лет не будем так летать.
      • +1
        Сейчас актуальны, по мимо прочего, фотоника, как будущее электроники.


        Какие именно новые возможности это даст? Списки на экране смартфона будут прокручиваться более плавно? Вместо видео 4K будет видео 8K несмотря на тот факт, что большинство людей не видят разницы между FullHD и 4K? Языки программирования станут еще более высокого уровня? Электромобили, изобретенные и внедренные в серийное производство более 100 лет назад получат более совершенную развлекательную систему для пассажиров? Порно будет транслироваться прямо в мозг?

        Я конечно утрирую, но общая идея наверно понятна.

        Вот термоядерная энергетика будет шагом вперед. Ядерный ракетный двигатель тоже. В конце концов резкое продление человеческой жизни или бессмертие — тоже. Но даже эти вещи основаны на технологиях XX века и даже их нам пока не гарантирую к концу XXI века — в отличие от удвоения и так не заметной глазу плотности пикселей на экранах смартфонов.

        А где что-то более новое?

        Например новые источники энергии? Новые двигатели — действительно новые и действительно дающие новые возможности, например кратное ускорение и удешевление космических перелетов? Новые средства связи?
  • 0
    После прочтения вспомнилась 3-логия Никитина Зачеловек. )
  • 0
    График в разделе «Первый шаг к созданию сильного ИИ: увеличение вычислительной мощности» некорректен. Если вертикальная ось имеет логарифмическую шкалу, то экспоненциальный рост производительности будет отображаться прямой линией.

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.