1055,5
рейтинг
18 декабря 2015 в 13:33

Официальный ответ Tesla Motors на статью о самодельном автопилоте Джорджа Хоца

Компания Tesla Motors опубликовала официальный ответ на статью в Bloomberg о самодельном беспилотном автомобиле, который собрал гениальный хакер Джордж Хоц (Geohot), известный как автор первого джейлбрейка для iPhone и джейлбрейка игровой приставки Playstation 3. Хакер разработал уникальную систему автоматического пилотирования на основе обучаемой нейросети, используя игровые GPU для обработки видеопотока с шести камер и штатные высокопроизводительные процессоры Intel для вычислений ИИ (см. обсуждение на Geektimes).

Всего за два месяца обучения автопилот освоил езду по шоссе, в том числе с плохо различимой дорожной разметкой, а также ряд специфических манёвров.


Центральный вычислительный блок самодельного автопилота Geohot в автомобиле Honda Acura ILX

В статье Bloomberg неоднократно упоминается автопилот разработки MobilEye, модификация которого установлена в Model S, а также сама компания Tesla. В том числе упоминался факт, что Илон Маск предлагал хакеру бонус при трудоустройстве в несколько миллионов долларов, но тот отказался.

Компания Tesla посчитала своим долгом внести коррективы в статью Bloomberg. Заметку в официальном блоге, возможно, писал лично Илон Маск.

«Мы считаем чрезвычайно маловероятным, что один человек или даже маленькая компания, у которой отсутствуют обширные возможности по инженерной проверке систем, способна изготовить систему автономного пилотирования, пригодную для массовых автомобилей, — заявляет Tesla Motors. — Она может работать как ограниченная демонстрация на известном участке дороги — у Tesla была такая система два года назад — но потребует огромных ресурсов для отладки на миллионах километров сильно отличающихся дорог».

Нужно заметить, что Geohot обещал в ближайшее время опубликовать видео с демонстрацией, как его система превосходит автопилот Tesla Model S на мосту «Золотые ворота» (Golden Gate Bridge), там из-за плохой разметки автопилот Model S отказывается работать. Кроме того, Geohot обещал провести ещё один сравнительный тест на шоссе I-405, где живёт Маск (у них, похоже, личные счёты).

В любом случае, Маск заранее застраховался от того, что самодельный автопилот конкурента побьёт их коммерческую систему: «он может работать как ограниченная демонстрация на известном участке дороги».

«Это настоящая проблема автономности, — продолжает Маск Tesla Motors. — получить систему машинного обучения с точностью 99% относительно легко, но получить точность 99,9999%, которой нужно в конце концов добиться, значительно труднее. Каждый может увидеть это на ежегодных конкурсах систем компьютерного зрения, где компьютер правильно распознаёт собак на фотографиях в более 99% случаев, но может иногда распознать собаку как растение в горшке. Делать такие ошибки на скорости 110 км/ч будет довольно проблематично».

Компания Tesla Motors также подчёркивает, что у них установлена не штатная и не переупакованная версия автопилота MobilEye, а сильно модифицированная версия. «Система автопилота Tesla спроектирована и разработана внутри нашей компании. Если бы мы просто переупаковали технологию вендора, как заявлено в статье, то не смогли бы предоставлять уникальные инновационные услуги в коммерческих автомобилях. Если бы другие автопроизводители могли достичь уровня Tesla или превзойти его, купив штатное решение, они бы сделали это».

«Tesla Autopilot включает в себя радар, ультраакустику, GPS/навигатор, камеры и подключение в реальном времени к серверам Tesla. В будущем мы собираемся продолжить использование самых продвинутых компонентов, таких как чип MobilEye [Geohot выдал, что Маск планирует отказаться от MobilEye — прим. ред.] в наших автомобилях. Их микросхема лучшая в мире в своём деле, вот почему мы её используем».

Наверное, такая чрезмерная реакция Tesla Motors раззадорит хакера. Geohot уже показал, что талант и увлечённость, помноженные на интеллект и знания, могут горы свернуть. Он говорит, что прочитал всю литературу и изучил самые последние научные работы по ИИ: «Математика там простая. Впервые в своей жизни я подумал: "Я знаю всё, что нужно знать"»… так что от парня всякого можно ожидать.
Анатолий Ализар @alizar
карма
683,6
рейтинг 1055,5
Редактор
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое

Комментарии (35)

  • +3
    Geohot уже показал, что талант и увлечённость, помноженные на интеллект и знания, могут горы свернуть.

    Видимо, стоит снять шляпу перед парнем, учитывая, что
    Илон Маск предлагал хакеру бонус при трудоустройстве в несколько миллионов долларов, но тот отказался.

    Посмотрим, как он прокатит свою Акуру перед домом Маска :)
    • +1
      Там к бонусу наверно прелагалось требование передать Тесле Моторс все наработки Геохота и отныне навсегда забыть про их развитие без команды Маска.
      • +1
        Причем сам бонус скорее всего выплачивался бы 5 лет и в договоре было бы прописано что его нельзя расторгнуть первые N (возможно те же 5) лет без возврата всей/части суммы «бонуса».
      • +1
        Естественно! Это стандартный пункт трудового договора американских корпораций. Я тут в одну компанию устраивался давича занимающуюся мобильными играми, так мне после их договора даже чтобы выпустить на картоне настольную игру придётся с юристами пол года согласовывать, как и для занятий любым другим интертейнментом.
  • +33
    «Математика там простая. Впервые в своей жизни я подумал: «Я знаю всё, что нужно знать»»

    Обычно такие заявления соответствуют тому, что человек вообще не понимает ничего. Будем надеяться, что на необычного человека это не распространяется.
    • +7
      Соглашусь. Три уровня познания о предметной области:
      1) Всё знаю
      2) Ничего не знаю;
      3) Знаю, что я знаю и знаю, чего я не знаю.
      И еще пока вспоминал, наткнулся Эффект Даннинга — Крюгера:
      Пояснение
      Эффе́кт Да́ннинга — Крю́гера — метакогнитивное искажение, которое заключается в том, что люди, имеющие низкий уровень квалификации, делают ошибочные выводы, принимают неудачные решения и при этом не способны осознавать свои ошибки в силу низкого уровня своей квалификации. Это приводит к возникновению у них завышенных представлений о собственных способностях, в то время как действительно высококвалифицированные люди, наоборот, склонны занижать свои способности и страдать недостаточной уверенностью в своих силах, считая других более компетентными. Таким образом, менее компетентные люди в целом имеют более высокое мнение о собственных способностях, чем это свойственно людям компетентным, которые к тому же склонны предполагать, что окружающие оценивают их способности так же низко, как и они сами.

      • +5
        Так он и сказал «что нужно знать» — это типа и есть третий уровень.
  • 0
    Она может работать как ограниченная демонстрация на известном участке дороги — у Tesla была такая система два года назад — но потребует огромных ресурсов для отладки на миллионах километров сильно отличающихся дорог».

    Я так понимаю, что и Тесловский автопилот в таком же состоянии? Отладка ведь не один раз проехать.
    А назвали бы пока все своими именами, суперадаптивным круиз-контролем например, а не автопилотом, то и не надо было бы переживать.
  • 0
    Не прошло и недели с момента созджания института открытых AI как Маск уже объявил чужой более качественный AI небезопасным на скорости только на основе того, что его не тыща инженеров разрабатывает, не взирая на ожидающиеся результаты тестов.

    Похоже мы знаем как именно будут вестись интеллектуальный войны ближайшие 20 лет.
    • +7
      Вот когда Хоц докажет, что у него есть та система, которую он описывает, тогда и можно говорить, что Маск не по делу высказался… а пока заявления Хоца, ничем не подкрепленные, ничем принципиально не лучше заявлений одного товарища Бабушкина о своем антивирусе…
  • +1
    Ализар бы хоть удосужился прочитать комментарии к прошлой статье, где много человек достаточно подробно обсуждают почему новость про машину пахнет обманом и разводкой.
    Тут он переводит Теслу Моторс, которая заявляет что вся эта тема притянута за уши и вряд ли работоспособна.

    И всё равно: «Наверное, такая чрезмерная реакция Tesla Motors раззадорит хакера. Geohot уже показал, что талант и увлечённость, помноженные на интеллект и знания, могут горы свернуть.»
    • +4
      Ну, я в него верю.
      Комментарии читал.
    • +2
      Geohot, в отличии от многих людей со сцены, не был замечен в фейковых заявлениях о взломе.
  • +1
    В книжке Тома Митчелла про машинное обучение от 1997 года показывается эксперимент, где машина едет по шоссе, видя его как картинку 32 на 32 пикселя на скорости чуть ли не 90 миль в час (книги под рукой проверить нет) используя обычную нейронку с одним скрытым слоем.

    С 1997 года много поменялось. Сверточными сетями нельзя уже удивить вообще никого, количество приемов для предобучения на неразмеченных данных огромно, видеокарты не стоят никаких денег, библиотек для глубокого обучения весь интернет, все материалы о последних прорывах свободно доступны на arXiv, читай, реализуй. Ездить по шоссе много ума не надо — сравните вашу концентрацию когда вы едете по шоссе и по городу. На шоссе даже с плохой разметкой большой проблемы у сверточной сети научиться не будет. Велосипедисты там справа не едут, пьяные бараны от бара на дорогу не прыгают. Главное машины рядом видеть да полосы (или какие-то другие ориентиры, раз он так гордится отсутствием разметки на дороге).

    В городе намного сложнее ездить. Посмотрите на демки гугла — их машины поддерживает модель всех объектов вокруг, анализирует их действия. Там сверточные сети — это просто помощники чтобы достать какие-то данные об окружении, но далеко не вся модель.

    Чувак конечно крутой, что нафигачил и собрал все это, и если бы я был теслой, я бы тоже ему дал огромный оффер. Но, имхо, его модели до Тесловской как до луны. Как, в принципе, и тесловской до гугловой.
    • 0
      Ездить по шоссе много ума не надо — сравните вашу концентрацию когда вы едете по шоссе и по городу. На шоссе даже с плохой разметкой большой проблемы у сверточной сети научиться не будет. Велосипедисты там справа не едут, пьяные бараны от бара на дорогу не прыгают. Главное машины рядом видеть да полосы (или какие-то другие ориентиры, раз он так гордится отсутствием разметки на дороге).

      В таком случае дальнобойщиков бы уже заменили на автоматику :-)
      • 0
        Когда автоматика научится водить не только при отсутствии разметки, но и при отсутствии дороги, тогда да.
        • 0
          В развитых странах дальнобои циркулируют только по трассам, не съезжая с дороги.
          • +1
            Да? А склады и магазины тоже на трассах или все-же сьезжать надо для доставки?
            • 0
              Магазины и склады часто тоже находятся за городом. В сам город груз доставляют грузовики поменьше. А со съездом в карман для погрузки электроника должна справиться.
            • 0
              Так я про фуры и говорю, они обычно груз доставляют только между оптовыми точками, расположенными в пригородах. А уже от складов в город грузы доставляются небольшими фургонами.
              Ну и да, при условии, что фуры уже сейчас могли бы полностью автономно циркулировать по трассам, то даже создание новой инфраструктуры для погрузки/разгрузки не съезжая с асфальта окупилось бы за счет увольнения водителей…
    • 0
      > Велосипедисты там справа не едут
      Едут. Редко, но едут и имеют право там ехать. И тем хуже, что редко, т.к. живой водитель имеет склонность переставать думать о тех участниках движения, которых он редко видит.
      > пьяные бараны от бара на дорогу не прыгают
      На М10 еще как прыгают! Для них даже специально разрывы в отбойниках сделаны.
  • 0
    Макс поддался на провокацию, Geohot раскрыл предложение про которые обычно молчат.
  • 0
    Извините за дилетантский вопрос, но что будет, если машину у нас будет контролировать не одна, а три обучаемые нейронные сети, обученные на разных наборах данных, а следующее действие машины будет определятся как среднее арифметическое между командами двух сетей, которые выдали самый близкий друг к другу результат.
    То есть, например, в сложившейся ситуации первая нейронная сеть выдаёт команду поворота на 20 градусов влево, вторая — на 22 градуса влево, а третья — 15 градусов вправо (ошибка вроде растения в горшке вместо кошки), результатом такого набора команд будет поворот на (20 + 22)/2=21 градус влево.
    Таким образом нам удастся исключить негативные последствия от ошибки одной из сетей. Такая точность управления (с учётом очень низкой вероятности ошибки одновременно двух сетей) будет вполне достаточной для ежедневного использования.
    • 0
      Две сети говорят, что надо объехать препятствие справа, а одна — что слева, в итоге они въезжают в него левым бортом. Несколько утрировано, но как-то так…
      • 0
        Нет, машина в данном случае объезжает препятствие справа, потому что мы выполняем только нечто среднее между командами тех двух сетей, которые говорят, что нужно объехать справа. То есть, мы для управления всегда используем только самые похожие команды двух сетей, а третью игнорируем. Таким образом, когда одна из сетей выдаёт ошибочную команду (как в Вашем примере), это никак не повлияет на движение машины. В том и смысл.
    • 0
      Если тренировочные данные одной природы — зачем тренировать каждую сеть только на части данных? А дальше встает вопрос в том какая модель лучше, иногда использование n разных моделей (в смысле моделей разной природы, а не двух идентичных натренированных на разных данных) и скармливания их выходов на n+1 модель имеет смысл, но обычно прирост качества, если он и есть — очень небольшой.
      • 0
        >зачем тренировать каждую сеть только на части данных
        Ну, я предполагал, что две идентичные сети, натренированные на разных данных одной природы, будут совершать ошибки в разных местах. Разве не так?
        >иногда использование n разных моделей и скармливания их выходов на n+1 модель
        То есть, Вы имеете в виду использование данных, получаемых от n сетей, как входных данных для ещё одной сети?
        • 0
          А одна сеть натренированная на всех данных в этом случае с гораздо большей вероятностью будет выдавать еще меньше ошибок.
          То есть, Вы имеете в виду использование данных, получаемых от n сетей, как входных данных для ещё одной сети?
          Да, выход последней модели тоже должен обучаться, использование простого аггрегатора не оправдано (ну, есть конечно случаи когда можно и просто среднее взять, но это ближе к совпадениям), т.к. оно не учится предсказывать то что вы хотите. Как минимум учат линейную регрессию, или что посложнее, зависит от сложности/типа/количества входных моделей и много чего еще.

          Можно конечно представить и ситуацию когда две сети наученные на половине данных каждая будут давать среднее арифметическое лучше чем одна сеть (если выход — действительное число) наученная на всем, но я бы в таком случае подумал что что-то не так с выбором модели/параметров обучения, или если разделение данных не случайное — может надо просто добавить фичу по которой они делились, но в любом случае такой результат бы крайне насторожил если бы вообще возник.
          • 0
            Ясно. Спасибо, что доступно объяснили :)
    • 0
      Подход опробованый в космосе, но я бы анализировал только причины и условия, имеющие результат — Да/Нет, а не среднюю температуру. Например: «нужно ли снизить скорость?»
      • 0
        А чем космос такой особенный чтобы он ассоциировался с бэггингом (я не могу отрицать что он не применяется, но все же в чем корелляция)?
    • +1
      Стекинг — довольно популярная техника для повышения качества алгоритмов машинного обучения, правда обычно берут не просто среднее со всех выходов, а строят регрессию. Но и тут проблемы не исчезают, а именно:
      1) Проблема не 100% точности все равно остается
      2) Пройти сертификацию по тойже MISRA будет еще сложнее, т.к. доказать безопасность этой системы станет еще сложнее.
    • 0
      Будет как в «особом мнении»: когда-нибудь только одна сеть выдаст правильный результат, но её не послушают.
    • 0
      Допустим 1-я сеть решает, что нужно повернуть на 30 градусов влево, 2-я на 20 влево, а 3-я на 15 вправо. И решения всех 3 не приводят к аварии.
      Но все 3 машины знают, что если повернуть на 25 градусов, то это приведет к аварии (не важно по какой причине). Ни одна из них не выбирает повернуть на 25 градусов, но если усреднить данные 1-й и 2-й сети и отбросить данные 3-й, то придется повернуть на 25 градусов.
      Как быть в этом случае?
      • 0
        Например, все сравнивают вероятности. Скажем, 1-я сеть получает показания 2-й и 3-й и проверяет у себя, с какой вероятностью такие маневры удачны:
        В1(её собственный) — 95%
        В2 (2-й системы) — 80%
        В3 (3-й системы) — 75%

        То же самое делают вторая и третья:
        В1 — 80%
        В2 — 90%
        В3 — 70%

        В1 — 85%
        В2 — 75%
        В3 — 97%

        Ну и считаем среднее. Получаем, что сворачивать надо налево.

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.