Цена разметчика примерно на порядок меньше чем у датасайнтистов. Мы часто заказываем разметку на стороне. Обычно чек 50-500usd. Чек за ML проект при этом 10-30кUSD.
Если у вас разработчик должен потратить пару дней на предподготовку данных - обычно оно уже не окупается.
Понятно, что это все считается. Но все там далеко не так просто.
Тут достаточно много мыслей на счет того что можно использовать, а что нет. С учетом моего опыта с такими штуками. И ей-богу, я такого не видел такой обзор от человека который one-shot в продуктовых задачах уже пару лет катает. Так что считаю что статья в этом плане достаточно ценная. Как вправлять мозги продуктоунерам и CEO про их идеи "а давайте используем...":)
Я как-то из любопытства попробовал из LLM моделек преобразование фурье получить (на питоне без готовых FFT библиотек). Варианты были разного уровня ржачности - https://medium.com/p/b11fc5f12f75
Ага. Только статья уже достаточно старая. Сейчас появились большие претрейны и трансформеры во всех плоскостях. Но глобально большинство алгоритмов в проде - тех лет.
С такими алгоритмами проблем сильно больше. Просто они другие. Столкнулось два игрока, полежали в куче 5 секунд - и кто куда пошел дальше - не понятно.
Современная мысль скорее про интеграцию всего и вся. И большие претрейны. Например так. Но с такими сетками ряд проблем:
Обычно работают они уже далеко не риалтайм
Они хорошо перформят из коробки по бенчмаркам, но не очень хорошо по реальным задачам. Но чтобы их переучить на свою задачу - надо миллионы данных и десяток сеток трейнить.
Так что никто особо и не париться сейчас, работают с классикой. Детекция + какой-нибудь REID поверх + какая-нибудь трекинговая модель.
А реклама становится все умнее. Я смотрю по своему младшему брату что эта реклама Чешских университетов очень агрессивно начинает литься в конце учебного года. А чтобы поступить всего-то надо выучить чешский. А вот и ссылочка на курсы.
Один из лучших правозащитных проектов в России. Очень классное и понятное целеполагание. Радует что эффективность можно наблюдать в прямом эфире. Безумно круто что до сих пор не закрылись и держатся. И тем печальнее смотреть как на хабре сразу появились боты и пошли сливать карму автору и рейтинг статье. Прежде чем появилось 300 просмотров уже 8 минусов. И это при хорошей статье, которая в отличие от многих попадает в тему ресурса.
Для плат одинакового качества это обычно быстрее. Но да, можно с RTX3090 сравнить, и та будет быстрее;)
За одинаковую цену NPU по опыту быстрее. Тут важный момент, что это для Edge плат. Для Android через TFlite может быть и иначе. Но TFlite очень много съедает сам. Например для Qualcomm мы как-то тестили что нативный фреймворк в 3 раза быстрее чем TFlite.
Для Edge плат почти всегда используются именно нативные фреймворки.
Мне кажется что latency камер это больше про протокол по которому получаются данные. А дальше все одно и то же и зависит от одних и тех же проблем. А протоколы — на большинстве csi шина стоит.
Но я никогда не измерял это сам.
У меня Rpi4 погоревший лежал, и по знакомым свободного не было. Но там это не очень критично. Когда я что-то измерял на нем, то там в 4-5 раз быстрее были одни модели и примерно раз в 8-9 другие (чем на RPi3). Я это в видео упомянул.
А удобство там идентично с RPi3, все те же плюсы и минусы.
Ну… NPU обычно побыстрее. Причем сильно. Плюс NPU энергоэффективнее и не грузят процессор для других задач.
На базе Amlogic много чего есть. И там внутри Tim-VX NPU который я внутри большого числа китайских чипов видел.
В целом, в том списке что я не потестил есть много плат которые доступны в РФ.
Потыкал с аналогичным запросом в DALL-e второй. И там все скучно. У Украины флаги на общественно значимых местах, у России собор Василия блаженного. Зато нашел более интересный и абстрактный запрос. «The future of ...». И тут Остапа понесло:
USA:
Ukraine:
Russia:
Germany:
Цена разметчика примерно на порядок меньше чем у датасайнтистов.
Мы часто заказываем разметку на стороне. Обычно чек 50-500usd. Чек за ML проект при этом 10-30кUSD.
Если у вас разработчик должен потратить пару дней на предподготовку данных - обычно оно уже не окупается.
Понятно, что это все считается. Но все там далеко не так просто.
Кликбейт - согласен.
Обзор - не согласен:
Не все сети за 2023 год
Тут достаточно много мыслей на счет того что можно использовать, а что нет. С учетом моего опыта с такими штуками. И ей-богу, я такого не видел такой обзор от человека который one-shot в продуктовых задачах уже пару лет катает. Так что считаю что статья в этом плане достаточно ценная. Как вправлять мозги продуктоунерам и CEO про их идеи "а давайте используем...":)
Я как-то из любопытства попробовал из LLM моделек преобразование фурье получить (на питоне без готовых FFT библиотек).
Варианты были разного уровня ржачности - https://medium.com/p/b11fc5f12f75
Ага.
Только статья уже достаточно старая. Сейчас появились большие претрейны и трансформеры во всех плоскостях. Но глобально большинство алгоритмов в проде - тех лет.
С такими алгоритмами проблем сильно больше. Просто они другие. Столкнулось два игрока, полежали в куче 5 секунд - и кто куда пошел дальше - не понятно.
Современная мысль скорее про интеграцию всего и вся. И большие претрейны. Например так. Но с такими сетками ряд проблем:
Обычно работают они уже далеко не риалтайм
Они хорошо перформят из коробки по бенчмаркам, но не очень хорошо по реальным задачам. Но чтобы их переучить на свою задачу - надо миллионы данных и десяток сеток трейнить.
Так что никто особо и не париться сейчас, работают с классикой. Детекция + какой-нибудь REID поверх + какая-нибудь трекинговая модель.
Но вообще, я ещё в 2009 тоже самое придумал.
-Что?! Ласточка могла принести кокос?!
-Она могла схватить его!
-Вопрос не в том за что можно схватить. Это простая пропорция веса. Пятиунцевая ласточка не может переносить фунтовый кокос.
-Это неважно! Сходишь ли ты и скажешь своему хозяину, что Артур со Двора Камелота тут?
-Послушай, чтобы сохранять скорость, ласточке надо махать крыльями сорок три раза в секунду, так?
-Пожалуйста!
-Я прав?
-Мне все равно!
-А что если это была африканская ласточка!
-О, может быть африканская ласточка, но не европейская уж точно.
(с)МонтиПайтон
А реклама становится все умнее. Я смотрю по своему младшему брату что эта реклама Чешских университетов очень агрессивно начинает литься в конце учебного года. А чтобы поступить всего-то надо выучить чешский. А вот и ссылочка на курсы.
Там все сравнения у них поломанные несколько. Вот пример с Roboflow с сравнением с другими Yolo:
Как видно, когда они говорят о приросте mAP, то они сравнивают с моделями которые имеют в 1.5-2 раза больше FLOPs.
Ничего плохого в этом нет, я почти уверен что оно не будет хуже Yolov5. Но про значительное улучшение скорости про той же точности можно забыть.
И да, пока что там они не дотянули до Yolov5 по качеству репозитория (экспорты, баги, и.т.д.).
В целом, если кому интересно, более полный мой фидбек тут.
Устанут скликивать.
Один из лучших правозащитных проектов в России. Очень классное и понятное целеполагание. Радует что эффективность можно наблюдать в прямом эфире. Безумно круто что до сих пор не закрылись и держатся.
И тем печальнее смотреть как на хабре сразу появились боты и пошли сливать карму автору и рейтинг статье. Прежде чем появилось 300 просмотров уже 8 минусов. И это при хорошей статье, которая в отличие от многих попадает в тему ресурса.
Мне кажется это прекрасно.
За одинаковую цену NPU по опыту быстрее. Тут важный момент, что это для Edge плат. Для Android через TFlite может быть и иначе. Но TFlite очень много съедает сам. Например для Qualcomm мы как-то тестили что нативный фреймворк в 3 раза быстрее чем TFlite.
Для Edge плат почти всегда используются именно нативные фреймворки.
Но я никогда не измерял это сам.
А удобство там идентично с RPi3, все те же плюсы и минусы.
На базе Amlogic много чего есть. И там внутри Tim-VX NPU который я внутри большого числа китайских чипов видел.
В целом, в том списке что я не потестил есть много плат которые доступны в РФ.
Интересно, а вы хоть дату этой публикации посмотрели? Советую зайти на мой канал в YouTube и посмотреть актуальную ситуацию.
https://youtube.com/c/AntonMaltsev
https://telegra.ph/Computer-Vision-boards-in-2022-07-07
USA:
Ukraine:
Russia:
Germany:
Какой офигенный гайд! Спасибо!