Pull to refresh
87
0.3
Send message

Мозг и системы машинного обучения: сравнение масштабов

Reading time 18 min
Views 8.3K

Эпистемологический статус: весьма неопределённый. В литературе приводятся обширные, но ненадёжные данные, и в этой статье я делаю некоторые весьма грубые допущения. Тем не менее, я удивлюсь, если мои заключения отличаются от истины более чем на 1-2 порядка.

В настоящее время мозг — это единственный известный пример AGI (сильного искусственного интеллекта). Даже мелкие животные с крошечными мозгами демонстрируют впечатляющую степень владения сильным искусственным интеллектом, в том числе, гибкость и агентное поведение в сложном мире, характеризующемся высокой неопределённостью. Если мы хотим понять, в какой степени современное машинное обучение приблизило нас к AGI, то стоит попробовать количественно оценить мощность мозга. Хотя уже проделано много отличной работы, дающей представление о возможностях мозга и о том, как эти данные экстраполируются на хронологию развития ИИ, мне никогда не удавалось по-настоящему разобраться в вопросе кроме как на практике. Так что ниже я решил проанализировать мозг в терминах современного машинного обучения и попытаюсь на основе этого анализа предположить, на что можно рассчитывать на текущем этапе разработки AGI.

Читать далее
Total votes 41: ↑36 and ↓5 +31
Comments 26

Электрификация туристического велосипеда или очень полезная вещь только для меня

Level of difficulty Easy
Reading time 6 min
Views 18K

Давно хотел написать что-нибудь для Хабра и вот этот момент настал.

Cтатья никак не связана с электовелосипедами, и, даже наоборот, в рядах велотуристов в основном противники использования электротяги для передвижения на велосипеде, а сами электровелосиды обзываются мопедами/мотоциклами.

Статья о том, как я сделал электронное переключение для планетарной втулки Rohloff и запитал его, а так же свет и USB зарядку от динамо втулки.

Читать далее
Total votes 92: ↑92 and ↓0 +92
Comments 42

Гипоксия: почему жир полезнее кислородных коктейлей

Reading time 5 min
Views 88K
Привет всем в блоге компании Тион! Мы разрабатываем системы умного микроклимата, вентиляции и очистки воздуха. Один из наших врагов – духота. Из-за нее не получается нормально спать, учиться, работать. Усталость, апатия, невнимательность – все это симптомы нехватки кислорода.

Слово «гипоксия» на слуху. Но у многих в голове полная неразбериха по поводу кислородного голодания, его профилактики и лечения. Например, люди верят в пользу кислородных коктейлей, хотя оказывается, что намного больше пользы от жирной пищи.



Разберем по косточкам эти и другие популярные мифы и факты о гипоксии.
Поехали!
Total votes 46: ↑40 and ↓6 +34
Comments 205

Потратили $50'000 на создание интерактивного QA-учебника, перевели на русский и выложили бесплатно

Level of difficulty Easy
Reading time 8 min
Views 10K

В январе пять международных QA-менторов с суммарным опытом 100+ лет опубликовали первую часть бесплатного интерактивного QA-учебника на английском языке, состоящего из 500+ страниц, 42 модулей, 42+ наборов тестов с 150+ вопросами. Про этот релиз 0.0.5 мы писали в Хабр-статье "Зачем появился бесплатный интерактивный «100-years QA-textbook» на 500+ страниц для обучающихся тестированию".

С тех пор вышел полный англоязычный релиз 0.0.9 всего учебника и выяснилось, что в результате его объем - 700 страниц (без учета изображений и тестов).

А 30 апреля вышел первый релиз и на русском языке. Который тоже лежит в свободном доступе, полностью бесплатен и даже не требует регистрации для начала обучения.

Читать далее
Total votes 20: ↑16 and ↓4 +12
Comments 9

Очерки о китайцах — 3

Level of difficulty Easy
Reading time 7 min
Views 35K

Сегодня мы продолжим обсуждение особенностей наших восточных друзей. И я попытаюсь обьяснить, почему это работает так, как изображено на картинке китайской художницы Ян Лю из книги East meets West.

Читать далее
Total votes 101: ↑96 and ↓5 +91
Comments 23

Microsoft переписывает код ядра и некоторых библиотек Windows на языке Rust. Но зачем?

Reading time 4 min
Views 45K
microsoft-is-rewriting-core-windows-libraries-in-rust-v0-Nsy2e3-Z9k4-XXJv-6k-XV9d4a-Mmj-VKb-Th-Cj-Sh

Недавно стало известно о том, что команда разработчиков Windows 11 занимается новым типом работы — переписывает ряд модулей ядра и системных библиотек операционной системы на Rust. При этом работа уже в разгаре, это не просто анонс проекта или планы на будущее — реализация идет полным ходом. Зачем корпорации все это понадобилось?
Читать дальше →
Total votes 108: ↑104 and ↓4 +100
Comments 227

Как в Индиане чуть не узаконили π = 3.2

Level of difficulty Easy
Reading time 10 min
Views 19K

Поздравляю всех с днем числа Пи! (день числа Пи отмечается 14 марта, поскольку эта дата в американском формате записывается в как 3.14 - прим. перев.) Чтобы отметить его как следует, я хочу ненадолго отвлечься от программного обеспечения и поговорить о чем-то особом. Возможно, вы слышали байку о том, как в штате Индиана пытались законодательно приравнять число Пи к чем-то типа 3, или 4, или 3.15. Обычно ее рассказывают в качестве доказательства того, что жители Индианы - бестолковая деревенщина, но это далеко не вся история. Зачем они пытались поменять значение π и на что они рассчитывали?

Я занялся исследованием, и теперь могу рассказать историю целиком. Чтобы вы поняли контекст, мне придется объяснить кое-какие математические концепции.

Мне придется объяснить немало математических концепций.

Читать далее
Total votes 47: ↑44 and ↓3 +41
Comments 141

Пора серьёзно поговорить про боль

Level of difficulty Easy
Reading time 13 min
Views 18K
Боль — это рекомендательная система нашего организма. Она рекомендует наиболее правильное поведение при травме или любом поражении. С точки зрения эволюции, это базовое свойство, которое было развито, ещё когда наши дальние предки были не очень умными. Поэтому обучение правильному поведению вроде «береги ногу и не наступай на неё пока» должно было быть очень быстрым и доходчивым. Результат: боль оказалась успешнее других систем и мы родились именно с ней. И теперь мы страдаем сильно больше, чем нужно для того, чтобы просто передать информацию о повреждении.

Острая зубная боль на вершине хит-парада по неприятности. Близко к ней почечные колики и кластерная головная боль. Родовые боли, перелом пениса и перекрут яичка болезненнее, но не входят в топ, потому что относятся только к половине населения. Так вот, как это ни странно, одна из экстренных стратегий избавления от похожей сильной боли — так называемая отвлекающая терапия. Вот мастер отвлекающей терапии:


Вот так это работает, не повторяйте это без специалиста

Да-да, если у вас болит зуб, можно сломать себе палец, это перераспределит ресурсы продолговатого мозга. Станет терпимее. Но лучше попробовать капсаицин на слизистые (не обязательно рта) — это в некоторых пределах обратимее.

Но прежде чем перейти к практическим опытам, попробуйте другие методы. Возможно, хватит таблеток, осмотических растворов, куска сала или оливкового масла.
Читать дальше →
Total votes 61: ↑59 and ↓2 +57
Comments 30

Пришло время пересмотреть структуру проектов на .NET

Level of difficulty Easy
Reading time 11 min
Views 15K

C релизом .net 6 у нас появился новый упрощенный подход для быстрого создания сервисов  Minimal APIs. Эта статья появилась потому, что с новым подходом появились новые вопросы, связанные с организацией кода внутри проекта.

Это — немного вольный перевод статьи "Maybe it's time to rethink our project structure with .NET 6" от Tim Deschryver про подход к созданию сервисов с помощью Minimal APIs, который может помочь нам сделать архитектуру приложения более чистой, простой и легкой в поддержке и развитии.

Читать далее
Total votes 16: ↑13 and ↓3 +10
Comments 24

Почему Иоганн Кеплер может быть примером для подражания для учёных и всех остальных

Reading time 9 min
Views 6.4K


Для очень многих людей в мире три самых трудных слова, которые иногда нужно сказать — это «Я был неправ». Даже если все доказательства будут за то, что ваша идея или концепция не имеет под собой никаких оснований, подавляющее большинство людей найдут способ отбросить или проигнорировать эти доказательства и остаться при своём мнении. Известно, что сознание людей невосприимчиво к изменениям, и чем больше их личная заинтересованность в исходе обсуждаемого вопроса, тем меньше они готовы допустить даже возможность того, что они могут ошибаться.

Хотя часто утверждается, что наука — исключение из этого общего правила, это справедливо только для науки как коллективного предприятия. В индивидуальном плане учёные так же подвержены предвзятости подтверждения – к сбору доказательств в пользу своей идеи и отбрасыванию доказательств противного, как и любой другой человек в любой другой сфере жизни. В частности, наибольшие трудности подстерегают тех, кто сам сформулировал идеи и вложил огромные усилия, часто исчисляемые годами или даже десятилетиями, в гипотезы, которые просто не могут объяснить весь набор данных, накопленных человечеством. Это относится даже к величайшим умам во всей истории человечества.
Читать дальше →
Total votes 46: ↑45 and ↓1 +44
Comments 15

Физика вернула человеку ультрафиолетовое зрение, отобранное динозавром

Level of difficulty Easy
Reading time 5 min
Views 11K

Жизнь зародившаяся в воде была яркой, даже неоновой. Кораллы живут в симбиозе с водорослями. Часть спектра солнечного излучения нужно поглотить для фотосинтеза, но часть нужно отразить, слишком много света — стресс для живых существ. Так и родилось разнообразие цветов, когда еще не было глаз, способных его оценить.

Читать далее
Total votes 49: ↑48 and ↓1 +47
Comments 64

Всё, что вам нужно — это внимание (часть 1)

Level of difficulty Hard
Reading time 14 min
Views 19K
Источник

Примечание переводчика: Недавно на Хабре мы рассказывали о статьях, которые нужно прочитать, если вы хотите заниматься искусственным интеллектом. Среди них была культовая статья Attention is all you need, выпущенная в 2017 году. С неё началось развитие больших языковых моделей, в том числе всем известного чат-бота ChatGPT. Оказалось, что у такой важной статьи нет перевода на русский язык. Мы решили исправить это. Ниже вы найдёте перевод первой части статьи, вторая часть доступна по ссылке.

Краткое содержание


Наиболее распространённые модели преобразования последовательностей основаны на сложных рекуррентных или свёрточных нейронных сетях, которые включают энкодер и декодер. В самых успешных моделях энкодер и декодер соединяются с помощью механизма внимания. В статье авторы предлагают новую простую архитектуру нейронных сетей — Трансформер. Он основан исключительно на механизмах внимания, без рекуррентности или свёрток. Эксперименты на двух задачах машинного перевода показали лучшее качество, а также больше возможностей к распараллеливанию и меньшие временные затраты на обучение. Модель достигает 28.4 по метрике BLEU на задаче перевода с английского на немецкий на данных WMT 2014, что превосходит предыдущий лучший результат на 2 пункта. На задаче перевода с английского на французский на данных WMT 2014 модель достигла наилучшего результата для решения, основанного на одной модели — 41.8 по метрике BLEU — после всего 3.5 дней обучения на 8 GPU, что составляет совсем небольшую часть тех вычислительных мощностей, которые были затрачены на обучение лучшей модели, известной из имеющихся публикаций. Авторы показывают, что Трансформер может также успешно применяться и в других задачах, таких как, например, синтаксический разбор предложений на английском языке с использованием как больших, так и весьма ограниченных наборов данных для обучения.
Читать дальше →
Total votes 61: ↑60 and ↓1 +59
Comments 5

Минималистичный YouTube. Расширения для браузера и альтернативные клиенты

Level of difficulty Easy
Reading time 7 min
Views 54K

В эпоху рекламы, консюмеризма и раздутых сайтов приходится принимать специальные меры защиты от лишнего контента, который лезет со всех сторон.

Один из главных «нарушителей» — YouTube. Стоило один раз посмотреть пляжный волейбол на Олимпийских играх — и он уже несколько лет показывает женщин в купальниках на главной странице (пример). Даже неудобно открывать YouTube в присутствии сына…

Непрошеные и неуместные рекомендации видео — общая проблема, на которую часто жалуются. К счастью, их легко заблокировать, как и весь остальной мусор. Можно ходить на серверы YouTube через кастомный фронтенд, через сторонние клиенты или вообще из консоли. Некоторые альтернативные способы просмотра особенно актуальны в свете потенциальной блокировки YouTube на территории РФ.
Читать дальше →
Total votes 133: ↑130 and ↓3 +127
Comments 80

Каким образом излучение Хокинга приводит к испарению чёрных дыр?

Reading time 7 min
Views 17K
Чёрная дыра в галактике M87 в поляризованном свете. Линии обозначают ориентацию поляризации, связанной с магнитными полями в тени чёрной дыры. Скорее всего, излучение сверхмассивных чёрных дыр будет нести на себе отпечаток поляризации

Удивительно, насколько сильно наше понимание Вселенной продвинулось и поменялось с начала XX века. В 1900-х годах физики только начинали раскрывать квантовую природу реальности, ещё не вышли за пределы ньютоновского понимания гравитации и не подозревали о таких астрономических объектах, как чёрные дыры. К 1970-м космологи уже представляли себе Вселенную, управляемую принципами Общей теории относительности, начавшую своё существование с Большого взрыва, заполненную галактиками, звёздами и их останками, а также её квантовую природу, удивительно точно описываемую Стандартной моделью.
Читать дальше →
Total votes 67: ↑64 and ↓3 +61
Comments 96

День рождения программиста, который не хотел денег, но создал проект на миллиарды долларов

Reading time 4 min
Views 40K


27 сентября исполняется 68 лет Ларри Уоллу — программисту, разработавшему популярный клиент rn — newsreader для групп новостей Usenet, во многом благодаря которому спустя десяток лет на свет появилась ОС Linux. Но широкую известность он получил после создания языка Perl, который нашел применение на заре Интернета в качестве инструмента для сборки интерактивных и динамических сайтов. Однако изначально Perl был придуман совсем не для этого. Язык отличается богатыми возможностями по обработке текста и регулярных выражений, что, впрочем, не удивительно: по образованию Ларри Уолл является дипломированным лингвистом. Путь специалиста по языкознанию в профессиональные программисты оказался тернист, но весьма интересен.
Читать дальше →
Total votes 68: ↑67 and ↓1 +66
Comments 35

What dreams may come

Reading time 10 min
Views 2.6K

Примечание первое: заголовок статьи — перевести одной фразой нереально (удивите?). Слишком много игры слов и смыслов. Первоисточник — монолог Гамлета “быть или не быть”. Поэтому я решила оставить оригинальный заголовок.

Примечание второе: переобучение (переподгонка, пере- в значении «слишком», англ. overfitting) в машинном обучении и статистике — явление, когда построенная модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах, не участвовавших в обучении (на примерах из тестовой выборки). Wikipedia

Читать далее
Total votes 9: ↑8 and ↓1 +7
Comments 8

PowerShell, HTML Agility Pack: получение значения атрибута HTML-элемента

Reading time 8 min
Views 1.3K

Рассмотрено два способа получения значения атрибута HTML-элемента на HTML-странице в скрипте на языке PowerShell с помощью методов объектов из библиотеки HTML Agility Pack.

Показан прямой доступ к значениям атрибутов с помощью выражения вида $node.Attributes. Далее большая часть статьи посвящена методам GetAttributeValue из библиотеки HTML Agility Pack. Освежаю в памяти, что такое «полиморфизм» и как он реализован в библиотеке для данного метода. Также будет немного затронуто понятие «обобщенного метода» («generic method») в языке C#.

Читать далее
Total votes 1: ↑1 and ↓0 +1
Comments 0

Топ вещей из Java, которых мне не хватает в C#

Reading time 5 min
Views 21K

Спор "Java vs. C#" существует чуть меньше, чем вечность. Есть много статей, затрагивающих разные участки его спектра: Что есть в C# чего нет в Java, что языки друг у друга позаимствовали, у одних LINQ, у других обратная совместимость, в общем, тысячи их.

Однако, я никогда не видел, чтобы писали о чём-то, что в Java, с точки зрения фич языка есть, чего в C# нет. Впрочем, я здесь не для того, чтобы спорить. Эта статья призвана выразить моё субъективное мнение и заполнить небольшой пробел по теме, озвученной в заголовке.

Читать далее
Total votes 27: ↑24 and ↓3 +21
Comments 71

Невыжившие в IT

Reading time 7 min
Views 193K

Этот текст я пишу из лучших побуждений, безо всякой иронии, снобизма и насмешки. Хочу сберечь время и нервы тем, кто поддался на «войти в айти» и прямо сейчас учится сортировать массивы, парсить строки и верит в «да-да, этим ты и будешь заниматься на работе».

Есть такое понятие – ошибка выжившего. Грубо говоря, о явлении, тенденции или событии судят по людям, которые прошли его успешно – выжили. Совершенно игнорируя информацию о тех, кто успеха не достиг. В результате случайная удача интерпретируется как устойчивая вероятность. Если интересна мат.часть – почитайте Нассима Талеба или Даниэля Канемана. Их книги существенно дешевле курсов по ИТ.

Я опишу типичные ошибки тех, кто не выжил. И, соответственно, не вошёл в ИТ. Всё из опыта личных наблюдений.

Да, если «тут всё неправда», «а вот мой друг Коля успешно…» или «а у меня получилось» - прекрасно, текст не про вас и не для вас. Вы и ваш друг Коля – выжившие.

Читать далее
Total votes 362: ↑349 and ↓13 +336
Comments 445

«Китайская Борхес»: домохозяйка превратила российскую историю в китайской Вики в фейк

Reading time 7 min
Views 42K

В середине июня 2022 года китайскую Википедию сотряс скандал. Оказалось, что огромные пласты её текстов по истории княжеств средневековой Руси представляли собой грандиозный фейк, писавшийся около трёх лет.

Речь идёт ни много ни мало о крупнейшей исторической фальсификации в истории всей многоязычной Википедии. Подобное случалось и раньше — доселе самым известным вики-фейком считалась существовавшая 15 лет на англоязычной Википедии статья про концлагерь Konzentrationslager Warschau в оккупированной нацистами Варшаве… которого никогда не существовало в реальности.
Читать дальше →
Total votes 107: ↑104 and ↓3 +101
Comments 275

Information

Rating
1,783-rd
Registered
Activity