• Подотчётность ИИ: роль объяснительной записки

      Системы искусственного интеллекта (ИИ) получают всё большее распространение. В связи с этим юристы и законодатели обсуждают проблему, каким образом должны регулироваться такие системы, кто будет нести ответственность за их действия. Этот вопрос требует внимательного изучения и взвешенного подхода, потому что системы ИИ способны генерировать огромные массивы данных и применяться в приложениях разной функциональности — от медицинских систем и автопилотов в автомобилях до предсказания преступлений и вычисления потенциальных преступников. При этом учёные стремятся к созданию «сильного ИИ», способного к рассуждениям, и здесь возникает вопрос, как определить наличие умысла в его действиях — или признать действия неумышленными.

      Есть много способов привлечь к отчётности и ответственности систему ИИ, на эту тему опубликовано несколько исследований. В новой научной работе специалисты по компьютерным наукам, когнитивным наукам и юристов из Гарвардского и Кембриджского университетов (США) обсуждают одну составляющую будущей системы подотчётности ИИ, а именно — роль объяснительной записки от ИИ, то есть оценку того, как система искусственного интеллекта объясняет свои действия. Учёные пришли к выводу, что модуль объяснения действий должен быть отделён от общей системы ИИ.
      Читать дальше →
      • +12
      • 5,4k
      • 9
    • ИИ помогает определить склонность человека к самоубийству



      Многие люди, которые решили покончить с собой, ведут себя не слишком адекватно. Кто-то постоянно находится в угрюмом настроении, еще кто-то начинает вести себя агрессивно, но бывает и так, что потенциальный самоубийца ничем себя не выдает. Порой случается так, что сегодня человек еще веселился в компании друзей, играл на гитаре и пел, а завтра он решает покончить с собой.

      По статистике, каждый год самоубийства совершает около 800 000 человек. Иногда бывает так, что ситуация, из-за которой человек решил уйти из жизни, вовсе не безвыходная, и если бы кто-то поговорил с потенциальным самоубийцей до момента его смерти, то человек просто отказался бы от своей идеи. Сейчас ученые из Университета Карнеги Меллона разрабатывают нейросеть, способную предсказать, когда человек решает убить себя.
      Читать дальше →
    • Путь автоматизации: конкуренция с ИИ, избавление от рутины, безусловное базовое время


        (c)


        Как автоматизировать работу и никогда не работать? Прежде чем ответить на этот вопрос, спросите себя о другом: сколько времени вам нужно для счастья? Люди, которые не знают, чем занять вечер выходного дня, не нуждаются в автоматизации многих задач.


        Сокращение рутины дает преимущество в конкурентной борьбе. Автоматизация «добывает» самый ценный ресурс на планете — время. Технический прогресс позволяет тратить время на то, что вам интересно: на решение интеллектуальных задач и, вероятно, более сложную работу, выполнение которой обеспечит больше возможностей для улучшения качества жизни.


        Дальше — о том, что и как облегчает нам жизнь.

        Читать дальше →
      • Задача распознавания речи пока не решена

        • Перевод
        С тех пор, как на сцену распознавания речи вышло глубинное обучение, количество ошибок в распознавании слов кардинально уменьшилось. Но, несмотря на все те статьи, которые вы могли читать, у нас до сих пор нет распознавания речи человеческого уровня. У распознавателей речи много видов отказов. Для дальнейшего улучшения их нужно выделить и постараться устранить. Это единственный способ перейти от распознавания, подходящего для некоторых людей большую часть времени, к распознаванию, работающему для всех людей всё время.


        Улучшения в количестве ошибочно распознанных слов. Тестовый голосовой набор был собран на телефонном коммутаторе в 2000 году из 40 случайных разговоров двух человек, чей родной язык – английский

        Говорить о том, что мы достигли уровня человека в распознавании речи в разговорах, основываясь лишь на наборе разговоров с телефонного коммутатора, это всё равно, что утверждать, что робомобиль водит не хуже человека, протестировав его в единственном городе в солнечный день без всякого уличного движения. Произошедшие в деле распознавания речи в последнее время сдвиги удивительны. Но заявления по поводу распознавания речи на уровне человека слишком смелы. Вот несколько областей, в которых всё ещё необходимо добиваться улучшений.
        Читать дальше →
      • Первые состязательные 3D-примеры для обмана нейросетей


          Напечатанная на 3D-принтере черепаха распознаётся нейросетью как черепаха (зеленый контур), винтовка (красный контур) или как другой объект (чёрный контур)

          Давно известно, что небольшие целенаправленные изменения в картинке «ломают» систему машинного обучения, так что она классифицирует совершенно другое изображение. Такие «троянские» картинки называются «состязательными примерами» (adversarial examples) и представляют собой одно из известных ограничений глубинного обучения.

          Работают они просто: нужно сделать градиентное восхождение в пространстве входных данных для генерации образцов, которые максимизируют предсказание класса для заданного класса. Например, если взять фотографию панды и добавить градиент «гиббон», мы заставим нейросеть классифицировать эту панду как гиббона. Черепаху можно выдать как винтовку (см. иллюстрацию вверху). Кот превращается в холодную закуску гуакамоле (см. под катом) — неважно. Любой объект превращается в любой другой для в глазах машинного интеллекта, потому что у ИИ особая система «зрения», отличная от человеческой.
          Читать дальше →
        • Теоретическая Нейробиология. Часть вторая. Сингулярность?


            В первой части мы пришли к тому, что мозг имеет наборы триггеров и сигнальную систему для передачи сигналов между удаленными наборами. При поступлении внешних раздражителей происходит активация набора соответствующего раздражителям, что приводит к производству соответствующего набора гормонов. Гормоны раздражают другие наборы триггеров, имеющих сходный набор гормонов для активации. Что порождает цепную реакцию. То есть наше сознание есть не что иное как поиск равновесия между двумя системами, системой триггеров и сигнальной системой. При этом есть внешние раздражители, которые выводят систему из равновесия. Можно предположить что такая система никогда не достигнет равновесия.

            Попробуем рассмотреть это более детально.
            Читать дальше →
          • AdBlock похитил этот баннер, но баннеры не зубы — отрастут

            Подробнее
            Реклама
          • Для искусственного интеллекта нет пожарной тревоги

            • Перевод
            image

            Зачем нужна пожарная тревога?

            Можно было бы решить, что пожарная тревога должна давать вам важное доказательство наличия пожара, что позволяет вам изменить свои планы и покинуть здание.

            В классическом эксперименте, проведённом Латейном и Дарли [Latane and Darley] в 1968 году, восемь групп по три студента попросили заполнить анкету, усадив в комнате, которая вскоре после начала эксперимента начала заполняться дымом. Пять из восьми групп не отреагировали и не пожаловались на дым, даже когда он стал таким плотным, что они начали кашлять. Последующие действия показали, что одиночный студент жаловался на дым в 75% случаев. А студент в обществе двух других людей, которых попросили ничего не предпринимать, реагировал на дым только в 19% случаев. Этот и другие эксперименты показали, что на самом деле происходит плюралистическое игнорирование. Мы не хотим показаться паникёрами и испугаться чрезвычайной ситуации, поэтому мы стараемся выглядеть спокойными, краем глаза наблюдая за тем, как ведут себя другие – но они, конечно же, тоже стараются выглядеть спокойными.

            Я читал большое количество отчётов о воспроизведении этого эксперимента и его вариациях, и полученные результаты оказались вопиющими. Мне кажется, что этому результату не суждено погибнуть в кризисе воспроизведения, и я о проблемах с его воспроизведением не слышал.
            Читать дальше →
          • Человек победил ИИ в Starcraft со счетом 4-0



              Искусственный интеллект (слабая его форма) постепенно становится все более умелым. Компьютер с успехом решает даже те задачи, которые всего несколько лет назад считались доступными для понимания лишь человеку. Один из примеров — игра го, где стать чемпионом может лишь тот, у кого хорошо развита интуиция и логическое мышление. Го для машины считалась недостижимым «потолком». Сейчас же мы видим, что на Земле уже нет людей, способных выиграть у машины.

              Понятно, что ИИ не только в го играет, круг задач гораздо шире. Тем не менее, специалисты из разных сфер ИТ стараются обучить компьютер сражаться на равных с человеком и в компьютерных играх, с тем, чтобы проверить возможности своих программных платформ. В этом случае человек и бот находятся в одинаковых условиях. Обычно соперников сталкивают лбами на карте стратегии с «туманом войны», так что оба противника не в курсе, какие объекты и где на этой карте находятся (в обычных условиях игровой «ИИ» знает, где что находится). Именно в таких условиях человек победил машину в StarCraft.
              Читать дальше →
            • Конкуренция за будущий рынок: кто сегодня разрабатывает автономные грузовики



                Автономные автомобили – тренд, который в последнее время поддерживают ведущие IT- и автокомпании. Однако если можно заставить обычную машину ездить без водителя, значит, то же самое можно сделать и с грузовиками.

                Основным препятствием для развития автономных грузовиков остаются законодательные ограничения. Поэтому пока наиболее перспективно использование машин на закрытых территориях. Хотя в мае 2015 года компания Daimler первой в мире получила разрешение от штата Невада на использование своего автономного грузовика на его территории. За пределами штата, однако, водитель должен переходить на ручное управление.

                Daimler собирается вывести свою разработку на рынок уже в 2020 году. Пока этого не случилось, предлагаем вспомнить основных конкурентов компании в этой отрасли.
                Читать дальше →
              • Просто купите себе чёртовых роботов

                • Перевод
                Пять рядов по двести станков в каждом, одновременно вгрызаясь резцами в заготовки из стали, выбрасывали готовые детали на непрерывную ленту конвейера, останавливались на время, необходимое для закрепления в зажимах новых заготовок, зажимали их и, опять вгрызаясь резцами в заготовки, выбрасывали готовые детали.

                Пол открыл ящик, в котором хранилась лента с записями операций, управляющая всеми этими станками. Лента была не чем иным, как маленькой петелькой, которая непрерывно бегала по магнитным снимателям. В свое время на ней были записаны все движения токаря, обрабатывающего валы для мотора в одну лошадиную силу. Пол попытался подсчитать, сколько же лет тому назад это происходило — одиннадцать? двенадцать? Нет, тринадцать лет назад именно он, Пол, и производил эту запись работы токаря, обрабатывающего валы…

                Еще не успели просохнуть чернила на их докторских дипломах, как он с Финнерти и Шефердом был направлен в механический цех для производства таких записей. Начальник цеха указал им своего лучшего работника — как же было его имя? — и, подшучивая над озадаченным токарем, трое способных молодых людей подключили записывающий аппарат к рычагам токарного станка. Гертц! — вот как звали этого токаря. Руди Гертц, человек старого уклада, которого вот-вот должны были отправить на пенсию. Сейчас Пол вспомнил и его имя и то почтение, с которым старик относился к талантливым молодым людям.

                По окончании работы они упросили начальника цеха отпустить с ними Руди и с показным и эксцентричным демократизмом людей «от станка» пригласили Руди в пивную напротив завода. Руди не очень разобрался, зачем понадобились им все эти записи, но то, что он понял, ему понравилось: ведь именно его выбрали из тысяч других токарей, чтобы обессмертить его движения, записав их на магнитную ленту.
                Читать дальше →
              Самое читаемое
              Интересные публикации