Новая технология IBM позволила ускорить обучение ИИ в 4 раза

5 Декабря 2018, Владимир Кузнецов 7

Вычислительная эффективность искусственного интеллекта — это, своего рода, палка о двух концах. С одной стороны он должен обучаться довольно быстро, но чем больше «ускоряется» нейросеть — тем больше она потребляет энергии. А значит может стать попросту невыгодной. Однако выход из ситуации может дать IBM, которая продемонстрировала новые методы обучения ИИ, которые позволят ему обучаться в несколько раз быстрее при том же уровне затрат ресурсов и энергии.


Для достижения таких результатов IBM пришлось отказаться от методов вычисления с использованием 32-и 16-битных техник, разработав 8-битную технику, а также новый чип для работы с ней.

«Грядущему поколению приложений для работы ИИ потребуется более быстрое время отклика, большие рабочие нагрузки и возможность работать с несколькими потоками данных. Чтобы раскрыть весь потенциал ИИ, мы перепроектируем все аппаратное обеспечение полностью. Масштабирование ИИ с помощью новых аппаратных решений является частью программы IBM Research по переходу от узкогопрофильного ИИ, часто используемого для решения конкретных, четко определенных задач, к многопрофильному ИИ, который охватывает все сферы.» — заявил вице-президент и директор лаборатории IBM Research Джеффри Вельзер.

Все разработки IBM были представлены в рамках NeurIPS 2018 в Монреале. Инженеры компании рассказали о двух разработках. Первая носит название «глубокое машинное обучение нейронных сетей с помощью 8-разрядных чисел с плавающей запятой.» В нем они описывают, как им удалось так снизить арифметическую точность для приложений с 32 бит до 16 бит и сохранить ее на 8-битной модели. Эксперты утверждают, что их техника ускоряет время обучения глубоких нейронных сетей в 2-4 раза по сравнению с 16-битными системами. Вторая разработка «8-битное умножение в памяти с проецируемой памятью фазового перехода». Здесь эксперты раскрывают метод, который компенсирует низкую точность аналоговых микросхем ИИ, позволяя им потреблять в 33 раза меньше энергии, чем сопоставимые цифровые ИИ-системы.

«Улучшенная точность, достигнутая нашей исследовательской группой, указывает на то, что вычисления в памяти могут обеспечить высокопроизводительное глубокое обучение в средах с низким энергопотреблением. Как и с нашими цифровыми ускорителями, наши аналоговые чипы предназначены для масштабирования и обучения ИИ и вывода через визуальные, речевые и текстовые наборы данных и распространяются на многопрофильный ИИ.»

Эту и другие новости вы можете обсудить в нашем чате в Телеграм.

7 комментариев Оставить свой

  1. cats.can.fly

    Офигиваю от прогресса в области ИИ. Круто но немного стрёмно.

    • Pyth0n

      cats.can.fly, стрёмно с того, что разрядность вычислений снизили в два раза? то ли еще будет когда до 4 разрядов снизят :)

    • gazon

      cats.can.fly, А стрёмно почему?

      • Pyth0n

        gazon, Очевидно же, поработят человеков! Умные машины будут править над глупым мясом ;)

        • gazon

          Pyth0n, Пусть лучше умные машины,чем глупое мясо над глупым мясом:))

        • cats.can.fly

          Pyth0n, Странное ощущение, смесь радости, восторга и тревоги.
          Такое же чувство было у меня когда в Deus EX выбрал концовку где аугментированного ребёнка показывают.

  2. klirik

    Смешно. Люди всё таки не могут без божества. Стоило им отказаться от религиозного, так они уже себе цифрового создали.
    Ну что же, посмотрим какой окажется лучше. Но если вы скажите что цифровой бог всех победит. Я скажу что вы уже веруете)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.