За пределами цифры: аналоговый чип для энергоэффективного ИИ

Gábor Bíró 17 января 2024 г.
3 мин. чтения

По мере того, как модели искусственного интеллекта становятся все более сложными и энергоемкими, поиск более эффективного оборудования приобретает критическое значение. IBM Research сделала шаг навстречу этому вызову, представив новый аналоговый чип ИИ, разработанный для имитации эффективности мозга. Используя память с фазовым переходом, этот чип выполняет вычисления непосредственно в памяти, достигая, по сообщениям, до 14 раз большей эффективности в определенных задачах ИИ по сравнению с традиционными цифровыми аналогами и потенциально открывая путь к более устойчивому развитию ИИ.

За пределами цифры: аналоговый чип для энергоэффективного ИИ
Источник: Авторская работа

Неустанный прогресс в области ИИ достигается ценой стремительного роста энергопотребления. Обучение и запуск крупных моделей ИИ на традиционном цифровом оборудовании, основанном на архитектуре фон Неймана, которой уже несколько десятилетий, предполагает постоянное перемещение данных между отдельными блоками обработки и банками памяти. Это перемещение данных создает значительное узкое место, тратя впустую и время, и драгоценную энергию. Новый чип IBM решает эту проблему, используя аналоговые вычисления в памяти.

Вместо представления информации в виде дискретных 0 и 1 (цифровой формат), аналоговые вычисления используют непрерывные физические величины – в данном случае, электрическую проводимость ячеек памяти – для представления данных, подобно изменяющейся силе связей (синапсов) между нейронами в мозге. Принципиально важно, что вычисления происходят непосредственно там, где хранятся данные, устраняя энергозатратное перемещение данных. В этом чипе используется память с фазовым переходом (PCM), технология, в которой крошечные ячейки из специализированного материала могут переключаться между кристаллическим (низкое сопротивление) и аморфным (высокое сопротивление) состояниями с помощью электрических импульсов. Точно контролируя уровни сопротивления, каждая ячейка PCM может действовать как искусственный синапс, храня аналоговое значение (синаптический вес), имеющее решающее значение для вычислений нейронных сетей.

Этот конкретный чип IBM объединяет более 13 миллионов синаптических ячеек PCM в 64 аналоговых вычислительных ядрах. Такая архитектура позволяет реализовать значительные нейронные сети непосредственно на аппаратном обеспечении чипа. IBM заявляет, что чип может быть загружен предварительно обученными моделями, что делает его готовым к задачам инференции (использованию обученной модели для прогнозирования). Его аналоговая природа делает его особенно подходящим для эффективной обработки потоков непрерывных данных в реальном времени. В тестах с использованием стандартного эталона распознавания изображений CIFAR-10 чип достиг достойной точности 92,81%, демонстрируя свои возможности.

Исследователи IBM провели эксперименты по инференции, сравнивая аналоговый чип с аналогичным цифровым оборудованием. Результаты показали, что аналоговый чип работал с сопоставимой надежностью, но быстрее и при этом потреблял значительно меньше энергии. Такое сочетание скорости и эффективности является Святым Граалем для многих приложений ИИ, особенно для тех, которые развертываются за пределами крупных центров обработки данных.

Потенциальные области применения широки. IBM видит эти аналоговые чипы ИИ используемыми в различных областях ИИ, включая распознавание образов, обработку сигналов и задачи машинного обучения, особенно там, где ограничения по мощности жесткие, например, в периферийных устройствах, датчиках IoT, автономных транспортных средствах или даже носимых технологиях. Способность выполнять сложные задачи ИИ локально с минимальным энергопотреблением может открыть совершенно новые возможности.

Несмотря на многообещающие перспективы, аналоговые вычисления ИИ сталкиваются с проблемами. Поддержание высокой точности аналоговых значений может быть сложнее, чем с цифровыми битами, и системы могут быть более восприимчивы к шумам и производственным отклонениям. Программирование и масштабирование этих аналоговых систем также представляют собой иные препятствия по сравнению со зрелой цифровой экосистемой. Однако потенциальные выгоды стимулируют интенсивные исследования:

  • Радикальное снижение энергопотребления: Минимизируя перемещение данных, вычисления в памяти предлагают фундаментальный путь к снижению энергопотребления для ИИ.
  • Потенциал скорости: Выполнение вычислений параллельно непосредственно в памяти может ускорить определенные типы рабочих нагрузок ИИ.
  • Меньшие размеры и стоимость?: В долгосрочной перспективе более простые аналоговые архитектуры могут привести к созданию более мелких и, возможно, более дешевых чипов для определенных функций.

Разработка IBM представляет собой значительный шаг в развивающейся области аналоговых и нейроморфных вычислений. По мере того, как ограничения традиционного цифрового масштабирования становятся все более очевидными, а спрос на мощный, но при этом эффективный ИИ растет, аппаратное обеспечение, вдохновленное работой мозга, такое как этот чип на основе PCM, может оказаться решающим для следующей волны инноваций в области искусственного интеллекта, делая ИИ более распространенным и устойчивым.

Gábor Bíró 17 января 2024 г.