Перспективы развития нейроморфных вычислений и их возможная конкуренция с ускорителями искусственного интеллекта

Перспективы развития нейроморфных вычислений и их возможная конкуренция с ускорителями искусственного интеллекта

Выпуск 10 (6709) от 28 мая 2020 г.
РУБРИКА: МИКРОЭЛЕКТРОНИКА

На первый взгляд новое поколение нейроморфных интегральных схем имеет несколько общих черт с аналогичной ультрасовременной технологией ускорителей искусственного интеллекта: предназначены для обработки искусственных нейронных сетей, предлагают улучшение производительности по сравнению с процессорами и, по заявлениям изготовителей, более энергоэффективны. Однако на этом сходство заканчивается.

Нейроморфные ИС предназначены только для особого вида нейронных сетей, называемых импульсными нейронными сетями, и их структура принципиально отличается от всего, что можно увидеть в традиционных вычислениях. Возможно, еще слишком рано говорить о том, как будет выглядеть рынок этих устройств, поскольку новые приложения и технологии продолжают появляться.

Представители ведущих компаний-производителей ускорителей ИИ рассказали журналистам издания Electronic Engineering Times, действительно ли эти технологии дополняют друг друга или есть некоторые совпадения.

Главный вопрос заключается в следующем: будут ли эти вычислительные парадигмы конкурировать друг с другом в дальнейшем?


Разные ниши

Представители корпорации Intel (Санта-Клара, шт. Калифорния, США) считают, что конкуренции не будет. Intel лидирует в области исследований как нейроморфных вычислений (ИС Loihi), так и в области ускорения ИИ благодаря широкому спектру центральных процессоров для центров обработки данных (ЦОД), а также поглощению Habana Labs, фирмы-разработчика ускорителей ИИ.

Специалисты лаборатории нейроморфных вычислений Intel не считают нейроморфные вычисления непосредственно сопоставимыми с обычными ускорителями ИИ (наподобие приборов, разработанных Habana Labs). Их ниша отлична от привычной области больших данных – ​это область контролируемого обучения искусственных нейронных сетей (ИНС).

Современные ускорители ИИ предназначены для глубокого обучения больших сетей с использованием колоссальных объемов данных. Соответственно, для них требуется огромная пропускная способность устройств ввода–вывода и памяти. Нейроморфные модели существенно отличаются от ускорителей ИИ. Они обрабатывают отдельные образцы данных «на месте», там и тогда, где и когда реальные данные поступают в ИС, и обработка должна вестись с наименьшей задержкой и наименьшей возможной потребляемой мощностью.

Черта, отличающая ИС краевого ИИ даже от краевого глубокого обучения, заключается в том, что рассматриваются модели, адаптирующиеся и фактически способные учиться в реальном масштабе времени на основе поступающих отдельных выборок данных, которые не очень хорошо поддерживают парадигму глубокого обучения.

Другими словами, по мнению Intel, речь идет о двух разных вычислительных подходах для совершенно разных типов нейронных сетей.


Сходство

Представители фирмы Kalray (Монбонно, Франция), рассматривая ускорители ИИ, находят некоторые сходства между архитектурой массива процессоров многоцелевого назначения (multi purpose processor array, MPPA) и некоторыми новыми нейроморфными подходами.

Нейроморфные вычисления очень интересны – ​этот новый способ мышления очень близок человеческому. Мозг выполняет множество функций параллельно, осуществляя свои собственные вычисления и затем постепенно объединяя их результаты. Архитектура MPPA была разработана с использованием весьма схожего подхода.

Последняя разработка фирмы Kalray, ИС Coolidge, может быть использована для ускорения ИИ в ЦОД и автомобильных приложениях. ИС Coolidge не является «чистым» ускорителем ИИ – ​она обладает более широкими возможностями для краевых вычислений, в тоже время архитектура MPPA способна реализовывать функции ускорения ИИ. На выставке потребительской электроники (Consumer Electronics Show, CES) в январе 2020 г. фирма Kalray продемонстрировала несколько вариантов использования ИС Coolidge с ИИ.

Специалисты Kalray считают, что в ближайшее время появятся новые интересные нейроморфные продукты. Рынок настолько велик, что на нем есть место для разных приложений со множеством типов архитектур.


Экономические аспекты

Представители компании XMOS (Бристоль, Великобритания) считают, что коммерческое (т. е. массовое) внедрение нейроморфных вычислений, особенно на целевых для них рынках, таких как Интернет вещей и потребительская электроника, в ближайшее время невозможно.

В последней разработке компании XMOS, кроссоверном процессоре Xcore.ai, в ускоритель ИИ встроены фирменные СФ-блоки, поддерживающие приложения речевого интерфейса, в которых для обнаружения ключевых слов или выполнения функций словаря требуется использовать ИИ.

Любая новая технология, основанная на новой парадигме программирования, т. е. подра-зумевающая изменение восприятия людьми систем программирования, столкнется с проблемами при выходе на рынок (в первую очередь – ​с сопротивлением покупателей). Чтобы преодолеть эти барьеры, необходимо быть как можно ближе к уже существующей, знакомой модели программирования. Таким образом, вопрос не только в том, чтобы сделать преимущества новых технологий доступными с точки зрения затрат, но и в том, чтобы использовать уже имеющиеся у потребителя навыки, иначе внедрение будет очень медленным. Xcore.ai, несмотря на то что он реализован на архитектуре RISC, не избежал этой участи.

В ближайшем будущем компания XMOS не планирует конкурировать с нейроморфными вычислениями, хотя считает их безусловно перспективной технологией.


По образцу природы

Специалисты стартапа Hailo (Тель-Авив, Израиль), специализирующегося в области ИИ ИС, отмечают, что ограничения новой вычислительной архитектуры, имитирующей определенную часть мозга, могут привести к появлению узких мест, которые сведут на нет выигрыш в производительности. С другой стороны, для прорывных инноваций требуются смелые подходы. В этом смысле нейроморфные подходы, безусловно, перспективны, но им действительно придется доказывать свою эффективность, прежде чем они смогут занять достойное место на рынке [1].

Недавно Hailo разработала свою новую архитектуру нейроморфных вычислений, на основе которой в мае 2019 г. был представлен процессор Hailo‑8 для краевых и оконечных устройств. В этой архитектуре вычислительные блоки, память и управляющие блоки смешаны вместе (см. рисунок). Программное обеспечение распределяет смежные блоки для работы на каждом уровне нейронной сети в зависимости от требований к уровню вычислений и памяти этого уровня. Процессор Hailo‑8 предлагает быстродействие 26×1012 операций в секунду (TOPS) при удельной потребляемой мощности 2,8 TOPS/Вт, что обеспечивает ускоренное формирование логического вывода ИИ в краевых и оконечных устройствах.

В рамках завершенного в апреле 2020 г. этапа B венчурного финансирования стартап Hailo собрал 60 млн долл., доведя объем общего финансирования до 88 млн долл. Средства будут использованы для превращения разработки ИС Hailo‑8 в готовый продукт и его коммерциализации, а также для дальнейшего развития аппаратного и программного обеспечения компании в целях расширения присутствия на мировом рынке [2].


Краевые и облачные вычисления

Фирма Graphcore (Бристоль, Великобритания) разрабатывает ускорители ИИ, ориентированные на различные сектора конечного применения. Как и корпорация Intel, она занимается исследованиями в области нейроморфных вычислений, при этом ей не обязательно напрямую конкурировать с нейроморфными компаниями. Область, в которой они сосуществуют на рынке, – ​это краевые вычисления, обеспечивающие низкое энергопотребление и близость к сенсорным приложениям. Отсутствие прямой конкуренции с Graphcore обусловлено разными нишами – ​Graphcore ориентирована на создание более крупных 




Источник: Hailo

Вычислительная архитектура Hailo: ПО используется для выделения памяти на кристалле, управления блоками нейронных сетей и вычислений по мере необходимости облачных систем обучения с крупномасштабными краевыми приложениями.

Главная проблема, стоящая перед нейроморфными вычислениями, – ​программное обеспечение. Та же задача возникает при создании любого процессора. Сложилась интересная практика – ​слишком часто разработчики создают перспективные процессоры и только потом пытаются понять, как их программировать. Реальность же такова, что сначала нужно решить вопросы программирования, и только потом создавать процессор.

Формирование подхода Graphcore к разработкам в области нейроморфных вычислений началось с признания того, что модели машинного обучения – ​это, по существу, большие многомерные графы, в которых вершины вычисляются, а ребра представляют собой связь между вычислительными элементами. Первоначально компания разработала ПО для описания графов на уровне вычислений, а затем разработала процессор для их обработки. Высокая размерность графов затрудняет их обработку в обычном пространстве памяти, когда рядом друг с другом могут находиться только два фрагмента: данные в конечном итоге становятся очень разреженными, а части проблемы распределяются в памяти. Для преодоления этого Graphcore в блоках обработки ИИ своих ИС задействует большие объемы памяти с высокой пропускной способностью. Результатом стали нейроморфные приложения на этапе исследовательского проекта.

Помимо этого Graphcore работает в сфере молекулярных вычислений – ​новой области, где в качестве компьютеров используются биологические молекулы, такие как ДНК (с целью уменьшения предела Ландауэра – ​количества энергии, необходимого для стирания одного бита информации).

* * *

Опрошенные журналистами EE Times специалисты отметили, что наилучший путь развития как ускорителей искусственного интеллекта, так и нейроморфных вычислений – ​использование существующих заделов в полупроводниковой промышленности. Она уже инвестировала триллионы долларов в создание компьютеров на основе кремниевых технологий, обладает опытом организации массового производства. Вероятно, лучший путь – ​использование различных архитектур существующих средств вычислительной техники для формирования новых подходов к освоению искусственного интеллекта [1].


1. Ward-Foxton Sally. Will Neuromorphic Computing Compete with Today’s AI Accelerators? EETimes magazine, April 13, 2020: https://www.eetimes.com/will-neuromorphic-computing-compete-with-todays-ai-accelerators/# 

2. Ward-Foxton Sally. Hailo Raises $60m for AI Chip Productization. EETimes magazine, May 5, 2020: https://www.eetimes.com/hailo-raises60m-for-ai-chip-productization/


ЧИТАЙТЕ ТАКЖЕ

Выпуск 24/25 (6748/6749) от 23 декабря 2021 г. г.
Выпуск 24/25 (6748/6749) от 23 декабря 2021 г. г.