ВЫБОР РЕДАКЦИИ

Состояние рынка схем памяти и успехи китайских компаний

Искусственный интеллект и увеличение интереса к краевым вычислениям

CEA-Leti продолжает работы по 6G в D-диапазоне

Освоение и развертывание технологий 5G

Перспективы развития чиплетов

Создание Общества по проблемам методик глубокого обучения для систем со сверхмалым энергопотреблением

Развитие индустрии лидаров

Проблемы безопасности вычислений и связи

Разработка Elektrobit для снижения нагрузки на разработчиков автомобильного ПО

Нарастание проблем при масштабировании схем памяти

Замечания к использованию 2D-материалов

Arm v9 – новая архитектура фирмы ARM

Современное состояние и перспективы развития рынка САПР

Некоторые проблемы развития памяти с высокой пропускной способностью

Перспективы развития микроконтроллеров с краевым искусственным интеллектом

Проблемы разработки программно-управляемого аппаратного обеспечения

Искусственный интеллект – перспективы развития

Наступление эры искусственного интеллекта реального масштаба времени

Бесшовная связь – становой хребет Четвертой промышленной революции

Использование биометрии в Сухопутных войсках США

Вопросы развития краевых вычислений

Машинное обучение открывает новые возможности FPGA

Материалы Симпозиума SEMI по промышленной политике

Teraki совершает «квантовый скачок» в сфере больших данных

Бум стартапов во Франции

Материалы Симпозиума SEMI по промышленной политике

Вопросы развития краевых вычислений

Экономические аспекты развития технологий искусственного интеллекта

О перспективах рынка потребительской электроники

Средства искусственного интеллекта учатся распознавать звуки

Превосходство КНР в области искусственного интеллекта: правда или миф?

Новые разработки стартапа SambaNova

Новые разработки стартапа SambaNova

Выпуск 1(6725) от 14 января 2021 г.
РУБРИКА: ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА

Корпорация SambaNova (Пало-Альто, шт. Калифорния), один из стартапов-«единорогов», специализирующийся на разработке ИС искусственного интеллекта, представила свой первый продукт – ​ускоритель ИИ системного уровня. Это изделие предназначено для центров гиперразмерных вычислений, корпоративных центров обработки данных (ЦОД) и средств высокопроизводительных вычислений (HPC). Бизнес-модель корпорации SambaNova заключается в продаже различных конфигураций стоечных систем DataScale, а также в сдаче их в помесячную аренду в рамках бизнес-предложения «поток данных-как-услуга».

Стартап SambaNova был основан в 2017 г. и сих пор практически не публиковал данные о своей деятельности. Только недавно были представлены некоторые подробности относительно фирменной архитектуры кристалла, основанной на концепции программно-управляемого аппаратного обеспечения. На сегодняшний день стартап в рамках трех этапов венчурного финансирования собрал 456 млн долл., и, как сообщается, его рыночная стоимость теперь оценивается более чем в 2,5 млрд.

Система DataScale построена на кристаллах реконфигурируемых блоков обработки потока данных (reconfigurable dataflow unit, RDU) Cardinal SN10 (рис. 1). О самих кристаллах до сих пор мало что рассказывалось, было известно только то, что каждый кристалл с быстродействием в «сотни терафлопс» и емкостью внутрикристальной памяти в «сотни мегабайт» обладает прямым доступом к «терабайтам внекристальной памяти».



Источник: SambaNova

Рисунок 1. Реконфигурируемый блок обработки потока данных Cardinal SN10 корпорации SambaNova


Система DataScale основана на множественных восьмикристальных узлах, получивших название SN10-8, в сочетании с программным стеком SambaFlow и высокоскоростным оптоволокном для непосредственного соединения RDU-кристаллов. Она поставляется в виде полностью собранной аппаратной системы в четвертной, половинной, полностоечной и многостоечной конфигурации (рис. 2).



Источник: SambaNova

Рисунок 2. Системы DataScale корпорации SambaNova в трехстоечном исполнении


Конкуренты корпорации SambaNova, включая стартап Vertebrae и еще один стартап-«единорог» Graphcore, также представили в 2020 г. продукты системного уровня для ЦОД. Однако стратегические инвестиции в SambaNova, осуществляемые фондами венчурного капитала Google Ventures и Intel Capital, обеспечивают компании возможность реализовать многолетнюю маршрутную карту развития ее продукции – ​это может оказаться важнее, чем первенство в выходе на рынок.

Представители корпорации SambaNova утверждают, что их система обладает рядом ведущих показателей производительности.

Рекордное значение производительности обучения по BERT-Large – ​пропускная способность 28800 выборок в секунду (при размере партии 1000) – ​с использованием 64-RDU-кристальной системы (8×SN10‑8 узлов).

Модель обработки данных на естественном языке (Natural Language Processing, NLP) со 100 млрд параметров была обу-чена с использованием только одного узла SN10‑8, который имеет в общей сложности 12 ТБайт памяти (это восемь кристаллов RDU, тогда как для обучения той же модели при помощи современных графических процессоров их требовалось 412 штук с 32 Тбайт памяти).

Для рекомендательных систем установлена мировая рекордная пропускная способность формирования логического вывода при использовании рекомендательной модели глубокого обучения (deep learning recommendation model, DLRM) – ​8632 выборки в секунду (для восьмикристального SN10‑8).

На основе данных корпорации SambaNova построена научная модель компьютерного зрения, работающая на одном RDU, с точностью предсказания 90,23% (сеть CosmicTagger с изображениями 1280×2048 пикселей). Размер кристалла подразумевает, что сеть может быть обучена входным изображениям с более высоким разрешением (RDU может обрабатывать свертки размером до 50000×50000). Этот уровень точности достигается потому, что не требуется снижать разрешение изображения и можно поддерживать все богатство данных и информации в этих изображениях с высоким разрешением.

Для рекомендательных моделей, таких как DLRM, практикуется сжатие пространства представления или вложений, т. е. должны быть приняты решения о том, какие функции вырезать в ущерб точности. Это можно свести к минимуму, если кристалл больше. Продукция SambaNova способна обеспечивать работу DLRM с точностью 80,46%. С точки зрения ценности бизнеса очевидно, что даже доли процента повышения точности могут повлечь за собой ускорение и увеличение потоков доходов в случае онлайновой розничной торговли.

Наряду со стоечными системами корпорация SambaNova представила новое сервисное предложение, предполагающее сдачу аппаратного обеспечения в аренду за ежемесячную плату. Это бизнес-предложение получило название «поток данных-как-услуга» (dataflow-as-a-service, DaaS). В рамках этой услуги аппаратное обеспечение поставляется в ЦОД заказчика, но управляется и обслуживается компанией SambaNova. Фактически речь идет об удовлетворении пожеланий клиентов, которые хотели получить быстрый и простой способ использования систем DataScale, но задействовать при этом сервис ориентированную модель как с точки зрения технологии, так и с точки зрения закупок. За минимальную цену в 10 тыс. долл. в месяц предоставляется три уровня подписки, ориентированных на NLP, компьютерное зрение высокого разрешения и рекомендательные системы.

Среди клиентов SambaNova уже числятся Аргоннская национальная лаборатория, Национальное управление ядерной безопасности (National Nuclear Security Administration, NNSA) Министерства энергетики США, Ливерморская национальная лаборатория им. Лоуренса и Лос-Аламосская национальная лаборатория. В Аргоннской национальной лаборатории системы SambaNova используются для работ над важными исследовательскими проектами, включая:

исследования в области раковых заболеваний, COVID‑19 и т. д.;

использование искусственного интеллекта для автоматизации некоторых этапов процессов разработки.

Отмечается, что архитектура DataScale корпорации SambaNova дает возможность осуществлять обучение и формировать логические выводы из нескольких больших и малых моделей одновременно, обеспечивать повышение производительности на порядки по сравнению с графическими процессорами.


Ward-Foxton Sally. SambaNova Emerges From Stealth With Record-Breaking AI System. EE Times, December 14, 2020: https://www.eetimes.com/sambanova-emerges-from-stealth-with-record-breaking-ai-system/?utm_source=newsletter&utm_campaign=link&utm_medium=EETimesDaily


ЧИТАЙТЕ ТАКЖЕ