ВЫБОР РЕДАКЦИИ

Перспективы развития микроконтроллеров с краевым искусственным интеллектом

Проблемы разработки программно-управляемого аппаратного обеспечения

Искусственный интеллект – перспективы развития

Искусственный интеллект и увеличение интереса к краевым вычислениям

Бесшовная связь – становой хребет Четвертой промышленной революции

Использование биометрии в Сухопутных войсках США

Вопросы развития краевых вычислений

Машинное обучение открывает новые возможности FPGA

Материалы Симпозиума SEMI по промышленной политике

Современное состояние и перспективы развития рынка САПР

Teraki совершает «квантовый скачок» в сфере больших данных

Бум стартапов во Франции

Материалы Симпозиума SEMI по промышленной политике

Вопросы развития краевых вычислений

Экономические аспекты развития технологий искусственного интеллекта

О перспективах рынка потребительской электроники

Средства искусственного интеллекта учатся распознавать звуки

Превосходство КНР в области искусственного интеллекта: правда или миф?

Некоторые проблемы развития памяти с высокой пропускной способностью

Новые тенденции использования машинного обучения при проектировании и обработке изображений

Состояние и перспективы развития высокопроизводительных вычислений

Корпорация Tachyum активизирует работу с правительственными клиентами

Наступление эры искусственного интеллекта реального масштаба времени

Наступление эры искусственного интеллекта реального масштаба времени

Выпуск 11 (6710) от 11 июня 2020 г.
РУБРИКА: ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА

По мере того как оказание услуг в реальном масштабе времени становится частью повседневной жизни, вычислительная инфраструктура претерпевает серьезные изменения. Появилась и развивается обширная экосистема – ​от интеллектуальных личных помощников, мгновенно предоставляющих информацию на естественном языке, до предприятий розничной торговли, генерирующих информацию о динамике покупательских предпочтений с помощью аналитики в магазинах. Подобные услуги, предоставляемые в реальном масштабе времени, открывают огромные рыночные возможности.

В целях извлечения выгод из подобных услуг данные и аналитические данные должны быть мгновенно доступны. Они в значительной степени будут управляться сервисами с поддержкой искусственного интеллекта (ИИ) – ​облачные гиганты, такие как Amazon Web Services (AWS), Microsoft, Alibaba и SK Telecom, разрабатывают для них вычислительную инфраструктуру.

Операторы центров обработки данных (ЦОД) теперь должны оптимизировать вычисления для достижения требуемой скорости реагирования в реальном масштабе времени. Следовательно, ИТ-архитектуры также должны учитывать изменяющиеся и быстро развивающиеся рабочие нагрузки и алгоритмы, в значительной степени управляемые ИИ, наряду с возрастающей интеграцией вычислений в системы хранения и сети.

Со своей стороны, поставщики услуг нуждаются в инфраструктурной платформе, отличающейся дифференциацией и высокой производительностью для обеспечения пропускной способности и низкого времени задержки, с гибким программно-аппаратным комплексом, способным обрабатывать алгоритмы, – ​от рекуррентных нейронных сетей и сетей долгосрочной и кратковременной памяти, до сверточных нейронных сетей и ускорения запросов на основе кластерной вычислительной среды Apache Spark (см. рисунок).



Источник: Databricks

Экосистема Apache Spark

* SQL (structured query language) – язык структурированных запросов, непроцедурный специализированный язык программирования 4-го поколения (4GL), используемый для работы с данными в реляционных СУБД. Разработан корпорацией IBM. Стандартизован ANSI в 1986 г. Развитие языка – SQL2 и SQL3. Последняя версия стандарта – SQL:2003.


Чтобы достичь такого уровня дифференциации, поставщики услуг создают собственные аппаратные и программные комплексы. Например, AWS Advanced Query Accelerator – ​платформа для анализа данных с индивидуальным программным обеспечением и программируемым аппаратным стеком. SK Telecom недавно разработала средство аналитики речи и видео с поддержкой ИИ на основе специального программного и программируемого аппаратного комплекса.

Следующая волна вычислений должна быть адаптивной – ​ПО и аппаратное обеспечение объединяются и программируются для достижения необходимой производительности в реальном масштабе времени, максимальной пропускной способности, низкой задержки и эффективности энергопотребления. По мере роста количества решений и достижений в области вычислений в реальном масштабе времени с применением ИИ, усложнения рабочих нагрузок и роста объемов неструктурированных данных в ЦОДах, происходит сдвиг в сторону адаптивного ускорения вычислений, хранилищ, разработки, создания и эксплуатации сетей.


Прогнозирование в реальном масштабе времени

В стремлении ответить на самые сложные в мире научные вопросы исследователи из разных университетов используют высокопроизводительные вычисления (HPC). Для ускорения анализа и развертывания высокопроизводительных вычислений требуются большие вычислительные возможности, высокая энергоэффективность и адаптивность. Консорциум из примерно 20 тыс. ученых Европейской лаборатории физики частиц (ЦЕРН) пытается смоделировать происхождение вселенной. Для этого исследователи должны раздвинуть границы технологий.

Большой адронный коллайдер – ​крупнейший ускоритель частиц в мире. Его 27-километровое кольцо состоит из сверхпроводящих магнитов, которые ускоряют частицы до беспрецедентных уровней энергии. Каждый протон проходит по кольцу 11 тыс. раз в секунду, приближаясь к скорости света. В четырех разных точках кольца протоны сталкиваются каждые 25 нс. Условия столкновения фиксируются детекторами частиц. Эта инициирующая система реализована в двух уровнях – ​первый уровень требует фиксированной возможности формирования логического вывода ИИ с очень малой задержкой на событие (около трех микросекунд). Для этого также требуется огромная пропускная способность.

Центральные процессоры (ЦП) и графические процессоры не могут удовлетворить эти требования. Таким образом, в 100 метрах под землей создана экранированная от зоны излучения сеть ПЛИС, работающих по алгоритмам, разработанным для мгновенной фильтрации полученных данных и идентификации новых субструктур частиц как свидетельства существования темной материи и других физических явлений. Эти ПЛИС используют как классические, так и сверточные нейронные сети для получения и выравнивания данных датчиков, выполнения отслеживания и кластеризации, запуска процесса идентификации объектов машинного обучения и запуска, – ​все это перед форматированием и доставкой данных событий. Результатом становится формирование логических выводов с чрезвычайно низкой задержкой – ​порядка 100 нс.


Хранение данных для анализа в реальном масштабе времени

Освоение технологии высокоскоростных хранилищ и повышенные требования к производительности для приложений, интенсивно использующих данные, создали узкие места в ЦП, памяти и самих хранилищах. Следовательно, акцент смещается с вычислительной мощности на обработку данных в вычислительных хранилищах13. Это имеет большое значение для повышения производительности приложений и общей эффективности инфраструктуры.

Жизнеспособное решение состоит в том, чтобы приблизить вычисления к данным. Интеграция аналитики данных с хранилищем значительно сокращает узкие места на уровне системы, повышает параллелизм и снижает общие требования к питанию. Подход привлек таких поставщиков, как IBM и Micron Technology, которые разработали ускоренные системы хранения и вычисления, где обработка происходит в непосредственной близости от данных. Для обеспечения высокопроизводительных ускоренных вычислений поблизости от флэш-памяти корпорация Samsung Electronics выпустила новый твердотельный накопитель – ​SmartSSD, позволяющий преодолеть ряд ограничений ЦП и памяти, повысить быстродействие и эффективность, а также снизить эксплуатационные расходы, предоставляя интеллектуальные возможности для хранения данных.


Комплексная сеть

С появлением виртуализированных вычислений и контейнерных рабочих нагрузок работа в сети стала намного более сложной. Поскольку эти среды расширяются за пределы одного сервера, они должны использовать сложные оверлейные сети. Оверлейные сети – ​это виртуализированные системы, которые динамически создаются и поддерживаются с использованием концепции инкапсуляции пакетов. Наблюдение за этой инкапсуляцией увеличивает нагрузку на ОС или ядро виртуализации. В сочетании с традиционными сетевыми задачами эти подходы потребляют почти 30% исходных циклов ЦП сервера.

Распространенное средство управления оверлейными сетями – ​протокол Open vSwitch (OvS). Сетевые интерфейсные карты на основе ПЛИС (SmartNIC) обладают вычислительной мощностью, позволяющей разгрузить ЦП от вышеуказанных 30% нагрузок. Проще говоря, три сервера с SmartNIC, поддерживающими OvS, обладают вычислительной мощностью четырех серверов, работающих на стандартных сетевых картах.

SmartNIC на основе ПЛИС также могут быть использованы для разгрузки задач безопасности и шифрования, обычно выполняемых на ЦП сервера. Безопасность реализуется в форме глубокой проверки блоков данных (пакетов), в итоге пакеты отбрасываются, если они представляют угрозу. Такой подход может дополнить или даже заменить традиционное ПО брандмауэра, работающее серверах. Кроме того, SmartNIC могут легко выполнять различные задачи шифрования и дешифрования.


Scraba Adam. Entering the Era of Real-Time AI. EE Times magazine, May 22, 2020: https://www.eetimes.com/entering-the-era-of-real-time-ai/


МНЕНИЕ ЭКСПЕРТА

Роман Сулицкий

С конца 90-х годов прошлого века описанные в статье технологии последовательно развиваются и претерпевают качественные изменения вслед появлению и применению решений, позволяющих расширять узкие места. Например, мы можем наблюдать очередную малую революцию в области краевых (периферийных) вычислений, которые в сочетании со скачкообразным повышением скорости беспроводной передачи данных выведет использование описанных в статье технологий на новый уровень. Уже сегодня эти технологии активно коммерциализируются, а значит, становятся постепенно базовой инфраструктурной обвязкой современной экономики, которая должна встать на рельсы шестого технологического уклада. Автор статьи традиционно для западных аналитиков делает упор на пользе, связанной с решением маркетинговых задач по изменению покупательских предпочтений. Однако нас в текущей ситуации снижения потребительской активности больше интересует то, каким образом можно будет дополнительно сократить издержки при производстве и логистике товаров и услуг. Очевидно, что, например, прогнозирование в режиме реального времени – это не только обработка данных в ЦЕРН, но и поддержка в принятии решений для водителей автомобилей и, шире, полностью роботизированных логистических систем, работающих без участия человека. Важно добавить, что не только лидеры рынка, вроде AWS, предлагают к использованию данные технологии, но и множество крупных коммерческих ЦОД, способных переносить их из публичных облачных сред в частные, адаптированные под конкретного заказчика.


В ЦЕНТРЕ ВНИМАНИЯ

SK Telecom

Дата основания : 1997 г. (ранее с 1984 г. была известна как Korea Mobile Telecommunications)
Количество сотрудников: 20,9 тыс. чел. (2019 г.).
Штабквартира: Сеул, Республика Корея.
Представительства: SK Telecom America Inc. (Саннивэйл, шт. Калифорния, США), SK Telecom (tttChina) Holding (Пекин, КНР), SK Telecom Со. (Токио, Япония)
Выручка: 1,35 млрд долл.(2018 г.).

SK Telecom – ​один из крупнейших операторов беспроводной связи в Южной Корее, также осуществляющий деятельность в ряде иных направлений. За последние годы компания оказала консультационные услуги при развертывании сетей беспроводной связи (от 3G до 4G LTE) 49 операторам связи из 21 страны.
Основные направления деятельности компании SK Telecom:

  • беспроводная связь;
  • мобильные платформы;
  • Интернет;
  • мобильный Интернет;
  • Интернет вещей;
  • искусственный интеллект.
SK Telecom и ее филиалы управляют различными бизнес-проектами в сфере информационно-коммуникационных технологий (ИКТ) – ​от телекоммуникационного бизнеса до новых направлений в сфере ИКТ, включая СМИ, безо-пасность, Интернет вещей и мобильные технологии. Обладая внушительными технологическими возможностями в области сетей и средств связи 5G, искусственного интеллекта (ИИ), анализа больших данных, Интернета вещей и квантовой криптографии, компания укрепляет свои позиции в качестве глобального лидера в области ИКТ.
SK Telecom модернизирует услуги связи, СМИ, безопасности и коммерции на основе платформы ИИ Nugu (первого голосового ИИ-помощника, поддерживающего корейский язык). С момента запуска Nugu в сентябре 2016 г. компания предлагает разнообразные ИИ-решения, объединяя Nugu со своими приложениями T Map (электронные карты и навигация), BTV (цифровое телевидение) и Kids (услуги телефонной связи), создавая новую потребительскую ценность за счет интеграции услуг и формируя видение общества, характеризующегося гиперсвязанностью.

ЧИТАЙТЕ ТАКЖЕ

Выпуск 22(6746) от 11 ноября 2021 г. г.
Выпуск 21(6745) от 28 октября 2021 г. г.