ВЫБОР РЕДАКЦИИ

Нейроморфные вычисления и их перспективы для искусственного интеллекта

Искусственный интеллект и нейроморфные вычисления

Перспективы развития микроконтроллеров с краевым искусственным интеллектом

Проблемы разработки программно-управляемого аппаратного обеспечения

Искусственный интеллект – перспективы развития

Наступление эры искусственного интеллекта реального масштаба времени

Искусственный интеллект и увеличение интереса к краевым вычислениям

Бесшовная связь – становой хребет Четвертой промышленной революции

Использование биометрии в Сухопутных войсках США

Вопросы развития краевых вычислений

Машинное обучение открывает новые возможности FPGA

Материалы Симпозиума SEMI по промышленной политике

Современное состояние и перспективы развития рынка САПР

Teraki совершает «квантовый скачок» в сфере больших данных

Бум стартапов во Франции

Материалы Симпозиума SEMI по промышленной политике

Вопросы развития краевых вычислений

Экономические аспекты развития технологий искусственного интеллекта

О перспективах рынка потребительской электроники

Средства искусственного интеллекта учатся распознавать звуки

Превосходство КНР в области искусственного интеллекта: правда или миф?

Некоторые проблемы развития памяти с высокой пропускной способностью

Новейшие технологии нейроморфных вычислений приведут к развитию искусственного интеллекта

Новейшие технологии нейроморфных вычислений приведут к развитию искусственного интеллекта

Выпуск 23 (6697) от 21 ноября 2019 г.
РУБРИКА: ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА

Сегодня глубокие нейронные сети стали реальностью, а нейроморфизм, по-видимому, оказывается единственным практическим путем для дальнейшего прогресса в области ИИ. Специалисты, сталкивающиеся с ограничениями пропускной способности систем и постоянно растущими требованиями к вычислениям и вычислительным средствам, средствам обнаружения и распознавания и т. п., все чаще видят выход в нейробиологических архитектурах. Результаты их моделирования используются для решения многих текущих проблем ИИ, что открывает новые перспективы применения этих архитектур и нейроморфической инженерии.

В 2017 г. на презентации iPhone X представители корпорации Apple сделали акцент на наличии в смартфоне первого в своем роде нейронного процессора (процессора ИИ), предназначенного для распознавания лиц. Утверждалось, что тенденция использования нейронных процессоров будет нарастать в течение ближайшего десятилетия и станет одной из основных в сфере развития ИИ. Исследовательская фирма Yole Développement (г. Лион, Франция) недавно опубликовала доклад, в котором подчеркивается, что использование имитации нейробиологических архитектур поможет справиться с задачами, вызванными растущими потребностями в наращивании вычислительных мощностей, обнаружении и распознавании объектов и явлений, повышении пропускной способности каналов передачи данных (рис. 1). Таким образом возможно решить большинство современных проблем развития ИИ и открыть новые перспективы его применения в ближайшие десятилетия. Нейроморфическая инженерия – ​следующий шаг к биомимикрии, то есть к имитации или копированию технологических идей, обнаруженных в биологическом мире. С этой точки зрения можно утверждать, что 3D-технологии позаимствованы человеком у природы.



Источник: Yole Développement

Рисунок 1. Перспективные вычислительные методы

* Стена памяти (memory wall) – ограничение производительности вычислительной системы в целом пропускной способностью памяти, из-за чего процессоры не могут работать на полную мощность.

** Проблема теплоотвода (heat wall) – ограничение производительности вычислительной системы из-за тепловыделения.

*** Вычисления в оперативной памяти (in-memory computing) – высокопроизводительные распределенные системы, предназначенные для хранения и обработки данных в оперативной памяти в реальном времени с производительностью на порядки быстрее, чем системы, основанные на дисках, по мере роста использования технологий больших данных приобретают все большую популярность.


Для чего нужна и что собой представляет данная технология

Интерес к искусственному интеллекту возник не сегодня, однако для перехода от теории к практике потребовалось довольно долгое время. 70 лет назад математик Алан Тьюринг задал вопрос: «Могут ли машины мыслить?» Через 40 лет после него ученый Калифорнийского технологического института (г. Пасадина) Карвер Мид ввел понятие нейроморфной инженерии. Спустя еще 10 лет, т. е. 20 лет назад, исследователи добились небольшого практического успеха в создании машин, обладающих способностью к обучению и адаптации наподобие человеческого мозга. Дальше – ​больше: в 2006 г. специалисты Технологического института Джорджии (г. Атланта) представили программируемую нейронную сеть, а в 2011 г. исследователи Массачусетского технологического института (г. Кембридж) продемонстрировали кристалл ИС, имитирующий адаптацию нейронов мозга к поступающей информации. Поворотным моментом стала публикация группой ученых Университета Торонто статьи «Классификация базы данных ImageNet при помощи глубоких сверточных нейронных сетей» (ImageNet Classification with Deep Convolutional Neural Networks). Архитектура AlexNet, состоящая из восьмислойной сверточной нейронной сети, позволила базе данных ImageNet в рамках конкурса классифицировать 1,2 млн изображений высокого разрешения в одной из тысячи категорий (например, «кошки», «собаки»). С появлением и развитием архитектуры AlexNet подходы к глубокому обучению стали более мощными и начали все шире использоваться в области ИИ.

Большинство современных методов реализации глубокого обучения полагаются на т. н. «закон Мура». Пока что он отлично работает, однако по мере развития глубокого обучения возникнет усиленный спрос на ИС, которые могут выполнять сложные вычислительные задачи. Действие «закона Мура» в последнее время замедляется, и многие в отрасли, включая экспертов Yole Développement, считают, что это отрицательно повлияет на прогресс в области глубокого обучения. Ученые из Университета Торонто также отмечают, что глубокое обучение потерпит неудачу, если оно будет продолжать развиваться теми же темпами, как это происходит сегодня.

Чтобы объяснить свою точку зрения, они приводят три основных довода. Первый – ​это экономика «закона Мура». Очень немногие компании продолжают ему соответствовать, и в результате лишь несколько полупроводниковых заводов в мире смогут выйти за пределы 7-нм технологического уровня. По мнению ученых, на инновационное развитие пагубно влияет тот факт, что только корпорации-гиганты, подобные Google, могут продолжать что-то внедрять. Во-вторых, объем обрабатываемых данных растет быстрее, чем развивается техника, в силу чего текущие технологии памяти становятся ограничивающим фактором. И в‑третьих, экспоненциальное увеличение требований к вычислительной мощности создает дополнительные требования по энергоэффективности для каждого приложения. Примерная производительность 7-нм ИС – ​один терафлопc на ватт. Допустим, для обеспечения работы беспилотных автомобилей Waymo нужен 1 кВт, – ​что эквивалентно 1,0 тыс. терафлопcов. Современная технологическая парадигма не в состоянии это обеспечить, и решение может заключаться в применении глубокого обучения на нейроморфном оборудовании – ​использующем преимущества новых технологий памяти и обладающем гораздо более высокой пропускной способностью и энергоэффективностью.

В последние годы было предпринято много усилий по созданию нейроморфного оборудования, имитирующего когнитивные способности, путем создания искусственных кремниевых нейронов. По мнению ученых Университета Торонто, это и есть дальнейший путь развития, поскольку нейроморфный подход позволяет значительно повысить эффективность нейронных сетей и глубокого обучения и дает возможность приблизиться к давним проектам по созданию приложений, основанных на ИИ.


Нейроны и синапсы

Нейроморфное оборудование выходит из исследовательских лабораторий, объединяя интересы и цели из областей восприятия, вычислений и памяти. Создаются совместные предприятия, заключаются стратегические союзы, запускаются крупные исследовательские инициативы, такие как проект Европейского союза «Человеческий мозг».

Хотя до 2024 г. рынок нейроморфных вычислений вряд ли достигнет существенных объемов, его масштабы могут быть значительными в обозримом будущем. По словам исследователей из Yole, если все технические вопросы будут решены в ближайшие несколько лет, рынок нейроморфных вычислений может вырасти с 69 млн долл. в 2024 г. до 5 млрд в 2029-м и даже до 21,3 млрд в 2034 г. (рис. 2). Его экосистема велика и разнообразна – ​она представлена крупными корпорациями, такими как Samsung, Intel и SK Hynix, а также стартапами: Brainchip, Nepes, Vicarious, General Vision.



Источник: Yole Développement

Рисунок 2. Прогноз развития структуры рынка нейроморфных сенсорных и вычислительных приборов в 2024, 2029 и 2034 гг.


Нейроморфные ИС – ​это не теория, а реально существующие разработки. В 2017 г. Intel представила Loihi, свою первую нейроморфную исследовательскую ИС, состоящую из 130,0 тыс. нейронов. В июле 2019 г. компания достигла нового рубежа с нейроморфной системой из 8 млн нейронов под кодовым названием Pohoiki Beach – ​в ней интегрированы 64 исследовательские ИС Loihi. Компьютерная мозгоподобная ИС IBM True North обладает 1 млн нейронов и 256 млн синапсов, а нейроморфная «система-на-кристалле» Akida компании Brainchip – ​1,2 млн нейронов и 10 млрд синапсов.

Разработчики соревнуются в создании аппаратных средств, которые подняли бы планку с точки зрения числа нейронов и синапсов. Для дальнейшего развития увеличение числа синапсов, пожалуй, более важно, чем рост числа нейронов. По прогнозам специалистов Yole, можно ожидать появления приложений частично на основе текущего подхода, частично асинхронного и частично на базе трудов фон Неймана (хорошие примеры – ​Akida и Loihi). Вероятно, в течение следующих 10–15 лет в дополнение к ним появится RRAM (резистивная оперативная память), которая позволит создать больше синапсов.

Основные усилия по развитию нейроморфных вычислений прилагают компании-разработчики памяти, такие как Micron, Western Digital и SK Hynix. Те фирмы, которые сосредоточатся на поисках источников более «быстрого» дохода, в конечном итоге вряд ли смогут добиться значительных успехов в нейроморфных разработках. По мнению ученых Университета Торонто, прорывов следует ожидать от небольших компаний, которые выбрали исследования в области нейроморфных технологий в качестве своей основной деятельности.

Прорывные стартапы, такие как Weebit, Robosensing, Knowm, Memry и Symetrix, сочетают технологию энергонезависимой памяти с нейроморфными вычислительными ИС. Они появились наряду со стартапами по производству устройств памяти, такими как Crossbar и Adesto, но их подход к мемристорам(memory resistor) часто воспринимается как более долгосрочный по сравнению с усилиями компаний-разработчиков, занимающихся одним видом деятельности. Многие компании на рынке памяти работают над RRAM и энергонезависимой памятью на основе фазовых переходов, чтобы имитировать синапсы. К новым технологиям, которые помогут нейроморфному подходу добиться успеха, относится также MRAM (магниторезистивная оперативная память).

Помимо вычислений существует экосистема нейроморфных сенсорных приборов, берущая свое начало с изобретения кремниевого нейрона Мишей Маховальд в Институте нейроинформатики и Швейцарской высшей технической школе Цюриха в 1991 г. В настоящее время конкуренция невелика – ​в мире насчитывается менее 10 фирм. Среди них компании Prophesee, Samsung, Insightness, Inivation и Celepixel предоставляют готовые к использованию продукты, такие как событийно-управляемые датчики и камеры. Дело в том, что основанный на кадрах подход, используемый в кинематографии и телевидении, не может осуществлять «захват» движения. Технология, которая «обманывает» наш мозг, не способна обмануть компьютер. Единственный выход – ​передавать компьютеру информацию таким же образом, каким происходит ее передача от человеческого глаза к мозгу. Нейроморфные событийно-управляемые камеры наилучшим образом проявили себя в распознавании движения и изображений в реальном времени.

Эксперты Yole полагают, что рынок нейроморфного восприятия вырастет с 43 млн долл. в 2024 г. до 2 млрд в 2029-м и 4,7 млрд в 2034 г.


Перспективы на автомобильном рынке

Автомобильный рынок наиболее перспективен для внедрения нейроморфной технологии, хотя в первую очередь она будет развиваться, скорее всего, на промышленном и мобильном рынках – ​в робототехнических применениях и устройствах перцептивных вычислений в реальном времени.

В краткосрочной перспективе нейроморфное восприятие и вычисления будут использоваться для постоянного мониторинга промышленных машин. Они также станут играть важную роль в логистике, автоматизации производства продуктов питания и сельском хозяйстве. В то время как глубокое обучение требует огромных наборов данных, нейроморфная технология обучается чрезвычайно быстро, причем для работы ей достаточно нескольких изображений или слов; кроме того, она обладает способностью воспринимать время.

В течение следующего десятилетия доступность гибридных вычислительных ИС в памяти должна внести изменения в автомобильный рынок, где уже давно ожидают появления массовых технологий автономного вождения. Мы живем в мире взаимодействий, и, возможно, нейроморфизм окажется как раз тем звеном в цепочке развития, которое даст компьютерам понимание неструктурированных сред.


Pelé Anne-Françoise. Neuromorphic Promises Better AI. EE Times, October 17, 2019: https://www.eetimes.com/document.asp?doc_id=1335207


ЧИТАЙТЕ ТАКЖЕ

Выпуск 22(6746) от 11 ноября 2021 г. г.
Выпуск 21(6745) от 28 октября 2021 г. г.