Нейроморфные вычисления – что это?

Нейроморфные вычисления – новая компьютерная технология, нацеленная на использование принципов строения и работы человеческого мозга.

Мозг человека – привлекательная модель для компьютерной отрасли. В отличие от большинства суперкомпьютеров, которые, возможно, приближаются к возможностям человеческого мозга в некоторых аспектах, например, в распознавании изображений, занимают комнаты, а не 1,5 – 2 литра, как мозг человека разумного.

Мозг не потребляет столько энергии, как суперкомпьютер. Ученые подсчитали, что мозг здорового человека в спокойном состоянии потребляет 20-30 Вт в сутки, что составляет примерно 0.00007% мощности суперкомпьютера самого мощного в мире суперкомпьютера Fugaku (28 мегаватт). Кроме того, суперкомпьютерам нужна система охлаждения, а мозг прекрасно работает при температуре 36-37°C.

Хотя суперкомпьютеры могут обрабатывать огромные объёмы информации с высокой скоростью, мозг выигрывает в способности к адаптации. Такие задачи, как выбор распознавание изображений, написание стихов и картин, мозг всё ещё выполняет лучше, чем суперкомпьютер. Поэтому, использование модели обработки информации в мозг поможет значительно улучшить мощность компьютеров в будущем.

Компьютеры всё ещё используют архитектуру фон-Нойманна (von Neumann), разработанную в середине прошлого века, в которой память и процессор разделены. Поэтому, вычислительная система с такой архитектурой вынуждена постоянно играть в «информационный пинг-понг», перегоняя данные из процессора в память и обратно. Это приводит к задержкам и расходу энергии.

Конструкторы процессоров стараются решать эту проблему, увеличивая количество транзисторов в чипсетах (известный «закон Мура» — Moore’s Law).  Однако, при этом также приходится и уменьшать размеры транзисторов. Но энергопотребление транзисторов падает не столь сильно, как их размеры, и это вызывает проблемы теплоотвода.

Кроме того, архитектура фон Нойманна по природе работы является последовательной, а мозг в целом обрабатывает информацию параллельно.  Мозг также гораздо более «устойчив к отказам».

То есть, архитектура фон Нойманна постепенно изживает себя. Поэтому настало время новой архитектуры – нейроморфной и всё больший интерес вызывают квантовые вычисления и нейроморфные системы.

Как работают нейроморфные вычисления

Чтобы понять, как должен работать «нейроморфный компьютер», надо посмотреть, как работает мозг. Сообщения (нервные импульсы) передаются в мозг через нейроны и связи между ними (синапсы). В мозге тоже происходит интенсивный обмен информацией между нейронами. Эта передача происходит как химическим, так и электрическим путём (конечно, сила тока при этом – микроскопически мала).  

Реакция мозга на какое-то воздействие (например, укол иглы) может запускаться либо массивным воздействием раздражителя (иголка обычно воздействует не на один нейрон, а на много, поскольку их размеры малы), либо количественным, накопительным воздействием. При этом, имея в виду, что один синапс может быть связан с тысячами других, мозг обрабатывает информацию быстро и эффективно.

Нейроморфный компьютер использует именно такую модель работы, которая также используется и в спайковых нейронных сетях (spike, англ. – всплеск, выброс). Такие сети могут переносить информацию как массово, так и накопительно.

Нейроморфные системы могут быть как цифровыми, так и аналоговыми. В первом случае, роли синапсов могут выполнять триггерные транзисторы, во втором – мемристоры, элементы, которые могут хранить множество состояний, не только 0 или 1. Изменяя «веса» передаваемых сигналов в нейронной сети, можно моделировать работу мозга.

Кроме мемристоров, которые уже активно применяются в новых видах памяти компьютеров, например MRAM, исследователи также активно смотрят в сторону технологий квантовых точек и графена.

На нейроморфные технологии также возлагаются большие надежды в области т.н. «искусственного интеллекта» (ИИ, AI), поскольку традиционные компьютерные технологии уже показали недостаточную эффективность в этой области.

Нейроморфные системы также перспективны для применения в областях, связанных с обработкой полезного сигнала при высоких уровнях шума. Например, вполне возможно, что первые грампластинки начала прошлого века зазвучат с качеством современных звуковых систем HiEnd, после обработки на нейроморфном компьютере, а первые киносъёмки можно будет посмотреть в цвете и с качеством 4K.

Что уже есть?

Компания Intel уже разработала нейроморфный чип Loihi и построила систему на шестидесяти четырёх таких чипах, смоделировав в ней 8 миллионов нейронов, которая получила название Pohoiki Beach. В ближайшем будущем планируется довести число нейронов в такой системе до 100 млн.

Компания IBM ещё в 2014 году создала нейроморфную систему TrueNorth, в новейшем модели которой смоделированы 64 миллиона нейронов и 16 миллионов синапсов. Пока IBM не афиширует эти работы, но известно, что заключен контракт с исследовательской лабораторией ВВС США на создание нейроморфного компьютера под названием Blue Raven. Его, в частности, планируют применять в военных дронах, чтобы сделать их легче, умнее и снизить их энергопотребление.  

Исследования нейроморфных систем ведутся также в исследовательских лабораториях Калифорнийского технологического университета (Cal-tech). В Европе развивается финансируемый из бюджета ЕС проект под названием Human Brain Project (HBP), рассчитанный на 10 лет, работмиллионом ы над которым начаты в 2013 году. В этом проекте разрабатываются две нейроморфные системы SpiNNaker и BrainScaleS. SpiNNaker, система с одним миллионом процессорных ядер, была запущена в 2018 году.

Сложности и вызовы

Столь радикальная смена парадигмы, как переход от фон-нойманновской архитектуры к нейроморфной, неизбежно связан с рядом проблем. Если в традиционной архитектуре, например, изображения обрабатываются просто кадр за кадром, то в нейроморфной визуальная информация обрабатывается как изменение визуального поля во времени.

Языки программирования тоже нужно будет переделывать практически заново. С точки зрения оборудования тоже не всё просто. Для того, чтобы реализовать все преимущества нейроморфных вычислений, потребуются новые поколения памяти, систем хранения и сенсоров. Принципы интеграции элементов оборудования также потребуется переосмыслить.