Каждый нейрон мозга ведет себя как типичный транзистор

Фото Reuetrs

В 1948 году американский физик Джон Бардин представил миру первый транзистор размером с ноготь мизинца. Сегодня на поверхности кремниевого чипа печатают электронные схемы толщиной два нанометра (2 х 10–9 м). На площади, равной транзистору Бардина, таких схем можно разместить миллиарды. Но за все надо платить, в том числе и за энергию. Большая ее часть превращается в итоге в тепло. К тому же транзисторная память не всегда надежна. И вовсе не факт, что она будет храниться неповрежденной хотя бы на протяжении человеческой жизни.

Таковой в норме «вечной памятью» – если не принимать в расчет нейродегенеративные процессы – в идеале является память, сохраняющаяся на биомолекулярных матрицах в клетках гиппокампа – структуры мозга, лежащей на основании височной доли мозга. И столетние представители вида Homo sapiens довольно часто пребывают в здравом уме, сохраняя светлую память, в том числе и о событиях далеких детства и юности.

Каждый нейрон мозга ведет себя как типичный транзистор, не реагируя на все подряд из приходящих к нему импульсов ионного тока. Эти импульсы интегрируются в теле нервной клетки, обрабатываются, чтобы затем преодолеть порог сопротивления и «выдать» сигнал, уходящий по нервному отростку к синапсу, то есть к месту контакта нервных клеток. Естественно на это затрачивается энергия. Она высвобождается при расщеплении молекул АТФ. 

Для сохранения электричества и его носителей используются его накопители, то есть конденсаторы на основе ферроэлектриков. Они применяются в производстве электронной памяти, но требуют много энергии при ее «загрузке». Давно уже большие надежды возлагаются на другие устройства, а именно – мемристоры. Механизм их действия имитирует таковой у нейронов. Но мемристоры недолго хранят память.

Специалисты университетов Парижа и Гренобля предложили объединение конденсаторов и мемристоров. С этой целью они использовали гетероструктуры. Они создаются с помощью добавления в кремний других элементов. Это способствует изменению свойств полупроводника. Французы, в частности, в качестве такого допинга для кремния использовали оксид гафния (HfO) и титан (Ti). Новая память представляла собой гибрид из 18 432 элементов, 16 384 из которых представляли собой конденсаторы и 2048 – мемристоры. Каждый из них «взвешивал» аналоговые значения сигналов, интегрируя их в конденсаторах. Это позволило резко сократить расход энергии при записи информации и ее потери при чтении благодаря неразрушающему считыванию. Авторы опубликовались в электронном приложении журнала Nature.

Свой вариант нейронных сетей с использованием мемристоров для ИИ предложили специалисты Фуданьского университета в Шанхае. Им удалось на 60% повысить точность апдейта возможных ошибок – Error-aware probabilistic update (EaPU). Шанхайцы экспериментально оценили свой EaPU на 180-нанометровой системе мемристоров. Итог – резкое снижение воздействия шумов и расхода энергии в 50 раз при обучении ИИ. Это способствовало повышению разрешения чуть ли не на шесть порядков при сравнении с широко используемыми ResNet и Vision Tranformers.

Специалисты высказывают надежду, что использование гибридов из привычных элементов и мемристоров позволит трансформировать ИИ-экономику, найдя ей более широкое применение.