Наноустрій на основі мемристора Мотта (шар NbO2) для імітації нелінійної поведінки нейрона. Масштаб близько 30 нм. S.Kumar et al., Nature 585, 518 (2020).
Представлено найпростіший електронний пристрій розміром кілька десятків нанометрів, що діє як штучний нейрон. Його основу становить шар діоксиду ніобію - матеріалу, який при нагріванні може переходити в проводиться стан. Крім того, цей матеріал веде себе як мемристор - резистор з ефектом пам'яті. Шари наноелемента також емулюють ефективну ємність і опір як частина штучного «нейрона», і схема дозволяє відтворювати складну поведінку біологічних нейронів, включаючи автоколивання, імпульси і перехід до хаотичної динаміки. Імпульсна динаміка нейрона.
Сучасні системи машинного навчання, що використовують нейроморфні обчислення, спираються на спрощені моделі нейронів. При цьому з уваги втрачається головна якість нейронів в реальних біосистемах: можливість складної кооперативної динаміки з просторовою або тимчасовою самоорганізацією. Нейрони в живих організмах функціонують на порозі хаосу, тобто система складна настільки, що здатна генерувати нелінійний відгук на вплив. Це можуть бути самопідтримувані коливання (автоколивання), імпульсна або хаотична динаміка. Така різноманітність відгуку передбачає достатню складність і нелінійність самої системи. Нейронні елементи необхідної складності можна емулювати, але для відтворення поведінки одного такого нейрона необхідно використовувати складні транзисторні схеми. Для прогресу в області розробки аналогових обчислювальних пристроїв або нейромереж потрібна емуляція нейронних пристроїв в наномасштабі, тобто у вигляді якихось напівпровідникових елементів розміром в десятки нанометрів.
Група з Hewlett Packard Labs ще в 2017 році представила результати дослідження хаотичної динаміки, яка може виникати в наноустроях на основі напівпровідника - діоксиду ніобію NbO2. Дослідники використовували мемристори («резистори з пам'яттю») з тонкого шару діоксиду ніобію і показали, що напівпровідниковий «прилад» розміром близько 100 нм на його основі здатний генерувати нелінійний відгук на зовнішній вплив (докладений постійний струм). При цьому залежно від керуючого впливу такий наноприлад показує різні види динаміки аж до хаотичної. Тому його в принципі можна використовувати і як адекватну модель нейрона. Кілька або безліч таких пристроїв можна зібрати в просту нейромережу і вирішувати за її допомогою завдання, які вирішують звичайні нейромережі. Так, у тій же роботі автори продемонстрували рішення деякої стандартної задачі оптимізації, об'єднавши свої елементи в просту нейромережу (мережа Хопфілда).
Складність відгуку забезпечується завдяки тому, що основний матеріал, тобто шар діоксиду ніобію NbO2 з мемристорними властивостями відноситься до ізоляторів Мотта - речовин, які відповідно до найпростішої теорії провідності повинні бути провідниками, але не пропускають струм через електростатичне відштовхування електронів біля різних атомів решітки. Детальніше про властивості таких матеріалів та їх значення для сучасної мікроелектроніки ми нещодавно писали (див. "Спін-орбітальна взаємодія: новий квантовий механізм контролю матеріалів, що проводять властивостей "). Мотівські матеріали можна перемикати з непровідного до проведеного стану за допомогою певних зовнішніх впливів. У діоксиду ніобію такий контролюючий параметр - температура. Оскільки опір у шарі нелінійно залежить від температури, температурні флуктуації на певному порозі напруги живлення можуть багаторазово посилюватися і призводити до хаотичної динаміки. Теоретична модель мемристора.
Мемристори, або «нелінійні резистори з пам'яттю» - електронні елементи, які здатні «запам'ятовувати» сумарний струм (кількість заряду), що пройшов через них, і відповідно змінювати свій опір. Мемристор був спочатку введений в 1971 році як гіпотетична конструкція - його властивості були постульовані як відсутній четвертий базовий елемент ланцюга разом з резистором (R), котушкою індуктивності (L) і конденсатором (C). Ці три пасивні елементи можна визначити аксіоматично через попарні зв'язки чотирьох фундаментальних змінних електричного ланцюга - струму i, напруги v, заряду q і «потокосцепління» (інтеграл за часом від напруги). Наприклад, ідеальний резистор R визначає зв'язок v = Ri тощо. Мемристор задає відсутній для повноти системи зв'язок між і q. Такі елементи теоретично можна використовувати як комірки пам'яті нового типу, для аналогових обчислень і для побудови нейронних мереж. Вузол з цими властивостями можна реалізувати, побудувавши складний ланцюг на відомих нелінійних елементах - транзисторах і операційних підсилюваннях. Мемрістор (M) - четвертий базовий елемент ланцюга. На початку XXI століття з'явилися повідомлення про матеріали, які мають мемристорні властивості в контексті теорії 1971 року. Однак передбачається, що фактично «мемристори» використовувалися з найперших пристроїв радіоелектроніки - наприклад, так працюють недосконалі точкові контакти, опір на яких чутливий до струму, що протікає. Аналогічними провідними властивостями володіє гранульоване середовище, а в найперших детекторах радіохвиль якраз використовувалися ємності, заповнені металевими тирсами. Тепер використання мемрезисторних матеріалів у обчисленнях - це окремий напрямок досліджень («мемкомп'ютинг»), хоча досі ці розробки в основному носять теоретичний характер. Режими роботи мемристорного наноустрою залежно від керуючих параметрів (постійний струм і напруга на вході): автоколивання, бієння і динамічний хаос. S.Kumar et al., Nature 585, 518 (2020).
У новій роботі, опублікованій у Nature на початку жовтня 2020 року, дослідники представили наноустрій на основі розробки 2017 року, який за набором режимів поведінки вже може повноцінно емулювати нейрон у біологічній системі. У його основі лежить той самий шар діоксиду ніобію з мемристорними властивостями, укладений між шарами нітрида титану TiN. Ця конструкція тепер включена в оболонку з ще декількох шарів матеріалів товщиною в десятки нанометрів, які разом складають ланцюг з мемристора, звичайного опору і ємності. Така система залежно від докладеного сигналу може генерувати відгук у вигляді періодичних коливань, повністю хаотичної динаміки і коротких імпульсів - так, як у біологічних нейронів. При подачі постійної напруги шар NbO2 нагрівається і може перейти в провідний стан. Як видно з еквівалентної схеми, при цьому через ланцюг починає перетікати заряд, накопичений на конденсаторі. Потім шар охолоджується нижче порога фазового переходу і знову стає ізолятором, розмикаючи ланцюг - таким чином на виході виникає імпульс, який повторюється на наступному циклі. (Це може нагадати роботу бойлера, який так само здійснює «автоколивання», періодично включаючись у міру залишення в ньому води). А ввімкнення послідовного резистора дозволяє керувати напругою на вході як додатковим параметром.
Автори створили елемент третього порядку складності. У теорії динамічних ланцюгів під порядком розуміється розмірність фазового простору, тобто кількість змінних стану для опису системи. Так, звичайний резистор, якщо його опір не сильно залежить від температури - елемент нульового порядку. Хаотична поведінка можлива тільки в системах з фазовим простором розмірності три і вище, і для математичного моделювання складної поведінки нейронів використовуються відповідно нелінійні рівняння хоча б з трьома змінними. Тепер у розпорядженні експериментаторів аналоговий нанорозмірний пристрій, що реалізує динаміку необхідної складності.
За допомогою цього удосконалення дослідники змогли промоделювати роботу імпульсної (спайкової) нейронної мережі і сконструювати деякі логічні вентилі у версії імпульсної мережі (дія операторів NAND і NOR), а також побудувати аналогову мережу для вирішення модельного завдання реконструкції вірусних квазівідів (алгоритмічно це завдання про максимальний розрізі графа).
Поки що говорити про реальні обчислювальні програми таких пристроїв не можна. Одне з істотних обмежень полягає в тому, що моттовський перехід метал-діелектрик в діоксиді ніобію відбувається при 800 C. Така температура в цій реалізації досягається тільки в шарі NbO2 товщиною 8 нм, і пристрій цих розмірів виявляється цілком функціональним для експериментування, але масштабування з включенням мільйонів таких переходів в одній мікросхемі стане проблематичним. В інших лабораторіях досліджують оксид ванадію з температурою переходу Мотта 60 C, однак така температура, навпаки, занадто низька - навіть діючі дата-центри часто мають робочу температуру порядку 100 C. Тому основний напрямок досліджень - пошук матеріалів з більш підходящими температурами фазового переходу. Схема аналогових обчислень на мемристорній нейромережі. S.Kumar et al., Nature 585, 518 (2020), Suppl.info.