氧化物神经元器件及其神经网络应用
李宗晓, 胡令祥, 王敬蕊, 诸葛飞
无机材料学报
2024, 39 ( 4):
345-358.
DOI:10.15541/jim20230405
目前, 人工智能在人类社会发挥着越来越重要的作用, 以深度学习为代表的人工智能算法对硬件算力的要求也越来越高。然而随着摩尔定律逼近极限, 传统冯·诺依曼计算架构越来越难以满足硬件算力提升的迫切需求。受人脑启发的新型神经形态计算采用数据处理与存储一体架构, 有望为开发低能耗、高算力的新型人工智能技术提供重要的硬件基础。人工神经元和人工突触作为神经形态计算系统的核心组成部分, 是当前研究的前沿和热点。本文聚焦氧化物人工神经元, 从神经元数学模型出发, 重点介绍了基于氧化物电子器件的霍奇金-赫胥黎神经元、泄漏-累积-发射神经元和振荡神经元的最新研究进展, 系统分析了器件结构、工作机制对神经元功能模拟的影响规律。进一步, 根据不同尖峰发射动态行为, 阐述了基于氧化物神经元硬件的脉冲神经网络和振荡神经网络的研究进展。最后, 讨论了氧化物神经元在器件、阵列、神经网络等层面面临的挑战, 并展望了其在神经形态计算等领域的发展前景。
View image in article
图2
基于VO2忆阻器的HH神经元[32]
正文中引用本图/表的段落
硬件实现HH神经元需模拟生物神经元离子通道的动态行为。2013年蔡少棠[30]提出了一种利用忆阻器构建HH神经元的模型, 随后Pickett等[31]利用易失性的NbO2基Mott忆阻器来模拟打开和关闭K+通道和Na+通道, 在两个直流电压源的帮助下模拟K+和Na+通道的反向电势。精心设计辅助元件可以使两个等效离子通道的切换遵循生物神经元中的顺序, 进而模拟了生物学上不同阶段的动作电位, 即超极化、去极化和不应期。在此基础上, 2018年Yi等[32]利用两个VO2基Mott相变忆阻器设计了HH神经元(图2(a)), 可呈现23种不同的神经元发射行为, 其中包括一些高级行为, 如共振发射(图2(b))、抑制诱发发射(图2(c))、频率自适应性发射(图2(d))等。虽然该神经元器件可模拟神经元膜电位和离子通道的动态行为, 然而在实际操作时需不断调整电路参数, 操作较复杂。2022年Xu等[33]利用VO2基HH神经元模拟了人工视网膜在不同光照条件下的自适应感知功能。HH神经元电路需连接外置电源用于模拟Na+和K+的反向电势。然而, 电源的CMOS工艺兼容性差, 限制了HH神经元的进一步微型化。2019年Huang等[34]利用WO3基忆阻器内在电池效应构建了一种准HH神经元电路, 实现了包括超极化在内的全有/全无特性。尽管未实现更多高级功能, 然而其利用内在电池效应的理念为HH神经元的微缩化提供了一种可行的技术途径。
伊辛(Ising)模型可以描述物质相变的随机过程, 能够有效解决ONN中由于组合优化规模增大而导致的计算量指数级增长的问题。Dutta等[121]使用八个VO2基振荡神经元实现了伊辛-哈密顿解算器(Ising Hamiltonian Solver)。自旋向量可用对称耦合矩阵定义的伊辛-哈密顿量来重新表述, 并映射到伊辛解算器(图8(a))。图中每一节点的伊辛自旋由VO2神经元表示。图8(b)展示了单个神经元的电路和VO2器件的扫描电镜照片。为了模拟伊辛自旋(σ), 外部注入锁定信号(Sinj)在经过电容(Cinj)后被施加至所有神经元。为了给每个神经元配备二元自由度来编码上旋和下旋状态, Sinj频率被设置为神经元固有频率的两倍。在所有神经元同步后, 神经元的相位可以导出系统最小能量态。解决组合优化问题时, 大量局部极小值降低了达到全局最优的概率。采用Mott相变中内在的随机性来扰动系统状态, 可以避开局部最小值。通过增加Sinj强度可逐渐减少神经元相位随时间的波动, 帮助执行经典的退火算法, 进而逐步获得最优解。如图8(c)[ii]和[iii]所示, 由于二次谐波注入锁定现象, 同步后振荡器波形显示出的同相(40°)和反相(220°)分别对应于上自旋和下自旋。在八个神经元同步后, 振荡波将稳定在同相或反相状态, 以表示最佳图像切割方案。
* S: Source; R: Resistor; C: Capacitor; T: Transistor ... Adaptive Hodgkin-Huxley neuron for retina-inspired perception 1 2022 ... 硬件实现HH神经元需模拟生物神经元离子通道的动态行为.2013年蔡少棠[30]提出了一种利用忆阻器构建HH神经元的模型, 随后Pickett等[31]利用易失性的NbO2基Mott忆阻器来模拟打开和关闭K+通道和Na+通道, 在两个直流电压源的帮助下模拟K+和Na+通道的反向电势.精心设计辅助元件可以使两个等效离子通道的切换遵循生物神经元中的顺序, 进而模拟了生物学上不同阶段的动作电位, 即超极化、去极化和不应期.在此基础上, 2018年Yi等[32]利用两个VO2基Mott相变忆阻器设计了HH神经元(图2(a)), 可呈现23种不同的神经元发射行为, 其中包括一些高级行为, 如共振发射(图2(b))、抑制诱发发射(图2(c))、频率自适应性发射(图2(d))等.虽然该神经元器件可模拟神经元膜电位和离子通道的动态行为, 然而在实际操作时需不断调整电路参数, 操作较复杂.2022年Xu等[33]利用VO2基HH神经元模拟了人工视网膜在不同光照条件下的自适应感知功能.HH神经元电路需连接外置电源用于模拟Na+和K+的反向电势.然而, 电源的CMOS工艺兼容性差, 限制了HH神经元的进一步微型化.2019年Huang等[34]利用WO3基忆阻器内在电池效应构建了一种准HH神经元电路, 实现了包括超极化在内的全有/全无特性.尽管未实现更多高级功能, 然而其利用内在电池效应的理念为HH神经元的微缩化提供了一种可行的技术途径. ... Quasi-Hodgkin-Huxley neurons with leaky integrate-and-fire functions physically realized with memristive devices 2 2019 ... 硬件实现HH神经元需模拟生物神经元离子通道的动态行为.2013年蔡少棠[30]提出了一种利用忆阻器构建HH神经元的模型, 随后Pickett等[31]利用易失性的NbO2基Mott忆阻器来模拟打开和关闭K+通道和Na+通道, 在两个直流电压源的帮助下模拟K+和Na+通道的反向电势.精心设计辅助元件可以使两个等效离子通道的切换遵循生物神经元中的顺序, 进而模拟了生物学上不同阶段的动作电位, 即超极化、去极化和不应期.在此基础上, 2018年Yi等[32]利用两个VO2基Mott相变忆阻器设计了HH神经元(图2(a)), 可呈现23种不同的神经元发射行为, 其中包括一些高级行为, 如共振发射(图2(b))、抑制诱发发射(图2(c))、频率自适应性发射(图2(d))等.虽然该神经元器件可模拟神经元膜电位和离子通道的动态行为, 然而在实际操作时需不断调整电路参数, 操作较复杂.2022年Xu等[33]利用VO2基HH神经元模拟了人工视网膜在不同光照条件下的自适应感知功能.HH神经元电路需连接外置电源用于模拟Na+和K+的反向电势.然而, 电源的CMOS工艺兼容性差, 限制了HH神经元的进一步微型化.2019年Huang等[34]利用WO3基忆阻器内在电池效应构建了一种准HH神经元电路, 实现了包括超极化在内的全有/全无特性.尽管未实现更多高级功能, 然而其利用内在电池效应的理念为HH神经元的微缩化提供了一种可行的技术途径. ...
本文的其它图/表
|
