Lishengxie logo Lishengxie

Always on the way

  • 文章
  • 关于我
  • 归档
  • 联系
  1. 首页
  2. 文章
  3. SNN映射论文阅读-SpiNeMap

SNN映射论文阅读-SpiNeMap

2023-04-29 论文笔记 Lishengxie

图优化方法

SpiNeMap

Mapping spiking neural networks to neuromorphic hardware.

开源代码地址:https://github.com/Jinouwen/SpiNeMap

优化指标:Global spikes,latency,energy consumptions

类脑芯片:DYNAP-SE

Comparison with NEUTRAMS, PACMAN, PSOPART

步骤分析:

  1. SNN模拟与分析:使用SNN软件模拟器(CARLSim)提取经过训练的SNN网络的拓扑结构和神经元的行为,形成无向SNN图以及脉冲行为轨迹;

    • 无向SNN图以神经元为节点、神经元与神经元之间的突触为边;
    • 脉冲行为轨迹包含源神经元以及目的神经元的编号和激发时间
  2. 划分:随机无向SNN图划分为多个SNN子块,使用启发式算法Kernighan-Lin graph partitioning algorithm,通过在不同子块之间交换神经元优化SNN子块之间的脉冲通信量;

    • 每个SNN子块中神经元数目不能超过单个crossbar所能容纳的神经元数
    • 每个SNN子块只会被分配给一个crossbar
  3. 映射:使用启发式搜索算法(PSO,粒子群算法)找到一个最优的映射方案将SNN子块分配给目标硬件上的神经元核,最小化目标硬件上脉冲在crossbar之间传播的平均延迟和能量消耗(通过最小化脉冲传播的平均跳数实现)。基于拓展的Noxim平台(Noxim++)实现搜索算法中的指标函数计算。

创新点

  • 将SNN网络的划分和SNN网络分块到物理硬件的映射一起考虑,形成完整的映射方案。

问题

  • 没有提到神经元的扇入突触超过crossbar限制如何解决?

ISI distortion:inter-spike intervals失真,会引起模型精度的下降,定义为

I\_j^s\|\_{distortion}=I\_j^s|_{new}-I\_j^s = \delta\_j^s-\delta\_{j-1}^s

,其中 \delta\_j^s 表示第j个脉冲在第s个突触上传播的延迟,当突触位于crossbar上时,可以认为I\_j^s\|\_{distortion}=0,当突触映射到NoC上时,I\_j^s\|\_{distortion}\neq 0。当输入编码方案为速率编码时,ISI distortion可能没有影响,论文中提出了另一种直觉的spike disorder的指标

\sum\_{j=1}^{n\_i}[(F\_j^i-\hat{F}\_j^i)^2]/n\_i

,F\_j^i和\hat{F}\_j^i分别表示神经元i中的第j个脉冲到达的频率。

SNN NoC 映射算法

本文目录

    • 图优化方法

精选文章

  • 分布式ID生成方案全解析:从数据库到雪花算法
  • Redis ziplist、quicklist 和 listpack
  • 多目标优化问题及两种常用解法

按主题探索

  • Redis 数据结构
    从存储布局理解实现
  • Linux 与部署
    服务器、证书与建站实践
  • 算法与深度学习
    解题方法、优化与公式推导
  • SNN / NoC 论文
    互连网络与映射算法

名言警句

学而时习之,不亦说乎?《论语·学而》学而不思则罔,思而不学则殆。《论语·为政》知之为知之,不知为不知,是知也。《论语·为政》三人行,必有我师焉。《论语·述而》工欲善其事,必先利其器。《论语·卫灵公》不积跬步,无以至千里。《荀子·劝学》千里之行,始于足下。《老子·第六十四章》纸上得来终觉浅,绝知此事要躬行。陆游《冬夜读书示子聿》
学而时习之,不亦说乎?
《论语·学而》 一言
← My First Blog SNN映射论文阅读-PSOPART →

相关文章

  • SNN映射论文阅读 Neu-NoC Apr 30, 2023
  • SNN映射论文阅读-SentryOS Apr 30, 2023
  • SNN映射论文阅读-NEUTRAMS Apr 30, 2023
  • SNN映射论文阅读-PSOPART Apr 29, 2023
皖ICP备2023003716号-1 | 公安备案皖公网安备34012202341113 | 违法和不良信息举报邮箱:1141751053@qq.com
Powered by Hugo & Explore Theme & Theme by SimonAKing.