深度学习有着计算量密集,存储需求大的特点,往往需要百万次的乘加操作和几十兆的权重、中间层结果的存储,对其在计算和存储资源受限的边缘设备上高效执行提出了挑战。
为了解决上述问题,本项目实现了从上层软件框架到底层硬件 IP 的 GDS 实现的全套 AI 处理器相关技术的开发,包括支持各种 AI 算法开发的编译器框架、支持 ARM 总线的可级联扩展的处理器IP 及其版图实现、基于上述 AI 处理器 IP 及 RISCV 核的集成处理芯片等。
关键技术在于:1)设计了 AI 处理器配套的顶层编译器,支持包括 TensorfIow, PYTorch, 飞浆到硬件 IP 执行指令的全套编译。2)IP 在 28nm 工艺下实现了 700MHz 主频,4608 计算单元,4M 片上 SRAM 的设计开发;IP 支持任意尺寸卷积及 Depth 卷积,池化, Batch NormaIization 和 ReLU 等算子;支持 ResNet, MobiIeNet, YoIo 及 SSD 等主流网络结构。3)IP 实现了中间特征图压缩和权重压缩优化片上存储及片下带宽需求。针对不同网络实现了 30%-70%的特征图压缩和50%以上权重压缩。
本项目实现了端到端的 AI 处理器系统,可应用于各类移动及物联网设备。目前芯片已实现 28nm 流片验证。