人工智能推理加速器的发展正受到Arteris公司的推动。传统的梳状阵列在处理矩阵运算时表现出色,但在推理加速中却面临着一些挑战。
例如,在视觉应用中,卷积神经网络和转换器网络的处理对于边缘应用来说是一项挑战。梳状阵列虽然适合加速转换器中的大型矩阵计算,但在处理需要多个层次的卷积计算时,由于其结构限制,效率不高。
为了解决这些问题,研究人员正在探索新的方法,如重新结构化稀疏性以跳过连续的零块,或将卷积重新结构化以适应阵列的行。Arteris的NoC解决方案提供了一种更灵活的解决方案,允许加速器阵列在需要时进行重构。
Arteris的软布图技术为新一代加速器提供了更大的创新空间,例如动态频率调整和多任务处理。这些创新不仅提高了性能,还降低了功耗。
随着硬件在人工智能领域的持续进化,Arteris正通过其解决方案推动这一进程。