边缘人工智能处理器InferX X1 吞吐量呈现10倍涨势!

分类栏目:hg0088平台

102

  【CNMO新闻】据Flex Logix透露,他们已经开发了一种用于边缘人工智能的新协处理器InferX X1。该芯片采用了嵌入式可编程门阵列(eFPGA)芯片设计的专利互连技术,将eFPGA技术与nnMAX集群技术结合了在新的组合芯片中。

  该公司表示,他们提供的吞吐量是现有推断边缘芯片的10倍。新芯片可能会用于边缘网关、低端服务器、机器人和其它高性能边缘设备,Flex Logix在加利福尼亚州圣克拉拉举行的处理器大会上展示了该芯片。

人工智能


人工智能

  Flex Logix InferX X1芯片在只有一个DRAM的边缘应用程序中,提供了高吞吐量。该公司声称,每瓦特的吞吐量比现有的要高出很多,芯片的性能优势在低批量时尤为明显,这在只有一个摄像头或传感器的边缘应用程序中是十分必要的。

  InferX X1在低批量情况下的性能接近于数据中心推理板,并且还会对大模型进行优化。性能基本上与图像大小成线性关系,所以对于100万像素的图像,帧率大约是原来的两倍。

  InferX X1将作为边缘设备的芯片和用于边缘服务器和网关的PCIe卡投入使用。它使用了nnMAX编译器进行编程,该编译器采用Tensorflow Lite或ONNX模型。

版权所有,未经许可不得转载

hg0088平台编辑