Acrab 发布边缘 AI 终端 SoC GΞLIX 1，支持 100B 模型本地运行

　　 IT之家7月23日消息，初创企业Acrab昨日正式发布了其首款芯片：面向边缘AI终端设备的GΞLIX1SoC。这一芯片基于5nm制程工艺，支持100B参数规模模型本地运行。

　　 GΞLIX1采用异构设计，提供了20核Arm CPU、3TFLOPS GPU、NPU和其它一系列音视频引擎，AI算力650TOPS。其拥有8MB的大型L1缓存，共享L2缓存带宽768GB/s，此外还拥有256-bit8533T/s的LPDDR5X共享内存。

　　 Acrab表示其在GΞLIX1上通过矢量硬件加速了注意力机制，并通过针对预填充的优化降低了首Token(词元)用时：在配备40k KV缓存和10k Token输入的Gemma26B A4B配置下，GΞLIX1可实现1416.8Token/s的预填充速率，是苹果M4Pro Mac Mini的7.5倍。

　　除芯片本身外，Acrab还为GΞLIX1提供了丰富的软件堆栈和智能体参考设计，并基于其打造了第一方终端设备Agent Box。