思锐智慧科技ASG-508 是一个在边缘设备上运行大型语言模型(LLM)的系统,软件架构搭载ShareQA,可以支持 AI客服、 AI数据分析。
硬件规格
中央处理器:AMD Ryzen 5/7/9
内存:64GB DDR5
无线网络接口:2.4GHz and 5GHz
IEEE 802.11.b/g/n/ac wireless LAN
有线网络接口:Gigabit Ethernet RJ45
NPU BFLOAT16 : 32 TFLOPS
NPU INT8 : 206 TOPS
NPU Memory: 64GB LPDDR5
NPU TDP : 45W
支持SLM Model规格
LLama 2 7B
LLama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Ministral 8B
Gemma 3 4B
产品规格
外壳:29cm*21cm*9cm
配件
电源供应器
输入规格:100~240V(50/60Hz)
保固
一年硬件保固
一年软件保固