思锐智慧科技ASG-608 是一个在边缘设备上运行大型语言模型(LLM)的系统,软件架构搭载ShareQA ,可以支持企业报告撰写、自动重点生成、自动重点出题、 AI知识管理、 AI语音客服、 AI数据分析、 AI会议纪录/摘要等生成式AI功能。
硬件规格
中央处理器:Intel Core U9 285
内存:128GB DDR5
SSD:M.2 512 GB
有线网络接口:Gigabit Ethernet RJ45
RTX PRO6000
FP32 : 126 TFLOS
AI TOPS: 4000 TOPS
Memory: 96GB GDDR7
TDP : 600W
支持LLM Model规格
LLama 2 7B
LLama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Ministral 8B
Ministral 24B
Gemma 3 27B
GPT-OSS-120B
产品规格
外壳:48.2cm*45.0cm*17.8cm
配件
电源供应器
输出规格:AC1 110/220
输入规格:1200W以上
保固
一年硬件保固
一年软件保固


