思銳智慧科技ASG-608 是一個在邊緣設備上運行大型語言模型(LLM)的系統,軟體架構搭載ShareQA ,可以支援企業報告撰寫、自動重點生成、自動重點出題、 AI知識管理、 AI語音客服、 AI數據分析、 AI會議紀錄/摘要等生成式AI功能。
硬體規格
中央處理器:Intel Core U9 285
記憶體:128GB DDR5
SSD:M.2 512 GB
有線網路介面:Gigabit Ethernet RJ45
RTX PRO6000
FP32 : 126 TFLOS
AI TOPS: 4000 TOPS
Memory: 96GB GDDR7
TDP : 600W
支援LLM Model規格
LLama 2 7B
LLama 3 8B
Mistral 7B
Breeze 7B
Mistral Nemo 12B
Ministral 8B
Ministral 24B
Gemma 3 27B
GPT-OSS-120B
產品規格
外殼:48.2cm*45.0cm*17.8cm
配件
電源供應器
輸出規格:AC1 110/220
輸入規格:1200W以上
保固
一年硬體保固
一年軟體保固


