DeepSeek-AI大模型信創(chuàng)一體機(jī)(國(guó)產(chǎn)GPU)集高端服務(wù)器、AI管理系統(tǒng)、**能基礎(chǔ)模型、全流程AI工具鏈于一體的開(kāi)箱即用的AI解決方案。適用于科研院所、教育、政府、企業(yè)等用戶(hù),有一定私域?qū)S兄R(shí),希望快速構(gòu)建AI能力賦能文字處理、數(shù)據(jù)分析、科學(xué)研究等繁重業(yè)務(wù)。
DeepSeek-AI大模型信創(chuàng)一體機(jī)服務(wù)器(國(guó)產(chǎn)GPU)產(chǎn)品優(yōu)勢(shì):
1. 適配DeepSeek、Qwen、Llama等主流開(kāi)源大模型;能夠支持國(guó)內(nèi)外主流軟硬件生態(tài)和各種深度學(xué)習(xí)框架、算法模型和加速庫(kù)。
2. 兼容CUDA生態(tài),支持市場(chǎng)主流生態(tài),生態(tài)應(yīng)用遷移迅速;支持FP32、FP16、INT8等多精度推理混合計(jì)算。
3. 私有數(shù)據(jù)不出域,在保障數(shù)據(jù)安全的同時(shí)構(gòu)建業(yè)務(wù)智能體,解決敏感數(shù)據(jù)無(wú)法上云的痛點(diǎn);
4. 支持DeepSeek全系列滿(mǎn)血版模型的訓(xùn)練推理,顯著提升性能并降低部署成本。
DeepSeek-AI大模型信創(chuàng)一體機(jī)服務(wù)器(國(guó)產(chǎn)GPU)配置:
版本 |
AI大模型 |
硬件配置 |
應(yīng)用環(huán)境 |
旗艦版 |
DeepSeek- 671B 滿(mǎn)血版 /Qwen、Llama等 |
CPU:4x 32核X86/C86處理器 GPU:顯存64G*16 內(nèi)存:64GB*32 DDR4 硬盤(pán):480G SSD *4+3.84T NVMe*4 網(wǎng)絡(luò):配置RDMA網(wǎng)卡或IB網(wǎng)卡 |
•支持滿(mǎn)血版671B模型及蒸餾模型 •大并發(fā)、性能強(qiáng) •可靈活擴(kuò)展,支持大型企業(yè)規(guī)?;瘧?yīng)用 |
高配版 |
DeepSeek- 70B /Qwen、Llama等 |
CPU:2x 32核X86/C86處理器 GPU:顯存32G*8 內(nèi)存:64GB*16 DDR4 硬盤(pán):480G SSD *2+3.84T NVMe*2 網(wǎng)絡(luò):以太網(wǎng)/RDMA網(wǎng)卡 |
•支持精度FP16的70B模型及蒸餾模型 •低成本、私有化部署 •滿(mǎn)足客戶(hù)體驗(yàn)、小規(guī)模使用需求 |
標(biāo)準(zhǔn)版 |
DeepSeek- 32B /Qwen、Llama等 |
CPU:2x 32核X86/C86處理器 GPU:顯存32G*4 內(nèi)存:32GB*16 DDR4 硬盤(pán):480G SSD*2+3.84T NVMe*2 網(wǎng)絡(luò):以太網(wǎng) |
•支持精度FP16的32B模型及蒸餾模型 •高性?xún)r(jià)比 •支持中小企業(yè)各類(lèi)AI應(yīng)用需求 |
邊緣版 |
DeepSeek-14B /Qwen、Llama等 |
CPU:X86處理器 GPU:顯存32G*2 內(nèi)存:32GB*4 DDR4 硬盤(pán):按需 網(wǎng)絡(luò):以太網(wǎng) |
• 支持中小參數(shù)蒸餾模型 • 低門(mén)檻上車(chē),輕量化應(yīng)用 • 低噪音、可在政務(wù)、教育等辦公環(huán)境部署 |
軟件環(huán)境 |
推理框架:VLLm 操作系統(tǒng):Ubuntu、國(guó)產(chǎn)系統(tǒng) |