信息详情

【分散采购备案单】高精度DBD数据处理分析系统

全部类型湖北武汉2025年10月31日

公告详情

项目概况

项目名称	高精度DBD数据处理分析系统	项目编号	****
开始时间	**** 10:37	结束时间	**** 10:37
供应商资格要求	参照《中华人民共和国政府采购法》第二十二条规定的资格条件。	预算金额（元）	198000.00
采购方式	竞价

采购货物信息列表

序号	货物（服务）名称	数量	计量单位	预算单价
1	高精度DBD数据处理分析系统	1	套	198000
	技术参数	设备硬件参数如下：1）GPU：配备48G及以上显存的GPU卡×4；2）内存：采用DDR5 256G及以上；3）存储：支持3TB以上的NVMe存储空间；4）处理器：支持单NUMA架构，具备12个物理核心，主频2.4GHz以上；5）系统盘：SSD容量480G以上；6）网卡：配置2个千兆电口和2个万兆光口。设备功能点：功能与服务要求如下：1）模型兼容能力：预置国际国内不少于6个开源模型，参数量级覆盖7B、8B、14B、32B、70B、671B，支持多种主流开源大模型管理，包括但不限于LLama系列、Qwen系列、DeepSeek系列模型；2）模型运行性能：支持运行参数量为671B 模型，模型精度高于INT4，运行时并发请求数 >= 4，>= 20 token/s，总的预填充速度 >= 500 token/s；70B INT8模型，并发请求 >= 30, 系统总吞吐 >= 1700 token/s；32B BF16模型，并发请求>=40, 系统总吞吐 >= 4800 token/s；14B BF16模型，并发请求>=80, 系统总吞吐 >= 11000 token/；3）模型并行能力：支持同时运行671B、72B、32B参数量级模型。；4）模型精度：支持模型量化精度不得低于4bit量化，其中deepseek 671B模型需要高于INT4精度，70B及以下参数量模型需要支持BF16精度；5）接口支持：支持OpenAI标准chat completions接口，支持模型调用的API加密；6）流量控制：支持对不同模型接口的并发请求数进行限制；7）安全控制：所有模型访问请求需经认证，禁止未认证请求直接通过端口访问；8）模型切换：支持模型切换策略，能够简单快速切换使用模型，无需手动修改底层参数即可启动模型；9)集群管理：支持多服务器集群管理能力，考虑集群性能优化，提高推理效率，要求在集群下支持部署预填充-解码（prefill-decode）解耦与大规模专家并行（EP）技术； 10）模型导入：支持自行上传模型的能力，上传后模型能通过平台调用；11）模型推理加速：模型运行时支持cache缓存加速，无需手动配置参数，采用图形化界面；12)模型启动管理:模型启动时支持指定GPU个数，支持手动选卡选择GPU个数，支持限制并发数，支持手动设置上下文长度;13)模型运行启动检测 :支持模型启动时自动检测当前显存资源是否充足，并自动给出提示; 14）图形化操作界面:以上功能均为图形化的操作界面，使用便捷。
	相关材料	参数.docx

关注乙方宝服务号，实时查看招标信息>>

相关招标信息推荐

湖北招标网
湖北招标推荐
武汉招标推荐

鄂州招标网

恩施招标网

黄冈招标网

黄石招标网

荆门招标网

荆州招标网

潜江招标网

神农架林区招标网

十堰招标网

随州招标网

天门招标网

武汉招标网

仙桃招标网

咸宁招标网

襄阳招标网

孝感招标网

宜昌招标网