各供应商:
根据我院业务开展的需要,近期拟对以下项目进行院内市场调查,欢迎有意向、资质符合的供应商前来报名参与。
一、采购项目名称:****医院DeepSeek本地化部署项目
二、供应商资格要求:
1.国内注册(指按国家工商管理有关规定要求核准登记的)经营范围达到本次采购服务要求,具有合法资格的供应商;
2.对在“信用中国”网站(www.****.cn)等渠道列入失信被执行人、重大税收违法案件当事人名单、政府采购严重违法失信行为记录名单及其他不符合相关法律法规规定条件的供应商,不得参与本项目调查活动;
3.供应商三年内在经营活动中没有因经营受到刑事处罚或者责令停产停业、吊销许可证或者执照、较大数额罚款等行政处罚的重大违法记录,符合《****政府采购法》及《****政府采购法实施条例》规定。
三、项目预算:50万元
四、质保期限:三年
五、项目基本参数要求:
序号 | 名称 | 项目 | 技术参数内容及要求 |
(一)硬件配置要求 | |||
1 | DeekSeek主机 | 自主可控要求 | 1.投标机型需满足国产自主可控要求,其 CPU、GPU需使用国家自产芯片。 2.BMC主机管理系统采用国产自研管理芯片,需要提供证明材料。 |
2 | 功耗 | 整机功耗≤5.2KW。 | |
3 | CPU | 1.配置≥2颗处理器,每个处理器≥32核,主频≥2.6Ghz,满足安全可靠测评要求的CPU处理器。 | |
4 | GPU卡 | 1.配置≥8个GPU卡槽,GPU总显存≥256GB HBM高带宽内存,显存带宽不低于800GB/s;OAM式集成服务器形式。 2.单个GPU卡支持≥280TFLOPS@FP16算力。支持直出 200G RoCE 网络接口保证节点间互联带宽。 3. GPU卡支持 Fullmesh互联,单个算力单元内部GPU互联带宽≥392GB/s。 | |
5 | 内存 | 配置≥768 GB内存,最大支持32根内存条。 | |
6 | 硬盘 | 配置≥ 2块960GB SATA SSD;配置≥2*3.2TB NVME。 | |
7 | 网络&其他接口 | 1.AI计算节点间互联应采用自主可控互联技术,如自研Roce等网络。 2.计算节点提供接口:≥8*200GE RoCE网口。 | |
8 | 风扇 | 8个风扇支持热插拔。支持单风扇失效,N+1冗余备份。 | |
9 | 电源 | 支持交流/直流电源模块。电源模块支持热插拔,2+2 冗余备份。 | |
10 | BIOS | 1.支持中文BIOS界面,提供官网证明材料。 2.投标产品支持支持图形化界面,支持键盘操作。 | |
11 | 操作系统 | 国产化操作系统或Linux发行版。 | |
(二)安装部署要求 | |||
13 | 部署要求 | 模型参数 | DeepSeek-R1-Distill-Llama70B BF16蒸馏模型。 DeepSeek-R1-Distill-Qwen32B BF16蒸馏模型。 ChatGLM4-9B模型。 |
GPUStack | 支持管理 Apple Mac、Windows PC 和 Linux 服务器上不同品牌的 GPU。 支持大语言模型推理引擎 VLLM、SGLang等。 异构 GPU 支持与扩展:轻松添加异构 GPU **,按需扩展算力规模。 分布式推理:支持单机多卡并行和多机多卡并行推理。 多推理后端支持:支持 llama-box(基于 llama.cpp 和 stable-diffusion.cpp)、vox-box 和 vLLM 作为推理后端。 轻量级 Python 包:最小的依赖和操作开销。 OpenAI 兼容 API:提供兼容 OpenAI 标准的 API 服务。 用户和 API 密钥管理:简化用户和 API 密钥的管理流程。 GPU 指标监控:实时监控 GPU 性能和利用率。 Token 使用和速率统计:有效跟踪 token 使用情况,并管理速率限制。 开源软件,使用者需遵守相关的法律法规。 | ||
(三)应用要求 | |||
14 | 应用要求 | Dify(开源大语言模型应用开发平台) | 1.全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成,涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。 2.Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能(如文本转语音)的直观界面。 3.RAG Pipeline: 广泛的 RAG 功能,涵盖从文档摄入到检索的所有内容,支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。 4.Agent 智能体: 可以基于 LLM 函数调用或 ReAct 定义 Agent,并为 Agent 添加预构建或自定义工具。Dify 为 AIAgent 提供了 50 多种内置工具,如谷歌搜索、DALL﹒E、Stable Diffusion 和 WolframAlpha 等。 5.LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。 6.后端即服务: 所有 Dify 的功能都带有相应的 API,因此您可以轻松地将 Dify 集成到自己的业务逻辑中。 7.支持用户手动创建和更新知识库,可灵活配置知识检索提示词、检索阈值、召回条数等各项检索配置,适配不同的使用场景。 8.支持对接业务系统或数据库,对比通过微调更新模型参数权重来改善模型能力成本更低更灵活。 9.开源软件,使用者需遵守相关的法律法规。 |
(四)服务要求 | |||
15 | 服务要求 | 微调服务 | 提供数据微调服务,对医院的运营数据、工作流程、服务要求等数据进行微调或标注,使工作人员能够在本地部署的DeepSeek获取相关的数据。 |
售后服务 | 质保期不少于3年,质保期内提供硬件原厂维保及软件技术支持服务,质保期结束后,每年的维保费不超过合同金额的5%。 |
六、项目验收要求: 我院按合同约定积极配合中标供应商履约,中标供应商履约到位并在设备正常运作2个月后,请以书面形式向我院提出验收申请,我院接到申请后原则上在5个工作日内及时组织相关专业技术人员,必要时邀请财务科、审计科等部门共同参与验收,并出具验收报告。
七、付款方式:
1.院方账务对账、结算采用供应链结算平台,使用CFCA****中心认证UKey进行账务对账、结算。中标方需办理Ukey并配合该结算平台进行对账、结算 。
2.本项目无预付款,全部货物经采购人验收合格且安装调试完成正常运行,中标供应商完成线上对账并提起线上结算后第7个月,采购人在收到中标供应商合法发票后的10个工作日内支付合同金额的40%给中标供应商;完成线上对账后的第24个月,采购人在收到中标供应商发票后的10个工作日内支付合同金额的40%给中标供应商;完成线上对账后的第36个月,采购人在收到中标供应商发票后的10个工作日内支付合同金额的20%给中标供应商。
八、报名需提交的相关资料:
1.报名表(报名表在我院官网院务公开采购信息页面置顶,网址:https://www.****.com/notice/noticezbxx.html);
2.****公司营业执照副本复印件;
3.法定代表人授权委托书(需有法定代表人签字或盖章);
4.法定代表人及委托代理人有效身份证件复印件。
注:以上相关资质证明文件均需加盖公章,并扫描编辑成PDF文档发送至我院邮箱****@qq.com。
九、市场调查会议现场需提交的资料
1.报价表;(按下表模版填写)
2.项目建设方案;
3.提供2022年以来同类项目业绩;(如有请提供)
4.****公司营业执照副本复印件;
5.需提供生产许可证、产品合格证、质量保证书/质量保修书、软件企业认定证书、软件产品证书、软件著作权登记证书、软件产品登记证书复印件等; (如有请提供)
6.法定代表人授权委托书(需有法定代表人签字或盖章);
7.法定代表人及委托代理人有效身份证件复印件;
8.本项目需要现场通过PPT重点介绍产品功能、亮点及落地方案。
注:以上制作纸质材料一式三份,带至会议现场。(只需装订好,不需要密封)
十、具体会议时间地点:电话另行通知。
十一、联系人:韦老师。
十二、联系电话:0772-****183。
十三、报名截止时间:2025年5月23日下午17:30
****
2025年5月19日
采购项目名称: 报价表(模版)
序号 | 采购内容 | 数量及单位 | 报价(万元) | 备注 |
1 | DeepSeek本地化部署项目 | 1项 | | |
供应商(公章):
法定代表人或委托代理人(签字或盖章):
日 期:
附:****采购办公众号,今后有关招标采购信息、****医院官网和公众号公布,****采购办公众号。