在自己的机房运行模型

自建推理前先回答的几个问题，机房里跑的是什么，不同用法里模型各看到什么

把推理搬进自己的机房，是让模型在你自己的设备上运行，核心经营系统里敏感分类的调用只走本地推理。值不值得做，取决于下面几个能当场回答的问题，答案偏向哪一边，决定该读哪一页。这是入口页，判断方法在私有部署概览；机房里搬进去的只有推理这一段，经营系统的其余部分放在哪里、是否调用外部服务，要另外说明。

先回答的问题

问题	偏向自建	偏向云 API	去读
数据的「域」画在哪里	合同或制度要求数据不出企业机房	只要求留在境内，境内的云也能满足	私有部署概览
要不要留住当时的模型版本、资料版本与引用，备查	要。自建能把权重、引擎版本和知识库索引一起钉住，审计时查得出当时的模型版本、资料版本与引用	不要	同上
每月实际用多少，稳不稳	稳定而且高，能摊薄固定成本	用量低且起伏大	同上，盈亏平衡一节
运维通道愿意怎么开	现场、介质闸口或堡垒机加录屏，选其中一个	无此限制	网络与机房条件
机房撑得住吗	供电、散热、功率密度已核过	机房条件不具备时，对照总览的取舍表	同上，场地一节

问题一和问题四相连：出站规则可以写成零出站，运维通道却是一条穿过边界的线，数据不出机房能否成立，看这条线怎么开。

机房内是推理引擎、模型网关和知识库。经营系统的模型调用与知识库问答各经私有部署的模型网关进出，各个部分各自可替换，见私有部署的组成。设备放在企业自有机房或合作机房，运维都由 SZV 负责，分工见责任划分。

「数据不出机房」对经营系统的模型调用靠下面的约束：敏感分类的调用只许走名册（登记可用推理服务的清单）里位置为「本地」的服务；敏感调用不带投影版本即拒绝。名册的结构允许登记机房外的服务，是否启用由企业决定，决定之前开关保持关闭。位置声明填错，约束就失去依据，所以要核对名册。机制见接入模型服务。

跑在本地，不等于模型读到的东西一样。

用法	模型看到什么	防线	去读
经营系统里的模型调用，如付款说明	聚合数与令牌化标识，读不到原文	白名单投影，输出契约校验，结果只能成为待审批的草案	模型能碰什么不能碰什么
知识库问答	检索出的文档原文片段	经私有部署的模型网关进入，不经核心经营系统的模型网关，网关的投影与契约保证不适用；控制靠权限过滤、模型无工具、引用校验、入库审核	私有部署的组成

第二行的控制是设计控制与验收要求，不是已发布产品的功能清单。风险在越权检索：片段一旦进了提示词，模型就读到了，所以验收的边界一项包含越权用例，写法见上线前安全核对。

完成看验收，不看设备上架。容量、质量、边界的证据各自可以复跑，换硬件、换模型、改出站规则之后都要重跑，字段与测法见交付与验收。

评估现场之前，企业先备：机房现状，预期用量与使用部门，要接入的系统清单。三步里谁出什么，交付页的表里逐项写明。

疑虑	回答	去读
买够显存就行	权重装得下，并发不一定撑得起。KV 缓存随上下文长度和并发增长	估算显卡数量

本地模型会不会每次答得一样、没有自己的机房怎么办、要用最新的闭源模型是否适合，总览里逐条回答，见私有部署概览。