语言模型与企业数据:边界在哪里
当企业决定把语言模型嵌入产品或流程时,首先要问的不是“哪个模型最好”,而是“它会看到哪些数据”。答案决定了架构、成本,以及能向客户和法务承诺什么。我们在评估项目之前就把这件事定下来,而不是等到上线之后。
接入模型的三种方式
外部服务商。 请求通过 API 发送给模型——直接调用,或经由在多个服务商之间分配请求的网关。这是最快的路径,也能用上最强的模型,但每次请求中的数据都会交给第三方。因此我们事先确定:哪些类别的数据允许发送、服务商如何保存请求以及是否用于训练、在哪个地区处理,以及发送前需要删除或脱敏哪些内容。只要使用外部 API,就不能承诺“数据不出公司”。
区域服务商。 当司法辖区、与服务商的合同或基础设施边界很重要时,我们选择在目标国家可用的模型。服务商的来源并不能代替审查:它的存储和处理条款,我们同样逐条细读。
部署在您服务器上的模型。 开放权重的模型部署在企业自己的 GPU 上,请求不会离开其基础设施。这需要自有硬件和运维,可选的模型也仅限于能够自行部署的那些。做原型时可以在工作站上运行模型,但这不能替代生产环境部署。
评估项目前的六个问题
- 哪些数据可以发送给外部服务商,哪些不可以。
- 请求中哪些内容需要脱敏、汇总或删除。
- 是否需要让模型在您的基础设施内运行。
- 模型的请求和回答由谁保存、保存多久。
- 在不保存请求内容的前提下,可以收集哪些指标。
- 项目结束后数据如何删除。
这些答案决定架构。比如,如果合同不能发送给外部服务,那么基于合同的知识库就要用向量检索和部署在您网络边界内的模型来构建——即使外部 API 更便宜。
质量靠衡量,而非承诺
语言模型的质量取决于数据以及任务的设定方式,因此我们不事先保证指标。我们会从您的流程中整理一套样本——带标准答案的问题、典型文档、疑难情况——并用它衡量每一次改动:换一个模型、换一个提示词、换一种文档检索方式。迭代包含在项目中,风险在开工前说明。
我们还会专门检验边界情况:文档里没有答案时模型怎么回答、遇到离题问题如何应对、是否会泄露用户不应看到的内容。
给智能体最小权限
当模型不只是回答,还要采取行动——创建任务、写入 CRM、发送邮件——数据边界之外还要加上权限边界。智能体只获得场景所需的权限,重要操作由人确认,每一步都记入日志。这样,错误可以被发现和纠正,而不是等到出了后果才察觉。
从哪里开始
从一个规则清楚、结果容易核验的流程开始。在这个流程上商定数据处理方式、整理样本,并衡量是否真的有效果。之后再扩大应用范围才有意义。

