将 GPT API 集成到您的系统中
模型如何接入您的系统
集成从触发事件开始:CRM 中的新交易、邮件、网站提交的需求或文件夹中的文件。我们校验 Webhook 签名,将任务加入队列,由模型处理并将结果返回到字段、评论或文档中。如果提供商返回错误,任务会按递增延迟重试;若连续出现故障,请求会暂时切换到备用模型。
- 接入 CRM、网站、邮箱、Telegram 和核算系统
- 具备签名校验和幂等处理的 Webhook
- 任务队列、重试与备用模型
- 针对您要解决的问题的提示词与返回格式
- 个人数据掩码处理
- 费用限额与调用日志
- 提供文档并将密钥移交给您的团队
我们通过 LiteLLM 或 OpenRouter 接入 GPT,因此可以同时保留其他提供商的模型,并基于您的数据进行对比。访问密钥保存在您服务器的环境变量中,费用限额按功能设定,每次调用都会记入日志,包含延迟和费用。
我们仅向模型发送完成任务所需的字段,对个人数据进行掩码处理,并在上线前明确允许发送给提供商的数据规则。如果数据必须留在企业内部,我们会将同一套集成接入您服务器上的模型。
接入流程
第一个场景完整上线,后续场景接入同一队列和网关。
场景
选定触发事件、数据和结果:模型接收什么内容,以及将回答写入何处。
提示词与格式
编写提示词,用您的实例进行验证,并确定返回格式。
集成
接入各个系统,配置队列、重试、限额和日志。
上线与移交
启用该场景,检查首批运行结果并移交文档。
关于 GPT API 集成的问题
使用谁的 API 密钥?
建议使用您自己在提供商处的账号,这样账单和数据仍归您掌控。我们负责配置密钥、限额和费用提醒。
除了 GPT,还能接入其他模型吗?
可以。通过网关可以接入不同提供商的模型,以及您服务器上的开放模型。我们会用您的实例进行对比,并推荐在质量和价格上更合适的模型。
如果提供商的服务不可用怎么办?
任务会在队列中等待并按递增延迟重试,若长时间故障则会切换到备用模型。每项任务都已记入日志,并会等到处理完成。
这项服务与大语言模型(LLM)落地有何区别?
在这项服务中,我们针对特定场景将模型接入您的一个或多个系统。而在产品中落地 LLM 的范围更广:包含多项功能、验证实例集、质量评测以及发布后的观测。
集成费用是多少?
价格模块中展示了起步价。金额取决于系统和场景的数量。模型提供商的费用由您按其资费标准直接支付,我们的工作费用与工期则在技术规格书中明确约定。
$2,300 起
- 免费保修
- 20 天
所列为起步价格,仅供参考,不构成公开要约。最终价格在技术规格书中确定。
AI consulting
相关内容
请说明您希望将 GPT 接入何处
请告知您的系统及需要模型处理的任务。我们将提供集成方案并给出报价。
我们将在 24 小时内回复