菜单

Logo
新闻中心

MLOps 与 AI 运维

您的 AI 持续变化,谁来负责审查?

试点结束后,数据、模型和需求仍会持续变化。OTOKO® 会为您的 AI 应用建立版本管理、审批、监控和受控更新机制。您的团队将清楚知道当前运行的是哪个版本、其质量是如何评估的,以及出现问题时如何回退。

服务器环境中的计算单元,示意图
包含角色和运维手册的运维模式 · 由 OTOKO® 负责规划与实施

您对 OTOKO® 的委托

我们为您承接的工作。

对于传统模型,我们会将代码、数据版本、特征定义和模型制品关联起来。对于生成式应用,还会加入提示词、检索索引、工具和模型配置。模型注册表记录审批情况和责任归属。访问凭据不会随制品一起分发。开发环境和生产环境获得各自独立的权限。这样一来,既可以核查变更,也能在发生故障时还原实际使用过的组件,而不是只查看最后一次已知的源代码。

可能的服务范围

  • 将模型、数据和配置版本与审批关联
  • 在每次部署前设置自动化质量测试
  • 监控数据漂移、响应时间和资源消耗
  • 将更新版本与生产版本进行对比
  • 为您的相关审查机构提供 AI 清单和技术文档

具体范围、您的参与方式以及验收标准,我们会在项目开始前明确约定。

把技术讲清楚

我们是这样落实任务的。

01

同步监控质量、成本与运维

技术层面的可访问性,并不能说明答案在业务内容上是否有误。我们会将响应时间、错误和资源消耗等指标,与合适的质量反馈结合起来评估。数据漂移提示输入发生了变化,但尚不能证明结果变差。因此,重新训练或更换模型都会基于稳定的测试集进行评估。分阶段发布可以限制影响范围;我们会预先准备回退版本和关停手段。对于外部模型,我们还会考虑服务商的版本变更和服务中断情况。

02

明确运维责任与证明材料

运维范围会说明服务时段、告警路径以及技术和业务故障的责任归属。审批负责人负责判定新版本的质量。移交内容包括运维手册、版本总览和已记录的限制条件。针对数据保护以及可能适用的 AI 相关规定,我们会向相关负责部门提供技术信息;仅靠运维本身并不能实现法律合规。

OTOKO® 科隆办公室的会议室

一个可验证的成果

这将成为您后续工作的基础。

  1. 包含角色和运维手册的运维模式
  2. 带告警功能的监控
  3. 版本总览与技术审查文档

移交环节将实施成果与文档记录结合在一起。我们会共同检查约定的场景,并记录尚待完成的任务。

您的项目详情

以受控方式发布并持续优化模型。

我们打通从实验到有专人维护的模型运行的完整路径。数据版本、训练运行记录、生成的构件和审批环节会相互关联,即使模型发生更换,生产环境中的决策依据依然可以追溯。

将实验性模型与生产模型区分开来

Notebook 中往往隐含着关于文件、库和人工操作步骤的默认假设。我们会将相关处理步骤转化为可复现的流程,并明确记录所依赖的组件版本。每个模型构件都有唯一的版本号,并关联对应的训练记录、配置和评估结果。

完成注册并不等于已获得发布许可。我们会明确规定,模型在发布前必须通过哪些质量、安全和运维方面的检查。业务评估与技术部署会保持清晰区分,以避免一个技术上可以运行的模型,未经内容审查就直接投入生产使用。

及时发现性能下降并以受控方式应对

在运行期间,我们会监测可用性、响应时间以及输入数据的变化情况。数据分布发生变化是需要进一步排查的信号,但还不能直接证明预测效果变差。对于要延后才能得知的业务结果,我们会规划好将其反馈回质量评估环节的方式。

模型更换会依照约定的对比方法和回退方案进行。根据具体应用场景,先采用影子评估或限定用户群体的方式,往往是合理的做法。如果需要撤回某个模型,配套的预处理和接口也必须相应匹配。您的运维团队将获得针对故障处理、重新部署以及业务异常升级上报的操作指引。

示例项目场景

该服务在日常工作中如何发挥作用。

示例:某需求预测模型每月重新训练一次。新版本会先对照固定的参照周期和当前的业务结果进行检验。只有经过批准的数据处理与模型组合才会投入生产,此前的组合会继续保留,以备回退之需。

该示例说明的是一种可能的流程,并非客户案例。

在迈出第一步之前

您关于 MLOps 与 AI 运维 的问题。

是否每个模型都会自动重新训练?

不会。触发条件和审批流程会预先确定。新数据也可能并不适用;更新后的版本必须通过约定的对比测试。

OTOKO® 能否接手现有的 AI 试点项目?

可以,前提是先对权限、数据路径、版本和可测试性进行盘点。在正式接手并投入生产之前,我们会有针对性地补齐缺失的基础条件。

您的项目

您想解决哪项任务?

请描述您的现状和期望达成的结果。所选服务将自动带入联系咨询表单。

咨询此项服务

我们的合作伙伴

  • Microsoft
  • Microsoft Azure
  • Amazon AWS
  • Google Cloud
  • Thales Group
  • Arrow ECS
  • Vodafone
  • IBM
  • Veeam
  • Atlassian
  • JetBrains
  • NinjaOne
  • OPSWAT
  • Utimaco
  • Eviden

无障碍

根据您的需要调整页面显示。

本页面暂无简明语言版本。

当前设置仅对本次访问有效。您可以在 Cookie 设置中允许永久保存。