Victor Thu 是Datatron的总裁，该平台通过加快部署、及早发现问题以及提高大规模管理多个模型的效率来帮助企业利用机器学习的力量。

你的背景是产品营销、市场进入和产品管理，这个背景是如何引导你从事机器学习和人工智能的？

我热爱技术，我的一些密友甚至称我为“技术低语者”。我喜欢将复杂的技术主题翻译成人们可以理解的语言，并自学新技术以了解对人们最重要的技术背后的“原因”。

我第一次接触我所谓的“现代人工智能”是在我观看斯坦福著名人工智能教授李飞飞博士的主题演讲时。李博士的主题演讲如此引人入胜，成为我职业生涯的转折点。那次演讲让我相信，这就是我接下来想去的地方。我想成为下一波技术的一部分，我们使用人工智能和机器学习来解决业务挑战。

从那时起，我一直在许多 AI/ML 初创公司工作，致力于使用该技术来解决实际的业务需求。我与博士级别的 ML 科学家密切合作，他们为我提供了 AI/ML 方面的丰富知识。而且我今天仍在学习，因为这个领域发展得如此迅速。

因此，真正让我与 AI/ML 密切合作的是我对技术以及如何利用它来帮助他人的热情。

Datatron 专注于 MLOps，对于不熟悉这个术语的读者，您能具体描述一下它是什么吗？

MLOps 本质上是在编纂和简化从原型到生产的 AI 和 ML 模型的高度手工过程。

最大的误解之一是，一旦数据科学家建立了他们的人工智能模型，他们就可以迅速将它们投入生产。然而，现实情况是，部署模型可能需要长达一年的时间。

这种延迟的主要原因是具有开发模型专业知识的人不一定也具有软件工程专业知识。一个很好的比较是设计摩天大楼的建筑师——他们不是建造摩天大楼的开发商。

MLOps 本质上是模型开发人员和软件工程之间的桥梁。MLOps 不必花费超过 12 个月的时间将模型投入生产，而是可以将曾经冗长的过程缩短到几天。

在您于 2021 年 9 月为我们撰写的一篇文章中，您讨论了“将解决方案投入生产的主要障碍不是模型的质量，而是缺乏允许公司这样做的基础设施。” 为什么这对大多数公司来说是一个如此大的障碍？

这有几个促成因素。

• “免费”开源软件的过度浪漫化。我首先要强调的是，我们热爱开源软件，并坚信它帮助行业实现了跨越式发展。但是，许多人不了解开源与 AI 和 ML 相关的复杂性。今天，人工智能/机器学习人才严重短缺。当您将其与寻找知道如何处理 AI/ML 代码的独特属性的软件工程师（ML 工程师或 MLOps 工程师）相结合时，然后期望通过找出 300 多个开放式架构在内部雇用和构建企业级 MLOps 平台源 MLOps 项目正在为失败做好准备。
• 缺乏支持工程团队的基础设施。公司需要一个更好的环境来培养成功的工程师。需要有适当的带宽和预算来为团队提供正确的工具。人工智能是一项相当新的技术。从事人工智能的企业并不总是知道他们需要做什么才能快速获得模型，这就是为什么 MLOps 如此重要的工具。

使用 MLOps 如何解决缺乏基础设施的问题？

MLOps 通过四种方式解决基础设施不足的问题：

1. 无需更改专有代码：数据科学家希望灵活地构建模型以适应其环境中的业务用例，因此任何需要更改代码的 MLOps 流程都会使其模型的完整性复杂化。
2. 自动化/脚本：许多团队以硬编码方式编写模型脚本，这需要大量时间。MLOps 使整个过程自动化，节省了大量时间和精力。
3. 简化更新：AI 模型会定期更改以适应其环境。有时数据科学家必须经常回去更新模型。如果没有 MLOps，就无法避免这种重复更新。
4. 管理底层基础设施：为了获得模型，您需要计算网络和存储，这需要 AI/ML 模型的独特属性。MLOps 工具能够利用正确的资源来相应地扩展它们。

在构建自己的 MLOps 工具时，还有一些企业需求通常不会被考虑，例如：基于角色的访问控制 (RBAC)、集成和互操作性、对不同 ML 工具的支持、解决安全漏洞和核心团队成员的意外离职.

您对人工智能治理的重要性有何个人看法？

有无数关于人工智能模型无法正常工作的恐怖故事，从给某些人群贴错标签到给上市公司造成巨额财务损失。

当企业在生产中运行 AI 模型时，AI 治理对企业至关重要。话虽如此，它与其他 IT 或业务治理没有什么不同。如今，当您的 IT 在云端甚至自己的数据中心运行应用程序时，他们拥有一系列工具来确保应用程序正常运行。

一旦你运行了人工智能模型，你就需要有适当的机制和工具来帮助企业和数据科学家了解模型正在做什么。

尤其是在 AI/ML 的这个新生阶段，没有“一劳永逸”的选项。一开始，您需要监控模型的行为并进行适当的调整。拥有适当的监控功能，以便它可以在您的模型行为超出预期边界时提醒您是关键。

模型风险管理 (MRM) 还需要考虑参与模型开发和部署的不同个人。为了确保模型的完整性，您实施了哪些访问控制？或者，您如何确保来自不同群体的个人不会意外地将您的模型用于您的模型未设计用于的用例？团队需要问自己的所有问题。

Datatron 如何帮助进行模型风险管理？

MLOps 允许快速更新和更改模型。例如，如果一个模型在贷款申请中不恰当地拒绝了人们，MLOps 允许您撤回模型并重新引入一个新模型，以一种简单的方式管理该风险。

它通过一个简单的仪表板保护模型免受偏差漂移并在生产过程中维护关键指标，该仪表板使用来自高级概述的深入详细数据呈现这些指标，业务决策者可以轻松理解这些数据。

Datatron 平台 AI 治理提供了通用监控功能的一个级别 - 提供额外的上下文和逻辑，显示与客户用例更相关的模型的清晰可见性。

在一篇关于 Datatron 的博客文章中，您描述了 Datatron 如何接受 Reliable AI™ 的口头禅。你能在你的观点中描述这是什么吗？

当我们提出这个想法时，我们想到了我们今天在商业航空公司的飞行是多么舒适，因为它们非常可靠。

尽管有所有这些关于道德人工智能、负责任的人工智能等的讨论，但关键需求是企业能够可靠地使用人工智能/机器学习——就像他们的员工要跳上商业客机一样。

使用道德、负责任的 AI 等术语确实源于当前 AI 模型没有做它们应该做的事情，因此被认为是不可靠的问题。企业不愿意使用人工智能，因为他们不相信他们的模型没有偏见。这意味着他们的模型不可靠，而 Datatron 正着手改变这一点。

关于 Datatron，您还有什么想分享的吗？

我们是少数经过超级碗证明的 MLOps 玩家之一——在高压力情况下成功工作，这对于初创公司或开源工具来说并不典型。客户 Domino's Pizza 与 Datatron 合作，在生产中轻松快速地操作 AI 模型，然后在超级碗期间对这些模型进行了最终测试。

MLOps 确实是帮助 AI/ML 模型投入生产，同时保留资源并降低成本的方法。我们是成功的 AI/ML 模型的可持续来源，是收入的催化剂。公司最终可以从他们的 AI 和 ML 项目中获得投资回报。无论您的利润如何，您都可以使用 MLOps 产生结果。