译者 | 崔皓
审校 | 重楼
摘要本文强调MLOps(机器学习运营)的重要性,并详细介绍了其五个关键阶段:问题框架、解决方案框架、数据准备、模型构建和分析以及模型服务和监控 。文章通过一个金融科技案例研究,详细解释了如何在实践中应用这五个阶段 。最后,文章强调了实施MLOps的好处,包括解决业务问题、使用正确的工具、善用代表问题的数据集、构建最优的机器学习模型,以及部署和监控模型 。
开篇许多数据科学项目因为各种原因都不为人所知 。MLOps就是其中一个,MLOps指的是从数据阶段到部署阶段的过程,它可以确保机器学习模型的成功 。在这篇文章中,你将了解到MLOps的关键阶段(从数据科学家的角度)以及一些常见的陷阱 。
小贴士:MLOps市场在2019年估计为232亿美元,并预计到2025年将达到1260亿美元,原因是MLOps被业内广泛应用 。
MLOps的动机MLOps是一种专注于运营数据科学模型的实践 。通常,在大多数企业中,数据科学家负责建模数据集,预处理数据,进行特征工程,最后构建模型 。然后,模型被“扔”给工程团队,以便部署成API或者站点 。在这个过程中,科学(建模)和工程(部署)往往在各自的孤岛中进行,两部分工作的隔离导致部署延迟,在最坏的情况下,会导致部署错误 。MLOps可以快速准确地部署企业规模的ML模型 。数据科学往往被人认为 “说起来容易做起来难” 。MLOps就是这一领域的灵丹妙药,用来根治从模型学习到生产部署的各种疑难杂症 。其实数据科学家都清楚,90%的ML模型并没有投入生产 。MLOps给数据科学和工程团队带来了标准和流程,确保他们紧密且持续地合作 。这种合作对于确保模型成功部署至关重要 。
简述MLOps对于熟悉DevOps的人来说,MLOps对于机器学习应用就像DevOps对于软件应用一样重要 。MLOps有多种形式,然而有五个关键阶段对于MLOps策略至关重要,同时每个阶段都需要与利益相关者进行沟通 。下面我们就展开说明有哪五个阶段:
问题框架深入理解业务问题 。这是成功部署模型和使用的关键 。在这个阶段需要与所有的利益相关者进行交流,从而获得项目的支持 。包括工程、产品、合规等 。
解决方案框架只有在问题陈述被详细讨论之后,才开始考虑“如何”以及是否需要机器学习来解决业务问题?一开始,作为数据科学家,我建议避开机器学习,这一举动可能会让人觉得奇怪 。因为“巨大的力量带来的是巨大的责任” 。我们只要确保机器学习模型被建立、部署和仔细监控,以确保它满足并继续满足业务需求 。同时,在这个阶段也应该与利益相关者讨论时间表和资源 。
数据准备一旦决定走机器学习的路线,就开始考虑“数据” 。这个阶段包括数据收集、数据清洗、数据转换、特征工程和标签(对于监督学习) 。这里需要记住的格言是“垃圾输入,垃圾输出” 。这个步骤通常是过程中最痛苦的步骤,对于确保模型成功至关重要 。确保多次验证数据和特征,以确保它们与业务问题相符 。记录你在创建数据集时做出的所有假设 。例如:一个特征的异常值真的是异常值吗?
模型构建和分析在这个阶段,需要构建和评估多个模型,选择最能解决问题的模型架构 。选择的优化指标应反映业务需求 。现在,有许多机器学习库可以加快这个步骤 。记住记录和跟踪你的实验,以确保机器学习流水线的可重复性 。
模型服务和监控一旦我们从前一阶段构建出模型对象,需要考虑如何让最终用户“使用”它 。最小化响应延迟,以及最大化吞吐量 。部署服务模型为REST API端点,并将其部署到云上的Docker容器或在边缘设备上 。即便是顺利部署了服务,但也不能高兴得太早,因为还存在变数 。例如,生产中的数据可能会漂移,导致模型衰退,或者模型会受到对抗性攻击 。我们需要为机器学习应用建立强大的监控基础设施 。这里需要监控两件事:
1.部署环境的健康状况(例如:负载,使用情况,延迟)
2. 模型本身的健康状况(例如:性能指标,输出分布) 。
在这个阶段也需要确定监控频率 。每天、每周还是每月监控ML应用程序?至此,已经建立、部署和监控了一个健壮的机器学习应用程序 。但是,轮子并没有停止旋转,因为上述步骤需要不断迭代 。
文章插图
金融科技案例研究为了将上述五个阶段付诸实践,我们会举一个案例作为最佳实践的参考 。假设你是一家金融科技公司的数据科学家,负责部署一个用于检测欺诈交易的欺诈模型 。在这种情况下,首先要深入研究检测的欺诈类型(是第一方还是第三方?) 。交易如何被确定为欺诈或非欺诈?是由最终用户报告的,还是你必须使用启发式方法来识别欺诈?谁会使用模型?它将实时使用还是批量模式?回答上述问题对解决这个业务问题至关重要 。
推荐阅读
- 职业赛场变幻?职称晋升之道助你轻松应对新挑战!
- 掌握这些命令,轻松查看Linux日志文件
- 掌握Scrapy框架,轻松实现网页自动化爬取
- 掌握API数据检索:过滤和排序的综合指南
- 网红瓜妈宣布离婚,直言从来没这么轻松过,自爆两个继女前期挑拨
- 无需汗水狂飙!这个简单活动让你轻松拥有好身材!
- 掌握这10个跑步技巧,让你成为跑步达人!
- 马赛克效果怎么做?视频编辑技巧轻松get
- 快速批量剪辑视频,轻松制作专业片头片尾!
- 五步让你掌握Python数据结构