首页
/
每日頭條
/
科技
/
大數據的核心是數據分析嗎
大數據的核心是數據分析嗎
更新时间:2024-11-17 06:52:20

全文共1727字,預計學習時長5分鐘

大數據的核心是數據分析嗎(大數據新範式MLOps究竟是什麼)1

圖源:Google

數字化将DataOps這一概念引入人們生活的同時,大數據正引入一種新的範式——MLOps。鑒于DevOps和DataOps在實踐中越來越多的運用,該項業務需要機器學習模型使用過程中的所有參與者一直保持合作與互動,包括業務人員、工程師、大數據開發人員(數據科學家和機器學習專家)。

MLOps還是一個比較新的概念,但人們對它的需求卻在與日俱增。2018年左右,在谷歌舉辦的一場演講之後,業内專業人士首次公開談及工業運行(生産)中機器學習生命周期集成化管理的必要性。

将機器學習模型引入實際業務這一實踐,并不局限于數據準備、開發、神經網絡或其他機器學習算法的訓練方面。從驗證數據集,再到可靠的大數據生産環境下測試和部署數據集,産品解決方案的質量受到諸多因素的影響。

大數據的核心是數據分析嗎(大數據新範式MLOps究竟是什麼)2

這意味着,預測或分類的實際結果不僅取決于數據科學家提出的神經網絡架構和機器學習方法,還取決于開發團隊如何實現這一模型,以及管理員如何在集群環境中部署這一模型。輸入數據的質量,接收數據的來源、渠道和頻率也很重要,這都屬于數據工程師的職責範圍。

在機器學習解決方案的開發、測試、部署和支持過程中,多學科專家在互動中會遇到許多組織難題和技術障礙,這不僅延長了産品創建的時間,還降低了産品帶給該項業務的實際價值。

為了消除這些障礙,MLOps這一概念應運而生。與DevOps和DataOps類似,MLOps旨在提高自動化程度和工業機器學習解決方案的質量,同時兼顧監管需求和業務利益。

因此,MLOps是結合系統開發和運營支持(包括集成、測試、發布、部署、基礎設施管理等操作),以實現機器學習系統生命周期複合化和自動化管理的文化理念和應用實例。

可以說,MLOps借助敏捷的方法和技術工具擴展了CRISP-DM方法論(CRISP-DM跨行業數據挖掘标準流程),從而可以自動執行包括數據、機器學習模型、代碼和環境在内的操作。

這些工具中包括了Cloudera公司的數據科學工作台——ClouderaData Science Workbench,将MLOps付諸實踐有助于數據科學家在CRISP-DM經典階段規避常見陷阱和問題。

MLOps帶給業務和數據科學的十大好處

實施MLOps帶來的所有好處中,最為突出的是機器學習工業部署細節中的敏捷方法:

· 通過可靠且有效的機器學習生命周期管理,減少時間,從而得到高質量結果。

· 持續開發(CD)、持續集成(CI)、持續訓練(CT)方法和工具保障了工作流程和模型的可重複性。

· 随時随地輕松部署高精度機器學習模型。

· 集成管理系統可連續監測機器學習資源。

· 消除組織障礙,彙聚多學科機器學習專家的經驗。

因此,使用MLOps可以優化以下機器學習操作:

· 統一機器學習模型和關聯軟件産品的發布周期。

· 自動測試機器學習組件,如數據驗證、測試機器學習模型本身、及其集成到産品解決方案的過程。

· 在機器學習項目中踐行敏捷原則。

· 在CI、CD、CT系統中支持機器學習模型和數據集。

· 使用機器學習模型減輕技術債。

大數據的核心是數據分析嗎(大數據新範式MLOps究竟是什麼)3

圖源:Google

值得注意的是,MLOps的實踐應該與語言、框架、平台和基礎設施無關。從技術角度來看,MLOps系統的總體架構應包括收集和聚合大數據平台,為機器學習建模分析和準備數據的應用程序,執行計算和分析的工具,以及自動移動機器學習模型及其生命周期中關聯數據、軟件産品的工具。

如此以來,數據科學家、數據工程師、機器學習專家、大數據解決方案的架構師和開發人員、以及使用統一高效管道的DevOps工程師的工作任務有望實現部分或完全自動化。

大數據的核心是數據分析嗎(大數據新範式MLOps究竟是什麼)4

留言點贊關注

我們一起分享AI學習與發展的幹貨

如轉載,請後台留言,遵守轉載規範

,
Comments
Welcome to tft每日頭條 comments! Please keep conversations courteous and on-topic. To fosterproductive and respectful conversations, you may see comments from our Community Managers.
Sign up to post
Sort by
Show More Comments
推荐阅读
蘋果xr号碼含義
蘋果xr号碼含義
智電網訊:自從蘋果去年推出iPhoneX之後,筆者可以想象的到蘋果系列手機這幾年的外觀變化應該不會很大,iPhoneX僅僅是我們未來幾年對蘋果的期望,主頁按鈕,厚邊框和易于識别的iPhone日子已經一去不複返了。了解科技圈的朋友都關注到了,...
2024-11-17
電腦怎麼安裝多個硬盤
電腦怎麼安裝多個硬盤
電腦新增加一塊硬盤怎麼安裝使用?現在配置電腦主機,在存儲這方面,主流推薦都會使用SSD硬盤,因為讀寫速度快,在SSD系統上安裝系統,開機隻需要10多秒,很在程序上提高了體驗,但SSD成本較貴,一般都是100多G,隻适合安裝一個操作系統。下面...
2024-11-17
手機傳電子書為什麼出現亂碼
手機傳電子書為什麼出現亂碼
手機傳電子書為什麼出現亂碼?亂碼是因為文件保存的格式不對然後打開電子手設置,将編碼方式改成GB2321簡體中文,接下來我們就來聊聊關于手機傳電子書為什麼出現亂碼?以下内容大家不妨參考一二希望能幫到您!手機傳電子書為什麼出現亂碼亂碼是因為文件...
2024-11-17
蘋果自帶的浏覽器怎麼改字體
蘋果自帶的浏覽器怎麼改字體
如何使蘋果手機iPhone上Safari自帶浏覽器的字體變得更大?在iOS13的Safari浏覽器中,蘋果添加一個新的網站視圖菜單,彙集了額浏覽網頁所需的選項,在導航時更加直觀,且更容易實現。今天我們向大家介紹如何控制菜單的文字大小,可以允...
2024-11-17
惠普筆記本電腦怎麼任意截屏
惠普筆記本電腦怎麼任意截屏
惠普筆記本電腦怎麼任意截屏?所有筆記本電腦和電腦都可以截屏如果您需要向某人展示您當前正在查看的内容、提供分步說明或從電影或電視節目中拍攝劇照,這可能是一個非常有用的功能,下面我們就來說一說關于惠普筆記本電腦怎麼任意截屏?我們一起去了解并探讨...
2024-11-17
Copyright 2023-2024 - www.tftnews.com All Rights Reserved