應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

為什么90%的機(jī)器學(xué)習(xí)模型從未應(yīng)用于生產(chǎn)?

2020-12-01 09:13 InfoQ

導(dǎo)讀:數(shù)據(jù)科學(xué)家的工作只有十分之一能夠真正產(chǎn)出對(duì)公司有用的東西。

作者 | Rhea Moutafis

譯者 | 平川

策劃 | 陳思

時(shí)代變幻莫測(cè),僅僅增加客戶體驗(yàn)流暢度和沉浸感并不能減輕企業(yè)的壓力。在這種情況下,投入數(shù)十億美元開發(fā)可以改進(jìn)產(chǎn)品的機(jī)器學(xué)習(xí)模型就可以理解了。但有一個(gè)問題。公司不能只是把錢砸在數(shù)據(jù)科學(xué)家和機(jī)器學(xué)習(xí)工程師身上,就希望可以有奇跡發(fā)生。據(jù) VentureBeat 報(bào)道,大約 90% 的機(jī)器學(xué)習(xí)模型從未投入生產(chǎn)。換句話說,數(shù)據(jù)科學(xué)家的工作只有十分之一能夠真正產(chǎn)出對(duì)公司有用的東西。

本文最初發(fā)布于 Towards Data Science,由 InfoQ 中文站翻譯并分享。

大多數(shù)機(jī)器學(xué)習(xí)模型從未部署。圖片由作者提供。

企業(yè)正在經(jīng)歷艱難時(shí)期。我說的不是病毒流行和股市波動(dòng)。

時(shí)代變幻莫測(cè),僅僅增加客戶體驗(yàn)流暢度和沉浸感并不能減輕企業(yè)的壓力。在這種情況下,投入 數(shù)十億美元 開發(fā)可以改進(jìn)產(chǎn)品的機(jī)器學(xué)習(xí)模型就可以理解了。

但有一個(gè)問題。公司不能只是把錢砸在數(shù)據(jù)科學(xué)家和機(jī)器學(xué)習(xí)工程師身上,就希望可以有奇跡發(fā)生。

有數(shù)據(jù)為證。據(jù) VentureBeat 報(bào)道,大約 90% 的機(jī)器學(xué)習(xí)模型從未投入生產(chǎn)。換句話說,數(shù)據(jù)科學(xué)家的工作只有十分之一能夠真正產(chǎn)出對(duì)公司有用的東西。

盡管 十分之九 的科技高管相信,人工智能將成為下一次科技革命的中心,但人工智能的采用和部署尚未獲得長足的發(fā)展,而這不能怪?jǐn)?shù)據(jù)科學(xué)家。

企業(yè)尚未準(zhǔn)備好采用機(jī)器學(xué)習(xí)

領(lǐng)導(dǎo)支持并不意味著投錢多

數(shù)據(jù)科學(xué)家的 就業(yè)市場(chǎng)非常好。企業(yè)在招聘,而且也已經(jīng)準(zhǔn)備好支付高薪。

當(dāng)然,管理人員和企業(yè)負(fù)責(zé)人期望這些數(shù)據(jù)科學(xué)家能帶來巨大的價(jià)值。然而,就目前而言,他們并沒有為此提供便利。

GAP 數(shù)據(jù)分析高級(jí)副總裁 Chris Chapo表示:“有時(shí)人們會(huì)想,我所需要做的只是針對(duì)一個(gè)問題投入資金或技術(shù),成功就會(huì)到來。”

為了幫助數(shù)據(jù)科學(xué)家在工作中發(fā)揮出色的作用,領(lǐng)導(dǎo)者不僅需要將資源引向正確的方向,還需要了解機(jī)器學(xué)習(xí)模型是干什么的。一個(gè)可能的解決方案是,讓領(lǐng)導(dǎo)者們自己接受一些數(shù)據(jù)科學(xué)的入門培訓(xùn),這樣他們就可以在公司里把這些知識(shí)付諸實(shí)踐。

數(shù)據(jù)訪問難度大

公司不擅長收集數(shù)據(jù)。許多公司都是高度筒倉化的,這意味著每個(gè)部門都有自己收集數(shù)據(jù)的方式、首選格式、存儲(chǔ)位置以及安全和隱私偏好。

另一方面,數(shù)據(jù)科學(xué)家經(jīng)常需要來自多個(gè)部門的數(shù)據(jù)。筒倉化增加了清理和處理這些數(shù)據(jù)的難度。此外,許多數(shù)據(jù)科學(xué)家 抱怨,他們甚至無法獲得他們需要的數(shù)據(jù)。如果你沒有必要的數(shù)據(jù),怎么開始訓(xùn)練一個(gè)模型呢?

也許在過去,筒倉化的公司結(jié)構(gòu)——以及無法訪問的數(shù)據(jù)——便于管理。但在一個(gè)技術(shù)飛速變革的時(shí)代,企業(yè)將需要加快步伐,在整個(gè)過程中建立起統(tǒng)一的數(shù)據(jù)結(jié)構(gòu)。

對(duì)于數(shù)據(jù)科學(xué)家來說,能夠獲取所需的數(shù)據(jù)至關(guān)重要。圖片由作者提供。

IT、數(shù)據(jù)科學(xué)和工程脫節(jié)

如果公司的目標(biāo)是減少“筒倉”,這就意味著各部門需要更多地相互溝通,調(diào)整各自的目標(biāo)。

在許多公司中,IT 部門和數(shù)據(jù)科學(xué)部門之間存在著 根本性的分歧。IT 傾向于優(yōu)先考慮讓事情正常運(yùn)轉(zhuǎn)并保持穩(wěn)定。另一方面,數(shù)據(jù)科學(xué)家喜歡實(shí)驗(yàn)和破壞東西。這會(huì)導(dǎo)致溝通困難。

此外,對(duì)于數(shù)據(jù)科學(xué)家來說,工程并非總是必不可少的。這是一個(gè)問題,因?yàn)楣こ處熡袝r(shí)候可能無法了解數(shù)據(jù)科學(xué)家所設(shè)想的所有細(xì)節(jié),或者可能會(huì)由于溝通錯(cuò)誤而改變實(shí)現(xiàn)方式。因此,正如 StackOverflow 指出 的那樣,能夠部署模型的數(shù)據(jù)科學(xué)家比那些不能部署模型的數(shù)據(jù)科學(xué)家更有競爭優(yōu)勢(shì)。

機(jī)器學(xué)習(xí)模型自身面臨的挑戰(zhàn)

擴(kuò)展比你想象的要難

模型在小環(huán)境中工作得很好,并不意味著它在任何地方都可以工作得很好。

首先,可能沒有處理更大數(shù)據(jù)集的硬件或云存儲(chǔ)空間可供使用。此外,在規(guī)模很大時(shí),機(jī)器學(xué)習(xí)模型的模塊并不總是像規(guī)模較小時(shí)那么有效。

最后,數(shù)據(jù)獲取可能比較困難,甚至不可能。正如前面所討論的,這可能是由于公司的筒倉結(jié)構(gòu),也可能是由于在獲取更多數(shù)據(jù)時(shí)遇到的其他挑戰(zhàn)。

這也是在組織之間統(tǒng)一數(shù)據(jù)結(jié)構(gòu)、鼓勵(lì)不同部門之間進(jìn)行交流的另一個(gè)原因。

重復(fù)工作

在部署機(jī)器學(xué)習(xí)模型的漫長道路上,超過四分之一 的企業(yè)都存在重復(fù)工作。

例如,軟件工程師可能會(huì)按數(shù)據(jù)科學(xué)家的說法進(jìn)行實(shí)現(xiàn)。后者可能也會(huì)繼續(xù),自己做一些工作。

這不僅浪費(fèi)時(shí)間和資源,而且,當(dāng)涉眾不知道使用了哪個(gè)版本的代碼,在遇到任何錯(cuò)誤時(shí)就不知道應(yīng)該向誰求助,這會(huì)導(dǎo)致額外的混亂。

如果數(shù)據(jù)科學(xué)家能夠?qū)崿F(xiàn)他們的模型,這是他們的優(yōu)勢(shì),但對(duì)于誰做什么,他們應(yīng)該與工程師溝通清楚。這樣,就可以節(jié)省公司的時(shí)間和資源。

有效溝通對(duì)于機(jī)器學(xué)習(xí)模型正常運(yùn)行至關(guān)重要。圖片由作者提供。

高管們可能會(huì)不認(rèn)可

總體來說,技術(shù)高管 非常相信 人工智能的力量,但這并不意味著他們會(huì)同意所有的想法。據(jù) Algorithmia 報(bào)道,三分之一的企業(yè)高管將糟糕的部署統(tǒng)計(jì)數(shù)據(jù)歸咎于缺乏高層支持。

似乎人們?nèi)匀徽J(rèn)為數(shù)據(jù)科學(xué)家有點(diǎn)書呆子氣,缺乏商業(yè)意識(shí)。為此,數(shù)據(jù)科學(xué)家應(yīng)加強(qiáng)他們的業(yè)務(wù)技能,并盡可能尋求與高管的對(duì)話。

當(dāng)然,這并不意味著每個(gè)數(shù)據(jù)科學(xué)家需要 MBA 學(xué)位才能勝任他們的工作。然而,從課程或業(yè)務(wù)經(jīng)驗(yàn)中學(xué)習(xí)一些關(guān)鍵知識(shí)可能會(huì)對(duì)他們有長遠(yuǎn)的幫助。

不能跨語言且缺少框架支持

由于機(jī)器學(xué)習(xí)模型仍處于起步階段,不同的語言和框架仍有相當(dāng)大的差距。

有些管道開始時(shí)是 Python 開始,中間是 R,最后是 Julia。有的則相反,或者完全使用其他語言。由于每種語言都有自己獨(dú)特的庫和依賴項(xiàng),項(xiàng)目很快就變得很難跟蹤。

此外,有些管道可能會(huì)使用 Docker 和 Kubernetes 進(jìn)行容器化,其他管道可能不會(huì)。有些管道將部署特定的 API,其他管道則不會(huì)。這樣的例子不勝枚舉。

為了彌補(bǔ)這種不足,像 TFX、Mlflow 和 Kubeflow 這樣的工具出現(xiàn)了。但這些工具仍處于起步階段,到目前為止,這方面的專家還很少。

數(shù)據(jù)科學(xué)家們知道,他們需要不斷了解自己領(lǐng)域的最新進(jìn)展。這應(yīng)該也適用于模型部署。

版本控制和再現(xiàn)仍面臨挑戰(zhàn)

與上述問題相關(guān)的是,到目前為止,機(jī)器學(xué)習(xí)模型版本控制還沒有一種可行的方法。顯然,數(shù)據(jù)科學(xué)家需要跟蹤他們所做的任何更改,但現(xiàn)在這相當(dāng)麻煩。

此外,數(shù)據(jù)集可能會(huì)隨時(shí)間漂移。隨著公司和項(xiàng)目的發(fā)展,這是很自然的,但這使得再現(xiàn)過去的結(jié)果變得更加困難。

更重要的是,一旦項(xiàng)目啟動(dòng),就會(huì)建立一個(gè)基準(zhǔn),用于現(xiàn)在和將來對(duì)模型進(jìn)行測(cè)試。結(jié)合版本控制,數(shù)據(jù)科學(xué)家可以再現(xiàn)他們的模型。

如果模型不可再現(xiàn),就會(huì)導(dǎo)致漫長的調(diào)查研究。圖片由作者提供。

停止嘗試,開始部署

如果數(shù)據(jù)科學(xué)家 90% 的努力都沒有結(jié)果,這可不是一個(gè)好現(xiàn)象。這不是數(shù)據(jù)科學(xué)家的錯(cuò),如上所述,這是由于組織結(jié)構(gòu)上固有的障礙。

變革不是一天能完成的。對(duì)于剛剛開始接觸機(jī)器學(xué)習(xí)模型的公司,建議他們從一個(gè)非常小而簡單的項(xiàng)目開始。

一旦管理者勾勒出一個(gè)清晰而簡單的項(xiàng)目,第二步就是選擇合適的團(tuán)隊(duì)。這個(gè)團(tuán)隊(duì)?wèi)?yīng)該是跨職能的,應(yīng)該包括數(shù)據(jù)科學(xué)家、工程師、DevOps 和任何其他看起來對(duì)于獲得成功至關(guān)重要的角色。

第三,在開始的時(shí)候,管理者應(yīng)該考慮利用第三方來幫助他們加速這個(gè)過程。IBM 是提供這種服務(wù)的公司之一,但市場(chǎng)上也有其他公司。

最后一點(diǎn)是,切莫不惜一切代價(jià)追求先進(jìn)。如果一個(gè)簡單的低成本模型能滿足 80% 的客戶需求,并能在幾個(gè)月內(nèi)交付,這已經(jīng)是一個(gè)了不起的成就了。此外,從構(gòu)建簡單模型積累的經(jīng)驗(yàn)將有助于實(shí)現(xiàn)更復(fù)雜的模型,并有望使客戶百分之百滿意。

結(jié)論:革命需要時(shí)間

下一個(gè)十年注定是革命性的,就像上一個(gè)十年一樣。人工智能的廣泛應(yīng)用只是 眾多發(fā)展趨勢(shì) 中的一個(gè),物聯(lián)網(wǎng)、高級(jí)機(jī)器人技術(shù)和區(qū)塊鏈技術(shù)也在興起。

我說的是幾十年,而不是幾年。例如,考慮到 90% 的公司都 已上云——如此之多,以至于我們很難想象沒有云我們?cè)趺瓷睢6硪环矫?,云是花?幾十年時(shí)間 才被廣泛地采用。

我們沒有理由認(rèn)為人工智能革命會(huì)有任何不同。它需要一段時(shí)間才能推廣開,因?yàn)槟壳斑€有許多需要解決的障礙。

但是,由于機(jī)器學(xué)習(xí)提供了如此多的方法來改善客戶體驗(yàn)和企業(yè)效率,顯然,贏家將是那些快速并盡早部署模型的公司。

https://towardsdatascience.com/why-90-percent-of-all-machine-learning-models-never-make-it-into-production-ce7e250d5a4a