規(guī)避發(fā)布風(fēng)險，破解算法模型更新難題，Tempo灰度服務(wù)了解一下
2022-04-29 10:30:54
次
面對話展示的情況，相信每一位算法模型開發(fā)人員都似曾相識：
A：不就是調(diào)整幾個參數(shù)嗎？怎么新模型發(fā)布那么慢？
B：哪怕只是調(diào)整幾個參數(shù)，我們也需要停止整個模型服務(wù)進行更新，這影響的業(yè)務(wù)就太廣泛了。
B：而且新模型需要反復(fù)測試，如果貿(mào)然上線出問題，老的歷史模型又不可用了，說不定這次服務(wù)又要停好久….
數(shù)據(jù)算法模型開發(fā)不易，發(fā)布更新也不是一件簡單的事情。尤其是在一些組織架構(gòu)復(fù)雜、業(yè)務(wù)規(guī)模龐大的企業(yè)，每次算法模型優(yōu)化更新都像是在打仗，例如：
● 模型調(diào)試工作反反復(fù)復(fù)，測試速度總是趕不上提需求的速度…
● 為了最大限度降低對日常數(shù)據(jù)分析平臺服務(wù)的影響，必須在三更半夜無人在意的時間段才能發(fā)布...
● 小心再小心，也少有進入實際生產(chǎn)環(huán)境后完全沒有bug出現(xiàn)的算法模型，而一旦更新模型出現(xiàn)問題，就往往會造成不可挽回的損失。
我們發(fā)現(xiàn)，傳統(tǒng)的模型更新方式不僅無法快速實現(xiàn)業(yè)務(wù)側(cè)的分析需求，也給技術(shù)側(cè)人員制造了巨大的工作負擔。那該如何打破這種僵局呢？來試試灰度服務(wù)吧！
一、什么是灰度服務(wù)？
首先，我們先需要科普一下什么是灰度服務(wù)：
灰度服務(wù)：又稱金絲雀發(fā)布，這一術(shù)語源于過去歐洲煤礦工人把籠養(yǎng)的金絲雀帶入礦井的傳統(tǒng)。礦工通過金絲雀來了解礦井中一氧化碳的濃度，如果一氧化碳的濃度過高，金絲雀就會中毒，從而使礦工知道應(yīng)該立刻撤離。
對應(yīng)到數(shù)據(jù)算法模型開發(fā)工作中，則是指在發(fā)布更新算法模型時，先通過少量的試點測試確認新模型沒有執(zhí)行問題，確保無誤后再全部推廣應(yīng)用的方式。
通過創(chuàng)建灰度服務(wù)，算法模型開發(fā)人員就可以只根據(jù)發(fā)布策略做同步服務(wù)的轉(zhuǎn)發(fā)，并根據(jù)運行情況靈活變更綁定的同步服務(wù)。這個過程就像是素描作畫時在黑與白之間使用灰色讓畫面能夠平滑過度的方法，所以又叫灰度發(fā)布/服務(wù)。
這種發(fā)布方式的最大優(yōu)勢在于可以做到在不中斷正常服務(wù)的情況下進行升級。因此通過采用灰度服務(wù)，可以幫助企業(yè)有效規(guī)避以下兩類問題；
二、如何做到模型迭代兼顧穩(wěn)定數(shù)據(jù)服務(wù)？
對于已經(jīng)有一定數(shù)字化運營基礎(chǔ)的企業(yè)來說，他們的數(shù)據(jù)分析服務(wù)已經(jīng)在各個部門中得到了深度應(yīng)用，算法模型的應(yīng)用發(fā)布往往牽扯到很多具體業(yè)務(wù)環(huán)節(jié)的執(zhí)行，涉及的數(shù)據(jù)量也非常龐大。在傳統(tǒng)算法模型更新的過程中，他們往往最擔心2個問題：
1、模型迭代不順暢，反復(fù)修改拖慢整體進度
測試環(huán)境和真實的生產(chǎn)環(huán)境有著很大區(qū)別，很多問題在測試環(huán)境中無法發(fā)現(xiàn)，而正式發(fā)布之后再調(diào)整又會打亂整體的開發(fā)計劃。
2、發(fā)布問題導(dǎo)致經(jīng)濟損失
模型一旦發(fā)布之后就無法回退到歷史版本，模型錯誤導(dǎo)致服務(wù)中斷之后，日常業(yè)務(wù)運營也會因此受到影響，很有可能造成不可挽回的經(jīng)濟損失。
而采取灰度服務(wù)之后，我們就可以在模型更新的過程中避免上述問題，實現(xiàn)：
1、模型平滑迭代
通過小流量驗證方式，直接在灰度階段就能發(fā)現(xiàn)、調(diào)整并優(yōu)化模型在真實生產(chǎn)環(huán)境中運行會出現(xiàn)的問題，保證正式上線模型萬無一失 。
2、降低發(fā)布風(fēng)險
規(guī)避一定的發(fā)布風(fēng)險，降低模型迭代升級所影響的范圍，避免造成其它更多不必要的經(jīng)濟損失。
采取灰度服務(wù)之后，開發(fā)團隊就可以在不對日常業(yè)務(wù)運行造成影響的前提下靈活調(diào)整模型更新節(jié)奏，將新模型逐步替代舊模型，使得服務(wù)穩(wěn)定和模型迭代兩不誤，將運營損失降到最低。
三、如何使用Tempo AI快速配置灰度服務(wù)
當然，灰度服務(wù)雖好，在真實的生產(chǎn)環(huán)境中，一樣也需要復(fù)雜的設(shè)計流程和一定的人力投入才能實現(xiàn)，甚至其實現(xiàn)難度要比傳統(tǒng)的發(fā)布方式更高：
灰度服務(wù)的難點：
1、灰度服務(wù)需要更嚴謹?shù)姆桨冈O(shè)計，灰度的業(yè)務(wù)范圍，如何分析并運用分析結(jié)果，這都需要精于業(yè)務(wù)流程的人去精心設(shè)計，而非純IT人員能夠完成的。
2、灰度服務(wù)測試覆蓋方式必須多樣且能滿足灰度方案的需求
3、灰度發(fā)布之后的數(shù)據(jù)必須得到妥善的記錄和監(jiān)控，方便后續(xù)調(diào)整。
基于灰度服務(wù)的搭建難點，我們特別在Tempo AI中設(shè)計了更加便捷的灰度服務(wù)模塊，擺脫傳統(tǒng)搭建流程中復(fù)雜的編碼工作，只需幾步點選，即可快速完成灰度服務(wù)的配置，通過降低操作門檻，讓灰度服務(wù)可以更加方便地結(jié)合實際業(yè)務(wù)流程進行。
?Tempo AI新建灰度服務(wù)流程
進入任意空間中的發(fā)布區(qū)，點擊灰度服務(wù)的【+】按鈕，新建灰度服務(wù)。在“灰度服務(wù)”彈框中配置灰度服務(wù)的基礎(chǔ)信息，包括：服務(wù)名稱、服務(wù)地址、選擇同步服務(wù)以及對應(yīng)的發(fā)布策略。如下圖：
之后用戶就可以進行發(fā)布策略的設(shè)置，一般分為2種情況：
1、只綁定同步服務(wù)：
用戶不需要選擇發(fā)布策略，默認發(fā)布策略為指定服務(wù)；
2、綁定兩個同步服務(wù)：
用戶可選擇發(fā)布策略包括：流量切分或指定服務(wù)，默認發(fā)布策略為流量切分（同步服務(wù)1權(quán)重占80，同步服務(wù)2權(quán)重占20）。
灰度服務(wù)的配置信息填寫完成后，點擊“確定”按鈕，完成“灰度服務(wù)”的創(chuàng)建。
簡單的操作流程，可以讓業(yè)務(wù)人員也直接參與到模型調(diào)試、發(fā)布的工作中，有效降低溝通成本。另外，Tempo AI的服務(wù)監(jiān)控借助了數(shù)據(jù)可視化分析手段，讓監(jiān)控結(jié)果展示更加直觀、清晰。下面小T簡單為大家分解一下Tempo AI灰度服務(wù)配置的步驟；
?Tempo AI灰度服務(wù)配置流程
在發(fā)布區(qū)“灰度服務(wù)”模塊下，查看該空間中當前用戶擁有權(quán)限的灰度服務(wù)。點擊灰度服務(wù)名稱，左側(cè)展示該灰度服務(wù)綁定的同步服務(wù)信息，右側(cè)展示該灰度服務(wù)的創(chuàng)建人、創(chuàng)建日期、所屬空間等基礎(chǔ)信息，可以對灰度服務(wù)進行服務(wù)配置、服務(wù)監(jiān)控、服務(wù)審計、分享成果、發(fā)布或取消發(fā)布等操作。
a、服務(wù)配置
在服務(wù)配置中，可配置灰度的服務(wù)信息，可查看灰度服務(wù)的授權(quán)信息、流程參數(shù)、請求參數(shù)說明和返回參數(shù)說明。在服務(wù)信息處，該灰度服務(wù)信息進行配置，可編輯服務(wù)名稱、服務(wù)別名、綁定的同步服務(wù)和對應(yīng)的發(fā)布策略。點擊“保持”按鈕，完成服務(wù)信息的配置變更。
在授權(quán)信息處，可查看授權(quán)信息，若同步服務(wù)未授權(quán)，需要在原生服務(wù)中添加證書進行服務(wù)授權(quán)。
在流程參數(shù)處，可查看流程參數(shù)。若同步服務(wù)的流程參數(shù)需要修改，需要在原生服務(wù)中進行操作。
啟用和測試按鈕分別可以啟動灰度服務(wù)和打開灰度服務(wù)測試界面對灰度服務(wù)進行測試。測試成功后，即說明灰度服務(wù)構(gòu)建成功。同時，灰度服務(wù)也可通過第三方系統(tǒng)以API的方式進行調(diào)用。
b、服務(wù)監(jiān)控
點擊發(fā)布區(qū)的“服務(wù)監(jiān)控”，可查看該服務(wù)的調(diào)用情況和運行情況。
c、服務(wù)審計
點擊發(fā)布區(qū)的“服務(wù)審計”，可查看該服務(wù)的具體操作時間、操作人員和操作內(nèi)容。
如何規(guī)避執(zhí)行風(fēng)險，是企業(yè)日常生產(chǎn)運營必須要考慮的問題，在企業(yè)數(shù)據(jù)治理和分析的過程中，我們也同樣需要注意風(fēng)險控制和資源合理配置的問題。
而灰度服務(wù)模塊正是我們基于多年的企業(yè)大數(shù)據(jù)分析項目實際經(jīng)驗和客戶反饋，專門幫助企業(yè)用戶，尤其是不懂編碼技術(shù)的普通業(yè)務(wù)人員在規(guī)避業(yè)務(wù)運營風(fēng)險的同時，低成本高效順暢完成算法模型迭代的小工具。下次更新模型時，不妨嘗試一下這個小功能喲~
Tempo商業(yè)智能平臺
Tempo人工智能平臺
Tempo數(shù)據(jù)工廠平臺
Tempo指標平臺
Tempo數(shù)據(jù)治理平臺
Tempo主數(shù)據(jù)管理平臺
首頁
美林數(shù)據(jù)
行業(yè)資訊
陜公網(wǎng)安備 61019002000171號
