文章轉自:大魚的資料人生 作者:討厭的大魚先生
隨著公司數字化轉型的加快和多年的大資料運營,我們資料團隊的職能終於能超越部門的限制,成為整個企業大資料的實際管理者,資料團隊能走到現在非常不容易,今天就來聊聊其演進過程。
主要可劃分為五個層級:
小組-報表取數級
科室-資料管理級
科室-資料運營級
企業-資料管理級
企業-資料運營級
1、小組-報表取數級
在我剛進公司的時候,IT部門沒有獨立的資料組織,只有業務開發室,業務開發室下面掛著一個小組專門負責報表取數,大概2–3個人,這個小組其實就是我們當前資料團隊的前身。
當時沒有資料倉庫,沒有大資料平臺,更沒有資料中臺,有的就是一個ORACLE庫,我們每天通過ORACLE的DBLINK從本部門管理的B域業務系統抽取資料,對這些資料簡單加後形成中間表,然後通過Oracle的客戶端工具進行人工取數,並通過儲存過程完成報表作業。當然也不會有什麼報表系統和門戶,主要通過系統匯出EXCEL報表為業務部門提供支撐。
我們對外服務的物件僅限於市場和財務部門,市場主要基於我們提供的資料做營銷推廣和跟蹤分析,財務部門主要用來做財務報表,每個月取數需求大概20–30個,這就是一隻資料團隊的全部工作。
我們面對的最大挑戰是報表和取數及時性和準確性,經常半夜被叫醒去解決財務報表的問題,業務部門是我們最大的甲方,每次加班完成一個複雜的取數或報表就會感覺做出了很大貢獻。
2、科室-資料管理級
在我進公司的第3年,商業智慧(BI)和資料倉庫的概念席捲全球,資料倉庫似乎成為了公司經營決策走上新臺階的必備利器,全世界都在建設資料倉庫。
某一天,小組突然接到了建設資料倉庫的專案任務,然後我見證了公司資料倉庫從無到有,無論是DB2資料倉庫、海波龍報表系統、Essbase OLAP,IBM DM挖掘引擎等等。
資料倉庫建設完了後留下了一堆的資產,包括資料倉庫伺服器、應用伺服器、ETL伺服器、上百個資料介面,幾十個資料倉庫模型等等,這些介面和模型是KPI和業務主題的基礎。
我們接入資料的範圍其實並沒有擴大,仍然只能從B域業務系統獲取資料,但深度上有所提升,介面方式從DBLINK耦合的模式變成了FTP。
因為我們管理的資料資產從一個Oracle資料庫拓展到了一個數據倉庫體系,原來作坊式的小組生產模式已經滿足不了資料倉庫運維的需要,因此資料小組從業務開發室剝離獨立成為了一個科室:資料管理室。
從此我們走上了獨立發展的道路,人員也擴充到了6人,隨之而來的是元資料管理,資料質量管理相關體系的建立。
我們對外服務的物件並沒有擴大,資料倉庫最大的價值似乎是提供了一個報表門戶可以訪問,大家上這個門戶唯一的目的就是下載報表,各種高大上的功能比如OLAP鮮有人問津,但自動化程度的確高了不少。
資料組織的建立往往是時代發展的需要,但一旦建立就有擴張的天然要求,不管它到底有沒有用。
3、科室-資料運營級
資料倉庫建立以後,資料團隊如果仍然僅限於去做報表和取數,這與BI的初衷相距甚遠,也達不到領導的期望。
在我進入公司的第6年,為了推動資料更好的發揮價值,我們科室的名字從資料管理室改成了資料運營室,管理到運營兩字之差,凸顯了領導希望用資料創造價值的雄心。
在BI漫長的探索中,一方面我們會覺得只做報表取數很low,另一方面報表取數又是我們的立身之本,既愛又恨吧。我們一直想超越報表取數,去做一些不一樣的東西。然後我們找到了三種新的資料服務模式:資料視覺化、專題分析和精確營銷。
資料視覺化的本質就是指標+體驗,我們當時整天琢磨著如何更好的向領導展現資料,比如引入更好看的報表引擎,打造駕駛艙和儀表盤、甚至建設手機BI。可惜的是,一方面當時的視覺化技術水平不行,另一方面受限於領導的看數習慣,最終我們的嘗試不是很成功。
專題分析看起來是個更為專業性的工作,其實只是將某業務類別的報表和指標以更好的視覺化方式展現出來,其脫離不了看數的本質,新瓶裝舊酒吧。
我們也在努力做些資料分析報告,一些分析報告甚至受到了公司的表揚,但也就體現下資料團隊的主動性,跟業務部門的邊界問題及自身團隊的基因限制決定了你不可能成為公司經營分析的主力軍。
在跟市場營銷的互動中,我們發現精準營銷是一種可能的資料價值創造方式,然後就開始建設精確營銷系統。精確營銷系統將營銷的策劃、審批、執行及評估用一套流程系統來解決,然後在這個流程中嵌入資料的相關能力,比如營銷策劃期間的目標客戶定位後來發展成了專門的標籤庫系統。
由於當時的市場營銷還相對粗放,精準營銷能發揮的價值其實有限,但精確營銷還是隨著公司的發展成為了資料團隊的一張名片。
公司對於資料組織的定位是很關鍵的,它決定了你的天花板,從資料管理到資料運營是一種進步,它讓我們從關注建設到關注價值,雖然在當時的作用有限,但的確體現了一種方向。
4、企業-資料管理級
沒有網際網路的發展就沒有BAT,沒有移動網際網路就沒有位元組跳動,而沒有以上這些,就不可能有大資料的發展。
正當我們陷入資料運營的困境不可自拔時,大資料讓我們獲得了不可多得的發展機會,否則也許就到此為止了吧。
傳統的B域資料價值是非常有限的,恰好公司有豐富的跨域大資料資產,而公司把這個跨域資料採集和整合的使命放到了我們資料團隊,科室也升級成了公司部門:資料技術部,這是時代給予的機會。
然後我們似乎又回到了從前,重新開始新一代的資料倉庫建設,即大資料平臺,但這次與上次本質的區別是:除了技術上的變革,我們採集的資料蘊含了巨大的價值,意味著較高的資料運營起點,因為是資料本身決定了價值的天花板。
同時我們管理資料的視角從原來部門級升級到了企業級,需要拉通所有部門的資料,建立起相關配套的機制和流程,這是我們的使命。
企業資料組織的壯大跟時代發展和公司轉型有千絲萬縷的關係,把一個數據團隊從科室級別做到獨立的部門,光靠自身的努力是不夠的,還是需要一點點運氣。
5、企業-資料運營級
我們通過三年時間完成了企業級大資料平臺的建設,並致力於研究如何讓大資料平臺變得好用,資料中臺由此拔地而起。資料中臺的本質是業務化、服務化和開放化,它天生就與業務直接相關,立足於直接創造價值。
在完成大資料技術變革後,資料部門的名字改成了:資料技術和產品部,相關的職能進一步拓展,新增了以下二項:大資料技術和產品研發,大資料對外變現服務,資料是基礎,產品是封裝,變現則是臨門一腳,資料在我們手裡真的有可能變成了資產。
我們服務的物件不再侷限於市場和財務,拓展到了企業各個部門和外部的各個行業,服務的模式從報表取數、精確營銷拓展到了管理、服務、風控、廣告等各個方面,我們終於打開了另一扇門。
資料從業者能走到第五階段是非常幸運的,也許它只存在於網際網路行業,但當你每天忙於報表取數的時候,還是要抬起頭來看看別人是如何做的。在數字化轉型的當下,資料團隊充滿了機會,十年難遇。