浪費了“黃金五年”的Java程式設計師，還有救嗎？ >>>   

作者：閒魚技術-齊悟

1.背景

  隨著閒魚使用者快速增長，運營活動越來越趨於精細和個性化，運營會根據使用者偏好為其投放合適的活動，如下圖所示在閒魚首頁商品展示時，會在商品的列表中插入活動Banner，通過這些活動banner引導使用者進入到相應活動會場，實現會場導流。閒魚投放系統負責閒魚運營活動的配置、管理、投放。

主要解決了以下幾個問題
  1.配置環境隔離問題，根據開發規範，任何線上業務必須先進行線下環境釋出，測試驗證通過後再發布上線。所以提供的管理平臺需要擁有線上和線下環境隔離的能力。

  2.檢索中的效能問題，在同一資源位下會配置多個活動，每次檢索時需要把該資源位下的所有活動拉出來，按照條件進行篩選出符合要求的活動，這個過程會隨著資源位下的活動增多檢索遇到效能瓶頸。

  3.人群管理問題，在活動中會配置投放的人群，每次檢索活動時人群作為活動的檢索條件，需要驗證使用者是否屬於當前活動的人群，所以需要解決使用者和人群關係的管理。

  4.AB測試問題，運營投放的活動往往需要進行AB測試比較不同策略的表現，此時需要提供AB測試的能力。
下面將通過介紹閒魚投放系統設計、技術方案設計和實現過程，進一步闡述如何解決上面提出的四個問題。

2.系統架構設計

  閒魚投放系統是一個配置管理和配置檢索的系統，換句話講他不生產任何活動素材，他只是活動素材的搬運工。下面介紹閒魚投放的系統設計。

  如上圖所示閒魚投放系統共分為了活動素材層、投放配置層、業務流程層和應用層四個層次。

  活動素材層是對在閒魚投放系統中所有素材源的彙總，目前閒魚投放中主要彙集了三種素材魯班素材、馬赫素材、TPP素材，魯班素材提供了使用者個性化Banner的能力，他的原理是根據使用者的行為獲取到偏好的商品，然後把商品圖和素材模板組合為一個Banner；馬赫素材提供規則圈選商品，他的原理是利用規則引擎把規則轉換為SQL語句，然後利用該SQL在商品表中撈出符合規則的商品，同時馬赫利用流計算能力對增量商品也實現了實時的規則圈選。TPP素材提個性化商品推薦，例如首頁的商品推薦和猜你喜歡的商品推薦，TPP作為個性化推薦平臺，可以根據不同的演算法實現不同的推薦策略。

  投放配置層是開放給運營能力的彙總，包含活動配置、環境隔離、資料報表三種能力。活動配置是對一個資源位下所有投放行為的具體配置，如下圖所示

  每個資源位會投放多個活動，活動與活動之間需要進行排期，每個投放活動中包含人群和素材兩類資訊，人群用來確定該活動投放的物件，素材用來確定該活動投放的內容，同時在人群下支援AB的能力。環境隔離是為了能夠區分線上和線下業務，保證線上的投放環境線上下充分驗證後再進行上線。資料報表是對所有投放活動關鍵指標的資料彙總。

  業務流程層是閒魚投放系統的關鍵，主要負責投放活動的檢索，根據呼叫方傳入的使用者資訊和資源位資訊，返回該資源位下符合該使用者的活動。

  具體的檢索邏輯如上圖所示，首先在DB中查詢當前資源位下的所有線上活動，然後依次過濾每個活動下的人群資訊是否符合當前使用者，從符合該使用者的活動列表中選取一個活動，如果該活動下有AB測試，需要請求AB測試平臺獲取AB測試中配置的素材資訊，最後返回該活動下的素材內容，客戶端拿到活動素材後進行展示。

  應用層是對客戶端能力的彙總，包括獲取素材、素材樣式展示、資料埋點。素材展示是直接與使用者互動的部分，需要前端提供多種展示樣式，資料埋點是為了驗證AB策略和收集活動關鍵指標資料。

3. 技術方案設計

  在上文中我們提到閒魚投放面臨四個需要解決的問題，分別是環境隔離問題、活動檢索問題、人群管理問題、AB能力問題。下面將分別從這幾個問題出發介紹解決的方法。

3.1 人群管理問題

  人群管理使用的是集團內的奧格人群平臺，他為我們提供了人群圈選和人群驗證的能力，在很大程度上解放了閒魚投放的人群管理，下面簡單的介紹一下該平臺的實現原理。

  如上圖所示展示了奧格幾個核心功能點，實現原理是這樣的，首先平臺會提供給使用者可選擇的規則，然後利用規則引擎把所選的規則，生成SQL查詢語句和流計算規則，SQL查詢語句用來離線圈選使用者和流計算規則用來實時篩選新增使用者，通過離線規則和線上規則實現了奧格的人群圈選，在人群驗證階段，首先利用倒排檢索的思想，使用者和人群的關係利用倒排資料結構標識，該方法解決了單使用者與多人群關係驗證的效率問題，最後利用多級快取和熱點資料本地快取的方式解決人群檢索RT問題。

3.2 AB測試管理問題

  AB測試是用來驗證方案的常用方法，常用的AB測試方案大多是使用者唯一屬性取模的方式按比例劃分使用者，但是會面臨很多複雜的問題1.按照使用者的id進行取模計算，對於未登入使用者處理是一個常被忽略的問題。2.測試白名單管理，在AB測試時需要把特定人員劃分到特定測試桶裡。3.多個AB正交測試，如果有多個AB測試，此時需要正交測試時會出現更復雜的情況。在閒魚投放中使用了集團的一休AB平臺，一休提供基於使用者、裝置等多維度AB策略，同時支援白名單與正交AB測試的複雜場景，在AB基本能力的基礎上提供了資料分析的能力，實現了呼叫到資料管理的一體化。

3.3環境隔離問題

  解決環境隔離問題主要是為了方便測試，先線上下看效果，然後再把資料配置到線上。為了實現環境隔離迭代兩次技術方案。

  首先介紹第一個方案，依照總體功能設計我希望平臺中每個模組都可以靈活複用，可以利用已有模組，快速搭建出滿足業務要求的投放活動，所以從業務角度進行了抽象，把能拆分的模組儘可能的抽象出來，最終的實體關係如下圖所示。從業務邏輯角度共抽象了6個實體分別是資源位（Resource）、活動（Activity）、人群（Crowd）、素材（Data Source）、資源位和活動的關係（Resource Plan）、活動和人群素材的關係（Activity Plan）實體，每個模組之間可以按照下圖的關係進行自由組合成一個投放活動。

  在該方案中利用每個實體中的env欄位解決環境隔離問題，無論是在投放活動配置還是在檢索過程中，只可以利用相同env欄位的實體，該方法完全實現了環境隔離，但是在實際的應用中效果卻不是很好，因為利用一份資料表中的env欄位實現環境隔離，所以線上和線下對應的Resource Plan和Activity Plan關係表中關聯的實體ID不同，那麼將無法實現線下配置直接拷貝到線上，此時需要線上下和線上兩次配置，由於配置過於複雜增加錯誤風險。

  下面介紹第二個方案，第二個技術方案中對方案一中提出的問題進行優化。具體的設計如下圖所示：

  如上圖所示，實體物件由6個轉換為4個，下面一次介紹這些實體和如何解決環境隔離問題。

  首先介紹新引入的Data Schema實體，DataSchema是由開發同學負責，提供了一個配置好的JSON配置模板，他與Resource進行關聯，意味著當前Resource下的所有DataSource都將按照該DataSchema提供的JSON模板進行配置，同時在解析時也按照當前的DataSchema進行解析

  Resource不再區分線上和線下環境，因為Resource無論是線上和線下他總是存在的並且不會改變的，所以區分線上和線下是沒有必要的。

  DataSource不再用env欄位區分線上和線下環境，利用preData和onlineData進行區分線上和線下配置，由於引入了DataSchema模板，所以徹底解放了DataSource，他不再需要進行繁瑣的配置，只需按照DataSchema把所有的需要欄位都配置到對應的Schema中即可。這樣在線上和線下DataSource是一條資料主鍵不再改變。

  Activity實體是DataSource和Resource的關係實體，同時包括活動的人群、起止時間等屬性。由於DataSource和Resource實體線上和線下環境中主鍵ID都不會改變，那麼意味著Activity可以把線下的配置直接同步到線上，在同步過程中需要做的是如果線上沒有配置就插入一條如果存在就更新。那麼怎麼對映Activity線下和線上的關係呢，在Activity裡面引入了mapId欄位，線下的Activity實體在mapId中儲存線上Activity實體的主鍵Id，利用這種對映關係實現了線下和線上的對映。

  具體的如上圖所示，通過這種表和表之間對映關係，實現了環境隔離問題，同時簡化了業務中的實體，讓配置更簡單更易用。

3.4活動檢索問題

  在實際應用中，我們遇到了檢索能力的效能瓶頸，根據每次檢索時都需要拉出當前資源位下的全部活動，然後按照起止時間、人群作為過濾條件，篩選出滿足當前使用者的活動列表。以上過程中每次檢索都會發生與資料庫的IO操作。當資源位和訪問QPS增多時，資料庫IO操作將成倍數增長，此時會成為檢索的瓶頸，所以在以上的技術方案中，需要一個完備的快取方案支撐檢索的正常執行。按照常規的快取設計方案進行了如下的快取方案設計。

  所有的查詢都是先進行快取查詢，如果未命中再查詢資料庫，把查詢到的資料回寫到快取中。對於所有的更新操作，都是先更新資料庫，然後再失效快取，在更新活動時，需要在失效活動快取的同時，也要失效該活動對應資源位下活動列表的快取。

  但是在使用過程中遇到了一個問題，資源位下的活動列表儲存採用了kv結構，key為資源位ID，value為活動列表的JSON序列化，當資源位下的活動增多時value也會隨著膨脹最後超出閾值，所以把活動物件進行了簡化僅儲存活動Id和人群Id。優化後檢索過程將有所變化如下圖所示：

4.總結與展望

4.1總結

  通過以上的整體功能設計、技術方案設計、程式碼實現，介紹了一個投放平臺從設計到實現過程中遇到的問題點和解決方案。目前投放平臺已經在閒魚的使用者實時觸達、首頁feeds投放、淘寶閒魚小程式投放中使用，完美支援運營根據人群精準投放活動。

4.2展望

  閒魚素材投放平臺但仍有需要持續完善的地方，首先是精準人群的個性化，例如在首頁的投放中，針對圈選的人群透出的Banner圖片都是一樣的，目前我們的投放最小粒度是人群未來將會做到個人。然後是投放能力自優化，目前活動針對資源位的爭奪還是利用權重、人群、起止時間作為前置條件，未來將會通過投放資料迴流利用演算法計算其關鍵指標實現投放的自優化。同時閒魚素材投放將對接集團內部的更多優秀的素材提供源豐富閒魚的活動。

相關推薦