1. 程式人生 > 程式設計 >TensorFlow.js 微信小程式外掛開始支援模型快取的方法

TensorFlow.js 微信小程式外掛開始支援模型快取的方法

通常情況下,微信小程式追求的是短小精悍,即開即用,用完即走,適用於一些簡單的應用場景。然而,隨著微信小程式開放能力的提高,人們發現用微信小程式可以實現越來越多的功能,小程式也越來越複雜,越來越龐大起來。這個可以從小程式的大小限制的變化看出,最開始小程式的大小限制為1M,後來限制為2M,最新微信又給小程式提供了分包載入機制,開發者將小程式劃分成不同的子包,使用者在使用時按需進行載入,所有分包大小限制提高到8M。

雖然小程式的大小限制已經大大提升,但對於小程式開發者而言,仍然捉襟見肘。隨便幾個圖片資源、js庫就可能導致小程式超重,尤其對於人工智慧小程式而言,更是如此。現在的深度學習模型,動輒幾十M,多則一兩百M。這個時候開發人員就需要進行取捨,選擇那些模型規模小,但精度不那麼高的模型。比如圖片分類,我們就不要選擇Inception V3或ResNet之類的超大規模模型,而是選擇針對移動裝置優化的MobileNet,也能取得不錯的效果。

不過即使是MobileNet,其模型大小也有好幾M,對於精簡小程式大小仍是一個很大的負擔。一種解決方案是從網路載入模型,不增加小程式的體積,但這並不是一個完美的解決方案,畢竟每次推導都需要從網路下載模型,會有一定的網路延遲。在前端開發中,為了保持系統的流暢,通常會採用一些快取技巧來避免每次從網路載入圖片、JS等檔案。那能否將模型也作為資源快取起來呢?

Google團隊顯然也意識到了這種需求,先是在TensorFlow.js中增加了對tfjs模型快取的支援。最近,TensorFlow.js 微信小程式外掛也得到了更新,支援微信小程式模型快取。

模型快取利用了微信小程式的storage介面,需要注意微信小程式對storage的限制:同一個微信使用者,同一個小程式 storage 上限為 10MB。storage 以使用者維度隔離,同一臺裝置上,A 使用者無法讀取到 B 使用者的資料;不同小程式之間也無法互相讀寫資料。所以我們只能選用小於10M的模型。

啟用模型快取也非常簡單,步驟如下:

修改app.json檔案,將tfjsPlugin的版本修改為0.0.8.

"plugins": {
 "tfjsPlugin": {
  "version": "0.0.8","provider": "wx6afed118d9e81df9"
 }
}

在app.js中提供localStorageHandler函式.

var fetchWechat = require('fetch-wechat');
var tf = require('@tensorflow/tfjs-core');
var plugin = requirePlugin('tfjsPlugin');
//app.js
App({
 // expose localStorage handler
 globalData: {localStorageIO: plugin.localStorageIO},...
});

在模型載入時加入localStorageHandler邏輯。

const LOCAL_STORAGE_KEY = 'mobilenet_model';
export class MobileNet {
 private model: tfc.GraphModel;
 constructor() { }
 
 
 async load() {
 
 
  const localStorageHandler = getApp().globalData.localStorageIO(LOCAL_STORAGE_KEY);
  try {
   this.model = await tfc.loadGraphModel(localStorageHandler);
  } catch (e) {
   this.model =
    await tfc.loadGraphModel(MODEL_URL);
   this.model.save(localStorageHandler);
  }
 }

和瀏覽器快取機制有點不同的是,只有在程式碼包被清理的時候本地快取才會被清理。如果需要處理快取,可以通過 wx.setStorage/wx.setStorageSync、wx.getStorage/wx.getStorageSync、wx.clearStorage/wx.clearStorageSync,wx.removeStorage/wx.removeStorageSync 對本地快取進行讀寫和清理。

另外需要注意的是,當前tfjs模型託管在tfhub上,需要翻牆訪問。專案中的說明檔案也提及了這個問題,給出瞭解決方案,但那是針對以前託管在谷歌雲上的模型,建立了中國國內使用者可以訪問到的映象。耐心等待吧,相信Google的開發人員會解決tfhub的映象問題的。

以上就是TensorFlow.js 微信小程式外掛開始支援模型快取的方法的詳細內容,更多關於TensorFlow小程式支援模型快取請關注我們其它相關文章!