小米MIUI10重磅發布!金山雲KIE提供超清神器
KIE:將圖片變清晰的“神器”
這種將圖片變清晰的“神器”,就是KIE(Kingsoft Image &AI Enhancement)。KIE是金山雲近期推出的基於AI技術的畫質增強產品,將其應用於移動終端或圖片傳輸中,可為用戶帶來超清的圖像視覺體驗,或者節省3/4的圖片傳輸帶寬成本。
小米MIUI官網對於KIE的介紹
隨著移動終端特別是手機分辨率的不斷上升,更高分辨率圖片的需求也與日俱增,這是因為低分辨率的圖片,如果放到高分辨率的屏幕下,就會讓視覺效果變得很差。如果720P的圖片放在1080P的屏幕上,就會出現這樣的問題。
高分辨率屏幕下顯示低質量圖片,會讓視覺效果變差
而傳統的解決方案——插值算法,包括雙線性插值和臨近插值,但這種方法往往會導致邊緣出現鋸齒、模糊等問題,將大幅降低圖片的視覺效果。金山雲KIE則基於人工智能技術,對圖像重建使其高清放大,適配更高清的屏幕,同時對畫面的馬賽克、毛刺區域進行修復,提升圖片視覺效果。
采用KIE畫質增強功能的圖片效果對比
采用KIE畫質增強功能的圖片效果對比
KIE的秘密武器:超分和修復
KIE是如何做到這些的呢?原來,它有兩種秘密武器——KIE包含超分辨率(以下簡稱“超分”)和修復兩種技術,在深度卷積神經網絡上,KIE的超分模型構建了一個七層的網絡,能夠有效提升圖片質量,解除圖片超分時模糊、紋理不清晰等問題。深度卷積神經網絡可依據圖片重建細節,實現清晰度遠超原圖的效果。KIE在網絡結構、模型訓練上進行了大量的探索和嘗試,實現了優秀的圖像超分和去噪效果。
采用KIE畫質增強功能的圖片效果對比
細節對比
KIE三倍圖片放大效果對比
首先,在網絡結構上,KIE采用了Mobile Net V2構造高效的網絡模型。KIE結合殘差學習思想,有效減少學習難度,采用跨層密集連接結構,利於梯度傳播,使得深度網絡在更短的時間內學習到更好的模型。采用金字塔結構,使得底層的特征和頂層的特征能夠更有效融合。此外,在訓練loss上,模型采用SSIM、圖像內容損失等,讓圖片生成更加銳利的細節。
KIE采用金字塔結構,使得底層的特征和頂層的特征能夠更有效結合
第二,在模型的訓練上,KIE收集了30萬張高清圖片,確保內容豐富,采用多種方法模擬真實網絡圖片的生成過程,從而保證模型在推斷時達到更好的效果,能夠適應絕大部分網絡圖片,確保學習的全面性。同時進行數據混合,將不同大小倍數的圖像混合在一起訓練,從而支持不同倍數圖片的高清化。
KIE的殘差學習結構:加快訓練速度並提高圖像質量
針對在YUV三通道圖像中,人眼對Y通道中最為敏感的特點,KIE針對Y通道和UV通道分別采用不同網絡,其中Y通道復雜度高於UV通道的復雜度,在保證人眼質量的情況下,加快了訓練和推斷速度。
KIE針對微信、今日頭條等主流網絡圖片聚集地進行調研,發現很多分辨率較小的圖片,如果與目前主流的移動終端進行匹配,需要放大三倍,這意味著需要對圖片的更多細節予以處理,因此難度更大。KIE以經過訓練的3X網絡對圖片進行處理,經過卷積網絡的學習和增強,最終提升了圖片的質量。
KIE的應用場景
目前,KIE以SDK形式集成到各種應用場景中,包括各類手機廠商系統、超級APP應用、瀏覽器等。在同等主觀質量下,KIE具有SDK體積小、推斷速度快和內存占用少的特點,且能夠適應多種平臺。
在底層優化上,KIE采用模型壓縮和量化技術,有效減少SDK的大小和推斷速度。並且,采用金山雲AI團隊構建的高效的深度神經網絡實現,在CPU上的推斷速度達到了Google tensorlite的二到三倍,內存消耗也大大減少,為KIE的技術推廣奠定了基礎。
同時,KIE具有強大的跨平臺特性,目前支持Android、iOS、PC平臺和WEB端,接口簡單快速接入。可在終端上實時處理,與×××完全解耦,圖片在移動終端上能夠達到毫秒級響應,全面提升用戶的瀏覽體驗。
名詞解釋:
MobileNetV2:是對MobileNetV1的改進,是一個輕量化卷積神經網絡。
SSIM:SSIM(structural similarity index),結構相似性,是一種衡量兩幅圖像相似度的指標。該指標首先由德州大學奧斯丁分校的圖像和視頻工程實驗室(Laboratory for Image and Video Engineering)提出。SSIM使用的兩張圖像中,一張為未經壓縮的無失真圖像,另一張為失真後的圖像。
Google tensorlite:即TensorFlow Lite,Google稱Lite版本TensorFlow是TensorFlow Mobile的一個延伸版本。盡管是一個輕量級版本,依然是在智能手機和嵌入式設備上部署深度學習的一大動作。此前,通過TensorFlow Mobile API,TensorFlow已經支持手機上的模型嵌入式部署。TensorFlow Lite應該被視為TensorFlow Mobile的升級版。
小米MIUI10重磅發布!金山雲KIE提供超清神器