1. 程式人生 > >騰訊正式開源圖計算框架Plato,十億級節點圖計算進入分鐘級時代

騰訊正式開源圖計算框架Plato,十億級節點圖計算進入分鐘級時代

騰訊開源再次迎來重磅專案,14日,騰訊正式宣佈開源高效能圖計算框架Plato,這是在短短一週之內,開源的第五個重大專案。

相對於目前全球範圍內其它的圖計算框架,Plato可滿足十億級節點的超大規模圖計算需求,將演算法計算時間從天級縮短到分鐘級,效能全面領先領先於其它主流分散式圖計算框架,並且打破了原本動輒需要數百臺伺服器的資源瓶頸,現在,最少只需要十臺伺服器即可完成計算。

騰訊Plato團隊負責人於東海表示:“Plato已經支援騰訊內部包括微信在內的眾多核心業務,尤其是為騰訊超大規模社交網路圖資料的各類計算提供支撐,解決了現有其他計算框架無法在有限資源和有限時間內完成計算的難點。Plato不僅為騰訊創造了巨大的業務價值,開源後還將持續推動圖計算技術和行業的協同發展,加速創新。”

實際上,圖計算的“圖”並不是指普通的影象和照片,而是用於表示物件之間關聯關係的一種抽象資料結構,圖計算就是以圖作為資料模型來表達問題並予以解決的過程。圖計算可以將不同來源、不同型別的資料融合到同一個圖裡進行分析,得到原本獨立分析難以發現的結果,因此成為社交網路、推薦系統、網路安全、文字檢索和生物醫療等領域至關重要的資料分析和挖掘工具。

Plato是騰訊內部圖計算TGraph團隊整合內部資源自主研發的一款高效能圖計算框架,取名Plato是為了致敬偉大的數學家柏拉圖,目前騰訊雲大資料團隊正在封裝Plato,即將對所有開發者開放使用。

據瞭解,Plato的計算效能方面極其強悍,比目前市場上最為領先的圖計算框架Spark GraphX還高出1-2個數量級,它將演算法計算時間從天級縮短到分鐘級,效能提升數十倍,也標誌著圖計算全面進入分鐘級時代;另外一個巨大優勢是,Plato在記憶體消耗方面遠小於主流的圖計算框架,比Spark GraphX減少1-2個數量級,僅需10臺伺服器左右的中小規模叢集,即可完成超大規模圖計算,相比此前動輒需要數百臺伺服器的限制,資源壓力和計算成本都得到了極大降低。
目前,Plato主要提供兩大核心能力:騰訊資料量級下的離線圖計算和騰訊資料量級下的圖表示學習。同時Plato天然適配Kubernetes、YARN等資源排程平臺,並提供支援主流檔案系統的多種介面,能為開發者提供更友好的執行環境。
架構設計上,Plato框架的核心是自適應圖計算引擎,它能夠根據不同型別的圖演算法,提供多種計算模式供開發者靈活選擇,包括自適應計算模式、共享記憶體計算模式和流水線計算模式等。另外,還設計了良好的介面支援接入新的計算通訊模式。

Plato整體架構圖

在計算引擎之上,Plato為演算法設計者或具體的業務提供多層次介面:從底層的API,到圖演算法庫,再到為具體業務量身打造的“解決方案”——圖工具集。通過這些應用層的介面和工具,Plato還可以把離線計算結果與其他機器學習演算法相結合,共同支撐頂層的不同業務。

值得一提的是,目前Plato的演算法庫中的圖特徵、節點中心性指標、連通圖和社團識別等多種演算法都已經開源,未來還將進一步開源更多的演算法。

Plato高效能、可擴充套件、易插拔的特性在社交網路、推薦系統、生物醫療等領域應用前景廣闊,例如定期對網頁進行影響力排序以提升使用者的搜尋體驗、分析龐大的社交網路結構以便精準地為使用者推薦服務、通過子圖匹配等方式瞭解蛋白質間的相互作用從而研製更有效的臨床醫藥等。

自去年930架構調整以來,開源協同成為騰訊技術發展的重要戰略之一,並帶動了重磅專案密集對外開源。就在上週的Techo開發者大會上,騰訊正式宣佈TubeMQ、Tencent Kona JDK、TBase、TKEStack四大重點專案開源。隨著Plato的開源,騰訊在開源領域又添大動作。據悉,騰訊已經在Github上已經開源了89個專案,超過1000個貢獻者參與了開源貢獻,擁有超過26萬個Star數,在Github全球公司貢獻榜上居於前列。

Plato開源地址:https://github.com/tencent/plato

相關推薦

正式開源計算框架Plato節點計算進入分鐘時代

騰訊開源再次迎來重磅專案,14日,騰訊正式宣佈開源高效能圖計算框架Plato,這是在短短一週之內,開源的第五個重大專案。 相對於目前全球範圍內其它的圖計算框架,Plato可滿足十億級節點的超大規模圖計算需求,將演算法計算時間從天級縮短到分鐘級,效能全面領先領先於其它主流分散式圖計算框架,並且打破了原本動輒需要

正式開源高效能的圖片框架 LKImageKit

開源最前線 猿妹編譯 素材來自:騰訊開源、GitHub等 近日,騰訊又有新的開源專案啦,高效能的圖片框架 LKImageKit 正式開源 圖片框架 LKImageKit 授權協議:BSD 開發語言:Objective-C 作

釋出新版前端元件框架 Omi全面擁抱 Web Components

Omi - 合一 下一代 Web 框架,去萬物糟粕,合精華為一 → https://github.com/Tencent/omi 特性 4KB 的程式碼尺寸,比小更小 順勢而為,順從瀏覽器的發展和 API 設計 Webcomponents + JSX 相互融合為一個框架 O

藍鯨開源專案與雲端計算運維平臺框架標準釋出

一、藍鯨智雲及雲端計算運維平臺參考框架標準 雲端計算運維平臺參考框架標準是基於騰訊的藍鯨智雲的開源專案總結歸納的,這個標準是一個全面的雲端計算運維平臺系統的框架標準,規定了一個面向雲端計算運維環境的運維平臺功能模組和能力要求。 有開源專案了,為什麼還要做標準? 開源和標準其實都是一種標準化的模式,

正式加入OCP陣營擁抱全球開源生態圈

term min rgb 基金 關於 linu 1.7 wid ado 近日,騰訊正式加入OCP開放計算項目。後續,騰訊將加強與社區成員在數據中心、網絡、服務器等方面的技術交流和聯動,推動基礎設施的跨企業開發以及軟硬件前沿技術的普及。OCP是開源計算項目Open Compu

實用高效27款熱門開源項目推薦

-1 網絡 ram 一致性 spirit 排序規則 官方 開放平臺 業務 騰訊作為互聯網行業的一大巨頭,一直都不吝嗇將好的技術開放,與廣大開發者共享,未來也將推出VR開放平臺和AI技術。騰訊在全球合作夥伴大會披露了未來五年的發展思路,在技術共享方面,騰訊希望利用自己在新技術

正式加入AI戰團小微首款應用曝光!

騰訊小q機器人第二代6月21日-22日,騰訊雲+未來峰會在深圳盛大召開。會上,騰訊雲首次發布“AI即服務”戰略新品“智能雲”,將騰訊在計算機視覺、自然語言處理、語音識別等領域的三大核心AI能力開放給更多企業和機構。騰訊雲將開放騰訊的計算機視覺、智能語音識別、自然語言處理三大核心能力。截至目前,騰訊雲圍繞這三大

正式宣佈:1月1日起Web QQ正式下線網友:別關閉QQ空間!

對我們這些90後、80後來說,QQ陪伴了我們數十年,從當時直板手機只能聊天和刷空間,到機房登入網頁QQ,再到現在人人手機電腦中都會會安裝的 軟體,QQ承載了我們太多的回憶。 而自從微信越來越普及,使用QQ的人越來越少了,主要都是學生,更別說網頁版了,也許現在已經有很多人都不知道QQ還有網頁

正式考-技術研發類-綜合-2019校園招聘-2018.09.16

這道題有點難理解,是Topcoder SRM 661 (Div.1) 250 MissingLCM – 數論原題 點選檢視題解 程式碼: #include <bits/stdc+

正式釋出《區塊鏈方案白皮書》5大行業應用即將全面爆發

關注ITValue,檢視企業級市場最新鮮、最具價值的報道!日前,騰訊正式釋出了區塊鏈方案白皮書,

當我們還在討論阿裏、誰是互聯網老大時陌陌已經默默進了市值

陌陌據澎湃新聞網報道,8月22日,中國社交網絡平臺陌陌發布了2017年第二季度的財報,報告期內,陌陌的凈營收為3.122億美元,較去年同期(同比)增加了215%;凈利潤達到6080萬美元,同比上漲了294%。不按照美國通用會計準則計量,2017年二季度歸屬於陌陌的凈利潤為7380萬美元,同比增長218%,持續

2017年終巨獻阿裏、最新Java程序員面試題準備好進BAT了嗎

電商 als 下載 坐標 序列化 equals 比較 通過 研究 Java基礎 進程和線程的區別; Java的並發、多線程、線程模型; 什麽是線程池,如何使用? 數據一致性如何保證;Synchronized關鍵字,類鎖,方法鎖,重入鎖; Java中實現多態的機制是什麽; 如

金融雲賦能企業變革未來能否趕超阿里雲?

10月18日,武漢農村商業銀行與騰訊雲簽署合作協議。武漢農商行將基於騰訊雲的金融大資料、雲端計算、移動網際網路以及人工智慧等技術能力,建設新一代的智慧銀行。4天前,中信銀行也聯合騰訊雲,在深圳召開“語見·美好未來”釋出會,推出手機銀行智慧語音產品,在銀行業內率先推出“點選按鍵”和“語言交流”兩種不同

BAT大揭祕:在、百度、阿里上班差別竟然這麼大?

上班篇 騰訊因為 QQ 企鵝形象被稱為鵝廠。 原騰訊大廈位於馬化騰母校深大對面。 騰訊班車覆蓋整個深圳,有超過 250 條線路, 比一箇中小城市的公交系統還要完善。 從早 8 點到晚 11 點,從深圳機場到鹽田, 騰訊班車可直達深圳關內的任何地方。 難怪內部有個說法

NIPS2018 | AI Lab入選20篇論文含2篇Spotlight

參加 2018 AI開發者大會,請點選 ↑↑↑ 被譽為神經計算和機器學習領域兩大頂級會議之一的NIPS於近日揭曉收錄論文名單,此次為第32屆會議,將於 12 月 3 日至 8 日在加拿大蒙特利爾舉辦。 騰訊AI Lab第三次參加NIPS,共有20篇論文入選,其中2篇

智維平臺在渝上線開啟IDC智慧運維新時代

11月15日,騰訊資料中心與重慶電信在渝正式簽署戰略合作協議。此次雙方將在資料中心智慧運營領域展開合作,這也是繼網際網路頻寬、機櫃出租和大型資料中心定製服務等多領域合作後的再度攜手。作為騰訊20年資料中心運維經驗的結晶,騰訊智維平臺將以水土機房為起點,逐步在重慶電信機房部署落地。此次合作,正是騰訊資

員工入侵酒店wifi被罰淺談企業wifi的重要性

據報道,騰訊員工近期在新加坡參加一次網路安全會議時,竟然侵所在酒店的Wi-Fi系統,還將其記錄在個人部落格上,被新加坡國家安全法院判處5000新幣的罰金。 當事人鄭某為今年應屆畢業生,入住的是新加坡飛龍綠洲酒店,因對酒店WiFi伺服器可能存在的漏洞感到好奇,在連線到酒店的WiFi閘道器後,解

遊戲和區塊鏈平臺合作它能讓“區塊鏈+遊戲”真正落地嗎?

日前,電競娛樂平臺SLIVER.tv宣佈,其與騰訊旗下的大逃殺類網遊《無限法則》達成了一項直播合作。   SLIVER.tv在其官方推特上宣佈了這一訊息。具體的合作內容是,雙方將共同推出一個全天候的遊戲直播頻道,頻道內將支援一款區塊鏈貨幣Theta的使用,在頻道中進行直播的玩家有機

微信小程式-雲PHP模板-Error: 響應錯誤{"code":-1,"error":'root'@'localhost' (using password: YES)"}-排坑2

        Error: 響應錯誤,{"code":-1,"error":"SQLSTATE[HY000] [1045] Access denied for user 'root'@'localhost' (using password: YES)"}

聚焦企業資料安全體系建設共築數字化時代安全屏障

騰訊聚焦企業資料安全體系建設,共築數字化時代安全屏障 12月13日,在2019 FreeBuf網際網路安全創新大會上,來自騰訊安全平臺部的騰訊資料安全負責人劉寧分享了“網際網路企業資料安全建設之路”,探討了大資料時代,如何聚焦企業資料安全體系建設,共築數字化時代的安全屏障。 劉寧提出,