1. 程式人生 > >Python 分散式計算模組 Parallel

Python 分散式計算模組 Parallel

Parallel Python是一個Python模組,它提供了Python程式碼的在SMP(系統有多個處理器或核心)和叢集(計算機通過網路連線)上並行執行的機制。能夠將計算壓力分佈到多核CPU或叢集的多臺計算機上,能夠非常方便的在內網中搭建一個自組織的分散式計算平臺。先從多核計算開始,普通的Python應用程式只能夠使用一個CPU程序,而通過Parallel Python能夠很方便的將計算擴充套件到多個CPU程序。

特性:

  • Parallel execution of python code on SMP and clusters
  • Easy to understand and implement job-based parallelization technique (easy to convert serial application in parallel)
  • Automatic detection of the optimal configuration (by default the number of worker processes is set to the number of effective processors)
  • Dynamic processors allocation (number of worker processes can be changed at runtime)
  • Low overhead for subsequent jobs with the same function (transparent caching is implemented to decrease the overhead)
  • Dynamic load balancing (jobs are distributed between processors at runtime)
  • Fault-tolerance (if one of the nodes fails tasks are rescheduled on others)
  • Auto-discovery of computational resources
  • Dynamic allocation of computational resources (consequence of auto-discovery and fault-tolerance)
  • SHA based authentication for network connections
  • Cross-platform portability and interoperability (Windows, Linux, Unix, Mac OS X)
  • Cross-architecture portability and interoperability (x86, x86-64, etc.)
?
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 Example #1: sum_primes.py  #!/usr/bin/python # File: sum_primes.py # Author: VItalii Vanovschi # Desc: This program demonstrates parallel computations with pp module # It calculates the sum of prime numbers below a given integer in parallel # Parallel Python Software: http://www.parallelpython.com import

相關推薦

Python 分散式計算模組 Parallel

Parallel Python是一個Python模組,它提供了Python程式碼的在SMP(系統有多個處理器或核心)和叢集(計算機通過網路連線)上並行執行的機制。能夠將計算壓力分佈到多核CPU或叢集的多臺計算機上,能夠非常方便的在內網中搭建一個自組織的分散式計算平臺。先從

python分散式計算框架PP(Parallel Python)叢集模式試用

c:\Python27\python.exe test_pp_official.py Usage: python sum_primes.py [ncpus]     [ncpus] - the number of workers to run in parallel,     if omitted it w

百度開源高效能 Python 分散式計算框架 Bigflow

小編近日看到一個百度開源的python框架-Bigflow , 致力於提供一套簡單易用的介面來描述使用者的計算任務,並使同一套程式碼可以執行在不同的執行引擎之上。 Bigflow 的設計中有許多思想借鑑自 Google FlumeJava以及 Google Cloud Dataflow,另有部分

python 分散式計算

dispy簡介 dispy論其實現,還是比較複雜的,但由於大牛們精巧的封裝和設計,dispy作為一項工具,非常容易入手並深入使用。dispy既適用於在單機多處理器(SMP)環境下平行計算,也適用在計算機叢集上進行平行計算。dispy沒有提供各個子任務的通訊機制

Parallel Python(pp)分散式計算框架安裝和配置問題(基於win10系統)

“分散式計算”也是當今IT行業的一個非常火熱的名詞,大家都知道的谷歌機房,還有2013年諾貝爾物理學獎獲獎專案“希格斯波色子”,都利用了“分散式計算”來分擔一部分計算量從而提高計算效率,尤其在資料科學領域“分散式計算”起到舉足輕重的作用。 ParallelPy

python利用datetime模組計算時間差

參考連結:https://www.jb51.net/article/70546.htm 獲取請求北京時區時間 def get_local_time_str(): """ 獲取當前北京時區時間 """ utc_dt = datetime.utcnow(

Python科學計算基礎模組Numpy及其應用

Numpy(Numeric Python)是應用Python進行科學計算時的基礎模組。它是一個提供多維陣列物件的Python庫,除此之外,還包含了多種衍生的物件(比如掩碼式陣列(masked arrays)或矩陣)以及一系列的為快速計算陣列而生的例程,包括數學運算,邏

Parallel Python 平行計算

最近在關注如何提升Python執行效率的問題,自己沒有時間去深入研究,就直接選擇了開源的Parallel Python,希望能夠充分發揮多核CPU及叢集環境的優勢。 Parallel Python是Python進行分散式計算的開源模組,能夠將計算壓

使用python中openpyxl模組操作excel檔案,計算單元格分子式的相對分子質量(二)

在(一)文中,在最後輸出結果時,只是將相對分子質量的值輸出,並未將對應的分子式輸出,琢磨了一天,將改進的程式碼貼出來,希望大家可以給出點優化建議! import openpyxl import re def massMr(s):#定義計算相對分子質量的函式,

Python分散式程序報錯:pickle模組不能序列化lambda函式

今天在學習到廖老師Python教程的分散式程序時,遇到了一個錯誤:_pickle.PicklingError: Can't pickle <function <lambda> at 0x000001710FDC2EA0>: attribute lo

python科學計算之numpy

oms 定義 [0 3.2 form print span mat linspace 1.np.logspace(start,stop,num): 函數表示的意思是;在(start,stop)間生成等比數列num個 eg: import numpy as np

Python 數值計算庫之-[Pandas](六)

9.png blank das png ref log 3-9 alt ges Python 數值計算庫之-[Pandas](六)

Day 2 Python數值計算

str 常用 產生 技術 inpu ceil 字符串 一個 mage 一、數值數據類型   在Python中,數值數據類型有以下兩種: 整數 整數用“int”數據類型表示。int類型的數據可以是正數也可以是負數,Python可以處理任意大小的整數。 浮點數 浮點數用

Python常見計算函數用法

pan 長度 rep data sum函數 數組 用法 clas 數字 1. shape()函數 在numpy模塊 輸入參數:類似數組(比如列表,元組)等,或是數組 返回:一個整型數字的元組,元組中的每個元素表示相應的數組每一維的長度 # shape[0]返回對象的行數

Python 百分比計算

nbsp 兩種 pre pen 代碼 mem style 開始 2個 遇到計算百分比的情況,查了一下,有兩種方式 具體實現方式見下面代碼 # 方式1 格式化為float ,然後 處理成%格式, 需要對分子/分母 * 100如下,

Python 數值計算庫之-[NumPy](五)

logs ges .com blog nump 數值 images mage href Python 數值計算庫之-[NumPy](五)

python的pyserial模組

pyserial是python提供用於進行串列埠通訊的庫 源文件:https://pythonhosted.org/pyserial/ 1、安裝pyserial pip install pyserial 2、檢視電腦現連串列埠裝置 import serial.tools.list_ports #檢

python中multiprocessing模組之Pipe管道

原文地址,本文在原文基礎上添加了部分註釋。 multiprocessing.Pipe([duplex]) 方法返回2個連線物件(conn1, conn2),代表管道的兩端,預設duplex為True,是雙向通訊。如果duplex為False,則conn1只能用來接收訊息,conn2只能用來

Caffe支援多GPU分散式計算

    Caffe允許多GPU間平行計算,多GPU模式工作模式為“不共享資料,卻共享網路”。當目標機器GPU數量大於1時,Caffe將允許多個solver存在,且應用到不同的GPU上去。 vector<int> gpus; get_gpus(&gpus

Python之argparse模組的使用

我們在寫python指令碼的時候,有時候需要在執行的時候傳入引數,而不是寫死在程式裡,這個時候就要用到argparse模組。argparse 是 Python 內建的一個用於命令項選項與引數解析的模組,通過在程式中定義好我們需要的引數,argparse 將會從sys.argv 中解析出這些引數,