1. 程式人生 > 實用技巧 >python 程序池pool簡單使用

python 程序池pool簡單使用

python 程序池pool簡單使用

  平常會經常用到多程序,可以用程序池pool來進行自動控制程序,下面介紹一下pool的簡單使用。

  需要主動是,在Windows上要想使用程序模組,就必須把有關程序的程式碼寫if __name__ == ‘__main__’ :語句的下面,才能正常使用Windows下的程序模組。Unix/Linux下則不需要。

  Pool類

  Pool類可以提供指定數量的程序供使用者呼叫,當有新的請求提交到Pool中時,如果池還沒有滿,就會建立一個新的程序來執行請求。如果池滿,請求就會告知先等待,直到池中有程序結束,

  才會建立新的程序來執行這些請求。

  下面介紹一下multiprocessing 模組下的Pool類下的幾個方法:

  1、apply()

    函式原型:apply(func[, args=()[, kwds={}]])

    該函式用於傳遞不定引數,同python中的apply函式一致,主程序會被阻塞直到函式執行結束(不建議使用,並且3.x以後不在出現)。

  2、apply_async

    函式原型:apply_async(func[, args=()[, kwds={}[, callback=None]]])

    與apply用法一致,但它是非阻塞的且支援結果返回後進行回撥。

  3、map()

    函式原型:map(func, iterable[, chunksize=None])

    Pool類中的map方法,與內建的map函式用法行為基本一致,它會使程序阻塞直到結果返回。
    注意:雖然第二個引數是一個迭代器,但在實際使用中,必須在整個佇列都就緒後,程式才會執行子程序。

  4、map_async()

    函式原型:map_async(func, iterable[, chunksize[, callback]])
    與map用法一致,但是它是非阻塞的。其有關事項見apply_async。

  5、close()

    關閉程序池(pool),使其不在接受新的任務。

  6、terminal()

    結束工作程序,不在處理未處理的任務。

  7、join()

    主程序阻塞等待子程序的退出, join方法要在close或terminate之後使用。

  簡單實現程式碼

import multiprocessing
import time


def func(msg):
    print("msg:", msg)
    time.sleep(3)
    print("end,", msg)

if __name__ == "__main__":
    # 這裡設定允許同時執行的的程序數量要考慮機器cpu的數量,程序的數量最好別小於cpu的數量,
    # 因為即使大於cpu的數量,增加了任務排程的時間,效率反而不能有效提高
    pool = multiprocessing.Pool(processes = 3)
    item_list = ['processes1' ,'processes2' ,'processes3' ,'processes4' ,'processes5' ,]
    count = len(item_list)
    for item in item_list:
        msg = "hello %s" %item
        # 維持執行的程序總數為processes,當一個程序執行完畢後會新增新的程序進去
        pool.apply_async(func, (msg,))

    pool.close()
    pool.join()  # 呼叫join之前,先呼叫close函式,否則會出錯。執行完close後不會有新的程序加入到pool,join函式等待所有子程序結束