1. 程式人生 > 程式設計 >jupyter notebook引數化執行python方式

jupyter notebook引數化執行python方式

Updates

(2019.8.14 19:53)吃飯前用這個方法實戰了一下,吃完回來一看好像不太行:跑完一組引數之後,到跑下一組引數時好像沒有釋放之佔用的 GPU,於是 notebook 上的結果,後面好幾條都報錯說 cuda out of memory。

現在改成:將 notebook 中的程式碼寫在一個 python 檔案中,然後用命令列執行這個檔案,比如:

# autorun.py
import os
# print(os.getcwd())

over = [ # 之前手工改引數跑完的引數組合
 [0,1,1],[0,2],3],2,[1,1]
]

for alpha in range(1,4,1):
 for beta in range(3):
  for gamma in range(3):
   if [alpha,beta,gamma] in over:
    continue
   os.system(f'python main.py --alpha {alpha} --beta {beta} --gamma {gamma}')

這裡的 main.py 是訓練用的主檔案。改在 py 裡用 os.system 跑,希望跑一組引數之後完會自動釋放資源再跑下一組(?)

Notes

有多組引數組合需要嘗試,不想每組引數都人工修改 python 程式碼,再在 notebook 中 %run 它。

python 引數通過的 argparse 接收,在 notebook 中寫個多重迴圈遍歷引數組合傳給 python 程式自動執行。

記錄一個簡例。

Codes

test_dir
|- test.py
|- test.ipynb

in py file

# test.py
import argparse

parser = argparse.ArgumentParser()
parser.add_argument('--number',type=int,default=0,help='number')
parser.add_argument('--string',type=str,default='abc',help='string')
args = parser.parse_args()

print('number:',args.number,type(args.number))
print('string:',args.string,type(args.string))

in notebook

注意傳引數時 $ 的使用

# test.ipynb
for i in range(3):
 for s in ('a','b','c'):
  %run test.py --number $i --string $s

補充知識:Jupyter Notebook出現kernel error FileNotFoundError: [WinError 2] 系統找不到指定的檔案

Jupyter Notebook出現kernel error

jupyter notebook引數化執行python方式

conda create -n py36 --clone root

當時用Anaconda克隆本地的環境root到自己建立的py36環境,由於克隆完成後我又更改了虛擬環境名稱,所以導致啟動

jupyter notebook 進入檔案是不能找到連線檔案。

File”//anaconda/lib/python2.7/site-packages/jupyter_client/manager.py”,line 190,in _launch_kernel
return launch_kernel(kernel_cmd,**kw)
File “//anaconda/lib/python2.7/site-packages/jupyter_client/launcher.py”,line 123,in launch_kernel
proc = Popen(cmd,**kwargs)
File “//anaconda/lib/python2.7/subprocess.py”,line 710,in init
errread,errwrite)
File “//anaconda/lib/python2.7/subprocess.py”,line 1335,in _execute_child
raise child_exception
OSError: [Errno 2] No such file or director

解決辦法

首先在cmd 使用jupyter kernelspec list檢視安裝的核心和位置

進入安裝核心目錄開啟kernel.jason檔案,檢視Python編譯器的路徑是否正確

jupyter notebook引數化執行python方式

如果不正確python -m ipykernel install --user重新安裝核心,如果有多個核心,如果你使用conda create -n python2 python=2,為Python2.7設定conda變數,那麼在anacoda下使用activate pyhton2切換python環境,重新使用python -m ipykernel install --user安裝核心.(通用情況)

或者直接進入kernel.json裡更改py36(這是屬於我的情況)

重啟jupyter notebook即可。

以上這篇jupyter notebook引數化執行python方式就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支援我們。