安裝

// 首先，建立一個虛擬環境
conda create -n my_paddle python=3.8

// 安裝Paddle GPU版
// 沒有加版本號會自動下載最新版
pip install paddlepaddle-gpu
// 安裝PaddleNLP
pip install paddlenlp

例子：

以官方的Example:sentence_transformers為例

// 下載原始碼
git clone https://github.com/PaddlePaddle/PaddleNLP.git
// 進入專案根目錄
cd PaddleNLP/examples/text_matching/sentence_transformers

 
// 執行
// 先指定gpu 編號, 從0開始的
export CUDA_VISIBLE_DEVICES=2 
// 訓練 由於只有一個GPU可見，預設用可用列表中的第一個
python train.py --device gpu --save_dir ./checkpoint

最後記錄一下GPU的使用

為了不讓自己霸佔所有的GPU，要手動指定GPU

先看看GPU使用情況:nvidia-smi

設定GPU可見情況: export CUDA_VISIBLE_DEVICES=2 或者多個export CUDA_VISIBLE_DEVICES=0,2 等等

檢視CUDA_VISIBLE_DEVICES：echo $CUDA_VISIBLE_DEVICES

用pytorch檢視可用的gpu列表：

>>> import torch
>>> available_gpus = [torch.cuda.device(i) for i in range(torch.cuda.device_count())]
>>> available_gpus
[<torch.cuda.device object at 0x7f2585882b50>]

# 獲取可用數量
print(torch.cuda.device_count())

監控系統資源：htop，比top更直觀一點

監控GPU使用情況:watch -n 1 nvidia-smi，這裡是1s列印一次

參考連結：

1. stack overflow_Change default GPU in TensorFlow

2.