GPU 支援
文章推薦指數: 80 %
TensorFlow pip 套件包含採用CUDA® 技術的顯示卡GPU 支援: ... wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ ...
安裝
學習
簡介
第一次使用TensorFlow嗎?
TensorFlow
核心開放原始碼機器學習程式庫
適用於JavaScript
TensorFlow.js(適用於使用JavaScript開發機器學習)
適用於行動裝置及IoT
適用於行動裝置和嵌入式裝置的TensorFlowLite
適用於生產環境
適用於端對端機器學習元件的TensorFlowExtended
API
TensorFlow(2.7)
r1.15
Versions…
TensorFlow.js
TensorFlowLite
TFX
資源
模型與資料集
由Google和社群建立的預先訓練模型與資料集
工具
有助於使用TensorFlow的工具生態系統
程式庫與擴充功能
使用TensorFlow打造的程式庫與擴充功能
TensorFlow認證計畫
展現自己對於機器學習的專業知識,在眾人之中脫穎而出
瞭解機器學習
透過TensorFlow瞭解機器學習基礎知識的教育資源
ResponsibleAI
透過相關的實用資源和工具,將ResponsibleAI做法整合至機器學習工作流程
社群
加入
探索參與的方式
論壇↗
TensorFlow社群的討論平台
群組
使用者群組、社團和郵寄清單
協助改善
改善程式碼和說明文件的指南
選擇TensorFlow的理由
關於
個案研究
AI服務合作夥伴
Language
English
BahasaIndonesia
Deutsch
Español–AméricaLatina
Français
Italiano
Polski
Português–Brasil
TiếngViệt
Türkçe
Русский
עברית'
العربيّة
فارسی
हिंदी
বাংলা
ภาษาไทย
中文–简体
中文–繁體
日本語
한국어
GitHub
登入
安裝
安裝
學習
More
API
More
資源
More
社群
More
選擇TensorFlow的理由
More
GitHub
安裝TensorFlow
套件
pip
Docker
其他設定
GPU支援
問題
從原始碼開始建構
Linux/macOS
Windows
SIGBuild
語言繫結
Java
Java(舊版)
C
Go
簡介
TensorFlow
適用於JavaScript
適用於行動裝置及IoT
適用於生產環境
TensorFlow(2.7)
r1.15
Versions…
TensorFlow.js
TensorFlowLite
TFX
模型與資料集
工具
程式庫與擴充功能
TensorFlow認證計畫
瞭解機器學習
ResponsibleAI
加入
論壇↗
群組
協助改善
關於
個案研究
AI服務合作夥伴
TensorFlow
安裝
GPU支援
附註:Ubuntu和Windows如果搭載了採用CUDA®技術的顯示卡,即適用GPU支援。
TensorFlowGPU支援需要各種驅動程式和程式庫。
為簡化安裝作業並避免發生程式庫衝突,建議你使用支援GPU的TensorFlowDocker映像檔(僅限Linux)。
這樣只需要NVIDIA®GPU驅動程式即可完成設定。
下列安裝操作說明適用於最新版本的TensorFlow。
請參閱CUDA®和CuDNN版本經過測試的建構設定,瞭解如何與舊版TensorFlow搭配使用。
pip套件
請參閱pip安裝指南,瞭解可用的套件、系統需求和相關操作說明。
TensorFlowpip套件包含採用CUDA®技術的顯示卡GPU支援:
pipinstalltensorflow
本指南涵蓋最新TensorFlow穩定版的GPU支援和安裝步驟。
舊版TensorFlow
1.15以下版本的CPU和GPU套件各自獨立:
pipinstalltensorflow==1.15#CPU
pipinstalltensorflow-gpu==1.15#GPU
硬體需求
支援採用以下GPU的裝置:
採用CUDA®架構3.5、5.0、6.0、7.0、7.5、8.0以上版本的NVIDIA®GPU顯示卡。
請參閱採用CUDA®技術的GPU顯示卡清單。
如要瞭解哪些GPU採用不支援的CUDA®架構、如何避免透過PTX進行JIT編譯作業,以及如何使用不同版本的NVIDIA®程式庫,請參閱從原始碼開始建構(適用於Linux)指南。
除了最新支援的CUDA®架構之外,套件不包含任何PTX程式碼。
因此,如果設定了CUDA_FORCE_PTX_JIT=1,就無法在舊版GPU上載入TensorFlow。
詳情請參閱應用程式相容性。
注意:如果收到「狀態:裝置核心映像檔無效」錯誤訊息,表示TensorFlow套件不包含適用於您架構的PTX。
你可以透過從原始碼開始建構TensorFlow來啟用運算功能。
軟體需求
您的系統上必須安裝下列NVIDIA®軟體:
NVIDIA®GPU驅動程式:CUDA®11.2需要450.80.02以上版本。
CUDA®Toolkit:
TensorFlow支援CUDA®11.2(TensorFlow2.5.0以上版本)
CUDA®Toolkit隨附CUPTI。
cuDNNSDK8.1.0(cuDNN版本)。
(選用)TensorRT6.0可改善某些模型的推論延遲情況和總處理量。
Linux設定
只要按照下方的apt指示操作,就能以最簡單的方式在Ubuntu上安裝必要的NVIDIA軟體。
不過,如果您是從原始碼開始建構TensorFlow,請手動安裝上述所需軟體,並考慮使用-develTensorFlowDocker映像檔做為基礎。
請安裝CUDA®Toolkit隨附的CUPTI,並將其安裝目錄附加到$LD_LIBRARY_PATH環境變數中:
exportLD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64
使用apt安裝CUDA
本節說明如何在Ubuntu16.04和18.04上安裝CUDA®11(TensorFlow2.4.0以上版本)。
以下操作說明可能也適用於其他以Debian為基礎的發行版本。
注意:安全啟動會讓NVIDIA驅動程式的安裝作業變得複雜,因此不在以下操作說明的涵蓋範圍內。
Ubuntu18.04(CUDA11.0)
#AddNVIDIApackagerepositories
wgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudomvcuda-ubuntu1804.pin/etc/apt/preferences.d/cuda-repository-pin-600
sudoapt-keyadv--fetch-keyshttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudoadd-apt-repository"debhttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64//"
sudoapt-getupdate
wgethttp://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudoaptinstall./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudoapt-getupdate
wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudoaptinstall./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudoapt-getupdate
#Installdevelopmentandruntimelibraries(~4GB)
sudoapt-getinstall--no-install-recommends\
cuda-11-0\
libcudnn8=8.0.4.30-1+cuda11.0\
libcudnn8-dev=8.0.4.30-1+cuda11.0
#Reboot.CheckthatGPUsarevisibleusingthecommand:nvidia-smi
#InstallTensorRT.Requiresthatlibcudnn8isinstalledabove.
sudoapt-getinstall-y--no-install-recommendslibnvinfer7=7.1.3-1+cuda11.0\
libnvinfer-dev=7.1.3-1+cuda11.0\
libnvinfer-plugin7=7.1.3-1+cuda11.0
Ubuntu16.04(CUDA11.0)
#AddNVIDIApackagerepositories
#AddHTTPSsupportforapt-key
sudoapt-getinstallgnupg-curl
wgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudomvcuda-ubuntu1604.pin/etc/apt/preferences.d/cuda-repository-pin-600
sudoapt-keyadv--fetch-keyshttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudoadd-apt-repository"debhttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64//"
sudoapt-getupdate
wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudoaptinstall./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudoapt-getupdate
wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudoaptinstall./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudoapt-getupdate
#Installdevelopmentandruntimelibraries(~4GB)
sudoapt-getinstall--no-install-recommends\
cuda-11-0\
libcudnn8=8.0.4.30-1+cuda11.0\
libcudnn8-dev=8.0.4.30-1+cuda11.0
#Reboot.CheckthatGPUsarevisibleusingthecommand:nvidia-smi
#InstallTensorRT.Requiresthatlibcudnn7isinstalledabove.
sudoapt-getinstall-y--no-install-recommends\
libnvinfer7=7.1.3-1+cuda11.0\
libnvinfer-dev=7.1.3-1+cuda11.0\
libnvinfer-plugin7=7.1.3-1+cuda11.0\
libnvinfer-plugin-dev=7.1.3-1+cuda11.0
Windows設定
請參閱上述硬體需求和軟體需求,以及適用於Windows的CUDA®安裝指南。
確認您已安裝符合上述版本的NVIDIA軟體套件。
請特別注意,如果沒有cuDNN64_8.dll檔案,TensorFlow就不會載入。
如要使用其他版本,請參閱從原始碼開始建構(適用於Windows)指南。
請將CUDA®、CUPTI和cuDNN安裝目錄新增至%PATH%環境變數中。
舉例來說,如果CUDA®Toolkit已安裝至C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0,且cuDNN已安裝至C:\tools\cuda,請更新%PATH%以符合:
SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\bin;%PATH%
SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\include;%PATH%
SETPATH=C:\tools\cuda\bin;%PATH%
Exceptasotherwisenoted,thecontentofthispageislicensedundertheCreativeCommonsAttribution4.0License,andcodesamplesarelicensedundertheApache2.0License.Fordetails,seetheGoogleDevelopersSitePolicies.JavaisaregisteredtrademarkofOracleand/oritsaffiliates.
Lastupdated2021-10-06UTC.
[{
"type":"thumb-down",
"id":"missingTheInformationINeed",
"label":"缺少我需要的資訊"
},{
"type":"thumb-down",
"id":"tooComplicatedTooManySteps",
"label":"過於複雜/步驟過多"
},{
"type":"thumb-down",
"id":"outOfDate",
"label":"過時"
},{
"type":"thumb-down",
"id":"translationIssue",
"label":"翻譯問題"
},{
"type":"thumb-down",
"id":"samplesCodeIssue",
"label":"示例/程式碼問題"
},{
"type":"thumb-down",
"id":"otherDown",
"label":"其他"
}]
[{
"type":"thumb-up",
"id":"easyToUnderstand",
"label":"容易理解"
},{
"type":"thumb-up",
"id":"solvedMyProblem",
"label":"確實解決了我的問題"
},{
"type":"thumb-up",
"id":"otherUp",
"label":"其他"
}]
掌握最新動態
網誌
論壇
GitHub
Twitter
YouTube
支援服務
問題追蹤工具
版本資訊
StackOverflow
品牌宣傳指南
引用TensorFlow的資料
條款
隱私權
訂閱TensorFlow電子月報
訂閱
Language
English
BahasaIndonesia
Deutsch
Español–AméricaLatina
Français
Italiano
Polski
Português–Brasil
TiếngViệt
Türkçe
Русский
עברית'
العربيّة
فارسی
हिंदी
বাংলা
ภาษาไทย
中文–简体
中文–繁體
日本語
한국어
延伸文章資訊
- 1CUDA Toolkit 9.0 Downloads | NVIDIA Developer
CUDA Toolkit 9.0 Downloads. Select Target Platform. Click on the green buttons that describe your...
- 2CUDA Toolkit Archive | NVIDIA Developer
- 3CUDA Toolkit 10.0 Archive | NVIDIA Developer
Download Installer for ; Base Installer, Download ; Installation Instructions: ...
- 4GPU 支援
TensorFlow pip 套件包含採用CUDA® 技術的顯示卡GPU 支援: ... wget https://developer.download.nvidia.com/compute/c...
- 5CUDA Toolkit 11.1 Update 1 Downloads | NVIDIA Developer
CUDA Toolkit 11.1 Update 1 Downloads. Please Note: We advise customers updating to Linux Kernel 5...