GPU 支援

文章推薦指數: 80 %
投票人數:10人

TensorFlow pip 套件包含採用CUDA® 技術的顯示卡GPU 支援: ... wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ ... 安裝 學習 簡介 第一次使用TensorFlow嗎? TensorFlow 核心開放原始碼機器學習程式庫 適用於JavaScript TensorFlow.js(適用於使用JavaScript開發機器學習) 適用於行動裝置及IoT 適用於行動裝置和嵌入式裝置的TensorFlowLite 適用於生產環境 適用於端對端機器學習元件的TensorFlowExtended API TensorFlow(2.7) r1.15 Versions… TensorFlow.js TensorFlowLite TFX 資源 模型與資料集 由Google和社群建立的預先訓練模型與資料集 工具 有助於使用TensorFlow的工具生態系統 程式庫與擴充功能 使用TensorFlow打造的程式庫與擴充功能 TensorFlow認證計畫 展現自己對於機器學習的專業知識,在眾人之中脫穎而出 瞭解機器學習 透過TensorFlow瞭解機器學習基礎知識的教育資源 ResponsibleAI 透過相關的實用資源和工具,將ResponsibleAI做法整合至機器學習工作流程 社群 加入 探索參與的方式 論壇↗ TensorFlow社群的討論平台 群組 使用者群組、社團和郵寄清單 協助改善 改善程式碼和說明文件的指南 選擇TensorFlow的理由 關於 個案研究 AI服務合作夥伴 Language English BahasaIndonesia Deutsch Español–AméricaLatina Français Italiano Polski Português–Brasil TiếngViệt Türkçe Русский עברית' العربيّة فارسی हिंदी বাংলা ภาษาไทย 中文–简体 中文–繁體 日本語 한국어 GitHub 登入 安裝 安裝 學習 More API More 資源 More 社群 More 選擇TensorFlow的理由 More GitHub 安裝TensorFlow 套件 pip Docker 其他設定 GPU支援 問題 從原始碼開始建構 Linux/macOS Windows SIGBuild 語言繫結 Java Java(舊版) C Go 簡介 TensorFlow 適用於JavaScript 適用於行動裝置及IoT 適用於生產環境 TensorFlow(2.7) r1.15 Versions… TensorFlow.js TensorFlowLite TFX 模型與資料集 工具 程式庫與擴充功能 TensorFlow認證計畫 瞭解機器學習 ResponsibleAI 加入 論壇↗ 群組 協助改善 關於 個案研究 AI服務合作夥伴 TensorFlow 安裝 GPU支援 附註:Ubuntu和Windows如果搭載了採用CUDA®技術的顯示卡,即適用GPU支援。

TensorFlowGPU支援需要各種驅動程式和程式庫。

為簡化安裝作業並避免發生程式庫衝突,建議你使用支援GPU的TensorFlowDocker映像檔(僅限Linux)。

這樣只需要NVIDIA®GPU驅動程式即可完成設定。

下列安裝操作說明適用於最新版本的TensorFlow。

請參閱CUDA®和CuDNN版本經過測試的建構設定,瞭解如何與舊版TensorFlow搭配使用。

pip套件 請參閱pip安裝指南,瞭解可用的套件、系統需求和相關操作說明。

TensorFlowpip套件包含採用CUDA®技術的顯示卡GPU支援: pipinstalltensorflow 本指南涵蓋最新TensorFlow穩定版的GPU支援和安裝步驟。

舊版TensorFlow 1.15以下版本的CPU和GPU套件各自獨立: pipinstalltensorflow==1.15#CPU pipinstalltensorflow-gpu==1.15#GPU 硬體需求 支援採用以下GPU的裝置: 採用CUDA®架構3.5、5.0、6.0、7.0、7.5、8.0以上版本的NVIDIA®GPU顯示卡。

請參閱採用CUDA®技術的GPU顯示卡清單。

如要瞭解哪些GPU採用不支援的CUDA®架構、如何避免透過PTX進行JIT編譯作業,以及如何使用不同版本的NVIDIA®程式庫,請參閱從原始碼開始建構(適用於Linux)指南。

除了最新支援的CUDA®架構之外,套件不包含任何PTX程式碼。

因此,如果設定了CUDA_FORCE_PTX_JIT=1,就無法在舊版GPU上載入TensorFlow。

詳情請參閱應用程式相容性。

注意:如果收到「狀態:裝置核心映像檔無效」錯誤訊息,表示TensorFlow套件不包含適用於您架構的PTX。

你可以透過從原始碼開始建構TensorFlow來啟用運算功能。

軟體需求 您的系統上必須安裝下列NVIDIA®軟體: NVIDIA®GPU驅動程式:CUDA®11.2需要450.80.02以上版本。

CUDA®Toolkit: TensorFlow支援CUDA®11.2(TensorFlow2.5.0以上版本) CUDA®Toolkit隨附CUPTI。

cuDNNSDK8.1.0(cuDNN版本)。

(選用)TensorRT6.0可改善某些模型的推論延遲情況和總處理量。

Linux設定 只要按照下方的apt指示操作,就能以最簡單的方式在Ubuntu上安裝必要的NVIDIA軟體。

不過,如果您是從原始碼開始建構TensorFlow,請手動安裝上述所需軟體,並考慮使用-develTensorFlowDocker映像檔做為基礎。

請安裝CUDA®Toolkit隨附的CUPTI,並將其安裝目錄附加到$LD_LIBRARY_PATH環境變數中: exportLD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64 使用apt安裝CUDA 本節說明如何在Ubuntu16.04和18.04上安裝CUDA®11(TensorFlow2.4.0以上版本)。

以下操作說明可能也適用於其他以Debian為基礎的發行版本。

注意:安全啟動會讓NVIDIA驅動程式的安裝作業變得複雜,因此不在以下操作說明的涵蓋範圍內。

Ubuntu18.04(CUDA11.0) #AddNVIDIApackagerepositories wgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin sudomvcuda-ubuntu1804.pin/etc/apt/preferences.d/cuda-repository-pin-600 sudoapt-keyadv--fetch-keyshttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub sudoadd-apt-repository"debhttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64//" sudoapt-getupdate wgethttp://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb sudoaptinstall./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb sudoapt-getupdate wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb sudoaptinstall./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb sudoapt-getupdate #Installdevelopmentandruntimelibraries(~4GB) sudoapt-getinstall--no-install-recommends\ cuda-11-0\ libcudnn8=8.0.4.30-1+cuda11.0\ libcudnn8-dev=8.0.4.30-1+cuda11.0 #Reboot.CheckthatGPUsarevisibleusingthecommand:nvidia-smi #InstallTensorRT.Requiresthatlibcudnn8isinstalledabove. sudoapt-getinstall-y--no-install-recommendslibnvinfer7=7.1.3-1+cuda11.0\ libnvinfer-dev=7.1.3-1+cuda11.0\ libnvinfer-plugin7=7.1.3-1+cuda11.0 Ubuntu16.04(CUDA11.0) #AddNVIDIApackagerepositories #AddHTTPSsupportforapt-key sudoapt-getinstallgnupg-curl wgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin sudomvcuda-ubuntu1604.pin/etc/apt/preferences.d/cuda-repository-pin-600 sudoapt-keyadv--fetch-keyshttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub sudoadd-apt-repository"debhttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64//" sudoapt-getupdate wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb sudoaptinstall./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb sudoapt-getupdate wgethttps://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb sudoaptinstall./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb sudoapt-getupdate #Installdevelopmentandruntimelibraries(~4GB) sudoapt-getinstall--no-install-recommends\ cuda-11-0\ libcudnn8=8.0.4.30-1+cuda11.0\ libcudnn8-dev=8.0.4.30-1+cuda11.0 #Reboot.CheckthatGPUsarevisibleusingthecommand:nvidia-smi #InstallTensorRT.Requiresthatlibcudnn7isinstalledabove. sudoapt-getinstall-y--no-install-recommends\ libnvinfer7=7.1.3-1+cuda11.0\ libnvinfer-dev=7.1.3-1+cuda11.0\ libnvinfer-plugin7=7.1.3-1+cuda11.0\ libnvinfer-plugin-dev=7.1.3-1+cuda11.0 Windows設定 請參閱上述硬體需求和軟體需求,以及適用於Windows的CUDA®安裝指南。

確認您已安裝符合上述版本的NVIDIA軟體套件。

請特別注意,如果沒有cuDNN64_8.dll檔案,TensorFlow就不會載入。

如要使用其他版本,請參閱從原始碼開始建構(適用於Windows)指南。

請將CUDA®、CUPTI和cuDNN安裝目錄新增至%PATH%環境變數中。

舉例來說,如果CUDA®Toolkit已安裝至C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0,且cuDNN已安裝至C:\tools\cuda,請更新%PATH%以符合: SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\bin;%PATH% SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH% SETPATH=C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\include;%PATH% SETPATH=C:\tools\cuda\bin;%PATH% Exceptasotherwisenoted,thecontentofthispageislicensedundertheCreativeCommonsAttribution4.0License,andcodesamplesarelicensedundertheApache2.0License.Fordetails,seetheGoogleDevelopersSitePolicies.JavaisaregisteredtrademarkofOracleand/oritsaffiliates. Lastupdated2021-10-06UTC. [{ "type":"thumb-down", "id":"missingTheInformationINeed", "label":"缺少我需要的資訊" },{ "type":"thumb-down", "id":"tooComplicatedTooManySteps", "label":"過於複雜/步驟過多" },{ "type":"thumb-down", "id":"outOfDate", "label":"過時" },{ "type":"thumb-down", "id":"translationIssue", "label":"翻譯問題" },{ "type":"thumb-down", "id":"samplesCodeIssue", "label":"示例/程式碼問題" },{ "type":"thumb-down", "id":"otherDown", "label":"其他" }] [{ "type":"thumb-up", "id":"easyToUnderstand", "label":"容易理解" },{ "type":"thumb-up", "id":"solvedMyProblem", "label":"確實解決了我的問題" },{ "type":"thumb-up", "id":"otherUp", "label":"其他" }] 掌握最新動態 網誌 論壇 GitHub Twitter YouTube 支援服務 問題追蹤工具 版本資訊 StackOverflow 品牌宣傳指南 引用TensorFlow的資料 條款 隱私權 訂閱TensorFlow電子月報 訂閱 Language English BahasaIndonesia Deutsch Español–AméricaLatina Français Italiano Polski Português–Brasil TiếngViệt Türkçe Русский עברית' العربيّة فارسی हिंदी বাংলা ภาษาไทย 中文–简体 中文–繁體 日本語 한국어



請為這篇文章評分?