Chạy Tensorflow bằng GPU máy tính của bạn có thể giúp bạn tiết kiệm rất nhiều thời gian khi thực hiện các phép tính phức tạp liên quan đến ma trận. Bạn có thể thắc mắc, tại sao GPU lại tốt hơn nhiều so với CPU để học sâu?
Hãy bắt đầu với CPU. Nó là viết tắt của Bộ xử lý trung tâm và nó có tương đối ít lõi xử lý, thường là 4 hoặc 8 ngày nay. Điều đó có nghĩa là CPU rất xuất sắc khi chạy các phép tính phức tạp nhưng mỗi lần nó chỉ có thể thực hiện một vài phép tính
Bây giờ GPU. nó là viết tắt của Graphics Processing Unit và nó rất tốt trong việc thực hiện một phép tính khá đơn giản trên số lượng lớn các biến song song. Chẳng hạn, nếu bạn có một ma trận lớn và bạn muốn nhân một phần tử với một ma trận có cùng kích thước, điều đó thật dễ dàng đối với GPU. Điều này xuất phát từ việc GPU được tạo ra để tính toán các pixel trên màn hình, vốn đòi hỏi nhiều thao tác tính toán dễ dàng
Học sâu, đặc biệt là Mạng thần kinh [NN] và Mạng thần kinh phức tạp [CNN] liên quan đến một lượng lớn các hoạt động ma trận tương đối đơn giản và do đó, GPU rất xuất sắc trong nhiệm vụ này
2. 1. Tổng quan
Thiết lập này dành cho cài đặt Tensorflow 1 hoặc Tensorflow 2 trên máy Windows 10 với Môi trường Anaconda và Python 3. Hầu hết các bước sẽ tương tự trên một phiên bản windows khác hoặc nếu bạn không có Anaconda nhưng có thể có một số điều chỉnh cần thực hiện
2. 2. Xác minh khả năng tương thích của card đồ họa
Hướng dẫn này dành cho máy Windows 10 có card đồ họa Nvidia. Điều đầu tiên bạn cần làm là xác minh rằng card đồ họa của bạn có thể chạy Tensorflow
Để xem bạn có card đồ họa nào
- nhấn phím WIndow trên bàn phím của bạn và tìm kiếm Thông tin hệ thống
- mở rộng “Thành phần” và nhấp vào “Hiển thị”
Trên bảng bên phải, nhìn vào tên của card đồ họa. Trên hầu hết các máy tính xách tay đều có chip đồ họa tích hợp, thường là intel và card đồ họa chuyên dụng, trong trường hợp của tôi là NVIDIA Geforce GTX 660M
Khi bạn đã xác định được cạc đồ họa của mình, hãy truy cập https. // nhà phát triển. nvidia. com/cuda-gpus và xem card đồ họa của bạn có làm được không. Bạn cũng có thể xem “Khả năng tính toán” sẽ cho biết thẻ của bạn tốt như thế nào. Của tôi là 3. 0, điều đó không tuyệt vời nhưng tôi rất vui vì thẻ của mình đã lọt vào danh sách nên tôi sẽ không phàn nàn
3. Cài đặt3. 1. Cập nhật trình điều khiển cạc đồ họa của bạn
Bây giờ bạn đã biết tên card đồ họa của mình, hãy truy cập https. //www. nvidia. com/Tải xuống/chỉ mục. aspx và tải xuống và cài đặt trình điều khiển mới nhất cho thẻ của bạn
Khởi động lại sau khi cài đặt
3. 2. Giải quyết trên phiên bản Tensorflow
Việc biết bạn muốn sử dụng phiên bản tensorflow nào là rất quan trọng để đảm bảo tất cả các gói đều tương thích, nhưng quan trọng nhất là đảm bảo rằng CUDA và cuDNN của Nvidia tương thích
Để biết bạn hiện đang sử dụng phiên bản Tensorflow nào, hãy nhập các lệnh sau vào Jupyter Notebook
import tensorflow as tf
tf.__version__
'1.14.0'
Bạn có thể hài lòng với phiên bản tensorflow bạn đang sử dụng hoặc bạn có thể muốn cập nhật lên Tensoflow 2. 0. Điều đó phụ thuộc vào cách sử dụng của bạn. Trong trường hợp của tôi, tôi đã nhận ra hơi muộn rằng một gói mà tôi thực sự thích [SHAP] đã ngừng hoạt động sau khi nâng cấp lên Tensorflow 2. 0. Tôi quyết định giải quyết với phiên bản Tensorflow 1 mới nhất, đó là 1. 14. https. //www. dòng chảy căng. tổ chức/cài đặt/source_windows
3. 3. Cài đặt Visual Studio Express
Visual là cần thiết để chạy các khung NVIDIA. Cài đặt Visual Studio từ đây. https. //Visual Studio. Microsoft. com/vs/express/ và cài đặt nó với các tùy chọn mặc định. Không chọn bất kỳ “khối lượng công việc” nào khi được cung cấp, chỉ tiếp tục mà không cần khối lượng công việc
Khởi động lại PC của bạn
3. 4. Nhận các phiên bản CUDA và cuDNN cần thiết
Khi bạn biết mình muốn sử dụng phiên bản Tensorflow nào, hãy truy cập https. //www. dòng chảy căng. org/install/source_windows và cuộn xuống bảng “GPU”. Xác định vị trí phiên bản tensorflow của bạn và viết ra phiên bản Python, phiên bản CUDA và phiên bản cuDNN tương thích
Đi qua đầu để tải xuống phiên bản CUDA thích hợp. https. // nhà phát triển. nvidia. com/cuda-toolkit-archive
Và vào đây để lấy phiên bản cuDNN phù hợp. https. // nhà phát triển. nvidia. com/rdp/cudnn-download Lưu ý rằng bạn sẽ cần tạo tài khoản nhà phát triển MIỄN PHÍ để truy cập trang tải xuống đó, chỉ mất vài giây
3. 5. Cài đặt CUDA và cuDNN
Cài đặt CUDA bằng cách đơn giản chạy trình cài đặt với các tùy chọn mặc định
Đối với cuDNN, nó phức tạp hơn một chút. Trích xuất nội dung của tệp zip vào một thư mục. Mở thư mục cuda và bạn sẽ thấy ba thư mục và một tệp. Giữ thư mục đó mở và điều hướng nơi CUDA đã được cài đặt, thường là “C. \Program Files\NVIDIA GPU Computing Toolkit\CUDA”. Trong thư mục đó, sẽ có một thư mục khác được đặt tên theo phiên bản CUDA. Đi vào thư mục đó và bạn sẽ thấy nhiều thư mục bao gồm thư mục “bin”, “include” và “lib”
Bây giờ sao chép và dán từ thư mục cuDNN mà bạn đã mở vào thư mục đó và đảm bảo ghi đè lên bất kỳ tệp hiện có nào nếu được yêu cầu
Lưu ý rằng hoàn toàn có thể cài đặt các phiên bản CUDA khác nhau cùng lúc trên máy tính của bạn nếu bạn muốn sử dụng các phiên bản Tensorflow khác nhau. Bạn chỉ cần cẩn thận hơn và dán nội dung trên cuDNN vào thư mục CUDA với phiên bản phù hợp
Khởi động lại máy tính của bạn
3. 6. Xác minh đường dẫn Windows
Chuyển đến bảng điều khiển của bạn và chọn “Cài đặt hệ thống nâng cao”. Sau đó chọn tab “Nâng cao”, sau đó nhấp vào “Biến môi trường…”. Ở nửa dưới của cửa sổ, bạn sẽ thấy “Biến hệ thống”
Trong đó, đảm bảo CUDA_PATH và CUDA_PATH_Vnn. n được đặt thành nơi cài đặt CUDA, xem hình bên dưới
Sau đó cuộn xuống biến "Đường dẫn" và nhấp vào chỉnh sửa. Xác minh rằng bạn có hai đường dẫn cho mỗi phiên bản CUDA, như sau [xem hai mục đầu tiên]
3. 7. Cài đặt Tensorflow-GPU
Nếu bạn chưa cài đặt Tensorflow-GPU, bây giờ là lúc để làm điều đó
Mở Anaconda Prompt và gõ như sau, thay thế 1. 14 theo phiên bản bạn muốn
pip cài đặt tensorflow-gpu==1. 14
4. Xác minh cài đặt thành côngChạy hai khối lệnh sau và xác minh rằng khối đầu tiên trả về [True, True] và khối thứ hai trả về CPU và GPU của bạn
import tensorflow as tf
tf.test.is_built_with_cuda[], tf.test.is_gpu_available[cuda_only=False, min_cuda_compute_capability=None]
[True, True]
from tensorflow.python.client import device_lib
device_lib.list_local_devices[]
[name: "/device:CPU:0"
device_type: "CPU"
memory_limit: 268435456
locality {
}
incarnation: 10410027873819012048,
name: "/device:GPU:0"
device_type: "GPU"
memory_limit: 1483053465
locality {
bus_id: 1
links {
}
}
incarnation: 13159812500756175948
physical_device_desc: "device: 0, name: GeForce GTX 660M, pci bus id: 0000:01:00.0, compute capability: 3.0"]
Nếu nó không hoạt động, hãy chuyển đến Phần gỡ lỗi trên trang này
5. Cách sử dụng GPU TensorflowXin chúc mừng. Mọi thứ đã được cài đặt đúng cách và bạn đã sẵn sàng tận hưởng niềm vui với nó
Bây giờ làm thế nào để kích hoạt nó? . Có thể có trường hợp bạn thực sự không muốn sử dụng GPU. Đây sẽ là khi sử dụng CPU sẽ nhanh hơn. Máy tính của tôi có CPU tốt nhưng GPU hơi cũ và kết quả là mất nhiều thời gian hơn để đào tạo Mạng nơ-ron trên GPU. Mặt khác, Mạng thần kinh chuyển đổi có thể được đào tạo nhanh hơn gấp 4 lần với GPU
Có một số cách để vô hiệu hóa GPU nhưng tôi thấy cách tốt nhất chỉ đơn giản là sử dụng lệnh 'with' được hiển thị bên dưới
with tf.device['/cpu:0']: #