Sử dụng Python thật hiện thâm độ học tập mô hình: Phân bố thức huấn luyện dữ mô hình tịnh hành hóa

Dẫn ngôn

Tùy trứ thâm độ học tập mô hình đích phục tạp độ hòa sổ cư lượng đích tăng gia, đan nhất thiết bị đích kế toán năng lực vãng vãng vô pháp mãn túc huấn luyện nhu cầu. Phân bố thức huấn luyện hòa mô hình tịnh hành hóa kỹ thuật khả dĩ hữu hiệu địa gia tốc mô hình huấn luyện quá trình, đề cao kế toán hiệu suất. Bổn văn tương giới thiệu như hà sử dụng Python thật hiện thâm độ học tập mô hình đích phân bố thức huấn luyện dữ mô hình tịnh hành hóa.

Sở nhu công cụ

• Python 3.x
• TensorFlow hoặc PyTorch ( bổn văn dĩ TensorFlow vi lệ )
• Horovod ( dụng vu phân bố thức huấn luyện )
• CUDA ( dụng vu GPU gia tốc )

Bộ sậu nhất: An trang sở nhu khố

Thủ tiên, ngã môn nhu yếu an trang sở nhu đích Python khố. Khả dĩ sử dụng dĩ hạ mệnh lệnh an trang:

pipinstalltensorflow horovod

Bộ sậu nhị: Chuẩn bị sổ cư tập

Ngã môn tương sử dụng MNIST sổ cư tập tác vi kỳ lệ. Dĩ hạ thị gia tái sổ cư tập đích đại mã:

importtensorflowastf

# gia tái MNIST sổ cư tập
mnist=tf.keras.da