Trung Quốc công trình viện viện sĩ Trịnh vĩ dân: Sản phẩm trong nước AI chip trung tâm vấn đề là sinh thái không tốt, nếu sinh thái hảo 60% tính năng cũng có người dùng ｜ thái truyền thông AGI

​ Trung Quốc công trình viện viện sĩ, đại học Thanh Hoa máy tính khoa học cùng kỹ thuật hệ giáo thụ Trịnh vĩ dân

7 nguyệt 7 ngày tin tức hóa trăm người sẽ ( ChinaInfo100, tin trăm sẽ ) 2024 niên độ hội thảo thượng, Trung Quốc công trình viện viện sĩ, đại học Thanh Hoa máy tính khoa học cùng kỹ thuật hệ giáo thụ Trịnh vĩ dân đọc diễn văn.

Trịnh vĩ dân tỏ vẻ, AI đại mô hình đang ở từ đơn mô thái hướng nhiều mô thái phát triển, đồng thời ứng dụng cũng rất nhiều, cảnh này khiến tính lực tính dễ nổ tăng trưởng, tính lực vẫn luôn cung không đủ cầu. Nhưng đồng thời, so sánh với anh vĩ đạt, sản phẩm trong nước AI chip hệ thống sinh thái không tốt.

Chỉnh thể tới xem, đại mô hình tính chủ trương gắng sức thực hiện muốn chia làm bốn cái trình tự: Mô hình nghiên cứu phát minh, mô hình huấn luyện, mô hình tinh điều, mô hình trinh thám, bởi vậy, tính lực tồn tại với đại mô hình sinh mệnh chu kỳ mỗi một vòng.

Trịnh vĩ dân nhắc tới, tính lực thực quý, phí tổn cư cao không dưới,Như GPT-4 dùng 800 khối anh vĩ đạt A100, mỗi tháng mô hình nghiên cứu phát minh phí tổn 200 vạn đôla, trong đó, 1 vạn khối A100 tính lực huấn luyện chi tiêu đạt 2 trăm triệu đôla, ChatGPT mỗi ngày trinh thám chi tiêu đạt 70 vạn đôla. Mà ở đại mô hình xí nghiệp mô hình huấn luyện thành bổn trung, tính lực chiếm 70%, mà ở mô hình trinh thám phí tổn trung, 95% đều là tính lực.

Trong đó,Đại mô hình huấn luyện mặt, Trịnh vĩ dân chỉ ra, trước mắt có ba loại duy trì hệ thống:

Cái thứ nhất là căn cứ vào anh vĩ đạt chip GPU hệ thống. Phần cứng tính năng hảo, biên trình sinh thái hảo, nhưng là không bán cấp Trung Quốc, một tạp khó cầu, giá cả cũng quý rất nhiều lần.

Cái thứ hai là căn cứ vào sản phẩm trong nước AI chip hệ thống.

“Mấy năm nay sản phẩm trong nước chip vô luận là phần mềm phần cứng đều có rất lớn tiến triển, nhưng là người dùng không quá thích dùng, nguyên nhân là sản phẩm trong nước tạp hệ thống sinh thái không tốt lắm.”

Trịnh vĩ dân trước đây ở 2024 thế giới trí tuệ nhân tạo đại hội một hồi phân trên diễn đàn kỹ càng tỉ mỉ trình bày xưng, cứ việc quốc nội bao gồm Thượng Hải số trời trí tâm, mộc hi MetaX chờ quốc nội 20 nhiều gia công ty ở sinh sản AI chip, chip làm vẫn là thực không tồi, tiến bộ cũng rất lớn. Nhưng vấn đề ở chỗ, quốc nội AI hệ thống thời gian đoản, đặc biệt là phần mềm hệ thống phương diện còn chưa đủ thành thục.

Cái gì là hệ thống sinh thái hảo đâu? Trịnh vĩ dân cấp ra định nghĩa là, nếu nguyên lai dùng anh vĩ đạt viết một cái AI CUDA phần mềm, hiện tại thực dễ dàng nhổ trồng đến sản phẩm trong nước hệ thống thượng, viết lên phương pháp cùng nguyên lai không sai biệt lắm, liền kêu sinh thái hảo. Nếu nhổ trồng lên, không có một năm hai năm di bất quá tới, đó chính là không tốt.

“Hiện tại chúng ta trạng huống chính là sinh thái không tốt lắm, cho nên đại gia không thích dùng.” Trịnh vĩ dân cho rằng, này yêu cầu làm tốt hệ thống thiết kế cùng tương quan phần mềm ưu hoá, cụ thể bao gồm mười cái phương diện: Biên trình dàn giáo, song hành gia tốc, thông tín kho, tính tử kho, AI biên dịch khí, biên trình giọng nói, điều hành khí, nội tồn phân phối hệ thống, dung sai hệ thống, tồn trữ hệ thống chờ.

Hắn tỏ vẻ, sinh sản AI chip xưởng, nhất định phải đem cái này mười cái phương diện làm tốt, làm tốt đại gia liền thích dùng. Ở Trịnh vĩ dân xem ra, ở sản phẩm trong nước tính lực chống đỡ đại mô hình huấn luyện khi, sản phẩm trong nước AI chip chỉ cần đạt tới nước ngoài chip 60% tính năng, nhưng nếu đem trước thuật mười cái phương diện phần mềm sinh thái tân làm tốt, khách hàng cũng sẽ vừa lòng sẽ dùng.

“Đại đa số nhiệm vụ sẽ không bởi vì chip tính năng chỉ có 60% mà có rõ ràng cảm giác, đại gia cảm giác được không dùng tốt vẫn là sinh thái không được. Cho dù ngươi làm phần cứng tính năng là người ta 120%, nhưng nếu này mười cái phần mềm không có làm hảo, vẫn là sẽ không dùng.” Trịnh vĩ dân nói.

Loại thứ ba là căn cứ vào siêu cấp máy tính hệ thống.Trước mắt quốc nội 14 quốc gia cấp Siêu Toán Trung Tâm, nhưng máy móc không trí suất so cao, dùng đến không phải phi thường mãn.

Như vậy, dùng siêu cấp tính toán tới làm đại mô hình huấn luyện được chưa? Trịnh vĩ dân cho rằng có thể, nhưng yêu cầu tiến hành mềm cứng kiện hợp tác thiết kế, cũng có hi vọng tiết kiệm huấn luyện thành bổn. Hiện trường lấy Llama-7B cùng trăm xuyên đại mô hình biểu thị biểu hiện, sử dụng sản phẩm trong nước siêu cấp tính toán huấn luyện, tương so anh vĩ đạt tụ quần nhưng tiết kiệm phí tổn 82% tả hữu.

Trừ bỏ tính lực, tồn trữ cũng tồn tại với đại mô hình sinh mệnh chu kỳ mỗi một vòng, bao gồm số liệu thu hoạch, số liệu dự xử lý, mô hình huấn luyện, mô hình trinh thám chờ. Trịnh vĩ dân cường điệu, nội tồn đối AI trinh thám đặc biệt quan trọng, nếu cải tiến tồn trữ hệ thống, tính năng có thể có vài lần đề cao, này ý nghĩa có thể thiếu mua rất nhiều tạp.

Trịnh vĩ dân chỉ ra, sản phẩm trong nước chip ở thiết kế mặt không thể một mặt truy tìm tăng lên đại mô hình huấn luyện đa dụng nửa độ chặt chẽ ( FP16 ) phù điểm tính toán tính năng, mà ứng chú trọng nửa độ chặt chẽ cùng song độ chặt chẽ ( FP64 ) phù điểm tính toán tính năng cân bằng, hai người tính lực chi so ứng vì 100: 1, như vậy mới có thể thích ứng càng rộng khắp AI thuật toán. Ngoài ra, đại mô hình nhiệm vụ huấn luyện lượng đại, thường thường yêu cầu nhiều tạp lẫn nhau liên, chip tầng internet tham số, hệ thống kết cấu, tồn trữ tính năng càng thêm trở thành mấu chốt.

Hắn cho rằng, sản phẩm trong nước AI chip gấp đãi giải quyết internet cân bằng thiết kế, I/O tử hệ thống cân bằng thiết kế, làm tốt nội tồn thiết kế chờ kỹ thuật năng lực.

Năm gần đây, bao gồm số trời trí tâm, mộc hi, Moore tuyến trình, Baidu Côn Luân tâm chờ một chúng GPU gây dựng sự nghiệp công ty tuyên bố sản phẩm mới cũng đầu nhập lượng sản, nhưng bởi vì phần mềm sinh thái chờ nguyên nhân, mua sắm vẫn chưa khởi lượng, sinh thái xây dựng gấp đãi tăng mạnh. Mà đồng thời, theo đệ nhất kinh tế tài chính đưa tin, cứ việc tính năng trên diện rộng giảm xuống, anh vĩ đạt có hi vọng tương lai mấy tháng nội tại Trung Quốc giao phó vượt qua 100 vạn viên “Trung Quốc đặc cung bản” H20 chip, năm nay chỉnh thể ở Trung Quốc tiêu thụ AI chip tổng ngạch đạt tới ước 120 trăm triệu đôla, mà này đó chip không chịu nước Mỹ đối hoa AI chip xuất khẩu quản chế, mỗi viên H20 chip giá cả tắc vì 1.2 vạn -1.3 vạn Mỹ kim chi gian.

“Nếu đem đại mô hình cơ sở phương tiện cân bằng thiết kế này đó phương diện làm tốt, người khác dùng 1 vạn trương tạp, chúng ta dùng 9000 trương tạp là được. Nếu chuyện này không suy xét, loạn làm một hồi, nhân gia 1 vạn khối tạp, ngươi khả năng đến 3 vạn khối tạp mới có thể đạt tới ( cùng loại ) hiệu quả.” Trịnh vĩ dân ở diễn thuyết kết cục tỏ vẻ.

( bổn văn đầu phát với thái truyền thông App, tác giả ｜ lâm chí giai, biên tập ｜ hồ nhuận phong )