IT nhà6 nguyệt 27 ngày tin tức, khoa học kỹ thuật blog Chips and CheeseVới 6 nguyệt 25 ngày tuyên bố bác văn,Kỹ càng tỉ mỉ thí nghiệm AMD MI300X GPU,Cũng ở cao tốc hoãn tồn, lùi lại, trinh thám chờ phương diện đối lập sau phát hiện, tính năng viễn siêu anh vĩ đạt H100.
MI300X tóm tắt
AMD Instinct MI300X trí tuệ nhân tạo máy gia tốc căn cứ vào CDNA 3 giá cấu chế tạo, chọn dùng hỗn hợp 5nm cùng 6nm chế trình công nghệ, nhiều nhất có được 1530 trăm triệu bóng bán dẫn.
Tồn trữ phương diện cũng đạt được thật lớn tăng lên, MI300X HBM3 dung lượng so thượng một thế hệ MI250X (128 GB) cao hơn 50%.
Cùng anh vĩ đạt H100 so sánh với, MI300X có được dưới ưu thế:
Nội tồn dung lượng cao hơn 2.4 lần
Nội tồn giải thông cao hơn 1.6 lần
FP8 tính năng (TFLOPS) cao hơn 1.3 lần
FP16 tính năng (TFLOPS) cao hơn 1.3 lần
Ở 1v1 đối lập thí nghiệm trung, tính năng phương diện nhưng dẫn đầu H100 (Llama 2 70B) nhiều nhất 20%
Ở 1v1 đối lập thí nghiệm trung, tính năng phương diện nhưng dẫn đầu H100 (FlashAttention 2) nhiều nhất 20%
Ở 8v8 server đối lập thí nghiệm trung, tính năng phương diện nhưng dẫn đầu H100 (Llama 2 70B) nhiều nhất 40%
Ở 8v8 server đối lập thí nghiệm trung, tính năng phương diện nhưng dẫn đầu H100 (Bloom 176B) nhiều nhất 60%
Cao tốc hoãn tồn
AMD MI300X trang bị 32KB L1 hoãn tồn, 16KB đại lượng vô hướng hoãn tồn, 4MB L2 hoãn tồn cùng một cái thật lớn 256MB Infinity Cache ( làm L3 hoãn tồn ).
hips and Cheese hoãn tồn tiêu chuẩn cơ bản thí nghiệm cho thấy, ở sở hữu tương quan hoãn tồn cấp bậc trung, MI300X hoãn tồn giải thông đều đại đại trội hơn Nvidia H100.
Một bậc hoãn tồn tính năng biểu hiện MI300X giải thông là H100 1.6 lần, nhị cấp hoãn tồn giải thông là H100 3.49 lần, MI300X cuối cùng một bậc hoãn tồn ( tức vô hạn hoãn tồn ) giải thông là H100 3.12 lần.
Hiện tồn giải thông
AMD GPU bản địa HBM3 nội tồn là H100 PCIe 2.72 lần, VRAM giải thông là H100 PCIe 2.66 lần.
Ở bên trong tồn thí nghiệm trung, AMD GPU duy nhất thất lợi địa phương là nội tồn lùi lại kết quả, H100 so AMD GPU mau 57%.
Thỉnh chú ý, đây là thấp nhất quy cách H100 PCIe hiện tạp, có được 80GB HBM2E. Kế tiếp phiên bản ( như H200 ) bao hàm cao tới 141GB HBM3E, giải thông tối cao có thể đạt tới 4.8 TB / s.
Raw phun ra nuốt vào lượng
Chips and Cheese mệnh lệnh phun ra nuốt vào lượng kết quả suy xét INT32, FP32, FP16 cùng INT8 tính toán.
AMD chip mệnh lệnh phun ra nuốt vào lượng cao đến thái quá. Có khi, MI300X so H100 mau 5 lần, kém cỏi nhất khi cũng mau 40%.
Trí tuệ nhân tạo trinh thám thí nghiệm
IT nhà phụ thượngNguyên văn địa chỉ,Cảm thấy hứng thú người dùng có thể thâm nhập đọc.
Quảng cáo thanh minh: Văn ở trong chứa có đối ngoại nhảy chuyển liên tiếp ( bao gồm không giới hạn trong siêu liên tiếp, mã QR, khẩu lệnh chờ hình thức ), dùng cho truyền lại càng nhiều tin tức, tiết kiệm chân tuyển thời gian, kết quả chỉ cung tham khảo, IT nhà sở hữu văn chương đều bao hàm bổn thanh minh.