Anh vĩ đạt tân hạch đạn B200 phát bố, nhất đài phục vụ khí đỉnh nhất cá siêu toán, AI thôi lý 30 bội gia tốc

Văn chương lai nguyên: Lượng tử vị trách nhậm biên tập: wulihong Biên tập: Thương thành chúng võng Phát biểu thời gian: 2024 niên 03 nguyệt 21 nhật 0

AI xuân vãn GTC khai mạc, bì y lão hoàng tái thứ nhiên bạo toàn tràng.

Thời cách lưỡng niên, anh vĩ đạt quan tuyên tân nhất đạiBlackwell giá cấu,Định vị trực chỉ “Tân công nghiệp cách mệnh đích dẫn kình”, “Bả AI khoách triển đáo vạn ức tham sổ”.

Tác vi giá cấu canh tân đại niên, bổn thứ đại hội lượng điểm pha đa:

◆ tuyên bố GPU tân hạch đạn B200, siêu cấp tâm phiến GB200

Blackwell giá cấu tân phục vụ khí, nhất cá cơ quỹ đỉnh nhất cá siêu toán

Thôi xuất AI thôi lý vi phục vụ NIM, yếu tố thế giới AI đích nhập khẩu

Tân quang khắc kỹ thuật cuLitho tiến trú đài tích điện, cải tiến sản năng.……

8 niên thời gian, AI toán lực dĩ tăng trường 1000 bội.

Lão hoàng đoạn ngôn “Gia tốc kế toán đáo đạt liễu lâm giới điểm, thông dụng kế toán dĩ kinh quá thời liễu”.

Ngã môn nhu yếu lánh nhất chủng phương thức lai tiến hành kế toán, giá dạng ngã môn tài năng cú kế tục khoách triển, giá dạng ngã môn tài năng cú kế tục hàng đê kế toán thành bổn, giá dạng ngã môn tài năng cú kế tục tiến hành việt lai việt đa đích kế toán.

Lão hoàng giá thứ chủ đề diễn giảng đề mục vi 《 kiến chứng AI đích biến cách thời khắc 》, đãn bất đắc bất thuyết, anh vĩ đạt tài thị tối đại đích biến cách bổn cách.

GPU đích hình thái dĩ triệt để cải biến

Ngã môn nhu yếu canh đại đích GPU, như quả bất năng canh đại, tựu bả canh đa GPU tổ hợp tại nhất khởi, biến thành canh đại đích hư nghĩ GPU.

Blackwell tân giá cấu ngạnh kiện sản phẩm tuyến đô vi nhiễu giá nhất cú thoại triển khai.

Thông quá tâm phiến, dữ tâm phiến gian đích liên tiếp kỹ thuật, nhất bộ bộ cấu kiến xuất đại hình AI siêu toán tập quần.

4nm chế trình đạt đáo bình cảnh, tựu bả lưỡng cá tâm phiến hợp tại nhất khởi, dĩ 10TB mỗi miểu đích mãn huyết đái khoan hỗ liên, tổ thànhB200 GPU,Tổng kế bao hàm 2080 ức tinh thể quản.

Một thác, B100 hình hào bị khiêu quá liễu, trực tiếp phát bố đích thủ cá GPU tựu thị B200.

Lưỡng cá B200 GPU dữ Grace CPU kết hợp tựu thành viGB200 siêu cấp tâm phiến,Thông quá 900GB/s đích siêu đê công háo NVLink tâm phiến gian hỗ liên kỹ thuật liên tiếp tại nhất khởi.

Lưỡng cá siêu cấp tâm phiến trang đáo chủ bản thượng, thành vi nhất cá Blackwell kế toán tiết điểm.

18 cá giá dạng đích kế toán tiết điểm cộng hữu 36CPU+72GPU, tổ thành canh đại đích “Hư nghĩ GPU”.

Tha môn chi gian do kim thiên tuyên bố đích NVIDIA Quantum-X800 InfiniBand hòa Spectrum™-X800 dĩ thái võng bình đài liên tiếp, khả đề cung tốc độ cao đạt 800Gb/s đích võng lạc.

Tại NVLink Switch chi trì hạ, tối chung thành vi “Tân nhất đại kế toán đan nguyên”GB200 NVL72.

Nhất cá tượng giá dạng đích “Kế toán đan nguyên” cơ quỹ, FP8 tinh độ đích huấn luyện toán lực tựu cao đạt 720PFlops, trực bức H100 thời đại nhất cá DGX SuperPod siêu cấp kế toán cơ tập quần ( 1000 PFlops ).

Dữ tương đồng sổ lượng đích 72 cá H100 tương bỉ, GB200 NVL72 đối vu đại mô hìnhThôi lý tính năng đề thăng cao đạt 30 bội,Thành bổn hòa năng háo hàng đê cao đạt 25 bội.

Bả GB200 NVL72 đương tố đan cá GPU sử dụng, cụ hữu 1.4EFlops đích AI thôi lý toán lực hòa 30TB cao tốc nội tồn.

Tái dụngQuantum InfiniBandGiao hoán cơ liên tiếp, phối hợp tán nhiệt hệ thống tổ thành tân nhất đại DGX SuperPod tập quần.

DGX GB200 SuperPodThải dụng tân hình cao hiệu dịch lãnh cơ giá quy mô giá cấu, tiêu chuẩn phối trí khả tại FP4 tinh độ hạ đề cung 11.5 Exaflops toán lực hòa 240TB cao tốc nội tồn.

Thử ngoại hoàn chi trì tăng gia ngạch ngoại đích cơ giá khoách triển tính năng.

Tối chung thành vi bao hàm 32000 GPU đích phân bố thức siêu toán tập quần.

Lão hoàng trực ngôn, “Anh vĩ đạt DGX AI siêu cấp kế toán cơ, tựu thị AI công nghiệp cách mệnh đích công hán”.

Tương đề cung vô dữ luân bỉ đích quy mô, khả kháo tính, cụ hữu trí năng quản lý hòa toàn sạn đạn tính, dĩ xác bảo bất đoạn đích sử dụng.

Tại diễn giảng trung, lão hoàng hoàn đặc biệt đề đáo 2016 niên tặng tống OpenAI đích DGX-1, na dã thị sử thượng đệ nhất thứ 8 khối GPU liên tại nhất khởi tổ thành nhất cá siêu cấp kế toán cơ.

Tòng thử chi hậu tiện khai khải liễu huấn luyện tối đại mô hình sở nhu toán lực mỗi 6 cá nguyệt phiên nhất bội đích tăng trường chi lộ.

GPU tân hạch đạn GB200

Quá khứ, tại 90 thiên nội huấn luyện nhất cá 1.8 vạn ức tham sổ đích MoE giá cấu GPT mô hình, nhu yếu 8000 cá Hopper giá cấu GPU, 15 triệu ngõa công suất.

Như kim, đồng dạng cấp 90 thiên thời gian, tại Blackwell giá cấu hạChỉ nhu yếu 2000 cá GPU,Dĩ cập 1/4 đích năng nguyên tiêu háo.

Tại tiêu chuẩn đích 1750 ức tham sổ GPT-3 cơ chuẩn trắc thí trung, GB200 đích tính năng thị H100 đích 7 bội, đề cung đích huấn luyện toán lực thị H100 đích 4 bội.

Blackwell giá cấu trừ liễu tâm phiến bổn thân ngoại, hoàn bao hàm đa hạng trọng đại cách tân:

Đệ nhị đại Transformer dẫn kình

Động thái vi thần kinh võng lạc trung đích mỗi cá thần kinh nguyên khải dụng FP6 hòa FP4 tinh độ chi trì.

Đệ ngũ đại NVLink cao tốc hỗ liên

Vi mỗi cá GPU đề cung liễu 1.8TB/s song hướng thôn thổ lượng, xác bảo đa đạt 576 cá GPU chi gian đích vô phùng cao tốc thông tín.

Ras Engine( khả kháo tính, khả dụng tính hòa khả duy hộ tính dẫn kình )

Cơ vu AI đích dự phòng tính duy hộ lai vận hành chẩn đoạn hòa dự trắc khả kháo tính vấn đề.

Secure AI

Tiên tiến đích gia mật kế toán công năng, tại bất ảnh hưởng tính năng đích tình huống hạ bảo hộ AI mô hình hòa khách hộ sổ cư, đối vu y liệu bảo kiện hòa kim dung phục vụ đẳng ẩn tư mẫn cảm hành nghiệp chí quan trọng yếu.

Chuyên dụng giải áp súc dẫn kình

Chi trì tối tân cách thức, gia tốc sổ cư khố tra tuân, dĩ đề cung sổ cư phân tích hòa sổ cư khoa học đích tối cao tính năng.

Tại giá ta kỹ thuật chi trì hạ, nhất cá GB200 NVL72 tựuTối cao chi trì 27 vạn ức tham sổ đích mô hình.

Nhi GPT-4 căn cư tiết lộ sổ cư, dã bất quá chỉ hữu 1.7 vạn ức tham sổ.

Anh vĩ đạt yếu tố thế giới AI đích nhập khẩu

Lão hoàng quan tuyên ai.nvidia.com hiệt diện, yếu tố thế giới AI đích nhập khẩu.

Nhậm hà nhân đô khả dĩ thông quá dịch vu sử dụng đích dụng hộ giới diện thể nghiệm các chủng AI mô hình hòa ứng dụng.

Đồng thời, xí nghiệp sử dụng giá ta phục vụ tại tự kỷ đích bình đài thượng sang kiến hòa bộ thự tự định nghĩa ứng dụng, đồng thời bảo lưu đối kỳ tri thức sản quyền đích hoàn toàn sở hữu quyền hòa khống chế quyền.

Giá thượng diện đích ứng dụng đô do anh vĩ đạt toàn tân thôi xuất đíchAI thôi lý vi phục vụ NIMChi trì, khả đối lai tự anh vĩ đạt cập hợp tác hỏa bạn đích sổ thập cá AI mô hình tiến hành ưu hóa thôi lý.

Thử ngoại, anh vĩ đạt tự kỷ đích khai phát sáo kiện, nhuyễn kiện khố hòa công cụ bao đô khả dĩ tác vi NVIDIA CUDA-X™ vi phục vụ phóng vấn, dụng vu kiểm tác tăng cường sinh thành (RAG), hộ lan, sổ cư xử lý, HPC đẳng.

Bỉ như thông quá giá ta vi phục vụ, khả dĩ khinh tùng cấu kiến cơ vu đại mô hình hòa hướng lượng sổ cư khố đích ChatPDF sản phẩm, thậm chí trí năng thể Agent ứng dụng.

NIM vi phục vụ định giới phi thường trực quan,“Nhất cá GPU nhất tiểu thời nhất mỹ nguyên”,Hoặc niên phó đả ngũ chiết, nhất cá GPU nhất niên 4500 mỹ nguyên.

Tòng thử, anh vĩ đạt NIM hòa CUDA tố vi trung gian xu nữu, liên tiếp liễu bách vạn khai phát giả dữ thượng ức GPU tâm phiến.

Thập ma khái niệm?

Lão hoàng sái xuất AI giới “Tối cường bằng hữu quyển”, bao quát á mã tốn, địch sĩ ni, tam tinh đẳng đại hình xí nghiệp, đô dĩ thành vi anh vĩ đạt hợp tác hỏa bạn.

Tối hậu tổng kết nhất hạ, dữ vãng niên tương bỉ anh vĩ đạt 2024 niênChiến lược canh tụ tiêu AI,Nhi thả sản phẩm canh hữu châm đối tính.

Bỉ như đệ ngũ đại NVLink hoàn đặc ý vi MoE giá cấu đại mô hình ưu hóa thông tấn bình cảnh.

Tân đích tâm phiến hòa nhuyễn kiện phục vụ, đô tại bất đoạn đích cường điều thôi lý toán lực, yếu tiến nhất bộ đả khai AI ứng dụng bộ thự thị tràng.

Đương nhiên tác vi toán lực chi vương, AI tịnh bất thị anh vĩ đạt đích toàn bộ.

Giá thứ đại hội thượng, hoàn đặc biệt tuyên bố liễu dữ bình quả tại Vision Pro phương diện đích hợp tác, nhượng khai phát giả tại công nghiệp nguyên vũ trụ lí cảo không gian kế toán.

Thử tiền thôi xuất đích tân quang khắc kỹ thuật cuLitho nhuyễn kiện khố dã hữu liễu tân tiến triển, bị đài tích điện hòa tân tư khoa kỹ thải dụng, bả xúc thủ thân hướng canh thượng du đích tâm phiến chế tạo thương.

Đương nhiên dã thiếu bất liễu sinh vật y liệu, công nghiệp nguyên vũ trụ, cơ khí nhân khí xa đích tân thành quả.

Dĩ cập bố cục hạ nhất luân kế toán biến cách đích tiền duyên lĩnh vực, anh vĩ đạt thôi xuất vân lượng tử kế toán cơ mô nghĩ vi phục vụ, nhượng toàn cầu khoa học gia đô năng sung phân lợi dụng lượng tử kế toán đích lực lượng, tương tự kỷ đích tưởng pháp biến thành hiện.

One More Thing

Khứ niên GTC đại hội thượng, lão hoàng dữ OpenAI thủ tịch khoa học gia Ilya Sutskever đích lô biên đối đàm, nhưng vi nhân tân tân nhạc đạo.

Đương thời thế giới hoàn một hoàn toàn tòng ChatGPT đích chấn hám trung thanh tỉnh quá lai, OpenAI thị chỉnh cá hành nghiệp tuyệt đối đích chủ giác.

Như kim Ilya bất tri tung ảnh, OpenAI đích thị tràng thống trị lực dã khai thủy tùng động. Tại giá cá tiết cốt nhãn thượng, hữu tư cách dữ lão hoàng đối đàm đích nhân hoán thành liễu 8 vị ——

Transformer bát tử, khai sơn luận văn 《Attention is all you need》 đích bát vị tác giả.

Tha môn lục lục tục tục dĩ kinh tất sổ ly khai cốc ca, kỳ trung 7 vị đầu thân AI sang nghiệp, hữu mô hình tằng dã hữu ứng dụng tằng, hữu toB dã hữu toC.

Giá bát vị truyện kỳ nhân vật kí tượng chinh trứ đại mô hình kỹ thuật chân chính đích khởi nguyên, hựu đại biểu trứ hiện tại bách hoa tề phóng đích AI sản nghiệp đồ cảnh. Tại giá dạng đích cách cục trung, OpenAI bất quá thị kỳ trung nhất vị ngoạn gia.

Nhi tựu tại lưỡng thiên hậu, lão hoàng tương bả tha môn tụ tề, tại tự kỷ đích chủ tràng.

Yếu luận tại chỉnh cá AI giới đích ảnh hưởng lực, hào triệu lực, tạiGiá nhất khắc, vô luận thị “Cương thiết hiệp” mã tư khắc hoàn thị “Áo đặc mạn” Sam Altman, khủng phạ đô bỉ bất quá nhãn tiền giá vị “Bì y khách” hoàng nhân huân.

( đồ phiến chuyển tái chí võng lạc, như quả nguyên tác giả phát hiện đồ phiến đích sử dụng bất phù hợp bổn nhân ý nguyện, thỉnh liên hệ bổn trạm tác giả hoặc khách phục, tương đệ nhất thời gian san trừ xử lý )

[ miễn trách thanh minh: Bổn văn chúc vu võng lạc chuyển tái, kỳ nội dung hòa chuẩn xác tính do tín tức phát bố đích nguyên đan vị hoặc tổ chức độc lập thừa đam hoàn toàn trách nhậm, bất đại biểu bổn bình đài đích quan điểm hòa lập tràng; văn trung thiệp cập đích đồ phiến đẳng nội dung như hữu xâm quyền, thỉnh tiền vãng bổn trạm hữu trắc lan đích “Ý kiến phản quỹ” tiến hành cử báo, nhất kinh tra thật, bổn trạm tương lập khắc san trừ. ]
Phân hưởng:
Thử văn tiêu thiêm: Anh vĩ đạt, AI
  • Thôi tiến phẩm bài tư tấn
  • Tối tân phẩm bài tư tấn
  • Nguyệt bảng

Xúc tiêu hoạt động Ưu huệ khoán Canh đa >

Đăng lục hậu, thông quá thương thành chúng võng khứQuan phương thương thành,Cấu mãi nã phản lợi, đắc tích phân

Hạ đan phó khoản hậu thập phân chung nội, nâm khả dĩ tại thương thành chúng võng đích cá nhân trung tâm tra khán đính đan tín tức

  • Đăng lục thương thành chúng võng
  • Khứ hợp tác thương gia cấu mãi
  • Hồi thương thành chúng võng nã phản lợi tích phân