H100, linh kiện có kích thước bằng một phong thư do Nvidia sản xuất, luôn trong tình trạng cháy hàng dù giá lên tới 40.000 USD (gần một tỷ đồng). Nvidia H100 là chip đồ họa GPU mạnh nhất hiện có trên thị trường, đồng thời cũng có mức giá đắt đỏ nhất. Thông số kỹ thuật cho thấy nó mạnh gấp ba lần bản tiền nhiệm A100, nhưng chi phí vận hành chỉ bằng 1,5-2 lần. Jensen Huang, CEO Nvidia, mô tả đây là "hệ thống đầu tiên trên thế giới được thiết kế cho siêu AI". Trong việc huấn luyện AI, GPU chiếm ưu thế so với CPU nhờ khả năng tiến hành song song hàng loạt tính toán. Emad Mostaque, CEO Stability AI, đánh giá H100 đã giải quyết bài toán đẩy nhanh quá trình đào tạo mô hình ngôn ngữ lớn (LLM), giúp giảm bớt khó khăn cho các công ty trong lĩnh vực trí tuệ nhân tạo. Sự bùng nổ bất ngờ của AI đã đưa Nvidia vào nhóm doanh nghiệp trị giá nghìn tỷ USD, nhưng cũng khiến mẫu chip đồ họa hiệu suất cao trở nên khan hiếm. "Đó là một trong những nguồn tài nguyên kỹ thuật số hiếm nhất hành tinh", Brannin McBee, nhà sáng lập công ty cơ sở hạ tầng đám mây CoreWeave, nhận định. Còn theo Telegraph, "ngay cả khi có tiền, bạn phải là người may mắn mới có thể sở hữu một chiếc". Chip đồ họa của Nvidia. Ảnh: Reuters Nhiều quốc gia và các ông lớn trong ngành công nghệ đang muốn thu thập H100 nhiều nhất có thể. Với sự nở rộ của AI tạo sinh, GPU hiệu năng cao như H100 trở thành công cụ để xây dựng mô hình LLM - cốt lõi của ứng dụng chatbot AI. Hiện chỉ có Nvidia đủ khả năng sản xuất GPU mạnh như H100, do đó họ toàn quyền quyết định sản lượng trên thị trường. Thống kê cho thấy các đơn vị chuyên về AI đang dẫn đầu về nhu cầu GPU. Tỷ phú Elon Musk dự đoán OpenAI, nhà phát triển ChatGPT, sẽ mua 30.000-50.000 chip để vận hành GPT-5. Vào tháng 2, nhóm phân tích Morgan Stanley cũng cho rằng GPT-5 cần đến 25.000 mẫu H100. OpenAI không đưa ra con số cụ thể, nhưng CEO Sam Altman khẳng định công ty vẫn thiếu chip đồ họa dù đã có hàng chục nghìn A100 cho GPT-4. Inflection AI, dự án khởi nghiệp được rót vốn bởi Microsoft và Nvidia, nói đã mua 22.000 GPU H100 để xây dựng trung tâm AI của riêng mình, trong khi Meta muốn hơn 100.000 GPU H100 trong tương lai. Nhóm công ty điện toán đám mây cũng thuộc danh sách sở hữu nhiều chip thế hệ mới, trung bình mỗi đơn vị mua 30.000 GPU của Nvidia. Trong đó, Google Cloud Platform mua 26.000 chiếc H100, Microsoft Azure mua 10.000-40.000, Amazon Web Service đặt hàng 20.000 chiếc và CoreWeave muốn có 35.000-40.000 chiếc. Các doanh nghiệp công nghệ hoặc tổ chức nhỏ thường đặt hàng dưới 10.000 GPU, ví dụ Đại học Kaust tại Arab Saudi vừa mua 3.000 H100 với giá trị tổng cộng 120 triệu USD, hạn giao hàng cuối 2023. Một số chuyên gia ước tính doanh số H100 trên toàn cầu đạt hơn 430.000 chiếc trong năm nay, trị giá tương đương 15 tỷ USD. Thống kê này chưa bao gồm sở hữu từ ByteDance, Baidu hay Tencent - những công ty lớn tại Trung Quốc bị ảnh hưởng từ luật cấm xuất khẩu chip của Tổng thống Mỹ Joe Biden. Trong khi đó, Financial Times cho rằng lượng H100 mà Nvidia thực tế sản xuất năm nay đạt 550.000 chiếc và đã được đặt mua hết. Trả lời WSJ vào tháng 5, Elon Musk nói việc tìm mua GPU thậm chí "khó hơn so với chất gây nghiện". Một số khách hàng phải đợi sáu tháng để nhận H100. Ian Buck, người đứng đầu bộ phận kinh doanh của Nvidia, cho biết nhiệm vụ khó khăn nhất của công ty là tăng nguồn cung H100 nhằm đáp ứng khách hàng. "Nhu cầu thị trường rất lớn. Nhiều đơn vị đang đặt mua hàng chục nghìn GPU", ông nói. Hoàng Giang Adblock test (Why?)Theo Trang Công Nghệ
