AI trong logistics: Tối ưu hóa quy trình và giảm chi phí.

Ngày 2 tháng 9, Elon Musk đã thông báo rằng đội ngũ của công ty AI xAI của ông đã triển khai một cụm máy tính được gọi là “Colossus”, với tổng cộng 100.000 GPU NVIDIA H100. Theo lời của Musk, đội ngũ của ông đã mất 122 ngày để hoàn thành quá trình triển khai Colossus. Điều này thật ấn tượng khi xem xét rằng xAI mới chỉ chọn Memphis làm địa điểm vào tháng 6.

Trong những tháng tới, quy mô của Colossus sẽ mở rộng gấp đôi lên 200.000 GPU, trong đó có 50.000 GPU H200 tiên tiến hơn. Một người dùng X đã chỉ ra rằng quy mô thực tế của phát triển này vượt qua tất cả các mô hình chính được công bố trước đây. So sánh với mô hình mạnh nhất của OpenAI, nó chỉ sử dụng 80.000 GPU.

GPU NVIDIA H200, mặc dù không còn là sản phẩm mới nhất trên thị trường (đã bị vượt qua bởi chip Blackwell được ra mắt vào tháng 3 năm 2024), vẫn có bộ nhớ HBM3E 141GB và băng thông 4.8 TB/s. Trong khi đó, chip Blackwell có dung lượng tối đa cao hơn 36.2% và băng thông tổng cộng cao hơn 66.7%.

NVIDIA đã gửi lời chúc mừng đến Musk và đội ngũ xAI vì đã triển khai Colossus, đồng thời nhấn mạnh rằng Colossus sẽ là sản phẩm hiệu suất mạnh mẽ nhất và sẽ có sự cải thiện đáng kể về hiệu quả năng lượng.

Cathie Wood, Giám đốc điều hành của công ty đầu tư mạo hiểm ARK Invest, cũng đã chúc mừng nhóm đã đạt được thành tựu này, gọi đó là “ấn tượng” và cho biết sẽ có thêm thông báo quan trọng trong tương lai.

Trở lại vào tháng 4 năm 2023, có nhiều báo cáo cho thấy Musk đang mua một số lượng lớn GPU, với một số nguồn tin cho biết ông dự định mua đến gần 10.000 GPU để thúc đẩy dự án xAI của mình. Hiện tại, trong cơn sốt AI hiện nay, nhiều công ty công nghệ hàng đầu như Microsoft, Google, và Amazon đều đang cạnh tranh để mua GPU Hopper series của NVIDIA, giống như Musk.

Cụm máy tính Memphis sẽ chủ yếu được sử dụng để huấn luyện Grok-3 của Musk. Ông nói rằng họ hy vọng sẽ ra mắt Grok-3 vào tháng 12 và khi đó, Grok-3 sẽ trở thành AI mạnh nhất thế giới. Phiên bản thử nghiệm ban đầu của Grok-2 đã được tung ra cho người dùng vào tháng trước.

### Từ khóa:
– AI
– NVIDIA
– Grok
– GPU
– Colossus