Bạn có thể chuyển sang phiên bản mobile rút gọn của Tri thức trực tuyến nếu mạng chậm. Đóng

Bên trong 'siêu máy tính' huấn luyện AI của Nvidia

Hệ thống máy chủ của Nvidia gồm hàng trăm GPU, phục vụ huấn luyện các mô hình trí tuệ nhân tạo phức tạp.

Nvidia DGX H100 AI anh 1

Theo WSJ, hệ thống huấn luyện trí tuệ nhân tạo (AI) được Nvidia bán cho các trung tâm dữ liệu lớn. Ví dụ, tủ máy chủ DGX H100 có kích thước tương đương thùng container, chứa 32 hộp chip DGX nhỏ hơn.

Nvidia DGX H100 AI anh 2

Phía sau tủ máy chủ là hệ thống cáp mạng và những thiết bị giúp tăng tốc độ truyền dữ liệu. Khác với chip máy tính thông thường chỉ thực hiện một tác vụ mỗi lúc (xử lý tuần tự), GPU có thể làm nhiều phép tính cùng lúc (xử lý song song). Ban đầu được thiết kế giúp cải thiện đồ họa game, GPU dần được sử dụng rộng rãi cho AI từ năm 2012.

Nvidia DGX H100 AI anh 3

Mỗi hộp DGX con nặng khoảng 136 kg, chứa các thành phần như bộ xử lý đồ họa (GPU), module mạng tốc độ cao để kết nối GPU đến những thành phần khác trong máy chủ.

Nvidia DGX H100 AI anh 4

Có 8 GPU H100 trong mỗi hộp DGX, bên cạnh hệ thống tản nhiệt và một số thành phần bổ sung. Chúng bao gồm 2 CPU Intel Xeon, 2 ổ cứng SSD 1,92 TB cho hệ điều hành, 8 ổ cứng 3,84 TB cho bộ nhớ đệm (cache), 32 thanh RAM (tổng dung lượng 2 TB)…

Nvidia DGX H100 AI anh 5

Được sản xuất bằng robot trong các nhà máy tự động tại Đài Loan, GPU H100 trị giá khoảng 25.000 USD/chiếc. Có thể cầm trên lòng bàn tay, mỗi GPU chứa 80 tỷ bóng bán dẫn cho những tác vụ tính toán phức tạp. Do giá trị cao, công ty mạng Cisco Systems từng dùng xe bọc thép để vận chuyển các GPU đặt từ Nvidia.

Nvidia DGX H100 AI anh 6

Theo Nvidia, các hệ thống này trở thành công cụ quan trọng cho sự bùng nổ của AI nhờ phần cứng mạnh và phần mềm tối ưu. Công ty công nghệ sử dụng những máy chủ này cho trung tâm dữ liệu để huấn luyện mô hình AI. Nhu cầu mua GPU cao giúp doanh thu của Nvidia tăng vọt trong thời gian gần đây.

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.

Cuốn sách Thời đại AI - Và tương lai loài người chúng ta trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.

Lý do Elon Musk quay lưng với 'cha đẻ' của ChatGPT

Cuộc đua AI khiến những người từng góp sức xây dựng OpenAI không thể hợp tác, dẫn tới kiện tụng.

Mỹ bắt cựu kỹ sư Google vì trộm bí mật AI

Một kỹ sư bị cáo buộc đánh cắp bí mật thương mại của Google nhằm sử dụng chúng để thành lập công ty AI của riêng mình ở Trung Quốc.

Sự trỗi dậy của deepfake

Khi các công cụ AI dần cải tiến và dễ tiếp cận, deepfake ngày càng bị lợi dụng để lừa đảo và phát tán tin giả.

Phúc Thịnh

Ảnh: WSJ

Bạn có thể quan tâm