Bạn có thể chuyển sang phiên bản mobile rút gọn của Tri thức trực tuyến nếu mạng chậm. Đóng

Lời giải cho người muốn tự lắp máy làm AI

Máy chuyên dụng, phục vụ cho việc huấn luyện AI của người dùng cá nhân được đánh giá là tương lai mới của ngành PC.

Dữ liệu từ công ty nghiên cứu thị trường IDC cho thấy lô hàng máy tính cá nhân có tính năng AI tăng trưởng mạnh trong vài năm tới. Thị phần loại sản phẩm này sẽ tăng lên 60% vào 2027, đạt khoảng 167 triệu máy so với 40 triệu của 2024.

Tuy nhiên, giải pháp đầu cuối hiện vẫn tập trung ở laptop Copilus+ PC với những tác vụ tạo sinh cơ bản. Lĩnh vực cho doanh nghiệp hoặc cá nhân muốn tự phát triển AI phục vụ nhu cầu hẹp vẫn thiếu vắng lựa chọn.

Máy để bàn train AI

Trong khuôn khổ Computex 2024 tại Đài Bắc (Đài Loan), hãng công nghệ Gigabyte công bố bộ giải pháp training trí tuệ nhân tạo local (tại máy). Công ty gọi đây là sản phẩm AI TOP. Dải thiết bị sẽ được phát triển song song với linh kiện Aorus (cho gaming) và Aero (người làm sáng tạo).

Trung tâm của hệ sinh thái này là các bo mạch chủ mới, được trang bị nhiều khe cắm PCIe 5.0. Nhờ vậy, người dùng có thể gắn thêm rất nhiều card đồ họa chuyên dụng cho mục đích training AI hiệu suất cao. Đi kèm với đó là phiên bản card đồ họa NVIDIA 4070 Ti Super phiên bản AI TOP. Đây vốn là dòng GPU chuyên game, nhưng được cộng đồng phát triển AI đơn lẻ đánh giá cao để training model.

Dòng mới có kiểu thiết kế đơn giản, thay vì các loại quạt lớn và thiết kế hầm hố. Kích thước cơ bản của sản phẩm bằng một nửa card gaming cùng model. Trên bo mạch, vị trí vốn gắn được một GPU sẽ tích hợp được hai linh kiện AI TOP.

Thiết kế giải quyết vấn đề cồng kềnh của các bộ máy phát triển trí tuệ nhân tạo từ linh kiện không chuyên dụng. Nhà sản xuất cho hiệu năng của bộ thiết bị này vẫn được đảm bảo dù không chiếm nhiều diện tích, nhờ giải pháp đối lưu dòng khí trong cây máy tính.

Ngoài các bộ phận hiện có, những thành phần khác của máy tính như nguồn, SSD cũng sẽ có phiên bản dành riêng cho tác vụ AI.

Đi kèm với sản phẩm phần cứng, nhà sản xuất ra mắt thêm công cụ AI TOP Utility. Đây là phần mềm hỗ trợ training mô hình ngôn ngữ lớn tại chỗ. Tại phòng trưng bày, Gigabyte thử nghiệm với đầu vào là LLM mã nguồn mở Llama 3 8B của Meta. Nguồn cấp dữ liệu là của doanh nghiệp. Trong app, người dùng có thể chọn sử dụng VRAM, DRAM hoặc cả SSD để hỗ trợ việc phát triển LLM.

may training AI anh 5

Phần mềm AI TOP Utility đơn giản hóa việc huấn luyện AI trên máy bàn. Ảnh: Xuân Sang.

Lợi thế của giải pháp là phần mềm trực quan, dễ sử dụng với cá người dùng có ít kinh nghiệm lập trình AI hoặc nhân viên IT của doanh nghiệp nhỏ. Mô hình ngôn ngữ sau khi được phát triển có thể trích xuất sử dụng trên thiết bị khác.

Chia sẻ với Tri thức - Znews, chuyên viên kỹ thuật của Gigabyte cho biết phần AI TOP Utility hiện chỉ hỗ trợ hệ điều hành Linux, cho việc phát triển LLM. Trong tương lai, các ứng dụng liên quan đến hình ảnh, video, âm thanh cũng sẽ được hỗ trợ.

Xu hướng tự phát triển AI

Ông Eddie Lin, CEO Tập đoàn Gigabyte cho rằng xu hướng chung của ngành AI trong tương lai gần là chuyển từ dịch vụ đám mây có sẵn sang máy tính cá nhân người dùng. Theo các chuyên gia, việc sử dụng công cụ có sẵn vẫn tồn tại nhiều điểm trừ.

may training AI anh 6

Máy chủ AI dùng card chuyên dụng, hệ thống phức tạp để vận hành. Ảnh: Gizmodo.

Trong số đó, vấn đề chi phí cùng khả năng bảo mật là được dự báo là động lực chính giúp sản phẩm “local AI” phát triển. Người dùng, doanh nghiệp cần trả phí dựa trên số token sử dụng qua API của các công cụ từ Google, Microsoft hoặc OpenAI. Đồng thời, dữ liệu khi trao đổi qua hệ thống cũng tiềm ẩn nguy cơ bảo mật khi nằm trên máy chủ bên thứ 3.

Do vậy, những giải pháp làm việc “tại chỗ” sẽ dần được ưa chuộng trong thời gian tới, với các mô hình hẹp hơn, phục vụ nhu cầu hẹp hơn của doanh nghiệp nhỏ và người dùng cá nhân.

Tuy nhiên, việc tự lắp ráp một bộ máy chuyên dụng cho mục đích AI vẫn tương đối khó khăn tại Việt Nam. Đa số người dùng tìm kiếm các lựa chọn linh kiện gaming để thay thế, tìm cách tối ưu cho tác vụ này. Việc này khiến sản phẩm không được dùng đúng mục đích ban đầu, có rủi ro về độ bền, hiệu suất.

Do vậy, những giải pháp được đóng gói trọn bộ, gồm cả phần cứng, công cụ ứng dụng được xem là tương lai của AI Local.

Dùng ChatGPT thế nào để không tạo ra nội dung vô tri

Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.

Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.

Mất gần 15 tỷ vì cá cược trên mạng

Nghe lời đối tượng tự xưng kỹ sư phần mềm, người phụ nữ tại Quảng Ninh bị lừa số tiền lớn vì tham gia cá cược trên Internet.

Tấm gương một chiều bị biến tướng

Gương một chiều, vốn được sử dụng cho các phòng thẩm vấn, dần bị biến tướng và dùng cho những mục đích xấu hơn.

Website của Real Madrid bị sập vì công bố Mbappe

Hợp đồng bom tấn đầu tiên của mùa hè được công bố chỉ ít ngày sau khi Real Madrid có danh hiệu Champions League thứ 15 trong lịch sử câu lạc bộ.

ChatGPT sap co nang cap lon hinh anh

ChatGPT sắp có nâng cấp lớn

0

OpenAI cho biết họ sẽ cho ra mắt một hệ thống trí tuệ nhân tạo mới với mục đích kế nhiệm GPT-4. Công ty cũng thành lập đơn vị an toàn để giải quyết các rủi ro về AI.

Xuân Sang

Bạn có thể quan tâm