 |
Trọng tâm của những đổi mới về AI từ Samsung chính là AI trên thiết bị (on-device AI). Công nghệ này cho phép AI hoạt động độc lập trong thiết bị mà không cần máy chủ hoặc điện toán đám mây, giúp người dùng nhận được phản hồi nhanh chóng, không phụ thuộc vào kết nối mạng, đồng thời giảm thiểu lo ngại về rò rỉ dữ liệu cá nhân.
AI trên thiết bị đã phát triển vượt ra ngoài các chức năng đơn giản nhằm xử lý những yêu cầu đòi hỏi lượng dữ liệu khổng lồ - chẳng hạn như AI tạo sinh - chỉ sử dụng những tài nguyên bên trong của thiết bị.
Thay đổi cách trải nghiệm AI trên thiết bị
Với yêu cầu về tốc độ và bảo mật, phần lớn ngành công nghệ đã tập trung chạy AI tạo sinh phức tạp trong môi trường trên thiết bị. Với những khoản đầu tư dài hạn bắt đầu từ hơn một thập kỷ trước, Samsung đã tùy chỉnh các tính năng AI cho nhiều thiết bị của mình, đồng thời định vị vị thế dẫn đầu trong việc cung cấp trải nghiệm AI trên thiết bị cho cuộc sống hàng ngày.
 |
| Trọng tâm của những đổi mới về AI từ Samsung chính là AI trên thiết bị. Ảnh minh họa. |
Đơn cử, Galaxy AI của Samsung cung cấp các tính năng tích hợp trong thiết bị cho những dòng sản phẩm thiết bị di động và máy tính bảng mới nhất. Hỗ trợ tổng cộng 20 ngôn ngữ tính đến hiện tại, Galaxy AI giúp người dùng vượt qua rào cản trong giao tiếp với khả năng phiên dịch cuộc trò chuyện theo thời gian thực, cũng như dịch tin nhắn và website.
Đối với TV, Samsung tận dụng vị thế dẫn đầu thị trường toàn cầu để huấn luyện các mô hình AI tiên tiến. Từ năm 2020, hãng đã liên tục cải tiến bộ xử lý dành riêng cho TV với NPU tích hợp (đơn vị xử lý thần kinh). Bộ xử lý NQ8 AI thế hệ 3 trên mẫu Neo QLED 8K 2024 có 512 mạng nơ-ron giúp nâng cao chất lượng hình ảnh và âm thanh. Bộ xử lý này phân tích và tinh chỉnh các điểm ảnh, khung hình cũng như nguồn âm thanh, mang lại khả năng nâng cấp vượt trội, chuyển động mượt mà, lời thoại rõ ràng, cho trải nghiệm nghe nhìn liền mạch trong mọi tình huống.
Chìa khóa của AI trên thiết bị là giảm thiểu kích thước mô hình trong khi vẫn duy trì hiệu suất. Để đạt được điều này, Samsung đã tập trung vào việc triển khai hiệu quả, đồng thời sử dụng dữ liệu huấn luyện AI chuyên biệt được điều chỉnh cho các tác vụ cụ thể.
Nghiên cứu tối ưu hóa AI của Samsung
Khi công nghệ AI phát triển và yêu cầu xử lý dữ liệu ngày càng tăng, việc tối ưu hóa mô hình trở nên đặc biệt quan trọng. Nói cách khác, các mô hình AI hiệu suất cao cần hoạt động hiệu quả với lượng tài nguyên giới hạn trên thiết bị - gồm bộ xử lý, bộ nhớ và pin - nhưng vẫn phải duy trì hiệu suất và độ tin cậy để sử dụng hàng ngày. Công nghệ chính cho quy trình này bao gồm nén mô hình, tối ưu hóa phần cứng và tăng tốc xử lý dữ liệu.
Samsung đã nắm trong tay nhiều công nghệ trong lĩnh vực nén mô hình nhằm giảm kích thước của các mô hình AI. Công ty phát triển những mô hình AI nhẹ và nhanh thông qua nhiều kỹ thuật như lượng tử hóa giúp tăng tốc độ phản hồi bằng cách đơn giản hóa các thuật toán và tối ưu hóa các quy trình tính toán; cắt tỉa, loại bỏ các yếu tố không cần thiết của một mô hình lớn hơn; chắt lọc, chuyển giao kiến thức từ các mô hình lớn sang các mô hình nhỏ hơn.
Samsung cũng liên tục đổi mới trong công cuộc tối ưu hóa phần cứng và tăng tốc xử lý dữ liệu để chạy AI nhanh chóng, hiệu quả. Ví dụ, công nghệ sử dụng bộ nhớ flash phân vùng các mô hình AI lớn và giảm đáng kể việc sử dụng bộ nhớ. Ngoài ra, công ty còn phát triển công nghệ đã được cấp bằng sáng chế, dự kiến hỗ trợ suy luận nhanh trên các thiết bị cấp thấp không có NPU, mở rộng ứng dụng AI trên nhiều sản phẩm. Samsung đang tiến hành nghiên cứu sâu hơn nhằm tăng tốc độ suy luận với giải mã giả định - công nghệ dự đoán kết quả mô hình AI và tăng cường sức mạnh tính toán bằng cách chạy nhiều phần cứng cùng lúc.
 |
| Quy trình chắt lọc và cô đọng kiến thức. |
Từ phát triển nội bộ đến triển khai toàn diện
Với chuyên môn trải dài từ phần cứng, phần mềm, linh kiện đến sản phẩm cuối, Samsung đang dẫn đầu trong việc đổi mới AI trên thiết bị từ bước nghiên cứu, phát triển đến triển khai sản phẩm.
Song song đó, vị thế dẫn đầu thị trường của Samsung trong lĩnh vực thiết bị di động, TV, đồ gia dụng và nhiều sản phẩm khác cũng thể hiện sự xuất sắc trong cả phần cứng lẫn phần mềm. Samsung tích hợp AI vào chính những thiết bị của mình, cho phép công ty tận dụng cả quá trình phát triển nội bộ và hợp tác mở với nhiều đối tác trong ngành, hướng đến xây dựng các mô hình AI được tối ưu hóa cho phần cứng.
Samsung không chỉ dẫn đầu về phần cứng, mà còn sở hữu chuyên môn cao trong phát triển phần mềm hệ thống, kết nối liền mạch giữa phần cứng và ứng dụng. Điển hình như hệ điều hành Tizen và NPU tích hợp trên TV Samsung, hỗ trợ công nghệ AI tích hợp trực tiếp trên thiết bị, mang lại trải nghiệm xem thông minh hơn và vượt trội hơn. Bên cạnh đó, Samsung còn cung cấp các bộ công cụ Vision AI và Language AI SDKs, cùng những API học máy, giúp nhà phát triển dễ dàng huấn luyện, triển khai các mô hình AI.
 |
| Samsung giới thiệu trải nghiệm AI TV mới tại Hội nghị Nhà phát triển Samsung 2024 vào tháng 10. |
Samsung Research - trung tâm nghiên cứu và phát triển (R&D) tiên tiến của công ty - đang tập trung vào việc nâng cao tính cạnh tranh bằng cách sử dụng kiến thức chuyên môn từ mạng lưới phòng thí nghiệm toàn cầu - từ phát triển cấu trúc mô hình AI và nén mô hình ở Anh và Mỹ, đến tạo ra các giải pháp tăng tốc AI tại Ấn Độ và Ba Lan.
Từ góc độ linh kiện, Samsung đã không ngừng thúc đẩy tiến bộ về hiệu suất của NPU với tư cách là nhà sản xuất chất bán dẫn hàng đầu; lên kế hoạch tiếp tục hợp tác các đối tác để phát triển những cách thức mới trong việc sử dụng công nghệ AI trên thiết bị.
Với khả năng AI trên thiết bị dự kiến mở rộng trên nhiều sản phẩm và dịch vụ hơn, Samsung đang tiên phong trong những thay đổi đột phá, chứng kiến công nghệ AI biến đổi cuộc sống hàng ngày.
