Khi AI ngày càng phát triển và chuyển dần từ đám mây sang trên thiết bị, chính xác thì người ta cần biết làm thế nào để nhận ra rằng liệu các máy tính xách tay mới sẽ chạy một ứng dụng được hỗ trợ bởi AI nhanh hơn so với máy tính xách tay có sẵn của đối thủ – hay máy tính để bàn hay tất cả hay không? Điều đó có nghĩa là cho phép người dùng có thể nhận biết được sự khác biệt giữa việc chờ vài giây để tạo hình ảnh so với vài phút – và như người ta nói, thời gian là tiền bạc.
MLCommons, tập đoàn chuyên nghiên cứu và xây dựng các tiêu chuẩn đo điểm chuẩn phần cứng liên quan đến AI , đang muốn giúp việc so sánh dễ dàng hơn bằng việc ra mắt các điểm chuẩn hiệu suất nhắm vào “hệ thống khách hàng” người dùng cuối – tức là PC tiêu dùng.
Hôm nay, MLCommons đã công bố thành lập một nhóm làm việc mới, MLPerf Client, với mục tiêu là thiết lập các tiêu chuẩn AI cho máy tính để bàn, máy tính xách tay và máy trạm chạy Windows, Linux và các hệ điều hành khác. MLCommons hứa hẹn rằng các điểm chuẩn AI sẽ “theo kịch bản”, tập trung vào các trường hợp sử dụng thực tế của người dùng cuối và “dựa trên phản hồi từ cộng đồng”.
Để đạt được mục tiêu đó, điểm chuẩn AI đầu tiên của MLPerf Client sẽ tập trung vào các mô hình tạo văn bản, cụ thể là Llama 2 của Meta , mà giám đốc điều hành MLCommons, David Kanter lưu ý, đã được tích hợp vào các bộ điểm chuẩn khác của MLCommons cho phần cứng trung tâm dữ liệu. Meta cũng đã thực hiện nhiều công việc về Llama 2 với Qualcomm và Microsoft để tối ưu hóa Llama 2 cho Windows — mang lại nhiều lợi ích cho các thiết bị chạy Windows.
Kanter cho biết trong một thông cáo báo chí: “Đã đến lúc đưa MLPerf đến các hệ thống khách hàng, vì AI đang trở thành một phần được mong đợi của điện toán ở mọi nơi”. “Chúng tôi mong muốn được hợp tác với các thành viên của mình để mang các giá trị của MLPerf vào hệ thống khách hàng và thúc đẩy các khả năng mới cho cộng đồng rộng lớn hơn.”
Các thành viên của nhóm làm việc MLPerf Client bao gồm AMD, Arm, Asus, Dell, Intel, Lenovo, Microsoft, Nvidia và Qualcomm – nhưng đáng chú ý là không có Apple.
Apple cũng không phải là thành viên của MLCommons và giám đốc kỹ thuật của Microsoft (Yannis Minadakis) đồng chủ tịch nhóm Khách hàng MLPerf – nên điều này khiến sự vắng mặt của Apple không hoàn toàn gây ngạc nhiên. Tuy nhiên, kết quả đáng thất vọng là bất kỳ tiêu chuẩn AI nào mà MLPerf Client đưa ra sẽ không được thử nghiệm trên các thiết bị của Apple – ít nhất là không phải trong thời gian sắp tới.
Và chắc chắn chúng ta cũng đang muốn biết loại điểm chuẩn AI và công cụ nào xuất hiện từ MLPerf Client và nó có hỗ trợ macOS hay không. Giả sử GenAI vẫn ở đây – và không có dấu hiệu nào cho thấy bong bóng sắp vỡ, chắc chắn rằng, chúng ta cũng sẽ không ngạc nhiên khi thấy các loại số liệu này đóng vai trò ngày càng quan trọng vào các quyết định mua thiết bị trong tương lai của người tiêu dùng.
Trung Hòa
