Samsung đưa ra giải pháp NPU tốc độ cao, năng lượng thấp cho AI Deep Learning
Samsung mới đây đã công bố một công nghệ NPU mới cho phép AI trên thiết bị hoạt động nhanh hơn, tiết kiệm năng lượng hơn và chiếm ít bộ nhớ hơn trên chip.
Đây sẽ là bước đột phá mới trong ngành công nghiệp trí tuệ nhân tạo, vốn đang ngày càng được nâng cấp không ngừng.
Nhờ ''Learning Quantization Interval Learning (QIL)”, hay còn gọi là lượng tử hóa thuật toán học, độ chính xác của dữ liệu có thể được giữ lại bằng cách trình bày các dữ liệu theo bit nhỏ hơn kích thước hiện có của chúng. Phòng thí nghiệm máy tính của SAIT đã chạy thử nghiệm chứng minh thành công cách lượng tử hóa thuật toán học sâu trong máy chủ trong các khoảng thời gian 32 bit có thể cung cấp độ chính xác cao hơn các giải pháp hiện có khác khi được tính toán ở mức dưới 4 bit.
Điều này có nghĩa là các kết quả tính toán sử dụng quy trình QIL có thể đạt được kết quả tương tự như các quy trình hiện có trong khi có thể giảm từ 1/40 đến 1/120 bán dẫn.
Do đó, hệ thống này đòi hỏi ít phần cứng hơn và ít điện hơn, nó có thể được gắn trực tiếp vào thiết bị tại nơi thu được dữ liệu cho hình ảnh hoặc cảm biến vân tay, trước khi truyền dữ liệu đã xử lý đến các điểm cuối cần thiết.
Công nghệ này sẽ giúp phát triển công suất bán dẫn của hệ thống Samsung, cũng như củng cố một trong những công nghệ cốt lõi của AI đó là xử lý AI trên thiết bị. Khác với các dịch vụ AI sử dụng máy chủ đám mây, công nghệ AI trên thiết bị sẽ có khả năng trực tiếp tính toán tất cả dữ liệu từ bên trong thiết bị.
Xây dựng công nghệ AI trên thiết bị có thể giảm chi phí so với xây dựng đám mây cho các hoạt động AI bởi nó tự vận hành và cung cấp hiệu suất nhanh và ổn định cho các trường hợp sử dụng như thực tế ảo và lái xe tự động.
Hơn nữa, công nghệ AI trên thiết bị có thể lưu thông tin sinh trắc học cá nhân được sử dụng để xác thực thiết bị, chẳng hạn như quét vân tay, mống mắt và quét khuôn mặt, vào thiết bị di động một cách an toàn.
Công nghệ AI trên thiết bị AI của Samsung là những giải pháp năng lượng thấp hơn, tốc độ cao hơn để học sâu sẽ mở đường cho tương lai này. Chúng được thiết lập để mở rộng thị trường bộ nhớ, bộ xử lý và cảm biến, cũng như các thị trường bán dẫn hệ thống thế hệ tiếp theo khác.
Samsung sẽ sớm đưa công nghệ này vào các bộ xử lý di động trong tương lai gần cũng như các ứng dụng khác.
