Theo Extremetech, Samsung đề xuất sử dụng bộ nhớ DRAM mới trong các hệ thống trí tuệ nhân tạo dựa trên mô hình ngôn ngữ lớn (LLM), mặc dù bộ nhớ này cũng phù hợp với các khối lượng công việc khác.
Về thông số kỹ thuật, LLW DRAM là bộ nhớ có mức tiêu thụ điện năng thấp, khả năng I/O cao, độ trễ thấp và băng thông 128 GB/giây trên mỗi mô-đun. Điều này có thể so sánh với sự kết hợp giữa bộ nhớ DDR5-8000 và bus 128 bit. Một trong những tính năng chính của LLW DRAM là mức tiêu thụ điện năng thấp ở mức 1,2 pJ/bit, mặc dù công ty không tiết lộ giá trị này được đo ở tốc độ truyền dữ liệu nào.
Hiện tại Samsung vẫn chưa tiết lộ chi tiết kỹ thuật cụ thể về LLW DRAM, nhưng do công ty đã phát triển các bộ nhớ như GDDR6W được một thời gian nên có thể Samsung sẽ kết hợp dung lượng của một số mô-đun DRAM này thành gói duy nhất sử dụng công nghệ FOWLP (Fan-Out Wafer-Level Packaging) để tăng băng thông giao diện và giảm mức tiêu thụ điện năng.
Tuy nhiên, bộ nhớ này có thể đạt được thông lượng đó chỉ với 1,2pJ/b, tương đối thấp và cho thấy công nghệ này có thể được ứng dụng với điện thoại thông minh và máy tính xách tay thay vì máy tính để bàn. Cũng không có dấu hiệu nào cho thấy tốc độ mà các mô-đun này có thể đạt được nhờ băng thông cao và mức tiêu thụ điện năng thấp. Chúng ta sẽ cần chờ thêm thông tin chi tiết về những sản phẩm nào có thể được sử dụng và liệu công nghệ này sẽ chỉ dành cho doanh nghiệp hay ứng dụng khách hàng.
Sự trỗi dậy của AI chắc chắn sẽ đặt ra những thách thức to lớn cho các công ty như Samsung. AMD, Intel và Nvidia đã bắt đầu quảng bá những lợi ích của việc chạy các ứng dụng AI trên thiết bị với phần cứng chuyên dụng như Bộ xử lý thần kinh (NPU) và lõi tensor. Tuy nhiên, vẫn còn thiếu các ứng dụng để chạy và sức mạnh xử lý để thực hiện việc đó một cách hiệu quả. Các giải pháp như LLW DRAM có thể là một phần của các công nghệ đang được phát triển để thúc đẩy quá trình chuyển đổi các mô hình AI từ đám mây sang thiết bị của người dùng.
Theo Extreme Tech
