LAM SPS BC
Well-known member
iPhone thế hệ tiếp theo được dự đoán sẽ có nhiều khả năng AI
Theo thông tin bên lề, Apple tập trung vào việc tích hợp Generative AI vào hệ sinh thái của mình để nâng cao trải nghiệm người dùng. Nhưng nếu AI đòi hỏi quá nhiều RAM, thì liệu iPhone có đủ sức hỗ trợ hay không, vì thiết bị này có RAM ít hơn hầu hết điện thoại Android cùng phân khúc.
Hóa ra, Apple đã có một cách riêng. Các nhà nghiên cứu của Apple gần đây đã xuất bản một báo cáo có tên "LLM in a Flash: Efficient Large Language Model Inference with Limited Memory", mô tả cách sử dụng điểm mạnh của bộ lưu trữ flash nhằm giảm gánh nặng cho bộ nhớ và tăng hiệu suất của Mô hình ngôn ngữ lớn (LLM). Nói cách khác, Apple đang nỗ lực để đảm bảo LLM chất lượng cao có thể chạy hoàn toàn trên iPhone.
Phương pháp của các kỹ sư Apple đã khéo léo vượt qua giới hạn bằng cách sử dụng hai kỹ thuật chính giúp giảm thiểu việc truyền dữ liệu và tối đa hóa bộ nhớ flash:
Windowing: Thay vì tải dữ liệu mới mỗi lần, mô hình AI sẽ sử dụng lại một số dữ liệu đã được xử lý. Điều này làm giảm nhu cầu tìm nạp bộ nhớ liên tục, giúp quá trình xử lý trên thiết bị nhanh hơn và mượt mà hơn.
Row-Column Bundling: Bằng cách nhóm dữ liệu hiệu quả hơn, dữ liệu có thể được đọc nhanh hơn từ bộ nhớ flash, tăng tốc khả năng đọc hiểu và tạo ngôn ngữ của AI.
Apple có cách riêng để xử lý AI trên iPhone mà không cần quá nhiều RAM
Theo các nhà nghiên cứu, sự kết hợp của các phương pháp này cho phép các mô hình AI tận dụng tốt gấp đôi bộ nhớ khả dụng của iPhone, mở ra khả năng tăng tốc gấp 4-5 lần trên bộ xử lý (CPU) tiêu chuẩn và nhanh hơn 20-25 lần trên bộ xử lý đồ họa (GPU). Các tác giả viết: "Bước đột phá này đặc biệt quan trọng để triển khai LLM tiên tiến trong môi trường hạn chế về tài nguyên, từ đó mở rộng khả năng ứng dụng và khả năng tiếp cận của chúng".
Cùng với hệ sinh thái khép kín của mình, Apple dường như đã tìm ra cách để Generative AI hoạt động trên iPhone mà không phải tăng dung lượng RAM như cách Android thực hiện.
Trong năm nay, AI rõ ràng sẽ đóng một vai trò quan trọng trong việc định hình tương lai của smartphone. Mặc dù Android và Apple đã chọn những con đường khác nhau nhưng cả hai đều hướng đến nâng cao trải nghiệm người dùng thông qua sức mạnh của AI. Samsung sẽ ra mắt dòng Galaxy S24 với "Galaxy AI" trong những ngày tới, iPhone thế hệ tiếp theo sẽ ra mắt trong cuối năm nay cùng các tính năng AI, hãy chờ xem liệu thế giới smartphone sẽ thay đổi như thế nào trong thời đại AI này.
Theo thông tin bên lề, Apple tập trung vào việc tích hợp Generative AI vào hệ sinh thái của mình để nâng cao trải nghiệm người dùng. Nhưng nếu AI đòi hỏi quá nhiều RAM, thì liệu iPhone có đủ sức hỗ trợ hay không, vì thiết bị này có RAM ít hơn hầu hết điện thoại Android cùng phân khúc.
Hóa ra, Apple đã có một cách riêng. Các nhà nghiên cứu của Apple gần đây đã xuất bản một báo cáo có tên "LLM in a Flash: Efficient Large Language Model Inference with Limited Memory", mô tả cách sử dụng điểm mạnh của bộ lưu trữ flash nhằm giảm gánh nặng cho bộ nhớ và tăng hiệu suất của Mô hình ngôn ngữ lớn (LLM). Nói cách khác, Apple đang nỗ lực để đảm bảo LLM chất lượng cao có thể chạy hoàn toàn trên iPhone.
Phương pháp của các kỹ sư Apple đã khéo léo vượt qua giới hạn bằng cách sử dụng hai kỹ thuật chính giúp giảm thiểu việc truyền dữ liệu và tối đa hóa bộ nhớ flash:
Windowing: Thay vì tải dữ liệu mới mỗi lần, mô hình AI sẽ sử dụng lại một số dữ liệu đã được xử lý. Điều này làm giảm nhu cầu tìm nạp bộ nhớ liên tục, giúp quá trình xử lý trên thiết bị nhanh hơn và mượt mà hơn.
Row-Column Bundling: Bằng cách nhóm dữ liệu hiệu quả hơn, dữ liệu có thể được đọc nhanh hơn từ bộ nhớ flash, tăng tốc khả năng đọc hiểu và tạo ngôn ngữ của AI.
Apple có cách riêng để xử lý AI trên iPhone mà không cần quá nhiều RAM
Theo các nhà nghiên cứu, sự kết hợp của các phương pháp này cho phép các mô hình AI tận dụng tốt gấp đôi bộ nhớ khả dụng của iPhone, mở ra khả năng tăng tốc gấp 4-5 lần trên bộ xử lý (CPU) tiêu chuẩn và nhanh hơn 20-25 lần trên bộ xử lý đồ họa (GPU). Các tác giả viết: "Bước đột phá này đặc biệt quan trọng để triển khai LLM tiên tiến trong môi trường hạn chế về tài nguyên, từ đó mở rộng khả năng ứng dụng và khả năng tiếp cận của chúng".
Cùng với hệ sinh thái khép kín của mình, Apple dường như đã tìm ra cách để Generative AI hoạt động trên iPhone mà không phải tăng dung lượng RAM như cách Android thực hiện.
Trong năm nay, AI rõ ràng sẽ đóng một vai trò quan trọng trong việc định hình tương lai của smartphone. Mặc dù Android và Apple đã chọn những con đường khác nhau nhưng cả hai đều hướng đến nâng cao trải nghiệm người dùng thông qua sức mạnh của AI. Samsung sẽ ra mắt dòng Galaxy S24 với "Galaxy AI" trong những ngày tới, iPhone thế hệ tiếp theo sẽ ra mắt trong cuối năm nay cùng các tính năng AI, hãy chờ xem liệu thế giới smartphone sẽ thay đổi như thế nào trong thời đại AI này.