Yêu cầu một thiết bị nhà thông minh về dự báo thời tiết và phải mất vài giây để thiết bị phản hồi. Một lý do khiến độ trễ này xảy ra là do các thiết bị được kết nối không có đủ bộ nhớ hoặc năng lượng để lưu trữ và chạy các mô hình máy học khổng lồ cần thiết để thiết bị hiểu những gì người dùng yêu cầu. Mô hình được lưu trữ trong một trung tâm dữ liệu có thể cách xa hàng trăm dặm, nơi câu trả lời được tính toán và gửi đến thiết bị.
Các nhà nghiên cứu của MIT đã tạo ra một phương pháp mới để tính toán trực tiếp trên các thiết bị này, giúp giảm đáng kể độ trễ này. Kỹ thuật của họ chuyển các bước sử dụng nhiều bộ nhớ để chạy một mô hình học máy sang một máy chủ trung tâm nơi các thành phần của mô hình được mã hóa thành sóng ánh sáng. Nghiên cứu do Quỹ Khoa học Quốc gia Hoa Kỳ hỗ trợ đã được công bố trên Khoa học.
Sóng được truyền đến một thiết bị được kết nối bằng sợi quang, cho phép hàng tấn dữ liệu được gửi nhanh như chớp qua mạng. Sau đó, máy thu sử dụng một thiết bị quang học đơn giản thực hiện nhanh chóng các phép tính bằng cách sử dụng các bộ phận của mô hình được mang bởi các sóng ánh sáng đó.
Kỹ thuật này giúp cải thiện hiệu suất năng lượng gấp hàng trăm lần so với các phương pháp khác. Nó cũng có thể cải thiện tính bảo mật, vì dữ liệu của người dùng không cần phải chuyển đến một vị trí trung tâm để tính toán.
Phương pháp này có thể cho phép một chiếc ô tô tự lái đưa ra quyết định trong thời gian thực trong khi chỉ sử dụng một phần nhỏ năng lượng mà các máy tính ngốn điện hiện đang yêu cầu. Nó cũng có thể cho phép người dùng trò chuyện không có độ trễ với thiết bị nhà thông minh của họ, được sử dụng để xử lý video trực tiếp qua mạng di động hoặc thậm chí cho phép phân loại hình ảnh tốc độ cao trên tàu vũ trụ cách Trái đất hàng triệu dặm.
“Mỗi khi bạn muốn chạy một mạng thần kinh, bạn phải chạy chương trình và bạn có thể chạy chương trình nhanh như thế nào tùy thuộc vào tốc độ bạn có thể đưa chương trình vào từ bộ nhớ,” tác giả cấp cao Dirk Englund cho biết. “Đường ống của chúng tôi rất lớn — nó tương ứng với việc gửi một bộ phim có thời lượng đầy đủ qua internet cứ sau một phần nghìn giây hoặc lâu hơn. Đó là tốc độ mà dữ liệu đi vào hệ thống của chúng tôi. Và nó có thể tính toán nhanh như vậy.”