Bài học chính
- AI đã phát triển với tốc độ nhanh chóng, nhưng nó có thể bắt đầu chậm lại.
- Luật mở rộng quy mô AI hiện tại được cho là đang cho thấy lợi tức cải tiến giảm dần.
- Một luật mở rộng quy mô AI mới đang bắt đầu xuất hiện và nó sẽ giúp LLM có thêm thời gian để suy nghĩ.
Những tiến bộ trong công nghệ AI đã phát triển với tốc độ nhanh như ánh sáng kể từ khi cơn bùng nổ AI thực sự bắt đầu cách đây vài năm. Nhưng có vẻ như sự tiến bộ nhanh chóng trong công nghệ AI và các mô hình ngôn ngữ lớn (LLM) có thể đang bắt đầu chậm lại.
Các báo cáo truyền thông gần đây cho thấy các công ty AI đang cải thiện mô hình và khả năng AI của họ chậm hơn so với trước đây. Tại sao? Nó liên quan đến cách tiếp cận mà các công ty AI, như OpenAI, đã sử dụng để thúc đẩy LLM lớn của họ kể từ khi cuộc đua AI bắt đầu, và cách tiếp cận tương tự đó hiện đang cho thấy lợi nhuận giảm dần. Cách tiếp cận đó đều liên quan đến luật mở rộng quy mô AI.
Có liên quan
Windows 365 Link có cảm giác giống như phiên bản Mac mini của Microsoft
Microsoft đã công bố Windows 365 Link, một PC mini chạy trên nền tảng đám mây dành cho các doanh nghiệp.
Luật mở rộng quy mô AI là gì?
Các công ty AI dựa vào quy mô để xây dựng và cải thiện LLM
Luật mở rộng quy mô AI không phải là thứ bạn sẽ tìm thấy trong sách giáo khoa luật ở trường trung học. Đó không phải là quy luật tự nhiên, vật lý hay chính phủ. Luật mở rộng quy mô AI là các phương pháp và quan sát mà các phòng thí nghiệm AI sử dụng để tăng quy mô và chức năng của LLM của họ. Các mô hình AI này cải tiến và ngày càng lớn hơn vì nó có nhiều sức mạnh tính toán và dữ liệu hơn để đào tạo.
Nhưng bây giờ có vẻ như các công ty AI đang nhận ra rằng bạn không thể chỉ cung cấp cho LLM nhiều sức mạnh tính toán và dữ liệu hơn và mong đợi họ biến thành một vị thần AI siêu thông minh. Một báo cáo gần đây của Bloomberg cho biết các mô hình AI của OpenAI, Google và Microsoft đang nỗ lực cải thiện LLM của mình với tốc độ nhanh chóng như trước đây.
Giải pháp cho vấn đề này đã được gợi ý trong sự kiện Ignite 2024 của Microsoft gần đây, khi Giám đốc điều hành Microsoft Satya Nadella cho biết “chúng tôi đang chứng kiến sự xuất hiện của một luật mở rộng quy mô mới”.
Có liên quan
Các biện pháp bảo vệ AI không thể theo kịp tốc độ đổi mới
Hình ảnh giả mạo lan truyền về một “nạn nhân” của cơn bão cho thấy công nghệ cần phát triển đến mức nào để bảo vệ khỏi việc lạm dụng AI.
Luật mở rộng quy mô AI mới này có thể là gì? “Tính toán thời gian thử nghiệm” là một khả năng (thông qua TechCrunch). Luật mới này về cơ bản mang lại cho LLM nhiều sức mạnh tính toán hơn khi lời nhắc được nhập, thay vì tập trung vào toàn bộ sức mạnh của nó trong giai đoạn đào tạo trước. Nó cho AI thời gian để suy nghĩ. Nhà nghiên cứu AI Yoshua Benjio cho biết trên tờ Financial Times: “Do đó, chúng tôi thấy một hình thức mở rộng quy mô tính toán mới xuất hiện. Không chỉ có nhiều dữ liệu đào tạo hơn và các mô hình lớn hơn mà còn dành nhiều thời gian hơn để 'suy nghĩ' về câu trả lời”.
Sự tiến bộ của AI có thể đang chậm lại và cạn kiệt năng lượng vào lúc này, nhưng nếu luật mở rộng quy mô mới này cho thấy bất cứ điều gì, thì có thể một đợt bùng nổ AI khác sắp xảy ra. Cho dù điều gì xảy ra, các công ty công nghệ trên toàn thế giới chắc chắn sẽ tiếp tục đầu tư và phát huy các giới hạn cũng như khả năng của AI.
Có liên quan
Việc Google buộc phải bán Chrome sẽ là một thắng lợi lớn cho mọi người
Google có thể bị buộc phải bán trình duyệt web Chrome của mình và đó là tin tốt cho mọi người.