#OPG Một điều nổi bật khi sử dụng Open Gradient là việc xác minh thường xuyên trở thành một phần của quy trình làm việc, thay vì chỉ âm thầm diễn ra ở hậu trường. Hầu hết sản phẩm AI đều tối ưu tốc độ. Open Gradient dường như sẵn sàng đánh đổi một phần tốc độ để đổi lấy khả năng quan sát.
Trong một vài lần chạy thử, tốc độ tạo phản hồi không phải lúc nào cũng nhanh nhất so với các giải pháp tập trung. Đôi khi, sự khác biệt khá rõ rệt. Một tác vụ có thể hoàn thành trong 2–3 giây ở nơi khác có thể mất nhiều thời gian hơn, tùy thuộc vào điều kiện mạng. Thông thường, đó sẽ là một điểm trừ.
Điều đáng chú ý là nhu cầu về AI không ngừng tăng. Các ước tính trong ngành cho thấy chi tiêu toàn cầu cho cơ sở hạ tầng AI đã lên tới hàng trăm tỷ đô la mỗi năm, trong khi khối lượng công việc suy luận tiếp tục mở rộng nhanh chóng. Khi mức độ sử dụng tăng lên, những câu hỏi như ai đã xử lý yêu cầu, yêu cầu được xử lý ở đâu và liệu quá trình thực thi có thể được xác minh hay không sẽ càng trở nên quan trọng.
Đó là lĩnh vực mà OpenGradient có thể hưởng lợi từ chu kỳ AI tiếp theo.
Chu kỳ trước đề cao năng lực thuần túy. Chu kỳ tiếp theo có thể đề cao các lớp tin cậy bao quanh năng lực đó. Không phải vì người dùng đột nhiên quan tâm đến tính phi tập trung, mà vì khối lượng quyết định do AI tạo ra ngày càng lớn sẽ tạo áp lực đòi hỏi trách nhiệm giải trình.
Tôi vẫn chưa tin rằng chỉ riêng việc xác minh sẽ trở thành yếu tố quyết định. Hầu hết người dùng sẽ bỏ sản phẩm nếu thấy nó chậm, bất kể kiến trúc ra sao. Nhưng nếu việc ứng dụng AI tiếp tục tăng tốc và quá trình xác minh vẫn đủ nhẹ, cán cân giữa tốc độ và độ tin cậy có thể thay đổi nhiều hơn mọi người nghĩ.
Tuy vậy, tôi vẫn chưa thấy điều đó thực sự xảy ra.
#opg
$OPG
Trong một vài lần chạy thử, tốc độ tạo phản hồi không phải lúc nào cũng nhanh nhất so với các giải pháp tập trung. Đôi khi, sự khác biệt khá rõ rệt. Một tác vụ có thể hoàn thành trong 2–3 giây ở nơi khác có thể mất nhiều thời gian hơn, tùy thuộc vào điều kiện mạng. Thông thường, đó sẽ là một điểm trừ.
Điều đáng chú ý là nhu cầu về AI không ngừng tăng. Các ước tính trong ngành cho thấy chi tiêu toàn cầu cho cơ sở hạ tầng AI đã lên tới hàng trăm tỷ đô la mỗi năm, trong khi khối lượng công việc suy luận tiếp tục mở rộng nhanh chóng. Khi mức độ sử dụng tăng lên, những câu hỏi như ai đã xử lý yêu cầu, yêu cầu được xử lý ở đâu và liệu quá trình thực thi có thể được xác minh hay không sẽ càng trở nên quan trọng.
Đó là lĩnh vực mà OpenGradient có thể hưởng lợi từ chu kỳ AI tiếp theo.
Chu kỳ trước đề cao năng lực thuần túy. Chu kỳ tiếp theo có thể đề cao các lớp tin cậy bao quanh năng lực đó. Không phải vì người dùng đột nhiên quan tâm đến tính phi tập trung, mà vì khối lượng quyết định do AI tạo ra ngày càng lớn sẽ tạo áp lực đòi hỏi trách nhiệm giải trình.
Tôi vẫn chưa tin rằng chỉ riêng việc xác minh sẽ trở thành yếu tố quyết định. Hầu hết người dùng sẽ bỏ sản phẩm nếu thấy nó chậm, bất kể kiến trúc ra sao. Nhưng nếu việc ứng dụng AI tiếp tục tăng tốc và quá trình xác minh vẫn đủ nhẹ, cán cân giữa tốc độ và độ tin cậy có thể thay đổi nhiều hơn mọi người nghĩ.
Tuy vậy, tôi vẫn chưa thấy điều đó thực sự xảy ra.
#opg
$OPG
