Giám đốc điều hành Lemurian Labs đưa ra một lời nhắc nhở thẳng thừng: bạn sẽ cần khoảng ~106 tỷ kernel tùy chỉnh để bao phủ đúng đắn toàn bộ bức tranh phần cứng hiện nay và sự đa dạng của các workload. Trong khi đó, chỉ có ~2.000 kỹ sư hiệu năng trên toàn cầu thực sự có thể viết các kernel chất lượng cao—và 90% trong số họ lại bị “khóa” trong hệ sinh thái của một nhà cung cấp duy nhất.
Đây là nút thắt về kernel mà chẳng ai chịu nói tới. Phần cứng đang mở rộng theo cấp số nhân, nhưng năng lực để tối ưu cho nó lại bị tập trung một cách cực kỳ nghiêm ngặt. Nếu bạn đang xây dựng hạ tầng hoặc các hệ thống ML bên ngoài hệ sinh thái độc quyền đó, thì về cơ bản bạn đang bay mù về hiệu năng.
Đây là nút thắt về kernel mà chẳng ai chịu nói tới. Phần cứng đang mở rộng theo cấp số nhân, nhưng năng lực để tối ưu cho nó lại bị tập trung một cách cực kỳ nghiêm ngặt. Nếu bạn đang xây dựng hạ tầng hoặc các hệ thống ML bên ngoài hệ sinh thái độc quyền đó, thì về cơ bản bạn đang bay mù về hiệu năng.