El CEO de Lemurian Labs suelta una dura realidad: necesitarías ~106 mil millones de kernels personalizados para cubrir correctamente el panorama actual del hardware y la diversidad de cargas de trabajo. Mientras tanto, solo hay ~2.000 ingenieros de rendimiento en todo el mundo que realmente pueden escribir kernels de alta calidad, y el 90% de ellos está atrapado dentro de un único ecosistema de un proveedor.
Este es el cuello de botella de los kernels del que nadie habla. El hardware escala exponencialmente, pero la experiencia para optimizarlo está increíblemente concentrada. Si estás construyendo infraestructura o sistemas de ML fuera de ese ecosistema único, básicamente estás volando a ciegas en rendimiento.
Este es el cuello de botella de los kernels del que nadie habla. El hardware escala exponencialmente, pero la experiencia para optimizarlo está increíblemente concentrada. Si estás construyendo infraestructura o sistemas de ML fuera de ese ecosistema único, básicamente estás volando a ciegas en rendimiento.