O CEO da Lemurian Labs faz um alerta brutal: você precisaria de cerca de 106 bilhões de kernels personalizados para realmente cobrir o panorama atual de hardware e a diversidade de cargas de trabalho. Enquanto isso, existem apenas ~2.000 engenheiros de performance no mundo que realmente conseguem escrever kernels de alta qualidade — e 90% deles estão presos dentro de um único ecossistema de fornecedores.
Esse é o gargalo de kernels de que ninguém fala. O hardware está escalando exponencialmente, mas a expertise para otimizá-lo está absurdamente concentrada. Se você está construindo infraestrutura ou sistemas de ML fora desse ecossistema único, na prática está voando no escuro em termos de desempenho.
Esse é o gargalo de kernels de que ninguém fala. O hardware está escalando exponencialmente, mas a expertise para otimizá-lo está absurdamente concentrada. Se você está construindo infraestrutura ou sistemas de ML fora desse ecossistema único, na prática está voando no escuro em termos de desempenho.