Montar seu próprio equipamento ou alugar poder computacional na nuvem: o ponto de equilíbrio é mais complexo do que as fórmulas que circulam na internet.
Não basta calcular o preço das placas e da eletricidade. Também é preciso considerar a taxa de ociosidade, os custos ocultos de refrigeração e ruído, as variações sazonais no preço da eletricidade e o custo de oportunidade de não poder usar essa máquina para outras coisas.
Minha conclusão, com base na experiência, é que uma configuração própria com utilização abaixo de 40% quase sempre perde para a nuvem. Só começa a valer a pena montar a própria estrutura quando a utilização se mantém acima de 70% por um longo período e as tarefas não são sensíveis à latência.
Meça primeiro sua própria taxa de utilização e depois decida se vale a pena comprar uma placa.
#GPU #算力成本
Não basta calcular o preço das placas e da eletricidade. Também é preciso considerar a taxa de ociosidade, os custos ocultos de refrigeração e ruído, as variações sazonais no preço da eletricidade e o custo de oportunidade de não poder usar essa máquina para outras coisas.
Minha conclusão, com base na experiência, é que uma configuração própria com utilização abaixo de 40% quase sempre perde para a nuvem. Só começa a valer a pena montar a própria estrutura quando a utilização se mantém acima de 70% por um longo período e as tarefas não são sensíveis à latência.
Meça primeiro sua própria taxa de utilização e depois decida se vale a pena comprar uma placa.
#GPU #算力成本
