As chamadas de IA estão aumentando. Por que isso não significa necessariamente que todas serão direcionadas aos modelos mais caros?
Em 9 de outubro, a Microsoft apresentou o Decision 1, criado especificamente para lidar com classificação, roteamento e decisões de fluxo de trabalho. Ele escolhe uma opção predefinida e fornece um nível de confiança; o objetivo não é gerar uma resposta longa.
O que isso afeta é quem cobra por cada etapa da tarefa.
Por exemplo, um sistema de atendimento ao cliente primeiro identifica se o problema é “reembolso, entrega ou suporte técnico” e, em seguida, decide para qual fluxo encaminhá-lo. Classificar um pedido e explicar um contrato complexo exigem capacidades, extensão de resposta e custos diferentes. Não há motivo para presumir que cada etapa precise consumir o mesmo modelo geral, igualmente caro.
Na minha opinião, as empresas vão dar cada vez mais importância à divisão de tarefas na hora de contratar serviços de IA. Decisões simples ficam a cargo de modelos especializados adequados; questões complexas são encaminhadas para um nível superior. O que realmente importa comparar é o custo de todo o fluxo e o custo dos erros, não apenas o preço aparentemente baixo de uma chamada a determinado modelo.
Isso também explica por que o volume de chamadas não pode ser equiparado diretamente à receita: o número de chamadas pode crescer enquanto a combinação de tarefas e o preço unitário mudam. Se uma classificação errada levar a retrabalho repetido, a aparente economia também acaba desaparecendo.
Ao analisar ativos relacionados à IA, como TAO, FET e RENDER, também é preciso continuar perguntando de onde vem a demanda paga por cada um deles. O lançamento de um produto pela Microsoft não é prova de que esses tokens vão gerar receita.
O que mais me interessa é em que etapa as empresas estão gastando o orçamento e se essa etapa realmente vale o que custa.
$TAO $FET $RENDER #AI
Clique na minha foto de perfil para ver as operações ao vivo com sinais
Em 9 de outubro, a Microsoft apresentou o Decision 1, criado especificamente para lidar com classificação, roteamento e decisões de fluxo de trabalho. Ele escolhe uma opção predefinida e fornece um nível de confiança; o objetivo não é gerar uma resposta longa.
O que isso afeta é quem cobra por cada etapa da tarefa.
Por exemplo, um sistema de atendimento ao cliente primeiro identifica se o problema é “reembolso, entrega ou suporte técnico” e, em seguida, decide para qual fluxo encaminhá-lo. Classificar um pedido e explicar um contrato complexo exigem capacidades, extensão de resposta e custos diferentes. Não há motivo para presumir que cada etapa precise consumir o mesmo modelo geral, igualmente caro.
Na minha opinião, as empresas vão dar cada vez mais importância à divisão de tarefas na hora de contratar serviços de IA. Decisões simples ficam a cargo de modelos especializados adequados; questões complexas são encaminhadas para um nível superior. O que realmente importa comparar é o custo de todo o fluxo e o custo dos erros, não apenas o preço aparentemente baixo de uma chamada a determinado modelo.
Isso também explica por que o volume de chamadas não pode ser equiparado diretamente à receita: o número de chamadas pode crescer enquanto a combinação de tarefas e o preço unitário mudam. Se uma classificação errada levar a retrabalho repetido, a aparente economia também acaba desaparecendo.
Ao analisar ativos relacionados à IA, como TAO, FET e RENDER, também é preciso continuar perguntando de onde vem a demanda paga por cada um deles. O lançamento de um produto pela Microsoft não é prova de que esses tokens vão gerar receita.
O que mais me interessa é em que etapa as empresas estão gastando o orçamento e se essa etapa realmente vale o que custa.
$TAO $FET $RENDER #AI
Clique na minha foto de perfil para ver as operações ao vivo com sinais