Quando muita gente ouve falar de IA, pensa logo em GPUs, servidores na nuvem e enormes centros de dados📖.
Isso me fez pensar em uma questão:
Para tarefas relativamente simples, como classificar e-mails ou moderar conteúdo, é mesmo necessário recorrer a grandes servidores todas as vezes?
Recentemente, encontrei uma demonstração do Laya AI apresentada por @Acurast e descobri uma possibilidade interessante: celulares antigos não só podem contribuir com poder de processamento por meio da rede Acurast, como também podem usar esse poder diretamente para executar modelos de IA!
Isso significa que o valor de um celular talvez não se limite a ser um nó da rede: ele também pode participar de tarefas reais de IA.
Laya é um modelo de IA de código aberto que já oferece várias demonstrações online, abrangendo diferentes tipos de cenários de tomada de decisão:
➣ Jogo da cobrinha: decide o próximo movimento com base no estado do jogo.
➣ Classificação de e-mails: determina se um e-mail deve ir para a caixa de entrada, para o spam ou ser identificado como phishing.
➣ Moderação de chats: identifica spam, golpes e conteúdo impróprio.
➣ Verificação da segurança de prompts: determina se o conteúdo inserido contém tentativas de contornar as regras de segurança da IA.
Essas demonstrações têm algo em comum: a IA não precisa necessariamente gerar um texto longo a cada vez. Ela também pode analisar a situação atual e escolher entre as opções disponíveis.
Segundo informações oficiais, o Laya pode ser executado diretamente em celulares Android na rede Acurast, usando a CPU para fazer inferências. Em dispositivos com melhor desempenho, cada decisão leva cerca de 0,2 segundo.
Isso me fez pensar: será que as tarefas de IA precisam mesmo de grandes servidores para serem executadas?
Para modelos de IA complexos, muitas GPUs continuam sendo indispensáveis. Mas tarefas como classificação de spam, moderação de conteúdo e verificações de segurança simples não precisam necessariamente recorrer a grandes modelos todas as vezes.
Se essas tarefas puderem ser distribuídas entre diferentes celulares, dispositivos ociosos poderão se tornar parte de aplicações reais, em vez de serem apenas nós da rede.
É claro que isso não significa que os celulares já possam substituir os servidores tradicionais.
A equipe oficial também mencionou as limitações do Laya: o teste de classificação de e-mails não é 100% preciso, entradas complexas ou adversariais ainda podem levar o modelo a conclusões erradas, e a quantidade de tarefas que um único celular consegue processar também é limitada.
Por isso, o que mais me interessa não é a ideia chamativa de que «um celular consegue executar IA», mas sim:
Quando esses dispositivos distribuídos participarem de verdade do processamento, será que os desenvolvedores conseguirão usá-los para realizar tarefas de valor prático?
Para a #Acurast, essa talvez seja uma questão mais importante a longo prazo do que simplesmente aumentar o número de nós.
Se você também quiser ver como funciona, experimente a demonstração online oficial do Laya👇:
laya.acurast.com
