A Overclock Labs, a força por trás da Akash Network, uniu-se à startup de IA generativa ThumperAI para o treinamento de um modelo fundamental de IA utilizando suas GPUs.
A colaboração ocorreu no final de 2023. Seu objetivo era ampliar os limites da computação em nuvem descentralizada por meio do treinamento de um modelo básico. Isso destaca um salto significativo na integração de IA e computação em nuvem.
Usando a rede Akash para treinar IA
A iniciativa buscou abordar os desafios associados ao treinamento do modelo básico de IA generativa. Esses desafios incluem altos custos, requisitos rigorosos de hardware e necessidades complexas de software. Portanto, ela estabeleceu uma referência ambiciosa para que as plataformas de computação descentralizadas atendam e superem as demandas das startups de IA.
O objetivo da ThumperAI era reforçar a credibilidade de seu serviço LoRa Trainer. Ele facilita aos desenvolvedores de IA o ajuste fino dos modelos de base usando técnicas de LoRA. Por outro lado, a Akash Network queria demonstrar a viabilidade e a eficiência do treinamento de modelos de IA em uma plataforma de nuvem descentralizada.
Leia mais: Inteligência artificial e ética: 6 questões que precisamos enfrentar
Essa iniciativa não se tratava apenas de provar um conceito, mas também de atrair uma comunidade de desenvolvedores mais ampla, gerar demanda para provedores de GPU e fortalecer a posição da Akash Network como líder em contribuições de código aberto e expansão de casos de uso de IA.
A jornada envolveu decisões críticas e compensações, especialmente na seleção da categoria do modelo e do modelo básico para o treinamento. Ainda assim, a abordagem escolhida utilizou um conjunto de dados licenciado pela Creative Commons para treinamento. Ela enfatizou a conformidade com os direitos autorais e a diversidade de dados, com um pivô para uma arquitetura inspirada na Pixart-Alpha devido aos desafios iniciais de treinamento.
Colaboração se mostrou viável
Os resultados desse projeto foram promissores, apesar dos desafios encontrados com a qualidade e a diversidade do conjunto de dados de treinamento. A colaboração demonstrou com sucesso a viabilidade de treinar modelos fundamentais em uma rede descentralizada como a Akash. Portanto, foi um marco na interseção da IA e da blockchain.
“A equipe da Thumper estudará a migração do LoRa Trainer para ser executado na rede Akash, à medida que eles procuram dimensionar esse serviço, de modo a aproveitar os custos mais baixos e a variedade de GPUs disponíveis na rede. Um dos recursos necessários para que eles possam fazer isso é a capacidade de solicitar um tamanho máximo de SHM por meio do Akash SDL. Esse recurso está prestes a ser disponibilizado na rede por meio de uma atualização”, escreveu o vice-presidente de produtos e engenharia da Overclock Labs, Anil Murty.
Essa iniciativa prepara o terreno para futuros avanços, com ambas as equipes interessadas em explorar outras possibilidades na rede Akash.
Trusted
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
