noticias
Snapdragon roda IA de mais de 30 bilhões de parâmetros no celular e muda a disputa pelo processamento local
A fronteira entre a inteligência artificial executada no celular e aquela que depende de enormes servidores na nuvem acaba de avançar alguns passos.
A Qualcomm apresentou o Snapdragon 8 Elite Extreme Gen 6, plataforma móvel capaz de executar diretamente no smartphone modelos de inteligência artificial do tipo *Mixture-of-Experts*, ou MoE, com mais de 30 bilhões de parâmetros.
O número impressiona, mas precisa ser interpretado corretamente.
O processador não está ativando 30 bilhões de parâmetros simultaneamente cada vez que o usuário faz uma pergunta.
A arquitetura MoE divide o modelo em diferentes grupos especializados e seleciona apenas parte deles para cada tarefa.
Segundo a Qualcomm, um modelo com cerca de 30 bilhões de parâmetros pode utilizar aproximadamente 3 bilhões deles durante a geração de cada token.
É justamente essa diferença que torna possível colocar uma IA muito maior dentro das restrições térmicas, energéticas e de memória de um smartphone.
Um modelo enorme que não precisa trabalhar inteiro ao mesmo tempo
Modelos tradicionais mais densos precisam mobilizar grande parte de sua estrutura durante cada etapa de processamento.
Isso custa memória, largura de banda, processamento e energia.
Em uma arquitetura *Mixture-of-Experts*, diferentes partes do modelo tornam-se especialistas em determinados tipos de tarefa.
Dependendo do contexto, um mecanismo de roteamento seleciona quais desses especialistas devem ser utilizados.
É como manter uma equipe de dezenas de especialistas disponível, mas chamar apenas aqueles necessários para resolver determinado problema.
O tamanho total do modelo continua sendo importante porque representa a quantidade de conhecimento e capacidade potencialmente disponível.
Mas o custo computacional de uma resposta pode se aproximar daquele de um modelo muito menor.
Essa diferença é fundamental quando o computador em questão cabe no bolso e funciona com bateria.
A NPU passa a ocupar um papel central
Para conseguir executar esse tipo de carga, a Qualcomm redesenhou sua Hexagon NPU, unidade especializada em operações de inteligência artificial.
A nova arquitetura inclui um acelerador voltado especificamente a operações utilizadas por modelos do tipo Transformer, tecnologia que sustenta grande parte dos modelos generativos atuais.
A empresa também aumentou em 50% a memória compartilhada disponível para a NPU.
Esse detalhe é menos chamativo do que falar em 30 bilhões de parâmetros, mas pode ser igualmente importante na prática.
Mover informações entre diferentes níveis de memória consome tempo e energia.
Quanto mais dados, ativações e resultados intermediários puderem permanecer próximos da unidade responsável pelo processamento, menor será a necessidade de buscar essas informações repetidamente na memória externa.
Em dispositivos móveis, esse ganho pode representar não apenas respostas mais rápidas, mas menor consumo energético.
O celular começa a ganhar duas camadas diferentes de IA
Uma das escolhas mais interessantes da nova arquitetura está em não utilizar a NPU principal para todas as tarefas.
O Snapdragon também possui uma versão atualizada do Qualcomm Sensing Hub, componente de baixo consumo responsável por acompanhar continuamente determinados sinais e informações do aparelho.
Esse subsistema consegue executar modelos de até aproximadamente 200 milhões de parâmetros em segundo plano.
São modelos incomparavelmente menores que uma IA generativa de 30 bilhões de parâmetros, mas também têm outra função.
Eles podem permanecer ativos por períodos muito maiores consumindo menos energia.
A Qualcomm cita aplicações como reconhecimento de diferentes pessoas durante uma conversa, transcrição, construção de memória contextual e sugestões baseadas na maneira como o aparelho é utilizado.
A arquitetura sugere uma espécie de hierarquia.
Modelos pequenos permanecem atentos ao contexto cotidiano.
Quando surge uma tarefa complexa, modelos maiores entram em ação.
Isso é particularmente interessante para a próxima geração de agentes pessoais.
A verdadeira novidade pode não ser o chatbot offline
Executar uma IA sem internet obviamente possui vantagens.
A resposta pode chegar mais rapidamente, informações sensíveis podem permanecer dentro do aparelho e determinadas funcionalidades continuam funcionando sem conexão.
Mas limitar essa mudança à ideia de “ChatGPT sem internet” seria perder a parte mais importante.
A Qualcomm está construindo seus novos chips pensando explicitamente em **IA agêntica**.
Um agente não precisa apenas responder perguntas.
Ele precisa compreender contexto, manter informações sobre o usuário, decidir quais ferramentas utilizar e coordenar várias ações até completar um objetivo.
Isso exige uma combinação de modelos.
Um sistema pode utilizar um modelo pequeno continuamente para perceber contexto, outro para interpretar linguagem e um terceiro para tarefas de raciocínio mais complexas.
É exatamente esse tipo de arquitetura heterogênea que começa a surgir nos smartphones.
Processar localmente muda a questão da privacidade
Hoje, grande parte da inteligência artificial generativa funciona enviando dados para servidores remotos.
O usuário escreve, fala ou envia uma imagem.
Essa informação viaja pela internet, é processada em um data center e a resposta retorna ao dispositivo.
Processamento local altera esse fluxo.
Determinadas informações podem nunca precisar sair do telefone.
Isso é especialmente relevante para dados altamente pessoais, como conversas, localização, rotina, contatos, preferências e atividades realizadas ao longo do dia.
Um agente verdadeiramente pessoal precisa conhecer muito sobre seu usuário para ser útil.
Quanto mais informações precisar conhecer, maior será o interesse em processar pelo menos parte delas localmente.
Isso não torna automaticamente um sistema privado.
Fabricantes ainda precisam explicar claramente quais informações permanecem no aparelho, quais são enviadas para servidores e como cada serviço utiliza esses dados.
Mas o hardware começa a oferecer uma alternativa técnica que simplesmente não existia com a mesma capacidade alguns anos atrás.
Há um custo escondido: memória
Rodar modelos gigantes localmente cria outro problema.
Os parâmetros precisam estar armazenados em algum lugar.
Mesmo utilizando quantização — técnica que representa os pesos do modelo com menos bits — modelos com dezenas de bilhões de parâmetros podem ocupar muitos gigabytes.
Isso coloca pressão direta sobre a memória dos smartphones.
A quantidade de RAM deixa de atender apenas ao sistema operacional, jogos e aplicativos.
Ela começa a funcionar também como infraestrutura para modelos de IA.
Essa transformação pode ajudar a explicar por que aparelhos premium vêm avançando para configurações de memória que, até pouco tempo atrás, pareciam exageradas para um telefone.
No futuro, perguntar quanta RAM um smartphone possui pode dizer menos sobre quantos aplicativos ele consegue manter abertos e mais sobre qual tamanho de inteligência artificial consegue executar.
O processamento local não elimina a nuvem
Mesmo com esse avanço, data centers continuarão essenciais.
Modelos muito grandes, pesquisas extensas e tarefas altamente complexas ainda exigem infraestrutura muito superior ao que cabe dentro de um smartphone.
O cenário mais provável é híbrido.
O dispositivo decide quais tarefas consegue executar localmente e quais devem ser encaminhadas para servidores.
A diferença é que essa divisão pode tornar-se invisível para o usuário.
Uma pergunta simples pode ser processada completamente no aparelho.
Uma solicitação mais exigente pode utilizar a nuvem.
Um agente ainda pode combinar as duas coisas dentro da mesma tarefa.
Isso cria uma nova camada de otimização: escolher não apenas qual modelo utilizar, mas **onde executá-lo**.
O Snapdragon também muda fora da IA
Os Snapdragon 8 Elite Gen 6 e 8 Elite Extreme Gen 6 são fabricados em processo de 2 nanômetros e utilizam uma nova geração dos núcleos Qualcomm Oryon.
A plataforma também avança em processamento gráfico, câmeras, conectividade e jogos.
No Snapdragon 8 Elite Gen 6, os núcleos principais chegam a 5 GHz, uma frequência particularmente elevada para um processador móvel.
A Qualcomm também está utilizando inteligência artificial dentro da própria GPU.
O Adreno Neural Fusion combina técnicas de super-resolução e geração de quadros para produzir imagens com maior resolução ou fluidez reduzindo parte do trabalho tradicional de renderização.
É outro exemplo de como a IA está deixando de ser um aplicativo executado pelo processador e passando a fazer parte da própria arquitetura do hardware.
Análise da equipe
O número de 30 bilhões de parâmetros chama atenção, mas provavelmente não é a parte mais importante do anúncio.
O avanço real está na reorganização do smartphone ao redor de diferentes níveis de inteligência artificial.
Durante anos, o celular foi essencialmente um terminal conectado à nuvem.
Aplicativos coletavam informações, servidores realizavam o processamento pesado e o dispositivo apresentava o resultado.
A IA local começa a mudar essa relação.
Quando o telefone consegue manter modelos pequenos permanentemente atentos ao contexto e chamar modelos muito maiores quando necessário, ele passa a possuir uma compreensão contínua do ambiente que antes dependia quase inteiramente de serviços externos.
Isso também muda a disputa entre fabricantes.
Velocidade de CPU e GPU continuará importante, mas uma nova métrica começa a entrar na equação: quais modelos cada aparelho consegue executar, durante quanto tempo e consumindo quanta energia.
Não basta demonstrar uma IA funcionando durante alguns minutos.
Ela precisa permanecer disponível durante o dia inteiro sem transformar o smartphone em um aquecedor de bolso.
Essa será uma das provas mais difíceis dessa nova geração.
O que quase ninguém está discutindo
Existe outra consequência interessante.
Se modelos realmente capazes passarem a viver dentro dos smartphones, fabricantes de aparelhos e sistemas operacionais ganharão um controle muito maior sobre a camada de inteligência utilizada pelo usuário.
Hoje, trocar de chatbot geralmente significa abrir outro aplicativo ou site.
Em um futuro no qual um modelo local acompanha notificações, câmera, microfone, calendário, localização e aplicativos durante todo o dia, essa inteligência poderá tornar-se profundamente integrada ao próprio sistema operacional.
Nesse cenário, o debate deixa de ser apenas qual empresa possui o melhor modelo.
Passa também a envolver quem controla o hardware, o sistema operacional, os dados locais e as permissões que conectam tudo isso.
A corrida pela IA pessoal pode acabar sendo uma corrida pela camada mais íntima do computador que carregamos conosco.
O próximo teste será fora do palco
Honor, iQOO, Motorola, OnePlus, Oppo, Redmi, RedMagic, Vivo e Xiaomi estão entre as fabricantes anunciadas para utilizar a nova geração dos chips Snapdragon.
É quando esses aparelhos chegarem às mãos dos usuários que as promessas mais interessantes poderão ser avaliadas.
Será necessário observar quanta memória os modelos realmente exigem, como a temperatura se comporta, qual o impacto sobre a bateria e, principalmente, se aplicações comerciais aproveitarão toda essa capacidade.
Porque executar um modelo de mais de 30 bilhões de parâmetros em um telefone é uma conquista técnica relevante.
Transformar essa capacidade em algo que seja útil durante todas as horas do dia será uma tarefa muito mais difícil.
E provavelmente muito mais importante.
👉 Dúvida? Então veja mais em: https://pixbugtech.com/linksuteis