Mostrando postagens com marcador tendências. Mostrar todas as postagens
Mostrando postagens com marcador tendências. Mostrar todas as postagens

sábado, 20 de junho de 2026

NVIDIA RTX Spark, contexto e perspectivas

No inicio deste mês recebi um email da Nvidia apresentando o RTX Spark, basicamente um SOC ARM feito em colaboração com a Mediatek e com GPU RTX integrada. Vou até postar o cabeçalho do email aqui porque vai servir também para analise depois:

 

De um modo geral era o esperado,  já haviam rumores, e também era o passo lógico para competição com o Snapdragon X Elite e os chips M da Apple, que vinham sendo usados cada vez mais para rodar modelos LLM locais, principalmente este último, devido a memória unificada. E de início leva uma vantagem técnica enorme por vários motivos que veremos mais no final.

Logo em seguida ao anúncio da Nvidia a mídia especializada de hardware o cobriu em peso, inclusive pela falta de novos lançamentos na área ultimamente, e esse é mais um ponto a se guardar na memória para a conclusão final. O que quase todos esses analistas, todos os que eu vi na realidade, concordam é que essa solução, como mencionado antes, estaria pelo menos inicialmente se destinando ao mercado profissional que precisa da carga de trabalho que é bem atendida pela GPU integrada, ou seja, IA local, renderização e etc. E os games? Agora cito o cabeçalho que mostrei no inicio, interessante que acabamos de estabelecer, o remetente seja "gaming@nvgaming.nvidia.com". E apesar também das fotos do evento fartamente divulgadas do Jensen segurando os dois laptops rodando jogos, como essa abaixo, que ninguém se engane, não fazem o menor sentido para o jogador no momento, vamos entender porque.

Jensen Huang Shows Off NVIDIA's New RTX Spark Laptops 😮 

Citando o press release linkado no email:

 "Powering agents on local devices requires both robust security and performant hardware. RTX Spark features up to 1 petaflop of AI compute and 128GB of unified memory to meet the processing demands of on-device agents."

Ora, qual a faixa de preço de um equipamento com 128 GB e uma GPU equivalente a uma 5070? Mas não é só isso, Há a questão da compatibilidade limitada dos jogos com ARM usando a camada de emulação Prism da Microsoft. Muitos títulos sequer abrem, e a maioria terá uma performance muito inferior e/ou alguns bugs. Jogos nativos são exceção atualmente. Ou seja, mesmo o entusiasta com dinheiro "infinito" não teria motivos de adquirir esta máquina (hipotética) atualmente para jogos, porque teria um resultado muito melhor gastando menos dinheiro com soluções tradicionais de desktop x86. Eu sei disso, todos os influencers que eu vi sabem disso, todos que acompanham hardware deveriam saber, e Jensen com certeza também sabe. Mas então porque o esforço em posar para a mídia segurando esses dois laptops, e ainda, porque direcionar um email apresentando o produto para a base de usuários domésticos de placa de vídeo (que foi o meu caso).

Aqui entra a minha interpretação pessoal dos fatos. Primeiro, junte a isso que não há lançamentos significativos na área neste momento, que praticamente todos os recursos da Nvidia estão direcionados para datacenter e IA. Então para mim é como se a empresa dissesse: "Não esquecemos de vocês, fiquem aí, coisas boas virão..." ao invés de simplesmente: "Pois é, acabou, tudo um dia acaba, obrigado por tudo...". Mas na realidade o que realmente acredito é que, apesar de não estarem focando no mercado doméstico no momento,  eles não vão abandonar completamente o segmento, só não será mais como era antes, alguma coisa virá, mas talvez não como se esperava que seria. Então vale a pena para a Nvidia um baixo investimento de marketing (emails, tempinho de palco na apresentação) pra não estimular toda a base de clientes a debandar para a concorrência.

Voltando ao Spark, qual a probabilidade de ele chegar com preço compatível com o mercado consumidor individual não especializado, que não ganha dinheiro com um PC com esses requisitos? No médio prazo talvez, quando houverem cortes do chip menores, o que faz parte do processo de fabricação de qualquer chip, e se ele for empacotado junto com menos RAM, digamos 64 ou 32 GB, ai talvez se aproximem dos atuais laptops com Snapdragon X Elite, que ainda são posicionadas como máquinas premium. E na minha opinião, levando alguma vantagem.

Primeiro, porque a GPU da Nvidia terá muito mais capacidade bruta de processamento que as atuais NPU do Snapdragon X Elite, ou mesmo do X2 Elite. E leva vantagem em compatibilidade, a maioria dos softwares de LLM  local é projetada roda nativamente em GPUs, poucos rodam nativamente na NPU da Qualcomm. Vai ganhar provavelmente do M5 também, sendo uma alternativa para quem não quer um Mac. 

Resumindo, apesar de que neste momento muitos possam sentir que ficaram de fora, o anuncio é positivo em geral, tanto porque ele pode chegar depois a um segmento mais barato, possibilitando inclusive o uso de LLM local em menor escala, como porque vai estimular a competição com outros fabricantes. E num futuro muito distante, quem sabe até se torne viável para jogos.

Mas e quanto ao futuro do atual modelo de GPUs dedicadas para PCs DIY? Neste ponto a minha previsão atual não é nada boa. Não acho que vai acabar amanhã, mas também não percebo chances de grande evolução. Por um lado, parece que tecnicamente se chegou a um limite do aumento viável da rasterização bruta, e se está dependendo cada vez mais de IA para fazer o trabalho. Por outro, a necessidade de injetar mais potência elétrica levou a sistemas de arrefecimentos imensos, que levam a placa de vídeo a precisar de um suporte adicional pra não entortar, ou novos conectores como o infame 12VHPWR, substituído depois sem muito sucesso pelo 12V-2x6, e seus derretimentos e incêndios. Ao mesmo tempo, quem quer rodar uma IA local esbarra em uma quantidade de VRAM limitada mesmo nos modelos de GPUs mais caros, o que é a grande vantagem das soluções com memória unificada como a da Apple. E os gamers continuarão também insatisfeitos com pouca VRAM, sofrendo com os também infames 8 GB de VRAM nos modelos mais populares (os que a maioria pode comprar), dificuldades técnicas (conector, tamanho da placa) e preço alto. Também tem os que se orgulham das placas imensas, ocupando 4 slots, cheias de fans e com suportes pra não despencar com o próprio peso, mas vamos deixar os ostentadores de lado aqui. Racionalmente, tamanho, peso, dissipação, consumo  elétrico e preço aumentando são problemas. E lidar com consumidor final de placa também é problema para as fabricantes: RMA, inclusive aumentando por causa o conector, canais de suporte, marketing separado, embalagem, distribuição. E aqui nem é exatamente a Nvidia, mas Asus, Gigabyte, MSI, Palit, que AINDA fabricam GPUs dedicadas. 

Parece que a Nvidia já percebeu tudo isso e está apostando suas fichas em outro lugar, e com razão. Datacenters e no lado do consumidor final, fabricantes terceiros integrando os chips em soluções completas: Lenovo, HP, Dell. Citando novamente o press release:

 "RTX Spark-powered slim Windows laptops with all-day battery life and premium displays, as well as compact desktop PCs available this fall from ASUS, Dell, HP, Lenovo, Microsoft Surface and MSI, with models from Acer and GIGABYTE to follow."

 

quarta-feira, 6 de maio de 2026

O fim da GALAX. Acabou mesmo?

O primeiro impacto foi o vídeo (short) do Ronaldo Buassali semana passada, informando sobre o encerramento da Galax. O que me veio à mente: a lembrança do fim da EVGA, o fim da Crucial, e no subconsciente talvez mais uma confirmação da decadência no PC DIY. Depois vieram as contra-notícias: a Galax não ia acabar, era uma "reestruturação", o nome e a marca continuam ...

Vamos separar os fatos de opiniões e narrativas. O que de fato aconteceu foi o fim de uma empresa. Sim, ela já era subsidiária da Palit. Então sim, a versão de que foi uma reestruturação também não está errada, mas concretamente, é o fim de uma "estrutura", equipes inteiras de pessoas, cargos, contabilidade própria, e do relacionamento comercial de representantes da marca como por exemplo o próprio Ronaldo. Logo, a versão dele faz total sentido. A empresa, por mais que fosse uma subsidiária e compartilhasse uma estratégia com a controladora, poderia definir uma identidade própria, controle de qualidade diferente, público alvo, segmentação, etc. No meio automobilístico isso é muito comum, grandes conglomerados, como a GM e Stellantis, possuem diversas marcas para faixas de preço, interesses, enfim públicos diferentes, resultando em produtos de qualidade e especificações muito distintas.

Mas a marca Galax vai continuar, publicou a Palit. Ver o comunicado oficial. Pode ser, mas isso é só uma promessa, talvez uma intenção, fica no futuro, enfim, não é um fato. De concreto nada e, mesmo que continue, já não teria o mesmo nível de independência. A integração faz sentido do ponto de vista econômico, não estou de modo algum criticando ou condenando.

 GeForce RTX™ 5080 HOF Gaming GALAX

Se compara com o fim da EVGA? Embora isso tenha me vindo a mente no inicio, de fato é bem diferente. A EVGA era uma empresa completamente independente e seu fim teve realmente mais impacto. E quanto à Crucial? É mais parecido, já ela também foi encerrada pela controladora (Micron). Mas acontece que aí também houve mais impacto no mercado, pois a Micron parou de vender produtos para o consumidor final.

Isso leva ao problema da perda de concorrência. Ora, não creio que uma controladora mantenha uma subsidiária para competir de verdade, canibalizar seu mercado. Então não vejo menos concorrência em geral. Mas com algumas exceções, aqui no Brasil não temos muita presença de Palit ou outras marcas controladas além de Galax, então se sai a Galax e elas não ocupam o lugar, aqui no Brasil em particular teríamos menos uma opção, e relevante.

E por fim, a decadência ou crise do mercado DIY. Pois o pano de fundo evidente é a pressão no mercado pela falta de insumos (notadamente RAM) e a competição implacável de outro segmento da indústria, datacenters para IA.

Neste ponto vamos citar o próprio comunicado da Palit sobre o assunto, transcrito pelo artigo no site WCCFTech:

"Optimize Supply Chain: Streamline production and logistics to better serve our international markets." 

Para surpresa de zero pessoas (pelo menos entre as que acompanham tecnologia). A consolidação advém pelo menos em parte da pressão por manter a margem de lucro diante dos custos crescentes na cadeia de suprimentos. Ou seja, sim, está relacionada pelo menos em parte com uma "crise no PC gamer".

Minha opinião pessoal é que não há motivo para desespero, operações corporativas deste tipo são comuns. No fundo já era o mesmo conglomerado, gerido pela mesma estratégia e servindo aos mesmos acionistas, eles estão enxugando custos. Mas um dos motivos pelos quais decidiram isso especificamente agora é significativo. E, segundo a Palit, a Galax continua. Ninguém perde garantia, e no curto prazo ao menos nada muda.

quarta-feira, 25 de março de 2026

Criando uma workstation multi-GPU para IA, distribuindo a carga de VRAM

O uso de GPUs para executar LLMs localmente coloca a quantidade de VRAM disponível na máquina, na placa de vídeo, normalmente, como o fator limitante do tamanho do modelo a ser carregado. Algumas arquiteturas de computadores resolvem em parte este problema em parte com uma memória unificada (como máquinas da Apple ou alguns notebooks Windows ARM) e, de fato, isso dá uma certa flexibilidade. Nestes casos existe ainda a restrição da memória total, que em geral é cara e não pode ser aumentada (depois da compra, pois nestes modelos normalmente é soldada, e antes da compra até pode-se configurar mais, só que a peso de ouro).

Mas e se usarmos duas (ou mais) GPUs, poderíamos usar as duas para carregar um modelo maior do que seria suportando individualmente por cada uma, redistribuindo o uso de memória entre as duas? A boa notícia é que isso é possível e relativamente fácil de configurar no Ollama, e possivelmente em outras plataformas similares. Deescreverei um breve experimento para verificar a viabilidade técnica, sem entrar na comparação de custos com outras opções, como a compra de uma GPU maior que a soma das duas, lembrando que a eficiência não é só dependente da quantidade de VRAM, teria que ser feita umas análise custo/benefício completa, comparar diversas placas e conjuntos de placas, rodando benchmarks. A idéia aqui é apenas ver se funciona. No entanto usar as duas GPUs pode ser a diferença em algumas situações entre conseguir rodar o modelo ou não. 

Voltando ao cenário concreto, tenho duas GPUs GTX-1080 (EVGA e Asus ROG), já obsoletas, sem as últimas tecnologias, mas ainda com capacidade razoável para execução de LLMs, com 8 GB de VRAM cada. Alias, um outro motivador para o teste, tenho outras duas GPUs mais atuais, RTX 3060Ti e RX 6600, mas todas tem 8 GB, e não tenho como com uma única placa rodar modelo maior. Tenho à disposição também uma máquina Linux (Ubuntu 24.04 LTS) com 16 GB de RAM, Core i7 6700K e aproximadamente 1.5 TB em SSD SATA (480 Gb + 1 TB). A CPU bem antiga obviamente não é a melhor escolha para uma máquina de produção deste tipo, mas se mostrou válida para o teste. Provavelmente esta solução funcionará com outras GPUs, incluindo AMD, mas isso não foi testado, embora as GPUs nVidia dominem largamente o mercado e seriam o caso mais comum. Também não vejo porque não funcionaria em outras distros linux ou mesmo no Windows. De todo modo, para registro, o teste foi feito com sucesso com Ubuntu Linux e nVidia. Apenas a facilidade de balanceamento de carga de memória do Ollama é que não sei se é similar em outras soluções deste tipo, lembrando que o Ollama está disponível também em Windows.  

O primeiro passo é a instalação física da segunda placa de video. O PC usado já tinha uma GTX 1080 no slot principal (16x). Olhando no manual da motherboard e planejando uma separação saudável entre as duas placas, para evitar aquecimento, coloquei a segunda placa dois slots abaixo depois. É uma placa ATX normal, e elas ficaram a uns 10 cm de distância entre si. Importante, não utilizei pontes SLI entre as placas. Uma pesquisa rápida me mostrou que agora em 2026 o SLI está totalmente morto, não é utilizado nem em jogos e muito menos o Ollama não utilizaria esta via para comunicação de dados. Tudo é feito pelo barramento normal do PC. Notar também que no segundo slot PCI-e utilizado, por limitações da placa mãe, a velocidade ficou em 4x. Isso não causou problema algum. Outros dois pontos de atenção aqui, o gabinete, que pode ser um ATX barato, mas o ideal é que não seja muito compacto, por motivos obvios, e ofereça boa ventilação. E a fonte de alimentação tem que segurar tudo, ser de qualidade razoável (aliás isso sempre, independente do uso), e ter boa margem na potência total. Usei uma Corsair CX750M, também nada muito extraordinário. 

Próximo passo, ligar o PC e confirmar que tudo continua funcionando como antes (a não ser talvez por alguns jogos, como comento no último parágrafo, e que podem precisar de ajustes nas configurações e parametros de inicialização para forçar a placa certa). Neste momento estamos com duas GPUs, a "GPU 0", na qual está ligado o monitor (ou mais), e a "GPU 1", a qual vai ficar em princípio apenas para processamento. Um fato interessante é que como usei placas semelhantes, de chipsets iguais, na maioria das vezes dentro de jogos, não tenho como diferenciar pois aparecem exatamente com a mesma descrição. tenho que ir por tentativa e erro, levando em conta a ordem em que aparecem, ou que a primieira é a zero e a segunda é a 1, o que eventualmente não é verdade. Um pequeno contratempo, mas de qualquer modo são apenas duas tentativas (e não 3 como no USB-A... rs). As vezes, como no comando a seguir, é possivel diferencia-las por alguma característica. Por exemplo, a Asus tem uma potência máxima maior (198 W contra 180W da EVGA e isso já aparece logo no comando a seguir).  

Entre agora em um terminal e rode:

            nvidia-smi

Isso obviamente só vale para nVidia, placas AMD e Intel devem ter algo semelhante. Deve aparecer uma saída semelhante à tela abaixo (clique pra aumentar se necessário):


Aqui podemos ver que a segunda placa, a "GPU 1", está conectada corretamente e acessível, do contrário não apareceria, e vemos como disse antes, a capacidade máxima listada de 198W. Note também que o Xorg já alocou um processo nela, há como impedir isso completamente mas não achei necessário. Além disso é possivel acompanhar dados sobre a saúde da placa, percentual de uso dos fans, temperatura e bem importante, a memória usada por cada processo. É por aqui que comprovaremos que o modelo está sendo distribuído entre as duas placas (além do fato que muitos deles nem caberiam em apenas uma). Isso conclui a etapa da instalação da segunda GPU, confirmando que o PC continua normal e a segunda placa foi instalada corretamente e reconhecida pelo sistema. 

A próxima etapa já será observar um modelo rodando nas duas. Em seguida, caso já não tenha no seu PC, instale o Ollama:

            curl -fsSL https://ollama.com/install.sh | sh

Agora teste com um modelo pequeno, para um download rápido:

            ollama run mistral-nemo

Recomendo explorar um pouco o Ollama no terminal, mesmo que depois a intenção seja usar pela interface Web, apesar de ser linha de comando é bem simples e intuitivo. Rode o comando "nvidia-smi" em outra janela de terminal, de preferência enquanto a IA estiver pensando, se bem que ela não desaloca a memória imediatamente depois, por eficiência, já que o usuário pode continuar mandando prompts no mesmo chat. Observe que a GPU 1 já está sendo usada pelo Ollama.

Agora vamos testar um modelo maior, que fará mais sentido neste teste. Rode por exemplo, no terminal:

            ollama run llama3.1:8b-instruct-q8_0

ou o "gemma3:12b", ou o "gpt-oss:20b", ou qualquer um se sua escolha, o importante aqui é escolher um que caiba na capacidade total somada das suas duas placas e que seja maior do que uma das duas placas. No caso aqui estou escolhendo modelos entre 8 e 16 GB (porque as duas placas aqui tem 8 GB, no caso do seu teste o valor total pode ser diferente). O ponto é provar que estou rodando um modelo que não poderia por estar com apenas uma das duas placas. Pelos meus testes, quando o modelo é maior ou nem abre ou fica extremamente lento. Aqui a coisa começa a ficar interessante, rode de novo "nvidia-smi" em outra janela de terminal, com a IA grande resolvendo algum prompt, o que pode até ser difícil, já que a maioria dos comandos fois resolvida de imediato e é dificil encontrar algum que demora, mas como também mencionei, não é crítico. Observe abaixo:



O total consumido pelo modelo é 5.974 MB + 6.736 MB, ou seja, mais de 8 e, além disso, note com a GPU 1 está sendo mais usada.

A seguir um item de preparação, que é de certa forma opcional em um teste rápiudo, mas e rápido e demonstra um cenário mais realista. A intenção é que o Ollama interfira o minimo nas aplicaçãoes graficas rodando, seja jogo ou outra aplicação profissional. Para isso o procedimento abaixo inverte a prioridade de uso das GPUs pelo Ollama:  

                              sudo systemctl edit ollama.service

E no editor que irá abrir, inserir:

            [Service] 

            Environment="CUDA_VISIBLE_DEVICES=1,0" 

            Environment="OLLAMA_HOST=0.0.0.0"

Salve e saia. A primeira linha muda a prioridade de uso do Ollama, e a segunda será necessária depois para compatibilizar com o Web-UI, e já que estamos com a mão na massa podemos inserir logo. Essa mudança de prioridade das GPUs também vai ajudar na compatibilização com jogos, podendo eventualmente se dar ao luxo de jogar e deixar a IA rodando, dependendo da VRAM consumida por cada um deles, o jogo e o modelo. Os jogos (se for o caso) deverão rodar sempre na GPU 0, ao passa que o Ollama começara a preencher pela GPU 1, embora acabe balanceando entre as duas, como poderá ser observado rodando de vez em quando o "nvidia-smi". 

Logo a seguir execute no terminal:

            sudo systemctl daemon-reload

            sudo systemctl restart ollama

Após tudo funcionando e testado, ainda existem algumas considerações a fazer. Primero que, para uso prático é interessante instalar uma interface web, como o conhecido Web-UI. Na realidade quando escrevo já fiz isso e ela está operacional, mas não vou incluir aqui para não ficar tão extenso. Penso em publicar depois o procedimento de instalaçâo, apenas para registro, mas em todo caso o processo não tem muito mistério e pode ser encontrado na Web. O foco aqui foi mais a novidade, pelo menos para mim, do uso de mais de uma placa. Cabe apenas ressaltar aqui que existe um segundo método de instalação em que tudo é instalado por container, ao contrário da que usei, na qual o Ollama é instalado direto no sistema operacional host e depois a WebUi apenas acessa a API do Ollama pelo protocolo padrão. 

O outro ponto é a compatibilidade com outras aplicações gráficas na máquina. No meu caso tenho a pretensão de também usar este PC para jogar alguns jogos no Steam e no Lutris. Antes quando estava usando apenas uma GTX 1080 tudo funcionava perfeitamente. Ao inserir a segunda placa tive que fazer algumas configurações para evitar conflitos em alguns jogos, que se confundem com a existência da segunda placa e podem direcionar o processamento para ela, com resultados adversos (lembrando que a segunda placa não controla vídeo). Na realidade a instalação do Web-UI e a resolução deste conflitos demorou muito mais tempo que a primeira parte que foi fazer os modelos funcionarem nas duas placas, mas também nada extraordiário. A compatibilização dos jogos acho que vale um terceiro post.

A questão final: vale a pena para uso prático montar PC multi GPU para IA? Acho que depende muito, mas já adiantando que provavelmente eu manterei o resultado desta implementação o meu para uso pessoal. Na minha realidade não precisei comprar nenhuma peça, e complementando depois com configurações para tornar o uso mais prático, como instalaçâo Web-UI e outras configurações dos jogos, está se mostrando uma solução muito funcional e barata. Se eu tivesse um uso profissional remnunerado e orçamento tenderia a ir com uma unica placa poderosa e atual, mas estou apenas fazendo testes.

Caso não se tenha nenhuma GPU disponível teria que fazer as contas, comparar comprar duas ou uma única mais cara, bem como as diferenças de performance entre essas opções, pois existe o tráfego pelo barramento da máquina envolvido também. E também valeria a pena considerar o mercado de pĺacas usadas. Além disso, soluções assim  talvez façam mais sentido em ambiente de testes doméstico, profissional individual, já que com orçamento maior é fácil buscar opções prontas otimizadas. O custo pode até ficar menor, mas o usuário terá que garantir toda a compatibilidade das peças, tamanho do gabinete, capacidade da fonte, posição dos slots, etc.

segunda-feira, 23 de março de 2026

O que esperar da crise de hardware de PC em 2025/2026?

 


Neste início de 2026, continuamos a sentir os efeitos da alta de preços para o consumidor final em componentes essenciais de PCs (DIY), em especial memórias e SSDs. Em menor escala, mas também com tendência de alta, estão as placas de vídeo — que utilizam VRAM de alta capacidade e competem pelas mesmas linhas de produção de chips de memória usados em servidores de IA. Esse aumento reflete-se, de forma mais lenta mas perceptível, em dispositivos prontos; não apenas computadores, mas tudo o que demande RAM e armazenamento. O encerramento das atividades da Crucial (marca da Micron para o consumidor final) é um forte indício de que a situação não é passageira, impactando profundamente a estrutura do mercado e elevando as incertezas.

As previsões de líderes da indústria apontam para uma normalização entre 2027 e 2030. Contudo, não se deve encarar essa afirmação como uma promessa de que o mercado retornará ao "normal" pré-2025. Tal visão parece excessivamente otimista; as declarações oficiais soam mais como contenção de danos para evitar o caos e justificar escolhas que, embora racionais do ponto de vista corporativo, impactam negativamente o consumidor. O "novo normal" deve ser bem diferente. Embora ninguém tenha bola de cristal, podemos usar as tendências atuais para traçar três cenários e, assim, tentar nos planejar, adaptar ou, na pior das hipóteses, nos preparar psicologicamente.