No inicio deste mês recebi um email da Nvidia apresentando o RTX Spark, basicamente um SOC ARM feito em colaboração com a Mediatek e com GPU RTX integrada. Vou até postar o cabeçalho do email aqui porque vai servir também para analise depois:
De um modo geral era o esperado, já haviam rumores, e também era o passo lógico para competição com o Snapdragon X Elite e os chips M da Apple, que vinham sendo usados cada vez mais para rodar modelos LLM locais, principalmente este último, devido a memória unificada. E de início leva uma vantagem técnica enorme por vários motivos que veremos mais no final.
Logo em seguida ao anúncio da Nvidia a mídia especializada de hardware o cobriu em peso, inclusive pela falta de novos lançamentos na área ultimamente, e esse é mais um ponto a se guardar na memória para a conclusão final. O que quase todos esses analistas, todos os que eu vi na realidade, concordam é que essa solução, como mencionado antes, estaria pelo menos inicialmente se destinando ao mercado profissional que precisa da carga de trabalho que é bem atendida pela GPU integrada, ou seja, IA local, renderização e etc. E os games? Agora cito o cabeçalho que mostrei no inicio, interessante que acabamos de estabelecer, o remetente seja "gaming@nvgaming.nvidia.com". E apesar também das fotos do evento fartamente divulgadas do Jensen segurando os dois laptops rodando jogos, como essa abaixo, que ninguém se engane, não fazem o menor sentido para o jogador no momento, vamos entender porque.
Citando o press release linkado no email:
"Powering agents on local devices requires both robust security and performant hardware. RTX Spark features up to 1 petaflop of AI compute and 128GB of unified memory to meet the processing demands of on-device agents."
Ora, qual a faixa de preço de um equipamento com 128 GB e uma GPU equivalente a uma 5070? Mas não é só isso, Há a questão da compatibilidade limitada dos jogos com ARM usando a camada de emulação Prism da Microsoft. Muitos títulos sequer abrem, e a maioria terá uma performance muito inferior e/ou alguns bugs. Jogos nativos são exceção atualmente. Ou seja, mesmo o entusiasta com dinheiro "infinito" não teria motivos de adquirir esta máquina (hipotética) atualmente para jogos, porque teria um resultado muito melhor gastando menos dinheiro com soluções tradicionais de desktop x86. Eu sei disso, todos os influencers que eu vi sabem disso, todos que acompanham hardware deveriam saber, e Jensen com certeza também sabe. Mas então porque o esforço em posar para a mídia segurando esses dois laptops, e ainda, porque direcionar um email apresentando o produto para a base de usuários domésticos de placa de vídeo (que foi o meu caso).
Aqui entra a minha interpretação pessoal dos fatos. Primeiro, junte a isso que não há lançamentos significativos na área neste momento, que praticamente todos os recursos da Nvidia estão direcionados para datacenter e IA. Então para mim é como se a empresa dissesse: "Não esquecemos de vocês, fiquem aí, coisas boas virão..." ao invés de simplesmente: "Pois é, acabou, tudo um dia acaba, obrigado por tudo...". Mas na realidade o que realmente acredito é que, apesar de não estarem focando no mercado doméstico no momento, eles não vão abandonar completamente o segmento, só não será mais como era antes, alguma coisa virá, mas talvez não como se esperava que seria. Então vale a pena para a Nvidia um baixo investimento de marketing (emails, tempinho de palco na apresentação) pra não estimular toda a base de clientes a debandar para a concorrência.
Voltando ao Spark, qual a probabilidade de ele chegar com preço compatível com o mercado consumidor individual não especializado, que não ganha dinheiro com um PC com esses requisitos? No médio prazo talvez, quando houverem cortes do chip menores, o que faz parte do processo de fabricação de qualquer chip, e se ele for empacotado junto com menos RAM, digamos 64 ou 32 GB, ai talvez se aproximem dos atuais laptops com Snapdragon X Elite, que ainda são posicionadas como máquinas premium. E na minha opinião, levando alguma vantagem.
Primeiro, porque a GPU da Nvidia terá muito mais capacidade bruta de processamento que as atuais NPU do Snapdragon X Elite, ou mesmo do X2 Elite. E leva vantagem em compatibilidade, a maioria dos softwares de LLM local é projetada roda nativamente em GPUs, poucos rodam nativamente na NPU da Qualcomm. Vai ganhar provavelmente do M5 também, sendo uma alternativa para quem não quer um Mac.
Resumindo, apesar de que neste momento muitos possam sentir que ficaram de fora, o anuncio é positivo em geral, tanto porque ele pode chegar depois a um segmento mais barato, possibilitando inclusive o uso de LLM local em menor escala, como porque vai estimular a competição com outros fabricantes. E num futuro muito distante, quem sabe até se torne viável para jogos.
Mas e quanto ao futuro do atual modelo de GPUs dedicadas para PCs DIY? Neste ponto a minha previsão atual não é nada boa. Não acho que vai acabar amanhã, mas também não percebo chances de grande evolução. Por um lado, parece que tecnicamente se chegou a um limite do aumento viável da rasterização bruta, e se está dependendo cada vez mais de IA para fazer o trabalho. Por outro, a necessidade de injetar mais potência elétrica levou a sistemas de arrefecimentos imensos, que levam a placa de vídeo a precisar de um suporte adicional pra não entortar, ou novos conectores como o infame 12VHPWR, substituído depois sem muito sucesso pelo 12V-2x6, e seus derretimentos e incêndios. Ao mesmo tempo, quem quer rodar uma IA local esbarra em uma quantidade de VRAM limitada mesmo nos modelos de GPUs mais caros, o que é a grande vantagem das soluções com memória unificada como a da Apple. E os gamers continuarão também insatisfeitos com pouca VRAM, sofrendo com os também infames 8 GB de VRAM nos modelos mais populares (os que a maioria pode comprar), dificuldades técnicas (conector, tamanho da placa) e preço alto. Também tem os que se orgulham das placas imensas, ocupando 4 slots, cheias de fans e com suportes pra não despencar com o próprio peso, mas vamos deixar os ostentadores de lado aqui. Racionalmente, tamanho, peso, dissipação, consumo elétrico e preço aumentando são problemas. E lidar com consumidor final de placa também é problema para as fabricantes: RMA, inclusive aumentando por causa o conector, canais de suporte, marketing separado, embalagem, distribuição. E aqui nem é exatamente a Nvidia, mas Asus, Gigabyte, MSI, Palit, que AINDA fabricam GPUs dedicadas.
Parece que a Nvidia já percebeu tudo isso e está apostando suas fichas em outro lugar, e com razão. Datacenters e no lado do consumidor final, fabricantes terceiros integrando os chips em soluções completas: Lenovo, HP, Dell. Citando novamente o press release:
"RTX Spark-powered slim Windows laptops with all-day battery life and premium displays, as well as compact desktop PCs available this fall from ASUS, Dell, HP, Lenovo, Microsoft Surface and MSI, with models from Acer and GIGABYTE to follow."
