Placa de vídeo

IA local: como rodar modelos de ponta na sua placa de vídeo

IA local já roda em placa com 12 GB de VRAM. Entenda a arquitetura MoE, por que a VRAM parou de crescer e o que isso muda pra quem monta PC.

Voltar ao blogIA local: como rodar modelos de ponta na sua placa de vídeo

Se você acompanha o mercado de tecnologia, já percebeu que só se fala de uma coisa: datacenter para inteligência artificial. São investimentos bilionários em galpões gigantescos, lotados de aceleradores especializados que custam dezenas de milhares de dólares cada, tudo para rodar os modelos de IA que você usa no navegador.

Esse movimento não é abstrato para quem monta PC. Ele é uma das explicações para o cenário de hardware caro e escasso que a gente vive na bancada todo dia, e para a queda acentuada nas vendas de componentes de PC gamer no último ano, enquanto as fabricantes de chips registram receitas recorde. A justificativa oficial é que esse deslocamento de produção é necessário para atender à demanda crescente por serviços de IA.

Só que existe uma alternativa — e ela cabe na placa de vídeo que muita gente já tem em casa.

Como as sanções aceleraram a IA que roda no seu PC

Desde 2022, os Estados Unidos restringem a venda dos aceleradores de IA de topo para a China. Sem acesso ao hardware mais parrudo, os laboratórios chineses tiveram que resolver o problema pelo outro lado: em vez de força bruta, eficiência. Arquiteturas mais espertas, modelos menores, treinamento mais econômico.

O efeito foi o oposto do pretendido. Enquanto os grandes laboratórios americanos podiam queimar orçamento comprando GPU sem parar, os chineses foram obrigados a otimizar — e a otimização virou produto. A família Qwen, da Alibaba, é o exemplo mais visível: modelos de pesos abertos, gratuitos, publicados no Hugging Face e pensados para rodar em máquina de gente comum.

Mixture of Experts: a sacada que faz o modelo caber

Todo modelo de IA tem um número de parâmetros — que são, basicamente, os pesos da rede neural. Para o modelo rodar, esses números precisam caber inteiros na memória da placa de vídeo. É aí que a VRAM vira o gargalo real da história, e não o processador.

Modelos de ponta como os que rodam em nuvem são estimados na casa do trilhão de parâmetros. Isso exigiria centenas de gigabytes de memória, e por isso eles só existem em datacenter. O truque que muda o jogo do lado de cá chama-se Mixture of Experts, ou MoE.

Em vez de um cérebro único e gigante, o modelo é dividido em vários especialistas menores. Quando você faz uma pergunta, ele não ativa a rede inteira: ativa apenas os especialistas mais relevantes para aquele pedido específico. Um modelo com dezenas de bilhões de parâmetros no total pode usar só alguns bilhões ativos por token — e é exatamente isso que permite performance comparável à de modelos muito maiores dentro de uma placa de consumidor. Análises independentes e comparativos de benchmark vêm mostrando esses modelos abertos brigando de igual para igual com os proprietários em boa parte das tarefas.

Engenharia comeu força bruta. E a tendência é essas otimizações continuarem melhorando.

Quanta VRAM você precisa

A regra prática é simples: quanto mais memória de vídeo, melhor o modelo que cabe. É um espectro, não um sim ou não.

  • 12 GB (ex.: RTX 3060 12 GB): já roda modelos abertos modernos com arquitetura MoE, e existem guias de instalação prontos para esse cenário. Não exige processador de topo nem mais do que 16 a 32 GB de RAM.
  • 24 GB (ex.: RTX 3090): abre a porta para modelos dense de porte médio, que costumam se sair melhor em raciocínio puro, em código e em textos longos.
  • 32 GB (ex.: RTX 5090): chega mais perto do que os serviços em nuvem entregam, com folga para contextos grandes e para manter mais de um modelo carregado.

Repare no detalhe importante: a placa mais barata dessa lista é de uma geração antiga que muita gente já tem dentro da máquina. Antes de pensar em comprar qualquer coisa, olhe quanta VRAM a sua placa atual tem — provavelmente ela já roda alguma coisa.

Por que a VRAM parou de crescer justo agora

Aqui entra a parte que incomoda. A memória de vídeo é o recurso que decide se a IA roda ou não roda na sua máquina — e é justamente o recurso que parou de crescer nas placas de consumidor. A discussão sobre quantidade de VRAM virou pauta permanente na imprensa técnica, seja em comparativos entre versões de 8 GB e 16 GB da mesma placa, seja na aposta em compressão de texturas em vez de simplesmente entregar mais memória.

Não dá para afirmar intenção — ninguém mostrou documento nenhum, e isso segue no campo da leitura de mercado. Mas a coincidência de calendário é grande demais para passar batido, e o padrão econômico é velho conhecido: quem tem capital compra o recurso escasso em volume e aluga o acesso para o resto. Funciona assim no mercado imobiliário e não seria diferente com poder computacional. O destino natural desse caminho é o encolhimento da computação pessoal como a gente conhece: você deixa de ter uma máquina e passa a alugar a capacidade de alguém.

O que fazer com essa informação

Nada aqui é motivo para pânico, mas é motivo para atenção. Duas atitudes práticas:

  1. Conheça as opções abertas. Se você já usa IA no dia a dia, vale testar um modelo local antes de assumir que precisa pagar assinatura. Sem enviar dado para fora, sem mensalidade e sem depender da conexão.
  2. Invista em hardware enquanto é possível. Uma placa com VRAM decente hoje é um ativo que envelhece bem — para jogo e, cada vez mais, para IA.

A gente vai preparar aqui no canal um tutorial mostrando como baixar, instalar e usar essas ferramentas abertas na prática. Enquanto isso, se você quer montar ou fazer um upgrade pensando em rodar IA local, dá uma olhada nas nossas builds ou fale com a gente — a escolha da placa muda bastante quando VRAM entra na conta, e a gente ajuda a acertar o alvo sem você gastar à toa. Quem preferir olhar peça por peça pode conferir a loja.

Fontes

Temas deste artigo

Com esse problema no seu PC?

Tela azul, travando, lento ou não liga? A gente diagnostica de graça em Moema, conserta com garantia de 1 ano e você acompanha online — sem compromisso.

Blog

Mais sobre Placa de vídeo

Ver o tema