Como rodar um LLM local em um Mac mini

Por que a memória é o limite

O Apple silicon tem memória unificada. A CPU e a GPU dividem um único espaço. Isso é bom para LLMs, porque a GPU pode usar quase toda a RAM. Mas o macOS, os seus apps, os pesos do modelo e a memória de trabalho do modelo saem todos desse mesmo espaço.

A memória de trabalho cresce com o tamanho do contexto. A documentação do Ollama diz que um contexto maior precisa de mais memória. Ela também escolhe o contexto padrão pela memória de GPU disponível (docs.ollama.com/context-length, outubro de 2026).

• Abaixo de 24 GiB: 4k tokens.
• De 24 a 48 GiB: 32k tokens.
• 48 GiB ou mais: 256k tokens.

Então um Mac de 16 GB começa com o menor contexto. O LM Studio recomenda 16 GB ou mais em um Mac. Ele diz que máquinas de 8 GB devem ficar em modelos menores (requisitos de sistema do lmstudio.ai, outubro de 2026).

A nossa regra prática é mais simples, e é nossa, não de um fornecedor. Deixe o arquivo do modelo pelo menos 6 a 8 GB menor que a memória do Mac. Isso deixa espaço para o macOS, o contexto e um agente ou um navegador. Deixe mais se você também roda builds no mesmo Mac.

O que cabe, com tamanhos reais de arquivo

Estes são os tamanhos de download das versões padrão, que são de 4 bits para esses modelos. Eles vêm das páginas da biblioteca do Ollama em outubro de 2026.

• qwen3:8b tem 5,2 GB. llama3.1:8b tem 4,9 GB. Cabem com folga em 16 GB.
• gemma3:12b tem 8,1 GB. qwen3:14b tem 9,3 GB. Em 16 GB fica apertado, com pouco espaço para mais nada.
• gpt-oss:20b tem 14 GB. Em um Mac de 16 GB isso deixa quase nada para o macOS. Considere fora de alcance.
• gemma3:27b tem 17 GB, qwen3:30b tem 19 GB e qwen3.5:35b tem 24 GB. Esses pedem 48 GB.
• llama3.1:70b tem 43 GB. Esse precisa de 64 GB.
• gpt-oss:120b tem 65 GB. Ele não cabe em nenhum Mac mini, porque 64 GB é o máximo que um Mac mini comporta.

Modelos pequenos também erram mais. No nosso teste abaixo, um modelo de 0,6 bilhão de parâmetros chamou o Mac mini de "um computador portátil." Serve para um teste rápido. Não para trabalho de verdade.

Instale o Ollama

O Ollama precisa do macOS 14 Sonoma ou mais novo (docs.ollama.com/macos). Baixe o app na página de download ou use o script de instalação. No macOS, o script coloca o Ollama.app em Applications e liga o comando ollama na pasta local bin.

curl -fsSL https://ollama.com/install.sh | sh

Rodamos em máquinas macOS 26 hospedadas pelo GitHub em 2 de outubro de 2026. A instalação levou cerca de 7 segundos. Em duas das nossas execuções, o último passo falhou com a mensagem Unable to find application named 'Ollama'. O app foi instalado mesmo assim. Abrir pelo caminho funcionou.

open /Applications/Ollama.app

Depois baixamos um modelo minúsculo e rodamos.

$ ollama --version
ollama version is 0.35.0
$ ollama pull qwen3:0.6b
$ ollama list
NAME          ID              SIZE      MODIFIED
qwen3:0.6b    7df6b6e09427    522 MB    Less than a second ago

Para uso real, baixe um modelo que caiba na sua memória. Depois confira se ele roda na GPU. A coluna Processor deve mostrar 100% GPU.

ollama pull qwen3:8b
ollama run qwen3:8b
ollama ps

Ou use o MLX ou o LM Studio

O MLX é o framework de machine learning da própria Apple. O pacote de LLM dele é instalado com pip. Instalamos em um ambiente virtual e rodamos um modelo de 1 bilhão de parâmetros em 4 bits.

python3 -m venv ~/mlx && source ~/mlx/bin/activate
pip install mlx-lm
mlx_lm.generate --model mlx-community/Llama-3.2-1B-Instruct-4bit --prompt "What is a Mac mini?" --max-tokens 40

Ele mostrou o mlx-lm versão 0.32.0 e um pico de memória de 0,773 GB. Para modelos grandes, o README do MLX mostra uma configuração que aumenta a memória que a GPU pode reservar. Ela precisa do macOS 15 ou mais novo. Deixe N acima do tamanho do modelo em MB e abaixo da sua RAM total.

sudo sysctl iogpu.wired_limit_mb=N

O LM Studio é um app de desktop com um navegador de modelos. O comando lms vem com o app. A documentação mostra lms server start para um servidor de API e lms daemon up para rodar sem a janela. Não testamos o LM Studio para esta página.

Mantenha o servidor de modelo rodando

Por padrão, o Ollama descarrega um modelo depois de 5 minutos parado, segundo o FAQ. O próximo pedido então espera o modelo carregar de novo. Para um servidor sempre ligado, mantenha os modelos carregados. O FAQ diz para definir variáveis do app do Mac com launchctl e depois reiniciar o app.

launchctl setenv OLLAMA_KEEP_ALIVE "-1"

Desligue o repouso também, senão o servidor congela junto com o Mac.

sudo pmset -a sleep 0
sudo pmset -a disksleep 0
sudo pmset -a displaysleep 10

Notas de segurança

O Ollama escuta em 127.0.0.1 na porta 11434 por padrão. A API dele não pediu nenhuma senha no nosso teste. O FAQ mostra como escutar em todas as redes com OLLAMA_HOST. Não faça isso em um Mac que outras pessoas conseguem acessar. Para usar o modelo do seu notebook, encaminhe a porta por SSH.

ssh -N -L 11434:127.0.0.1:11434 user@your-mac

Depois aponte as suas ferramentas para localhost na porta 11434 do seu notebook. O Hermes Agent e o OpenClaw podem usar um endpoint local assim.

Qual Mac da MacRun serve

O nosso M6 a pronta entrega tem 16 GB de memória e um SSD de 256 GB. Ele roda bem modelos de 8B ao lado de um agente. Ele é a máquina errada para modelos de 30B, e preferimos dizer isso agora.

• M5 Pro com 48 GB e SSD de 1 TB: $299 por mês no plano agente, mais uma taxa de montagem de $199. Comporta os modelos de 27B a 35B acima.
• M5 Pro com 64 GB e SSD de 1 TB: $349 por mês no plano agente, mais uma taxa de montagem de $249. Comporta modelos de 70B em 4 bits.

Os dois são pré-venda, prontos em cerca de uma semana. O Claude Code e o Codex vêm instalados no plano agente. Você mesmo instala o Ollama, o MLX ou o LM Studio com o seu acesso de administrador.

Quem deve procurar outra opção. Se você precisa de mais de 64 GB, um Mac mini não comporta. Não oferecemos Mac Studio nem servidores com GPU. Compare todos os planos na página de preços.