Leia a versão deste conteúdo em: inglês (English) · espanhol (Español)
A Inteligência Artificial (IA) está passando por uma revolução de acessibilidade, e é nesse cenário que a Thinking Machines Lab acaba de apresentar o Inkling 2 Mini. O modelo, anunciado em 20 de novembro, representa um avanço notável por ser um modelo de código aberto que consegue operar completamente offline em computadores de consumo, como os MacBooks da Apple. Com apenas 26 bilhões de parâmetros, o Inkling 2 Mini desafia modelos de escala gigantesca, provando que é possível entregar um desempenho robusto em tarefas complexas, como raciocínio e programação, sem depender de infraestrutura de nuvem cara.
Inkling 2 Mini: Desempenho de Alto Nível em Hardware Pessoal
O lançamento do Inkling 2 Mini é visto como uma alternativa extremamente eficiente em comparação com modelos massivos, como o Inkling 2 Small, que possui 594 bilhões de parâmetros. O grande destaque do modelo reside em sua capacidade de ser executado localmente. Para isso, ele possui uma pegada de memória de aproximadamente 20GB, o que permite que ele rode em máquinas Apple Silicon com pelo menos 32GB de memória unificada, utilizando plataformas como o Ollama.
Além da portabilidade, o desempenho do Inkling 2 Mini é altamente competitivo. Ele alcançou um índice de inteligência de Análise Artificial (AA) de 20.1. Os resultados de testes mostram que o modelo supera concorrentes significativamente maiores em métricas críticas de engenharia de software. Por exemplo, em testes DeepSWE v1.1, ele obteve 48.2%, superando os 42.2% registrados pelo Qwen3.8-27B, e alcançou 77.9% no SWE-bench Pro v2 Hard, um índice superior aos 73.8% do modelo comparado.
O modelo também demonstra versatilidade, aceitando entradas de texto e imagem e contando com uma janela de contexto que pode estender-se até um milhão de tokens. Para demonstrar seu poder em campo, a empresa reportou que o Inkling 2 Mini operou totalmente offline em um MacBook Pro M5 Pro com 48GB de memória, conseguindo gerar um simulador de voo jogável em poucos minutos durante um voo.
📊 Comparativo de Desempenho em Benchmarks
| Benchmark | Inkling 2 Mini | Concorrente |
|---|---|---|
| DeepSWE v1.1 | 48.2% | 42.2% (Qwen3.8-27B) |
| SWE-bench Pro v2 Hard | 77.9% | 73.8% |
A Arquitetura Looped Transformer: Como o Modelo Raciocina Mais
O segredo por trás do desempenho impressionante do Inkling 2 Mini não é apenas seu tamanho enxuto, mas sim sua arquitetura inovadora: o Looped Transformer. Segundo a documentação técnica da Thinking Machines, o modelo utiliza uma arquitetura Mixture of Experts (MoE) com 24 camadas, totalizando 26.4 bilhões de parâmetros, mas com apenas 3.4 bilhões de parâmetros ativos.
O que torna essa arquitetura particularmente avançada é a maneira como ela processa a informação. Em vez de passar cada token por cada camada do transformador apenas uma vez, o modelo executa suas 12 camadas centrais três vezes, enquanto as seis camadas iniciais e finais operam normalmente. Esse mecanismo permite que o modelo realize 48 aplicações de camadas por token, mesmo armazenando pesos para apenas 24 camadas.
Em termos práticos, isso significa que o modelo consegue aumentar seu contador efetivo de parâmetros ativos para 5.4 bilhões por token. Essa técnica permite que o Inkling 2 Mini dedique mais “tempo” de raciocínio interno antes de gerar o próximo token, melhorando drasticamente a capacidade de raciocínio sem que seja necessário aumentar proporcionalmente os requisitos de memória.
📊 Comparativo de Parâmetros do Looped Transformer
O Contexto de Thinking Machines: De OpenAI para Modelos Acessíveis
A Thinking Machines Lab é uma startup americana de inteligência artificial, fundada por Mira Murati, ex-diretora de tecnologia da OpenAI. A companhia se posicionou estrategicamente no mercado, buscando criar modelos de código aberto que democratizem o acesso à IA avançada. O Inkling 2 Mini é um reflexo direto dessa missão: oferecer alta performance em formatos acessíveis.
O treinamento do modelo foi realizado na plataforma NVIDIA GB300 Grace Blackwell Ultra, aproveitando suas capacidades NVFP4 para otimizar a eficiência do treinamento. A maior parte dos pesos foi treinada usando precisão NVFP4 de 4 bits, e as quatro últimas camadas utilizaram a precisão MXFP8 de 8 bits. A Thinking Machines ressaltou que, como os pesos são implantados na mesma precisão utilizada durante o treinamento, o modelo evita perdas adicionais de conversão associadas à quantização pós-treinamento.
Essa abordagem de otimização de hardware e software reflete a tendência do setor de mover o poder computacional da nuvem para o dispositivo local, tornando modelos potentes viáveis para o uso cotidiano em laptops e estações de trabalho mais modestas.
Impacto para Desenvolvedores: IA Avançada Sem Dependência de Nuvem
Para desenvolvedores que desejam criar agentes de IA capazes de funcionar localmente, o Inkling 2 Mini é uma ferramenta revolucionária. A possibilidade de rodar um modelo tão capaz sem depender de serviços de nuvem pagos e lentos elimina barreiras significativas no desenvolvimento de aplicações de IA complexas.
Apesar dos benefícios, a arquitetura Looped Transformer levanta questões importantes sobre segurança e transparência. Como o modelo pode realizar cálculos internos adicionais sem necessariamente escrever cada passo de raciocínio, pesquisadores alertaram que seu comportamento pode se tornar mais difícil de ser monitorado. A própria Thinking Machines investigou isso, notando que o aumento das passagens internas elevou a capacidade do modelo de resolver problemas sem produzir uma cadeia de raciocínio escrita, passando de 16 segundos para 37 segundos. No entanto, os pesquisadores concluíram que o raciocínio escrito do modelo permaneceu compreensível, sem uma redução significativa na monitorabilidade em escalas operacionais.
O modelo está disponível sob a licença Apache 2.0, com pesos para download no Hugging Face e suporte de implantação local através do Ollama. Isso consolida o Inkling 2 Mini como um marco no caminho para tornar a inteligência artificial de ponta não apenas um recurso de gigantes tecnológicos, mas sim uma ferramenta acessível para a comunidade global de desenvolvedores e entusiastas de tecnologia.
(Nota: As informações e dados técnicos apresentados são baseados na divulgação da Thinking Machines Lab e não representam uma análise de desempenho universal, sendo as diferenças nos testes configuracionais.)




