Release
Inkling 2 Mini: o que é o modelo local em loop da Thinking Machines
Hora de Codar · Por Matheus Battisti ·
Em resumo
- A Thinking Machines Lab lançou o Inkling 2 Mini, um modelo de pesos abertos sob licença Apache 2.0 feito para rodar localmente.
- O modelo é multimodal e usa arquitetura MoE, com 26,4B de parâmetros no total e cerca de 3B ativos por token.
- Aceita entrada de texto e imagem, com janela de contexto de 1M de tokens.
Por que importa
Para desenvolvedores brasileiros, o modelo oferece a opção de rodar um LLM multimodal com contexto longo na própria máquina, sem depender de API paga de terceiros. Como ele ativa só cerca de 3B de parâmetros por token, o custo de inferência tende a ser menor que o de modelos densos do mesmo tamanho.
Quem é afetado
- Desenvolvedores que querem rodar modelos de IA localmente
- Equipes que avaliam modelos de pesos abertos com licença permissiva
- #inteligência artificial
- #modelos abertos
- #modelo local
- #thinking machines
- #llm
Resposta rápida O Inkling 2 Mini é o modelo de pesos abertos (Apache 2.0) da Thinking Machines Lab feito para rodar localmente: um MoE multimodal de 26,4B parâmetros no total, cerca de 3B ativos por token, entrada de texto e imagem e contexto de 1M de tokens. Em relação ao…