Brasil
The Morning Dev

Só o que vale a pena saber

‹
 

Release

Inkling 2 Mini: o que é o modelo local em loop da Thinking Machines

Hora de Codar · Por Matheus Battisti ·

Inkling 2 Mini: o que é o modelo local em loop da Thinking Machines

Em resumo

  • A Thinking Machines Lab lançou o Inkling 2 Mini, um modelo de pesos abertos sob licença Apache 2.0 feito para rodar localmente.
  • O modelo é multimodal e usa arquitetura MoE, com 26,4B de parâmetros no total e cerca de 3B ativos por token.
  • Aceita entrada de texto e imagem, com janela de contexto de 1M de tokens.

Por que importa

Para desenvolvedores brasileiros, o modelo oferece a opção de rodar um LLM multimodal com contexto longo na própria máquina, sem depender de API paga de terceiros. Como ele ativa só cerca de 3B de parâmetros por token, o custo de inferência tende a ser menor que o de modelos densos do mesmo tamanho.

Quem é afetado

  • Desenvolvedores que querem rodar modelos de IA localmente
  • Equipes que avaliam modelos de pesos abertos com licença permissiva

Resposta rápida O Inkling 2 Mini é o modelo de pesos abertos (Apache 2.0) da Thinking Machines Lab feito para rodar localmente: um MoE multimodal de 26,4B parâmetros no total, cerca de 3B ativos por token, entrada de texto e imagem e contexto de 1M de tokens. Em relação ao…

O que você achou disso?

0 comentários