Lançamento
Red Hat, Google e NVIDIA padronizam inferência de IA em servidores
Diolinux · Por Ariel Bonfim ·
Em resumo
- Red Hat, Google e NVIDIA formam um consórcio que busca padronizar a inferência de IA em servidores abertos.
- O projeto llm-d foi oficializado sob a chancela da Cloud Native Computing Foundation (CNCF).
- A iniciativa se apresenta como alternativa a APIs fechadas e a arquiteturas de nuvem proprietárias.
Por que importa
Desenvolvedores brasileiros que dependem de APIs fechadas de IA ganham uma opção aberta para executar inferência em infraestrutura própria, com governança da CNCF. A fonte disponível é curta, então detalhes técnicos e de adoção ainda não podem ser avaliados.
Quem é afetado
- Equipes que operam inferência de IA em infraestrutura própria ou em nuvem
- #inferência de IA
- #código aberto
- #cloud native
- #kubernetes
- #llm-d
A dependência de APIs fechadas e arquiteturas de nuvem proprietárias acaba de ganhar um contraponto aberto de peso. Sob a chancela da Cloud Native Computing Foundation e oficializado no anúncio oficial da CNCF sobre o llm-d , um consórcio formado por gigantes como Red Hat, Google…