Brasil
The Morning Dev

Só o que vale a pena saber

‹
 
B43/100

Vulnerabilidade · alta

Hugging Face permite sequestro de modelo Kokoro usado por Google e NVIDIA

Tier B · Corrija esta semana – Coloque na sprint

Quem está exposto: Projetos da Google, NVIDIA, AMD, Intel e AWS que usam o Kokoro

Tier B porque: Controle total OU segredos expostos OU cadeia de suprimentos

Alcance

Ataque

Dano

Correção

Ferramenta popular · Controle total

O que fazer

  1. Verificar se os projetos utilizam o modelo Kokoro ou outros modelos da Hugging Face cuja origem não foi conferida

Em resumo

  • Uma falha básica na verificação de propriedade da Hugging Face permitiu a uma equipe de pesquisadores assumir o controle total do modelo Kokoro.
  • O Kokoro é um modelo popular de conversão de texto em voz, integrado em projetos da Google, NVIDIA, AMD, Intel e Amazon Web Services.

Por que importa

Modelos baixados da Hugging Face podem ser alterados por terceiros, então quem usa modelos de terceiros em produção deve verificar a origem e a integridade deles antes de integrá-los aos próprios sistemas.

O checklist por trás do tier

Checklist · 3 de 10 com sim
SimAtinge times de tecnologiaHugging Face é usado por desenvolvedores e times de IA que integram modelos como o Kokoro em seus produtos.
NãoInfraestrutura centralHugging Face é uma plataforma específica de um fornecedor, não software central de infraestrutura como GitHub ou OpenSSH.
SimFerramenta popularHugging Face é uma plataforma amplamente usada por times de desenvolvimento de IA.
NãoExploradaTugaTech: uma equipe de investigadores demonstrou o sequestro; não relata ataques reais observados.
NãoExploit públicoTugaTech não menciona publicação de código de exploit nem de prova de conceito detalhada.
NãoRemota, sem loginTugaTech descreve falha de verificação de propriedade, mas não diz que pode ser explorada remotamente sem credenciais.
SimControle totalTugaTech: a falha permitiu assumir o controle total do modelo Kokoro, uma tomada completa de conta.
NãoSegredos expostosTugaTech não relata roubo de credenciais, tokens, chaves ou dados de clientes.
NãoCadeia de suprimentosTugaTech relata sequestro do modelo por pesquisadores, sem dizer que código malicioso foi distribuído a desenvolvedores.
NãoAinda sem correçãoTugaTech não informa se a Hugging Face já liberou correção para a falha.

Fonte

Hugging Face deixa sequestrar modelo de IA usado pela Google e NVIDIA ↗ TugaTech · há 10 h

Visto pela primeira vez · 1 fonte · Página completa da notícia · Como os tiers são decididos