Latinoamérica
The Morning Dev

Solo lo que vale la pena saber

‹
 
B43/100

Ataque a la cadena de suministro · alta

Investigadores vulneran la cuenta de Kokoro en Hugging Face

Nivel B · Parchea esta semana – Al sprint

Quién está expuesto: Desarrolladores que descargan el modelo Kokoro desde Hugging Face

Nivel B porque: Compromiso total O secretos expuestos O cadena de suministro

Alcance

Ataque

Daño

Corrección

Herramienta popular · Compromiso total

Lo esencial

  • Investigadores tomaron el control de la cuenta del modelo de texto a voz Kokoro en Hugging Face aprovechando la falta de verificación de propiedad de la plataforma.
  • Demostraron que es posible alterar los pesos neuronales del modelo para cambiar el audio generado.

Por qué importa

Si se descarga un modelo desde una cuenta comprometida, el código o los pesos que se usan pueden no ser los originales, lo que afecta a cualquier aplicación que dependa de Kokoro.

La checklist detrás del nivel

Checklist · 3 de 10 con sí
SíAfecta a equipos técnicosHugging Face es una plataforma que usan desarrolladores y equipos de ML para publicar y descargar modelos.
NoInfraestructura básicaHugging Face es una gran plataforma, pero el fallo afecta a una cuenta de un modelo, no a infraestructura básica.
SíHerramienta popularKokoro es un modelo de texto a voz muy usado y se comprometió su cuenta en una plataforma muy extendida.
NoSe está explotandoBlog elhacker.NET: los investigadores demostraron la posibilidad; no informa de ataques reales.
NoExploit públicoBlog elhacker.NET: solo se describe una demostración; no se menciona código de explotación publicado.
NoEn remoto, sin credencialesBlog elhacker.NET: no indica que el ataque se pueda hacer por red sin credenciales.
SíCompromiso totalBlog elhacker.NET: los investigadores tomaron el control de la cuenta del modelo y alteraron sus pesos.
NoSecretos expuestosBlog elhacker.NET: no se menciona robo ni exposición de credenciales, claves o datos.
NoCadena de suministroBlog elhacker.NET: se demostró que podían alterarse los pesos, sin informar de distribución maliciosa a usuarios.
NoAún sin correcciónBlog elhacker.NET: no se menciona si existe una corrección o si la plataforma ya la aplicó.

Fuente

Investigadores vulneran cuenta de Hugging Face del popular modelo Kokoro AI ↗ Blog elhacker.NET · hace 6 h

Visto por primera vez · 1 fuente · La noticia completa · Cómo se deciden los niveles