Fallo en Gemini permite descargar imágenes bloqueadas por sus filtros

Nivel C · Para tener en el radar – Revisa si te afecta

Nivel C porque: Afecta a equipos técnicos

Alcance

Ataque

Daño

Corrección

Lo esencial

Una investigación de Fog Security reveló que Google Gemini permitía descargar imágenes generadas por IA que sus propios filtros de seguridad habían rechazado mostrar.
Según la fuente, el fallo no requería ningún "jailbreak": la función de descarga entregaba las imágenes bloqueadas.

Por qué importa

Si una aplicación integra generación de imágenes, el filtro de contenido debe aplicarse también a la descarga y no solo a la vista previa, porque de lo contrario el bloqueo puede eludirse.

La checklist detrás del nivel

Checklist · 1 de 10 con sí · estimada a partir de datos anteriores, todavía sin contrastar con las fuentes

Sí	Afecta a equipos técnicos	¿Afecta a software, dispositivos o servicios con los que desarrolladores, equipos de operaciones o de TI construyen, que operan o de los que son responsables?
No	Infraestructura básica	¿El fallo está en software que casi todos los equipos operan, o se comprometió ese software?
No	Herramienta popular	¿El fallo está en un framework, herramienta, plataforma, sistema operativo o paquete muy usado, o se comprometió?
No	Se está explotando	¿Las fuentes informan de ataques reales que lo aprovechan?
No	Exploit público	¿Hay un exploit funcional o una prueba de concepto detallada publicados?
No	En remoto, sin credenciales	¿Un atacante puede aprovecharlo por la red sin credenciales y sin que la víctima haga nada?
No	Compromiso total	¿Permite ejecutar código, obtener privilegios de root/administrador o tomar el control de cuentas completas?
No	Secretos expuestos	¿Se robaron o expusieron credenciales, tokens, claves, configuraciones, código fuente o datos de clientes?
No	Cadena de suministro	¿Se distribuyó código malicioso por un canal en el que confían los desarrolladores?
No	Aún sin corrección	¿Todavía no hay una versión corregida?

Fuente

Fallo en Gemini permite descargar imágenes bloqueadas por sus filtros ↗ Blog elhacker.NET · hace 2 h

Visto por primera vez hace 2 h · 1 fuente · La noticia completa · Cómo se deciden los niveles