SécuritéFan score 20 · Niveau C
Agents vocaux : ce que l’IA entend échappe parfois à sa propre sécurité
Solutions Numériques · Par Camille Suard ·
L’essentiel
- Une instruction refusée par une intelligence artificielle peut être acceptée si elle est accompagnée d'un simple bruit de fond.
- Les recherches sur les modèles vocaux révèlent une faiblesse : les systèmes chargés de surveiller les échanges ne perçoivent pas toujours ce qui est dit.
Pourquoi c’est important
Les agents vocaux qui exécutent des actions peuvent être détournés par des sons ambiants, ce qui impose de ne pas s'appuyer uniquement sur les filtres de sécurité du modèle.
Qui est concerné
- Équipes qui développent ou intègrent des agents vocaux
- #agents vocaux
- #sécurité
- #intelligence artificielle
- #contournement
Une instruction refusée par une intelligence artificielle peut être acceptée dès lors qu’elle est accompagnée d’un simple bruit de fond. Les recherches sur les modèles vocaux révèlent une faiblesse singulière : les systèmes chargés de surveiller les échanges ne perçoivent pas…