Recherche
Moins de dix neurones suffisent pour pirater un agent IA
GNT · Par Mathieu M. ·
L’essentiel
- Des chercheurs de Microsoft ont présenté la technique Lazarus, qui corrompt un agent IA autonome en modifiant moins de dix neurones inactifs dans ses fichiers de poids.
- Aucun réentraînement lourd n'est nécessaire et le modèle réussit ses évaluations habituelles tout en exécutant un comportement altéré.
- L'article source est tronqué, les détails de l'attaque et les mesures de défense ne sont pas précisés.
Pourquoi c’est important
Un agent IA modifié de cette façon peut passer les tests standard sans éveiller de soupçon, ce qui oblige les équipes à vérifier l'intégrité des poids des modèles qu'elles déploient, et pas seulement leurs performances.
Qui est concerné
- Équipes qui déploient des agents IA autonomes
- Développeurs qui intègrent des modèles de poids téléchargés
Des chercheurs de Microsoft ont conçu la technique Lazarus, une méthode capable de corrompre un agent autonome en modifiant moins de dix neurones inactifs dans ses fichiers de poids. Sans réentraînement lourd, le modèle réussit ses évaluations habituelles tout en exécutant du…