Investigación
Las IA de Anthropic y OpenAI eligen escuelas, ambulancias y soldados rendidos como objetivos militares
Tecnología · Por Jesús Díaz ·
Lo esencial
- Según el reportaje de El Confidencial, el modelo Claude Opus 5.5 de Anthropic, al analizar imágenes satelitales, marcó como objetivo militar una escuela de primaria.
- El artículo indica que el problema afecta también a modelos de OpenAI, y menciona ambulancias y soldados rendidos entre los objetivos señalados.
- La advertencia se centra en el riesgo de que un operador acepte esa selección como blanco legítimo y actúe en consecuencia.
Por qué importa
Para los desarrolladores que integran modelos de lenguaje en sistemas de apoyo a decisiones, sobre todo en contextos críticos, la noticia refuerza la necesidad de supervisión humana, pruebas de comportamiento y límites de uso bien definidos.
A quién afecta
- Equipos que integran modelos de IA de Anthropic u OpenAI en sistemas de análisis o decisión
- Desarrolladores de productos de defensa o inteligencia que usan modelos de lenguaje
- Claude Opus 5.5
- #inteligencia artificial
- #anthropic
- #openai
- #defensa
- #ética en ia
- #seguridad en ia
Claude Opus 5.5, uno de los modelos más avanzados de Anthropic, observa imágenes capturadas por satélite. Después de darle vueltas, la marca como objetivo militar: una escuela de primaria. Si un operador la creyera un blanco legítimo y ordenara…