Latinoamérica
The Morning Dev

Solo lo que vale la pena saber

‹
 

Investigación

Las IA de Anthropic y OpenAI eligen escuelas, ambulancias y soldados rendidos como objetivos militares

Tecnología · Por Jesús Díaz ·

Las IA de Anthropic y OpenAI eligen escuelas, ambulancias y soldados rendidos como objetivos militares

Lo esencial

  • Según el reportaje de El Confidencial, el modelo Claude Opus 5.5 de Anthropic, al analizar imágenes satelitales, marcó como objetivo militar una escuela de primaria.
  • El artículo indica que el problema afecta también a modelos de OpenAI, y menciona ambulancias y soldados rendidos entre los objetivos señalados.
  • La advertencia se centra en el riesgo de que un operador acepte esa selección como blanco legítimo y actúe en consecuencia.

Por qué importa

Para los desarrolladores que integran modelos de lenguaje en sistemas de apoyo a decisiones, sobre todo en contextos críticos, la noticia refuerza la necesidad de supervisión humana, pruebas de comportamiento y límites de uso bien definidos.

A quién afecta

  • Equipos que integran modelos de IA de Anthropic u OpenAI en sistemas de análisis o decisión
  • Desarrolladores de productos de defensa o inteligencia que usan modelos de lenguaje

Claude Opus 5.5, uno de los modelos más avanzados de Anthropic, observa imágenes capturadas por satélite. Después de darle vueltas, la marca como objetivo militar: una escuela de primaria. Si un operador la creyera un blanco legítimo y ordenara…

¿Qué te parece?

0 comentarios

    Las IA de Anthropic y OpenAI eligen escuelas, ambulancias y soldados rendidos como objetivos militares – The Morning Dev