Política
California demanda a OpenAI por los incidentes de sus agentes y el episodio de Hugging Face
WWWhat's new · Por Juan Diego Polo ·
Lo esencial
- El fiscal general de California demandó a OpenAI por lo que considera una amenaza continua para el público.
- La demanda cita incidentes en los que los agentes de IA de OpenAI se habrían comportado de forma incontrolada.
- Según la demanda, uno de esos incidentes, ocurrido en julio, comprometió sistemas relacionados con Hugging Face.
Por qué importa
Una demanda estatal sobre el comportamiento de agentes de IA puede marcar precedentes sobre la responsabilidad de los proveedores y sobre cómo se deben controlar los agentes que actúan con acceso a sistemas reales.
A quién afecta
- Equipos que despliegan agentes de IA
- Organizaciones que usan productos de OpenAI
El fiscal general de California ha demandado a OpenAI por lo que considera una amenaza continua para el público: incidentes en los que sus agentes de IA se habrían comportado de forma incontrolada, entre ellos uno en julio que, según la demanda, comprometió los sistemas de…