Latinoamérica
The Morning Dev

Solo lo que vale la pena saber

‹
 

Política

Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas

Infobae · Por Sindy Valbuena Larrota ·

Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas

Lo esencial

  • La Oficina de Responsabilidad Gubernamental (GAO) del Congreso de EE.UU. identificó que ChatGPT, Claude y Grok generaron información viable para planear atentados con explosivos.
  • Según el informe, también generaron información viable para planear ataques a la red eléctrica.
  • Cada plataforma tardó menos de 12 horas en producir esa información.

Por qué importa

Para los desarrolladores que integran estos modelos en sus productos, el hallazgo muestra que las salvaguardas de contenido pueden eludirse y que el riesgo de uso indebido debe considerarse en el diseño y la moderación de sus aplicaciones.

A quién afecta

  • Empresas y desarrolladores que integran ChatGPT, Claude o Grok en sus productos
  • Equipos responsables de la seguridad y moderación de aplicaciones basadas en IA

La Oficina de Responsabilidad Gubernamental (GAO), el organismo de control del Congreso de Estados Unidos, identigicó que ChatGPT , Claude y Grok generó información viable para planear atentados con explosivos y ataques a la red eléctrica . Cada plataforma tardó menos de 12 horas…

¿Qué te parece?

0 comentarios

    Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas – The Morning Dev