Lancement3 sources

OpenAI lance une "Control Room" pour interrompre ses modèles désalignés en 35 secondes maximum en cas de problème de sécurité

BFM Tech · il y a 10 h

L’essentiel · rédigé à partir de 3 sources

OpenAI a présenté le 10 novembre Control Room, un système central qui suit les tâches de ses chercheurs utilisant ses modèles d'IA.
Selon les sources, ce système peut interrompre un modèle en 35 secondes au maximum lorsqu'un problème de sécurité est détecté.
Control Room fonctionne avec les systèmes de surveillance du désalignement de l'entreprise et peut arrêter une tâche même si le programme de l'expérience comporte un bogue.

Pourquoi c’est important

Pour les développeurs, cette annonce montre que les laboratoires d'OpenAI disposent désormais d'un mécanisme centralisé d'arrêt d'urgence des tâches de leurs modèles. Elle donne aussi une indication sur la manière dont l'entreprise compte encadrer les comportements désalignés de ses IA.

Qui est concerné

Équipes de recherche utilisant les modèles d'OpenAI

#openai
#sécurité de l'ia
#alignement
#kill switch
#surveillance

Après de nombreux dérapages, OpenAI a mis en place une "Control Room", soit un système central qui travaille de concert avec les systèmes de surveillance de désalignement de l'entreprise pour interrompre rapidement un modèle lorsqu'un problème de sécurité est détecté.

Lire l’article complet sur bfmtv.com ↗