Lancement3 sources
Arrêter les dégâts « dans les 35 secondes » : OpenAI dévoile le kill switch censé stopper ses IA quand elles dérapent
Numerama · Par Amine Baba Aissa ·
L’essentiel · rédigé à partir de 3 sources
- OpenAI a présenté le 10 novembre Control Room, un système central qui suit les tâches de ses chercheurs utilisant ses modèles d'IA.
- Selon les sources, ce système peut interrompre un modèle en 35 secondes au maximum lorsqu'un problème de sécurité est détecté.
- Control Room fonctionne avec les systèmes de surveillance du désalignement de l'entreprise et peut arrêter une tâche même si le programme de l'expérience comporte un bogue.
Pourquoi c’est important
Pour les développeurs, cette annonce montre que les laboratoires d'OpenAI disposent désormais d'un mécanisme centralisé d'arrêt d'urgence des tâches de leurs modèles. Elle donne aussi une indication sur la manière dont l'entreprise compte encadrer les comportements désalignés de ses IA.
Qui est concerné
- Équipes de recherche utilisant les modèles d'OpenAI
- #openai
- #sécurité de l'ia
- #alignement
- #kill switch
- #surveillance
OpenAI a présenté le 10 novembre Control Room, un système central qui suit toutes les tâches de ses chercheurs utilisant ses modèles d’IA.
Chronologie
OpenAI présente Control Room, son système d'interruption des tâches de ses modèles
Home Tech&Co - actualités
OpenAI lance une "Control Room" pour interrompre ses modèles désalignés en 35 secondes maximum en cas de problème de sécurité
Feed Clubic (Cybersécurité)
OpenAI dévoile Control Room pour surveiller ses tests d’IA et intervenir en cas d’alerte
Cyberguerre : les articles et enquêtes de la rédaction de Numerama
Arrêter les dégâts « dans les 35 secondes » : OpenAI dévoile le kill switch censé stopper ses IA quand elles dérapent
Toute la couverture · 3 sources
- il y a 2 h ↗
Cyberguerre : les articles et enquêtes de la rédaction de Numerama
Arrêter les dégâts « dans les 35 secondes » : OpenAI dévoile le kill switch censé stopper ses IA quand elles dérapent
- il y a 9 h ↗
Feed Clubic (Cybersécurité)
OpenAI dévoile Control Room pour surveiller ses tests d’IA et intervenir en cas d’alerte - il y a 10 h ↗
Home Tech&Co - actualités
OpenAI lance une "Control Room" pour interrompre ses modèles désalignés en 35 secondes maximum en cas de problème de sécurité