Actualité
Google poursuivi après qu’une collégienne a préparé son suicide avec Gemini sur son ordinateur scolaire
Clubic ·
L’essentiel
- Les parents d'une collégienne de 13 ans accusent Google d'avoir laissé leur fille planifier son suicide avec Gemini.
- L'établissement avait bloqué ChatGPT et Gemini, mais l'élève a continué à utiliser l'IA de Google via l'onglet Mode IA du moteur de recherche, sur un Chromebook prêté par l'école.
- L'affaire porte sur la responsabilité de Google dans les réponses de son IA à un mineur.
Pourquoi c’est important
Un blocage au niveau d'un établissement ne suffit pas à empêcher l'accès à une IA générative, notamment via un moteur de recherche. Les équipes qui intègrent des assistants IA dans des produits accessibles aux mineurs doivent prévoir des garde-fous contre les contenus à risque, et les acteurs de l'éducation doivent en tenir compte dans leur gestion des appareils.
Qui est concerné
- Équipes qui intègrent des assistants IA dans des moteurs de recherche ou des produits grand public
- Établissements scolaires qui déploient des Chromebook pour les élèves
- #gemini
- #intelligence-artificielle
- #sécurité-en-ligne
- #éducation
- #justice
Son école avait bloqué ChatGPT et Gemini, mais une collégienne de 13 ans a continué d’écrire à l’IA de Google grâce à l’onglet Mode IA du moteur de recherche, sur le Chromebook prêté par l’établissement. Ses parents accusent Google de l’avoir laissée planifier son suicide pendant…