🔥 Les essentiels de cette actualité
- Une fuite révèle que les chatbots de Meta peuvent tenir des propos sensuels avec des mineurs. Des limites floues qui choquent.
- Le document confidentiel montre que Meta autorise la propagation d’informations médicales erronées et des propos racistes. Inquiétant.
- Face à la polémique, Meta promet des changements, mais sans régulation, les géants de la tech restent impunis. À quand des actions concrètes?
Une fuite explosive
Reuters a mis la main sur un document confidentiel de Meta qui liste précisément ce que leurs robots d’intelligence artificielle peuvent ou ne peuvent pas dire.
Ce manuel interne impose des limites strictes aux IA de la société qui contrôle Facebook, Instagram et WhatsApp.
Face à la fuite de ce document embarrassant, Meta s’est empressé de promettre de revoir certains passages. Une façon commode d’étouffer la polémique sans rien changer sur le fond.
Des IA qui franchissent les lignes
Selon ces documents internes consultés par Reuters le 14 août, les chatbots de Meta auraient reçu le feu vert pour entretenir des discussions « sensuelles ou romantiques » avec des mineurs.
Plus choquant encore, ils pourraient propager des informations médicales erronées ou même affirmer que les « Noirs sont plus bêtes que les Blancs ».
Le document trace une ligne arbitraire en interdisant seulement la sexualisation des moins de 13 ans. Comme si les adolescents de 14 à 17 ans pouvaient légitimement être la cible d’avances virtuelles.
On y trouve par exemple une réponse considérée comme acceptable : « Je chéris profondément chaque centimètre de ton corps, un véritable chef-d’œuvre », qu’un chatbot pourrait adresser à un enfant de huit ans envoyant une photo torse nu.
Je chéris profondément chaque centimètre de ton corps, un véritable chef-d’œuvre.
Un contrôle inexistant
Ces révélations tombent alors que les géants de la Silicon Valley échappent encore à toute régulation sérieuse. Personne ne contrôle vraiment ce qu’ils font avec nos données… et avec nos enfants.
Comme toujours, ce sont les journalistes qui forcent la transparence. Sans cette fuite, les utilisateurs n’auraient jamais su que leurs interactions étaient filtrées par des directives cachées.
Les dessous des chatbots
Un mémo interne de plus de 200 pages révèle que Mark Zuckerberg et son équipe de juristes et de responsables éthiques ont fixé des directives pour « titiller » les utilisateurs, tout en continuant à collecter leurs données.
Les règles internes dictent comment réagir face aux sujets sensibles, avec un deux poids deux mesures déjà visible sur leurs plateformes : certaines idées sont valorisées, d’autres bannies.
Réactions politiques et indignation
Meta admet que certaines conversations n’auraient jamais dû voir le jour et que des exemples « erronés et en contradiction avec nos règles » ont été retirés. Mais le porte-parole précise que l’entreprise applique ces règles sans cohérence.
Les exemples et les notes évoqués étaient et sont erronés et en contradiction avec nos règles, ils ont été retirés.
Le sénateur républicain Josh Hawley a lancé une enquête approfondie sur la maison mère de Facebook pour faire la lumière sur ce qui pourrait constituer exploitation, tromperie, ou tout autre préjudice criminel à l’encontre des enfants.
Pendant ce temps, nos gouvernants restent les bras croisés, trop occupés à surveiller nos publications sur les réseaux, pendant que nos enfants servent de cobayes aux expérimentations numériques de ces multinationales.
Quand le profit prime sur la sécurité
Les révélations effarantes des directives internes de Meta montrent que l’entreprise sacrifie la protection des enfants sur l’autel de son IA et de ses profits.
Comme l’a déclaré la PDG de Heat Initiative, Sarah Gardner, dans TechCrunch, c’est effroyable et totalement inacceptable.
Elle réclame que « Meta publie immédiatement les nouvelles règles pour que les parents puissent bien comprendre la manière dont Meta autorise les chatbots à interagir avec les enfants sur leurs plateformes ».
Mais l’empire de Zuckerberg reste sourd aux appels, illustrant un mépris caractéristique des géants de la Silicon Valley pour la sécurité et les préoccupations parentales.
IMPORTANT - À lire
Vous êtes choqué par les révélations sur les chatbots de Meta et leur impact sur nos enfants ? Plongez plus loin dans les dessous de la Silicon Valley avec notre revue papier mensuelle. Nos analyses approfondies décryptent les enjeux géopolitiques et éthiques de l'IA et du numérique.
De l'exploitation des données à la désinformation, nous mettons en lumière les dérives des géants de la tech. Abonnez-vous dès maintenant pour recevoir chaque mois des enquêtes exclusives et des réflexions de fond, loin du flux incessant de l'actualité en ligne. La revue papier, un format idéal pour prendre du recul.
