La Commission européenne examine si X a pris des mesures suffisantes contre les deepfakes à caractère sexuel de femmes et d’enfants diffusés par le chatbot Grok. Une nouvelle amende semble très probable pour X, ou cela aboutira-t-il à une interdiction ?
Le chatbot d’IA Grok de X est une source de controverse depuis son lancement en novembre 2023. Après des déclarations racistes et antisémites, Grok se rend maintenant coupable de la diffusion de deepfakes illégaux. La Commission européenne annonce une enquête sur X.
Ces dernières semaines, il est souvent apparu à quel point il est facile de mettre littéralement des personnes en sous-vêtements avec Grok. Cela a rapidement conduit à la diffusion de deepfakes illégaux de femmes et d’enfants nus. Selon Bloomberg, il s’agit de milliers d’images de nus par heure. X a annoncé des mesures, mais celles-ci se sont avérées en pratique peu efficaces.
« Humiliation inacceptable »
Dans le cadre de la législation DSA, la Commission européenne examinera si X a pris des mesures suffisantes pour protéger la dignité des citoyens européens. Henna Virkunnen, commissaire chargée de la souveraineté technologique, de la sécurité et de la démocratie (PPE, Finlande), ne le pense pas. Dans une déclaration, elle parle d’une « forme de violence inacceptable d’humiliation ».
La DSA oblige les plateformes numériques telles que X à :
- Évaluer et limiter soigneusement les risques systémiques, y compris la diffusion de contenus illégaux ;
- Établir un rapport d’évaluation des risques et le soumettre à la Commission.
lire aussi
La Commission européenne tape sur les doigts de Grok et X pour des deepfakes à caractère sexuel : « Une humiliation inacceptable »
Interdiction de Grok ?
Ce n’est pas la première fois que la Commission convoque Elon Musk. En décembre, la Commission a constaté trois violations de la loi DSA, ce qui représente une amende de 120 millions d’euros. Musk a réagi dans son style adolescent grincheux habituel en comparant l’Union européenne à l’Allemagne nazie et en bloquant les comptes de l’UE.
La probabilité que de nouvelles mesures soient prises contre X et Grok semble élevée. Une interdiction de Grok dans l’UE n’est pas à exclure, selon des sources. Plusieurs pays, y compris en dehors de l’Europe, en ont assez des frasques du chatbot. En Malaisie, en Indonésie et aux Philippines, Grok n’était plus le bienvenu pendant un certain temps, mais cette interdiction a été levée entre-temps. La Belgique, les Pays-Bas, la France, le Royaume-Uni et l’Australie ont également le chatbot dans le collimateur.