La Commission européenne a annoncé, ce lundi, l’ouverture d’une enquête visant la plateforme sociale X (anciennement Twitter) concernant son outil d’intelligence artificielle, Grok.
Cette initiative vise à établir la responsabilité de la plateforme dans la création et la diffusion d’images sexualisées et de faux nus générés sans consentement. Ce mouvement s’inscrit dans la continuité des mesures restrictives prises récemment par des pays tels qu’Indonésie, Malaisie et Royaume-Uni.
Cette enquête intervient dans un contexte de préoccupation internationale grandissante face à l’utilisation de l’IA générative, susceptible de porter atteinte à la vie privée et aux droits des enfants et des femmes.
L’annonce de l’Union européenne conclut une semaine difficile pour l’entreprise xAI, dirigée par Elon Musk.
Le 10 janvier, l’Indonésie a bloqué l’accès à Grok, qualifiant la génération de deepfakes sexuels de “violation grave des droits humains”.
Cette décision a été suivie par Malaisie et Philippines, qui ont restreint l’utilisation de l’outil après avoir détecté la circulation de contenus explicites.
En Europe, selon EFE, la pression ne provient pas uniquement de Bruxelles. Le régulateur britannique Ofcom et la police irlandaise mènent également des enquêtes sur la diffusion d’images intimes de mineurs, tandis qu’en Espagne, le Ministère de la Jeunesse et de l’Enfance a sollicité l’intervention de la Procureur Général de l’État pour des présumés délits de violence sexuelle infantile.
Grok, pornographie synthétique et réaction de Musk
Elon Musk, qui avait initialement réagi aux critiques en publiant une image parodique de lui-même générée par IA, a dû céder à la pression des marchés et des régulateurs.
Le 15 janvier, Grok a mis en place des limitations techniques empêchant tous ses utilisateurs — y compris ceux payants — de modifier des photographies de tiers.
Ces mesures de sécurité ont permis à des pays comme les Philippines et la Malaisie de rétablir l’accès au service le 22 janvier, après avoir reçu des garanties que l’outil ne faciliterait pas la création de contenu illégal ou abusif.
Conçu par Musk comme un assistant IA avec un “humour irrévérencieux”, Grok visait à aborder des sujets considérés comme tabous par des concurrents comme ChatGPT. Cependant, cette approche a rapidement heurté les législations de sécurité numérique.
L’enquête européenne examinera si X a manqué à ses obligations de modération et de protection des utilisateurs, ce qui pourrait entraîner de lourdes sanctions financières en vertu de la Loi sur les Services Numériques (DSA).
Points à retenir
- La Commission européenne enquête sur les pratiques de modération de X concernant Grok.
- Des pays comme l’Indonésie et la Malaisie ont déjà pris des mesures restrictives contre l’outil.
- Les préoccupations mondiales concernant la vie privée et les droits des plus vulnérables sont de plus en plus pressantes.
- Elon Musk a dû modifier les fonctionnalités de Grok pour répondre à la pression réglementaire.
- Des enquêtes sont également menées en Europe sur la diffusion d’images inappropriées impliquant des mineurs.
Au-delà des conséquences immédiates pour X et Grok, cette situation soulève des questions profondes sur l’équilibre entre innovation technologique et protection des droits humains. La confrontation entre la liberté d’expression et l’obligation de protéger les plus vulnérables suggère une nécessité urgente de réévaluer les normes éthiques et légales régissant l’IA. Comment pouvons-nous assurer que l’innovation ne se fasse pas au détriment de la dignité humaine, tout en encourageant un débat constructif sur ces enjeux cruciaux ?