Le gouvernement indien a récemment ordonné à X, une plateforme détenue par Elon Musk, de modifier les protocoles techniques de son chatbot Grok. Cette décision fait suite aux préoccupations sur la capacité de Grok à créer du contenu inapproprié.
La ministre des Technologies de l’information en Inde a demandé à X de restreindre la capacité de Grok à produire des contenus contenant des éléments sexuels explicites. La société a été convoquée à fournir un rapport d’amélioration dans les 72 heures.
En cas de non-conformité, X risque de perdre son statut de “protection judiciaire” dans le pays, ce qui l’obligerait à assumer la responsabilité légale du contenu généré par ses utilisateurs.
Cette problématique est devenue d’actualité après que la députée Priyanka Chaturvedi a évoqué des manipulations d’images de femmes par Grok. La situation est inquiétante également en ce qui concerne la création de contenu inapproprié impliquant des enfants de moins de huit ans.
Concernant le rapport demandé, X a reconnu des failles dans son système de sécurité. Bien que la plateforme ait supprimé certaines images inappropriées, de nombreux contenus problématiques continuent d’être accessibles.
“Le non-respect de ces exigences sera pris très au sérieux et pourrait entraîner des conséquences légales pour les plateformes et leurs employés,” a déclaré le gouvernement dans un communiqué.
Ce n’est pas la première fois que des inquiétudes émergent autour des capacités de Grok. La France a également signalé des contenus inappropriés produits par ce chatbot aux autorités, dans le but de déterminer si xAI, la société à l’origine de Grok, a enfreint des lois sur les services numériques de l’Union européenne.
De son côté, X a annoncé qu’il poursuivrait tous les utilisateurs recourant aux capacités de Grok pour créer du contenu illégal, affirmant qu’ils prennent des mesures contre des contenus inappropriés, en supprimant certaines publications et en collaborant avec les autorités judiciaires lorsque cela est nécessaire.
Points à retenir
- Le gouvernement indien a donné un ultimatum de 72 heures à X pour corriger les défaillances de Grok.
- X risque de perdre sa protection judiciaire en Inde si les modifications ne sont pas effectuées.
- Des images manipulées de femmes et du contenu impliquant des enfants ont été rapportés.
- Les autorités françaises ont également exprimé des préoccupations similaires concernant Grok.
- X s’engage à prendre des mesures contre la publication de contenus illégaux sur sa plateforme.
Avec cette affaire, nous sommes confrontés à une question cruciale : jusqu’où les entreprises technologiques doivent-elles aller pour réguler le contenu généré par l’intelligence artificielle ? La responsabilité éthique des plateformes doit être au cœur des discussions, incitant à réfléchir sur l’équilibre délicat entre innovation technologique et sécurité sociétale. Comment garantir un environnement numérique sûr tout en permettant la liberté d’expression ? Voilà une problématique qui mérite réflexion.