L’utilisation des outils d’intelligence artificielle pour créer des images trompeuses ou du contenu d’abus sexuel enfantin connaît une croissance préoccupante, attirant l’attention des gouvernements et des organisations de protection à travers le monde.
Pour contrer cette tendance dangereuse et illégale, le Royaume-Uni propose une loi visant à stopper la production de ce type de matériel, même avant qu’il n’atteigne Internet.
Cette initiative, intégrée comme une mesure au Crime and Policing Bill, permettrait aux entreprises technologiques et aux organismes spécialisés de contrôler les modèles d’intelligence artificielle avant leur lancement.
Le projet vise à établir des contrôles antérieurs sur les systèmes génératifs pour empêcher que les technologies ne deviennent des outils de délinquance. (Image: AdobeStock/GeminiAI)
L’objectif est de détecter si les outils génératifs sont capables de produire du matériel de mauvais traitement des enfants, de la pornographie extrême ou des images intimes sans consentement, et d’exiger des corrections auprès des développeurs avant que leurs produits n’atteignent le public.
Liz Kendall, secrétaire britannique de la Technologie, a précisé que cette mesure vise à garantir que la sécurité soit intégrée dès la conception et non comme un supplément ultérieur. A travers cette réforme, le gouvernement souhaite responsabiliser les entreprises face aux risques liés à l’utilisation abusive de l’intelligence artificielle dans la création et la diffusion de contenu illégal.
Un problème de plus en plus pressant
La Internet Watch Foundation (IWF) a signalé une augmentation significative des cas de matériel d’abus sur enfants généré par l’IA. Entre janvier et octobre 2025, 426 images de ce type ont été supprimées, plus du double par rapport à la même période l’année précédente.
“L’utilisation de l’intelligence artificielle pour recréer ou manipuler des images renforce l’impact sur les victimes. Ces outils offrent également aux délits la possibilité de créer une quantité illimitée de contenu photoréaliste”, a déclaré Kerry Smith, directrice exécutive de l’IWF. Elle estime que cette nouvelle loi pourrait constituer une barrière efficace pour prévenir la prolifération de ces contenus.
Des demandes pour des contrôles obligatoires
Les principales organisations de protection de l’enfance ont salué l’initiative, tout en demandant que les contrôles soient obligatoires. “Pour marquer une véritable différence, cela ne peut être optionnel. Le gouvernement doit s’assurer que les développeurs intègrent la sécurité comme élément essentiel de la conception”, a déclaré Rani Govender, de l’organisation NSPCC.
La proposition renforce également les peines pour ceux qui créent ou distribuent des outils d’intelligence artificielle destinés à produire du matériel d’abus sexuel sur enfants. Les condamnations pourraient aller jusqu’à cinq ans de prison.
Entre innovation et responsabilité
Le débat sur la régulation de l’intelligence artificielle sans freiner son développement demeure ouvert. Les modèles génératifs, capables de produire des images, des voix ou des vidéos d’un réalisme saisissant, constituent un progrès technologique remarquable, mais également un risque lorsqu’ils sont utilisés à des fins délictueuses.
Pour le gouvernement britannique, l’équilibre est urgent. “Nous ne permettrons pas à la technologie d’avancer plus vite que notre capacité à maintenir la sécurité des enfants”, a affirmé Kendall.
Si le Parlement approuve cette initiative, le Royaume-Uni pourrait établir un précédent sur comment traiter l’un des aspects les plus problématiques du développement de l’intelligence artificielle : son potentiel à créer du contenu illégal et profondément nocif.
Points à retenir
- Une législation est en cours au Royaume-Uni pour encadrer l’utilisation des outils d’intelligence artificielle génératifs.
- La nouvelle loi vise à détecter et prévenir la création de contenu illégal avant sa diffusion.
- Une augmentation notable des abus sexuels sur enfants générés par IA a été signalée par l’IWF.
- Les organisations de protection de l’enfance demandent des contrôles obligatoires pour la sécurité dès la conception.
- Le débat persiste sur la nécessité de réguler la technologie tout en permettant son innovation.
La problématique soulevée ici invite à une réflexion plus profonde sur le rôle de la technologie dans nos vies. Alors que l’innovation peut apporter des avancées considérables, il est crucial de trouver un équilibre pour prévenir les dérives potentielles. Quelles mesures pouvons-nous adopter pour s’assurer que le progrès ne se fasse pas au détriment de la sécurité et des droits fondamentaux ? Ça interroge sur notre responsabilité collective face à l’évolution technologique, un sujet de plus en plus brûlant dans notre société actuelle.