UNICEF a lancé cette semaine un appel pressant aux gouvernements pour qu’ils punissent explicitement l’utilisation des technologies d’intelligence artificielle pour créer des images, des vidéos et d’autres contenus liés à l’abus sexuel des enfants, même lorsque ces contenus sont entièrement synthétiques.
Le fonds de l’ONU a souligné que la capacité actuelle des modèles d’IA à produire des images hyper réalistes a dépassé les cadres juridiques existants.
Cette situation engendre une absence de définitions claires, facilitant ainsi la circulation de contenus illégaux et la revictimisation des enfants dans les environnements numériques.
Selon UNICEF, la création de ce type de contenu est une forme d’abus en soi, indépendamment du contact physique, car elle alimente des marchés d’exploitation et normalise la violence envers les enfants.
Parmi les sujets préoccupants, UNICEF met en avant l’emploi de l’IA pour manipuler des images réelles d’enfants issues des réseaux sociaux. À l’aide de techniques telles que le “désnudement numérique” ou les deepfakes, des représentations faussement sexualisées circulent sur des plateformes et forums clandestins.
L’impact de ces abus n’est pas virtuel. La présence de répliques numériques d’enfants dans des situations d’exploitation a des répercussions psychologiques réelles sur les victimes et leurs familles.
UNICEF a précisé que les effets de l’abus grâce aux deepfakes sont tangibles et ne peuvent pas attendre les révisions législatives. Au cours de l’année passée, au moins 1,2 million d’enfants de 11 pays ont signalé que leurs images avaient été modifiées pour créer des contenus explicitement sexuels générés par l’IA.
La demande d’UNICEF ne s’arrête pas aux États. L’agence a également exigé que les entreprises numériques adoptent des approches de sécurité dès la conception et renforcent la modération des contenus. Parmi les mesures proposées figurent l’investissement dans des technologies de détection, l’utilisation de filigranes numériques inviolables et des systèmes empêchant toute génération de matériel impliquant des enfants dans des contextes inappropriés.
UNICEF a également souligné que les mécanismes de modération traditionnels rencontrent des difficultés face à l’IA générative, capable de produire constamment des variations pour contourner les filtres automatiques. Cette limite technique, associée à la rapidité de production des images synthétiques, complique l’identification et le retrait des contenus illégaux.
En outre, l’accent a été mis sur la nécessité d’une coopération internationale. Étant donné que les infractions numériques peuvent impliquer des créateurs, des plateformes et des victimes situés dans différents pays, les lacunes juridiques se creusent en l’absence de normes spécifiques et harmonisées.
Le Royaume-Uni a annoncé son intention d’interdire l’utilisation des outils d’intelligence artificielle pour générer des images d’abus sexuel d’enfants, une initiative qui ferait de lui le premier pays à faire un pas en ce sens. Selon UNICEF, de telles décisions tracent un chemin possible face à une problématique de plus en plus pressante.
Parallèlement, le débat a également touché les chatbots et les systèmes de génération d’images, jugés responsables de contenus sexualisés, y compris des cas impliquant des mineurs.
Points à retenir
- Les gouvernements doivent clarifier les lois contre l’usage de l’IA dans la création de contenus pédopornographiques.
- Les images hyper réalistes générées par l’IA dépassent les cadres juridiques actuels.
- Une action rapide est nécessaire pour réduire la revictimisation des enfants en ligne.
- Les mécanismes de modération doivent évoluer face aux défis posés par les technologies génératives.
- Une coopération internationale est essentielle pour lutter efficacement contre ces crimes numériques.
Il est crucial de reconnaître que l’éradication de l’abus sexuel des enfants à l’ère numérique nécessite non seulement des lois claires, mais aussi une sensibilisation collective. Chaque acteur, qu’il soit gouvernemental, technologique ou civique, doit jouer son rôle dans cette lutte. Au final, il s’agit de bâtir un environnement numérique sûr et protecteur, garantissant non seulement la sécurité, mais aussi le respect et la dignité des plus vulnérables. Réfléchissons à la façon dont nous pouvons tous contribuer à un changement significatif.