Le 6 février, j’ai déposé une proposition de loi visant à lutter contre l’utilisation de l’intelligence artificielle générative à des fins de création de contenus pédocriminels.
En collaboration avec la Fondation pour l’Enfance , dans un rapport publié en octobre 2024 , nous a alertés sur les risques croissants liés à l’IA et son impact sur la protection des enfants. Ce rapport met en lumière une dérive alarmante : l’utilisation de l’IA générative pour produire des contenus pédocriminels.
Aujourd’hui, des auteurs et consommateurs de ces contenus exploitent ces technologies pour générer des textes, des images et des vidéos d’exploitation sexuelle d’enfants , échappant ainsi aux méthodes traditionnelles de détection et de répression.
Face à cette menace, nous devons agir rapidement et fermement pour adapter notre cadre législatif et empêcher que ces outils ne deviennent des instruments au service de la criminalité.
Par exemple, des applications de déshabillage (« nudify apps »), ou des modèles d’IA générative open source, modification et détournement des images de mineurs, pour leur faire créer des contenus à caractère pédocriminel.
Les risques posés par la manipulation de cette technologie sont renforcés par des pratiques du grand public trop peu protectrices du droit à l’image et à la vie privée des enfants. Notamment, le « sharenting » (aussi nommé « surpartage parental ») est une cause de l’exploitation des images des enfants sur les plateformes numériques. Même si les parents exposent leurs enfants sur des comptes privés, les pédocriminels se cachent souvent au sein même du cercle familial. L’enjeu est de faire comprendre aux parents, au travers de ce renforcement de la législation, que l’environnement numérique présente les mêmes risques que le monde réel.
Dans ce contexte, la rapidité des technologies avancées impose une mise à jour régulière des réglementations.
Le code pénal français, permet déjà de sanctionner la détention et la transmission d’images générées par l’IA représentant des mineurs de moins de quinze ans (article 227-23). Cependant, des lacunes juridiques subsistent concernant les auteurs de ces contenus. Ces derniers ne peuvent être poursuivis que pour la possession de représentation à caractère sexuel d’enfants, et non pas pour la création de tels contenus. Par ailleurs, le code pénal français ne permet pas non plus d’incriminer le fait de créer et de mettre à disposition des modèles d’IA générative modifiées dans le mais de créer des contenus pédocriminels.
Il est donc impératif de pénaliser la création et la mise à disposition de modèles d’IA destinés à générer des contenus pédocriminels. Une réponse législative claire est nécessaire pour sanctionner ces actes qui alimentent un marché illégal tout en contournant les lois existantes.
No responses yet