Réaliser un deepfake, c’est manipuler et transformer l’image d’une personne grâce à l’intelligence artificielle. En combinant des analyses minutieuses et détaillées des visages, des voix et des expressions, l’IA peut générer des contenus si réalistes qu’il devient difficile de distinguer le vrai du faux. Ce genre de contenu est souvent utilisé pour placer la personne dans un contexte totalement différent, altérant ainsi la réalité avec une précision déroutante.
Ces images truquées sont malheureusement devenues une arme pour des cybercriminels, en particulier dans le domaine de la pédocriminalité. En effet, en exploitant des photos ou vidéos innocentes publiées sur les réseaux sociaux, généralement par les parents eux-mêmes, des pédocriminels fabriquent des contenus obscènes mettant en scène des enfants dans des situations fictives, mais extrêmement choquantes.
Ainsi, les photos d’anniversaire, de vacances ou de moments quotidiens, partagées avec amour et fierté par les parents, peuvent se retrouver au cœur de ces dérives.
Pourquoi être vigilant :
- Selon le rapport de la Fondation de l’Enfance : “50 % des images ou vidéos d’enfants échangées sur les forums pédocriminels proviennent initialement de contenus postés par leurs parents sur les réseaux sociaux.”
- Les logiciels de deepfake sont désormais accessibles à tous, même sans compétences techniques. En quelques clics, n’importe qui peut manipuler une image et l’utiliser à des fins malveillantes.
- Les victimes de deepfake peuvent être confrontées à des menaces, du chantage ou encore de l’extorsion d’argent (sextorsion)
- Vos enfants pourraient, des années plus tard, tomber sur des images retouchées d'eux-mêmes sur le web, ce qui pourrait leur porter préjudice
Ce que vous pouvez faire en tant que parents :
- Paramétrer les réglages de confidentialité : Limitez l’accès à vos photos aux personnes de confiance.
- Limiter les détails personnels : Préférez des images générales et évitez de partager des informations sensibles (adresse, école, etc.).
- Partager avec modération : Choisissez soigneusement ce que vous publiez et réfléchissez aux impacts à long terme.
Ce que vous pouvez expliquer à vos enfants :
- L’impact du partage de contenu : Tout contenu publié en ligne peut être vu et re-partagé par d'autres, même avec un compte privé.
- Il ne faut pas partager ses informations personnelles : Partager sa localisation, ses infos personnelles ou discuter avec des inconnus en ligne peut mettre leur sécurité en danger.
- L'importance de la communication : S’ils se sentent mal à l’aise en ligne, il faut en parler !
Deepfake et IA, comment protéger vos enfants ? - Internet Sans Crainte
