Diffusion de photos d'enfants et les dangers de l'intelligence artificielle

Intelligence artificielle: pourquoi il faut limiter le nombre de photos de vos enfants que vous partagez sur internet. Ce qui n'était qu'une option, va faire partie des règles d'hygiène indispensables à l'ère de l'IA.

Vous le savez, nous sommes trackés, fichés, surveillés sur internet.

C'est pour cette raison que je diffuse peu de photos de mes enfants sur internet que ce soit en public ou en privé.

Mais avec les dernières évolutions de l'IA, je vois poindre de nouveaux dangers.

J'expliquais la semaine dernière que des logiciels d'IA permettaient de "déshabiller" des femmes à partir de photos d'elles habillées tout à fait normalement.

Le lendemain, Cash investigations révélait que les dernières tendances des sites pornographiques étaient des vidéos amateurs affichant des déviances de plus en plus prononcées et que ces sites étaient totalement hors de contrôle.

Faites la connexion entre les deux phénomènes et imaginez ce qu'il pourra advenir des photos de vos enfants...

Mais on peut imaginer bien d'autres choses plus "softs" et, néanmoins, nuisibles.

Les gouvernements des grandes nations digitales fichent tous les citoyens de la planète qu'ils peuvent. Les photos de vos enfants viennent enrichir votre profil et ceux de le leur.

Certains réseaux sociaux utilisent tous les "data points" qu'ils peuvent pour enrichir nos profils marketing, sociaux, psychologiques voire politiques.

Il ne se passera pas longtemps avant que des harceleurs de lycée ne réalisent l'usage qu'ils peuvent faire de l'IA générative.

Deutsche Telekom a lancé, mi 2023, une campagne visant à avertir sur les dangers du partage de photos d'enfants et cite d'autres "cas d'usage"

Utilisation de la photo de votre enfant pour usurper son identité ou l'identité d'un tiers, aujourd'hui, dans un an ou dans 5 ans. Et l'on sait que l'usurpation d'identité peut avoir des conséquences terribles.

Utilisation de la photo (ou de la voix) d'un enfant pour amener ses parents à à faire ... ce que l'on souhaite les voir faire.

En quelques minutes, vous pouvez, en enregistrant quelques vidéos de vous sur Synthesia, créer un jumeau digital à qui vous pourrez faire dire tout ce que vous voudrez dans n'importe quelle langue.

Avec des technos un peu plus poussées, on peut faire la même chose à partir d'une poignée de photos de vous ou de vos enfants.

Le clip conclut sur la simple récupération des photos par des pédophiles

Je suis adulte et j'ai décidé d'utiliser mon image pour partager des idées (sur l'écologie, par exemple) ou assurer la promotion des activités de notre agence de marketing digital et de notre plateforme de formation.

Des criminels utiliseront, donc, peut-être un jour, ma voix, mon image pour générer des vidéos dans un but malveillant.

C'est mon choix personnel.

Mais, il est important de laisser le choix à nos enfants, en ne partageant pas des photos où ils apparaissent.