Les deepfakes sont dangereux et maintenant vous n’avez besoin que de votre téléphone pour en créer un

Un deepfake est une vidéo créée pour montrer aux gens des choses qu’ils n’ont jamais faites dans la vraie vie. Cela pourrait être fait pour détruire la réputation de quelqu’un. Et à mesure que la technologie de création de deepfakes s’améliore, il devient plus facile de créer des vidéos qui peuvent tromper le public. En réalité, le Washington Post note que cette technologie est désormais accessible à toute personne possédant un smartphone. De nos jours, une application pour smartphone peut accomplir ce qui nécessitait auparavant un ordinateur puissant et un studio de cinéma pour créer.

Vous pouvez créer des deepfakes en utilisant votre iPhone ou votre appareil Android

L’année dernière, une application appelée Reface est sorti pour les appareils iOS et Android. Avec l’application, les utilisateurs prennent un selfie et insèrent leur visage dans des vidéos, des photos, des GIF et des mèmes. Ces images peuvent être partagées en un seul clic. L’application se fait la promotion en utilisant la ligne «Be Anyone». Mais encore plus dangereuse est une application appelée Avatarify qui permet à l’utilisateur de diriger le mouvement du visage d’une personne sur une photo. Cela se fait en sélectionnant n’importe quelle photo et avec la caméra selfie sur le téléphone de l’utilisateur, il ou elle peut contrôler les expressions et les mouvements de l’individu (ou de l’animal) dont l’image est utilisée. L’application est disponible pour iOS uniquement et a été installée plus de six millions de fois depuis février.
Anjana Susarla, professeure à l’Université de l’État du Michigan, a déclaré: « C’est très mignon quand nous faisons ça avec les photos de grand-père. Mais vous pouvez prendre la photo de n’importe qui à partir des médias sociaux et en faire des images manipulées. Mais toutes ces applications pour smartphone ne sont pas si menaçantes. Wombo, disponible pour iOS et Android, crée une vidéo de synchronisation labiale; l’utilisateur sélectionne la photo et la chanson et l’application fait le reste. Contrairement aux programmes deepfake plus sophistiqués, cette application ne va pas tuer la réputation de quelqu’un. Le PDG de Wombo, Ben-Zion Benkhin, déclare qu’avec son application, « vous ne pouvez pas choisir quelque chose de super offensant ou qui pourrait être mal interprété. » Et tandis que effrayant, L’application de généalogie MyHeritage prend des photos de parents décédés et les ramène à la vie. Appelé «Deep Nostalgia», le site a ramené plus de 65 millions de personnes «à la vie» au cours des quatre dernières semaines.

Ces sites disent tous que leurs images sont utilisées pour le divertissement, la satire et pour recréer l’histoire. Mais le problème est qu’il y a un inconvénient à la création de deepfakes. Une façon de contourner ce problème est de faire comprendre à ceux qui regardent des deepfakes que ce qu’ils regardent n’est pas réel. Gil Perry, PDG de la société qui alimente les deepfakes de MyHeritage, déclare: « Vous devez vous assurer que le public est conscient qu’il s’agit de médias synthétiques. Nous devons définir les lignes directrices, les cadres et les politiques pour que le monde sache ce qui est bon. et ce qui est mauvais. « 

Voici un exemple de ce qui pourrait arriver si plus de personnes acquéraient la capacité de créer des deepfakes passables. Plus tôt ce mois-ci, une femme en Pennsylvanie a été arrêtée après que les flics l’ont accusée d’avoir envoyé des deepfakes aux entraîneurs de cheerleading de sa fille dans le but de faire expulser trois de ses rivaux de l’équipe. La vidéo créée par la mère montrait ces filles nues, fumant, vapant et buvant; les photos étaient toutes des deepfakes.

Deborah Johnson, professeur émérite d’éthique appliquée à l’Université de Virginie, déclare: « Il y a un préjudice potentiel pour le spectateur. Il y a un préjudice au sujet de la chose. Et puis il y a un préjudice plus large à la société en sapant la confiance. » En 2019, un projet de loi a été tué au Congrès qui aurait interdit l’utilisation de deepfakes. Finalement, ce sera probablement au Congrès de déterminer comment empêcher les deepfakes de coûter à quelqu’un son travail, son mariage et ses amitiés. Jusqu’à ce que le problème s’aggrave ou que cela coûte à l’un d’entre eux une élection, nous nous attendons à ce que les législateurs ne tiennent pas compte de la question pour le moment.

A lire également