Le Monde face aux Deep Fakes

Les deepfakes 

Qu’est-ce qu’une deepfake?

Les vidéos Deepfake sont un mot-valise - «deep» qui se traduit par «profond» qui provient du mot anglais «deep learning» et «fake», qui se traduit évidemment par, «faux».  Le deep learning est une méthode avancée de l'intelligence artificielle (IA) qui utilise plusieurs couches d'algorithmes d'apprentissage automatique pour extraire progressivement des fonctionnalités de niveau supérieur à partir des entrées brutes, et oui c'est compliqué, accrochez vous ce n'est que le début.

Figurez vous qu’il est capable d'apprendre à partir de données non structurées, des choses comme le visage humain. 

Par exemple, une IA peut collecter des données sur vos mouvements physiques. Ces données peuvent ensuite être traitées afin de créer une vidéo Deepfake via un GAN (Generative Adversarial Network traduit en français par Réseaux antagonistes génératifs). 

Il s'agit d'un autre type de système d'apprentissage automatique spécialisé. Deux réseaux de neurones sont utilisés pour se concurrencer dans l'apprentissage des caractéristiques d'un ensemble d'apprentissage (par exemple, des photographies de visages), puis pour générer de nouvelles données avec les mêmes caractéristiques (nouvelles «photographies»).

Parce qu'un tel réseau ne cesse de tester les images qu'il crée par rapport à l'ensemble de formation, les fausses images deviennent de plus en plus convaincantes.  Cela fait de Deepfake une menace de plus en plus puissante.  De plus, les GAN peuvent simuler d'autres données en plus des photos et des vidéos.  En fait, les mêmes techniques d'apprentissage automatique et de synthèse Deepfake peuvent être utilisées pour simuler des voix.

Des exemples de Deepfake

Les exemples de Deepfake de haut niveau ne sont pas difficiles à trouver.  La vidéo publiée par l'acteur l'acteur Jordan Peele dans laquelle il a utilisé des images réelles de Barack Obama fusionnées avec sa propre impression d'Obama pour émettre un avertissement contre les vidéos Deepfake, est exemple de Deepfake. Il a ensuite montré à quoi ressemblaient les deux moitiés de la vidéo fusionnée une fois séparées. Quel était son conseil? Nous devons remettre en question ce que nous voyons.

Une autre vidéo également mais cette fois avec le PDG de Facebook, Mark Zuckerberg, semblant parler de la façon dont Facebook "contrôle l'avenir" via des données d'utilisateurs volées (notamment sur Instagram).  La vidéo originale provient d'un discours qu'il a prononcé sur l'ingérence électorale russe et seulement 21 secondes de ce discours ont suffi à synthétiser la nouvelle vidéo.  Cependant, l'usurpation d'identité n'était pas aussi bonne que celle d'Obama de Jordan Peele. 

Mais les contrefaçons encore moins bien faites peuvent avoir un impact notable. La vidéo de Nancy Pelosi ivre a reçu des millions de vues sur YouTube, il s'agissait évidemment d'un deep fake réalisé en ralentissant artificiellement une vidéo pour lui donner l'effet de brouiller ses mots.

La Menace des Deep Fakes: la fraude et le chantage

Les vidéos Deepfake ont été utilisées à des fins politiques, ainsi que pour la vengeance personnelle. Mais de plus en plus, ils sont utilisés dans des tentatives majeures de chantage et de fraude.

Le PDG d'une entreprise énergétique britannique a été trompé de 243 000 dollars par une voix Deepfake du chef de sa société mère demandant un transfert de fonds d'urgence.  Le faux était si convaincant qu'il ne pensa pas à vérifier, les fonds n'étaient pas virés au siège social, mais au compte bancaire d'un tiers. Le PDG n'est devenu méfiant que lorsque son «patron» a demandé un autre transfert. Cette fois, la sonnette d'alarme a sonné mais il était trop tard pour récupérer les fonds qu'il avait déjà transférés.

En France, une fraude récente n'a pas utilisé la technologie Deepfake, mais a utilisé l'usurpation d'identité, ainsi que la copie méticuleuse du bureau du ministre des Affaires étrangères Jean-Yves le Drian et de son mobilier, pour escroquer des hauts dirigeants de millions d'euros.  L'escroc Gilbert Chikli se serait déguisé en ministre pour demander à des particuliers fortunés et à des dirigeants d'entreprise une rançon pour libérer les otages français en Syrie, il est actuellement jugé.

Il est également possible que les auteurs de Deepfake puissent faire chanter les présidents des entreprises en menaçant de publier une vidéo Deepfake qui pourrait leur causer des dommages à moins qu'ils ne soient payés. Ou des intrus pourraient entrer dans votre réseau simplement en synthétisant un appel vidéo de votre directeur de l'information, incitant les employés à abandonner les mots de passe et les privilèges, ce qui permet aux pirates de faire des émeutes partout dans vos bases de données sensibles.

Les vidéos pornographiques Deepfake ont déjà été utilisées pour faire chanter les femmes reporters et journalistes, comme Rana Ayyub en Inde, qui dénonce les abus de pouvoir.  Au fur et à mesure que la technologie devient moins chère, attendez-vous à voir davantage d'utilisations de Deepfake pour faire de la fraude et du chantage. 

Comment se protéger contre les Deep Fakes?

Des législations commencent déjà à s'attaquer aux menaces des vidéos Deep fakes.  Par exemple, aux Etats-Unis dans l'État de Californie, deux projets de loi adoptés l'année dernière ont rendu illégaux certains aspects de Deepfake, la loi AB-602 a interdit l'utilisation de la synthèse d'images humaines pour faire de la pornographie sans le consentement des personnes représentées et la loi AB-730 a interdit la manipulation d'images de candidats politiques dans les 60 jours suivant une élection.

Heureusement, les entreprises de cybersécurité proposent en permanence des algorithmes de détection plus nombreux et de meilleure qualité. Celles-ci analysent l'image vidéo et repèrent les minuscules distorsions qui sont créées lors du processus de simulation.  Par exemple, les synthétiseurs de Deepfake actuels modélisent une face 2D, puis la déforment pour l'adapter à la perspective 3D de la vidéo, regarder dans quelle direction le nez pointe est un cadeau clé.

Quel avenir pour les Deep Fakes?

Les Deep Fakes continuent d'évoluer. Il y a deux ans, il était vraiment facile de deviner les vidéos Deepfake par la qualité maladroite du mouvement et le fait que la personne truquée ne semblait jamais cligner des yeux.  Mais la dernière génération des deep fakes a évolué et s'est adaptée.

On estime qu'il existe actuellement plus de 15 000 vidéos Deepfake. Certains sont juste pour le plaisir, tandis que d'autres essaient de manipuler vos opinions. Mais maintenant qu'il ne faut qu'un jour ou deux pour créer un nouveau Deepfake, ce nombre pourrait augmenter très rapidement. Donc comme Jordan peele l’a lui même bien dit remettez en questions ce que vous voyez.