Le data solutionnisme, l’ère du fake, la société numérique face à la désinformation
Car Hao Li produit des deep fakes en direct. Contraction de deep learning (apprentissage profond, une forme d’intelligence artificielle) et fake (faux, en anglais), les deep fakes consistent à générer des fausses vidéos de personnes existantes, en reproduisant des voix à partir d’extraits ou en créant des textes par exemple. Hao Li les produit de manière quasi industrielle grâce à l’ultra puissance de son ordinateur. La machine reconnaît le visage et ses mouvements, et peut y coller l’identité de son choix. L’exercice a suscité l’admiration de l’assistance. D’autres rient jaune.
Le trucage est a priori inoffensif. Sauf que l’intelligence artificielle est aujourd’hui capable de générer des vidéos falsifiées d’une réalité confondante. En 2016, l’ex-président américain Barack Obama en a fait les frais. Plus récemment, les actrices Scarlett Johansson et Emma Watson se sont retrouvées, malgré elles, actrices dans des films pornographiques. Sous couvert d’avancées technologiques, les deep fakes sont une réelle menace en ce qu’elles sont le véhicule à la propagation de fausses informations. Les réseaux sociaux prennent le problème très sérieusement sans réussir à le régler totalement.
A l’instar de Facebook qui, le 6 janvier 2020, annonçait vouloir réduire la visibilité de ces vidéos truquées. Ce nouvel outil de désinformation est dans le viseur du réseau social depuis septembre 2019. Rappelons que Facebook était au cœur des accusations de fake news. Mais comment réduire la visibilité d’une technologie qui s’emballe? Facebook entend sanctionner ces contenus, en empêchant leur monétisation via de la publicité. Les fausses vidéos seront labellisées fake news pour les internautes. Mais ce qui disparaît d’un côté refait surface ailleurs sur la Toile. C’est la magie d’internet. Ce qui est certain, c’est que la chasse aux deep fakes relève d’un véritable défi de modération pour Facebook. Quel contenu est véridique? Lequel est de la parodie ou un instrument de désinformation?
Ces questions sont au cœur du problème, notamment parce que les vidéos falsifiées gagnent quotidiennement en véracité. La faute aux algorithmes qui s’entraînent à toute vitesse pour reproduire le visage. Mais comment? Comme toutes les intelligences artificielles, cette technologie a besoin de carburant. Dans notre cas, il s’agit d’une banque d’images gigantesques qui va servir de base à l’apprentissage des algorithmes. Plus on les nourrit d’images, plus les algorithmes seront performants. Et où trouve-t-on ces photos? Sur Facebook, Instagram, Twitter… La start-up américaine ClearView AI n’a pas demandé la permission pour se servir.
Comme le révélait le New York Times en janvier 2020, ClearView AI a aspiré illégalement les visages de trois milliards de personnes sur les réseaux sociaux, et des millions de sites de recrutement, d’information ou de paiement. L’entreprise américaine propose ses services de reconnaissance faciale a plus de 600 postes de police aux Etats-Unis. Vous voyez le danger? Avec la croissance exponentielle des images partagées en ligne et l’émancipation de la reconnaissance faciale, il sera toujours plus facile de produire des deep fakes de qualité. Sauf que cette fois-ci, il ne s’agira pas du visage de Scarlett Johanssen, mais du vôtre.
Rédaction – Mehdi Atmani – Flypaper Media _ Illustration – Jérôme Viguet – Cartoonbase SÀRL
Sondage – Le vrai du faux: renouer la confiance à l’ère des Fake News
L’évolution numérique est source de bouleversements. L’information n’y échappe pas. De sa production à sa consommation en passant par ses canaux de diffusion, elle a radicalement changé de visage. D’un côté, les médias tentent de s’adapter aux nouvelles technologies. De l’autre, les réseaux sociaux sont devenus des caisses de résonances planétaires aux contenus non vérifiés.
Afin de trouver collectivement des solutions à la prolifération des fausses informations, nous vous soumettons ce petit questionnaire.
Merci pour votre participation.
