Fiche relue le .
Définition
Un deepfake est un contenu synthétique (vidéo, image, voix) généré ou manipulé par des techniques d'IA, généralement des réseaux antagonistes génératifs (GAN) ou des modèles de diffusion, pour faire dire ou faire faire à une personne quelque chose qui n'a jamais eu lieu. La qualité a atteint un seuil où la détection à l'œil ou à l'oreille n'est plus fiable.
Pourquoi c'est important
Le deepfake a fait entrer la fraude au président (arnaque au faux virement) dans une nouvelle ère. Un attaquant peut cloner la voix d'un dirigeant à partir de quelques secondes d'audio public, ou monter une visioconférence entière avec des interlocuteurs synthétiques pour faire valider un virement. En janvier 2024, un employé du groupe d'ingénierie Arup à Hong Kong a ainsi versé 200 millions de dollars de Hong Kong (environ 25 millions de dollars américains) après une visioconférence truquée, cas confirmé publiquement par l'entreprise en mai 2024. Au-delà de la fraude financière, les deepfakes servent à l'ingénierie sociale, au contournement de l'authentification biométrique (attaques de présentation) et à la désinformation. Le maillon humain redevient le point de contrôle décisif.
Ce que fait AOCSI
Nous intégrons le risque deepfake à nos actions de sensibilisation : reconnaissance des signaux faibles, procédures de vérification hors bande pour les demandes sensibles, mises en situation pour les dirigeants et les fonctions financières. Les outils de détection ne suffisent pas : c'est le réflexe de contre-vérification qui arrête la fraude. Un rappel par un canal connu, un mot de passe convenu à l'avance ou une double validation des virements coupent court à la plupart de ces scénarios.
Pôle de rattachementFormation & sensibilisationPrestations et prix