The content society 5: the stakes of deepfakes

EN

Deepfakes ('deep learning'-generated 'fake' pictures) are videos where the face of individuals are replaced with other faces, using plug-and-play artificial intelligence software. There are porn videos where the face of the performer has been replaced by the face of a celebrity.
This is yet another expression of the way the digital environment struggles with sincerity. Things are not what they appear to be over there.
All kinds of people might be pondering the use of deepfakes:
- TV comedians and propagandists
- spies, social engineers and blackmailers (kompromat)
- advertisers and scammers
- pranksters (large scale ones, think the Laughing Man from Ghost in the Shell Stand-Alone Complex)

Imagine a future where video alteration is so pain-free that no video can be taken at face value. The process of making people appear to say things or do things would be industrialised, videos being altered in all of your video viewing environment, videos being altered in real-time, videos featuring faces and other items that are customized to each viewer.
Imagine a future where computer malware would alter in real-time the video feed you receive through communication software.
As far as I can tell, this future is just around the corner.

FR

La société du contenu 5 : les enjeux de la manipulation logicielle des images

Les deepfakes sont des vidéos dans lesquelles certains visages sont remplacés par d'autres, grâce à l'utilisation de logiciels d'intelligence artificielle simples à utiliser, reposant sur des techniques dites d'"apprentissage profond". Dans certaines vidéos pornographiques, le visage de l'actrice a ainsi pu être remplacé par celui d'une célébrité.
C'est une expression supplémentaire de la relation pour le moins tortueuse de l'environnement numérique avec la sincérité. Les choses n'y sont pas ce qu'elles paraissent.

Toutes sortes de gens sont peut-être en train de réfléchir à l'utilisation de deepfakes:
- les humoristes de la télévision et les propagandistes
- les espions, ingénieurs sociaux et maîtres chanteurs (kompromat)
- les publicitaires et arnaqueurs
- les amateurs de canulars (à grande échelle, imaginez le Rieur dans la série d'animation Ghost in the Shell Stand-Alone Complex)

Imaginez un avenir où les modifications des vidéos deviennent si faciles qu'aucune vidéo ne puisse plus être prise pour argent comptant. Le procédé consistant à faire dire ou faire n'importe quoi à n'importe qui serait industrialisé, les vidéos seraient modifiés sur tous vos écrans, en temps réel, avec des visages et d'autres objets personnalisés en fonction de chaque spectateur.
Imaginez un avenir où les logiciels malveillants modifieraient en temps réel le flux vidéo que vous recevriez via vos logiciels de communication.
Autant que je puisse en juger, cet avenir est imminent.