Un programme conçu pour identifier les actrices porno

En voilà une idée qu’elle est bonne ! Un développeur chinois connu sous le nom de BuriedInMemory aurait, « avec quelques copains », passé les six derniers mois à plancher sur un programme de deep learning absolument prodigieux ; son but : croiser les visages apparaissant sur les sites de streaming porno avec les photos de profils féminins sur les réseaux sociaux. Et à quelle fin ? L’obsession un brin creepy d’envoyer des fleurs à l’actrice de ses rêves ? Pire encore. La finalité revendiquée par le concepteur est la suivante : permettre aux hommes suspicieux de checker le passé pornographique de leurs dulcinées pour vérifier si elles sont bien les oies blanches qu’elles prétendent être. Masturbation technologique et slut-shaming décomplexé, on n’arrête décidément pas le progrès.

A Germany-based Chinese programmer said he and some friends have identified 100k porn actresses from around the world, cross-referencing faces in porn videos with social media profile pictures. The goal is to help others check whether their girlfriends ever acted in those films. pic.twitter.com/TOuUBTqXOP

— Yiqin Fu (@yiqinfu) May 28, 2019

À l’heure qu’il est, aucune démonstration concrète de l’efficacité du programme n’a été rendue publique ; et c’est heureux. Cependant, une simple annonce sur Weibo, de la part d’un certain BuriedInMemory a suffi à mettre le Web en émoi. Le développeur chinois, installé en Allemagne, y fait part de l’aboutissement de son travail, dans un post rédigé en mandarin, et traduit ensuite par Yiqin Fu, étudiant en sciences politiques à l’Université de Stanford. Après 6 mois de développement, plus de 100 téra-octets de vidéos pornographiques analysés, collectés depuis les site Pornhub, XVideos, Sex8 ou encore 1024, des milliers de profils Facebook, Instagram, TikTok et Weibo comparés, BuriedInMemory l’affirme avec fierté, il a créé un programme de reconnaissance faciale en mesure d’identifier les comptes privés de 100 000 actrices pornographiques jusqu’à présent. Et tout ça dans un seul but, permettre à ses contemporains de découvrir si leurs femmes ont un jour intégré la distribution d’un film de boule.

Evidemment, les commentaires n’ont pas tardé à pleuvoir en réponse à la publication originale, enthousiastes pour la plupart. Car oui, l’innovation technologique a ceci de merveilleux qu’elle étouffe dans l’œuf toute considération éthique. « Wouhou ! », « Super ! », « Génial ! », « Quand pourra-t-on l’utiliser ? » ; après tout, puisque la sacro-sainte technologie le permet, pourquoi s’en priver ? BuriedInMemory, qui lui ne manque pas de sens moral, a pensé à tout et surtout à bien couvrir ses arrières. Pour des raisons légales, il doit encore « anonymer les données » avant d’ouvrir son application aux requêtes extérieures. Et, lorsqu’interrogé au sujet du risque juridique qu’il encourt avec un tel programme, il se fend même d’une justification douteuse, en trois points : d’abord, il n’a partagé aucune donnée ; ensuite, il n’a pas ouvert la base de données aux requêtes extérieures ; enfin, le travail sexuel est légal en Allemagne, où il vit. Tout ça est donc parfaitement licite, selon lui. Il songe même à développer un outil adapté aux profils masculins, sur les conseils d’un follower. L’éthique chevillée au corps, on vous dit.

Discrimination sociale et professionnelle, menace, chantage, agression voire meurtre, voilà les merveilleuses perspectives qu’ouvre ce cher BuriedInMemory avec son innocent petit logiciel « maison » de chasse à la salope. Il est inconcevable qu’au cours de la demi-année nécessaire au développement, il n’ait un seul instant réfléchi au risque vital que son jouet numérique pour frustrés allait faire courir sur l’ensemble des performeuses pornographiques. Les travailleurs du X, et en particuliers les travailleuses, sont victimes d’une stigmatisation quotidienne qui justifie à elle seule le port d’un pseudonyme. Pour une actrice, qu’elle soit simple amatrice ou professionnelle de longue date, le fait d’être publiquement « outée » expose aux dénigrements et aux brimades dans le meilleur des cas, aux violences dans le pire. Le simple fait qu’on ait l’idée de mesurer la dignité d’une partenaire à sa potentielle carrière pornographique passée en est un exemple particulièrement criant.

La misogynie pratiquement militante d’une telle démarche n’a pas manqué de soulever un tollé auprès des milieux sensibilisés à la cause des femmes. L’auteure féministe Soraya Chemaly, s’est publiquement indignée sur son compte Twitter : « C’est affreux et un exemple criant de la manière dont ces systèmes, globalement, entretiennent la domination masculine. » L’universitaire Danielle Citron, qui avait déjà analysé les implications légales du Deepfake, abonde en son sens : « C’est une idée douloureusement mauvaise – la surveillance et le contrôle du corps des femmes atteint de nouveaux abîmes. » Carrie E. Goldberg, avocate spécialisée dans les faits de revenge porn, commente simplement : « Ça va tuer des gens. »

This is a painfully bad idea—surveillance and control of women’s bodies taken to new low @ma_franks @CCRInitiative @HoLLyCCRi @ariezrawaldman @cagoldberglaw https://t.co/PyiKV5x3Qu

— Danielle Citron (@daniellecitron) May 28, 2019

Devant le scandale en devenir, relayé par la presse web, du Sun à Adult Video News, en passant par SexTechGuide, et face à l’infraction évidente aux lois européennes de protection des données que son logiciel constitue (une telle collecte d’informations personnelles est illégale), le créateur a d’abord changé son fusil d’épaule. « L’outil serait en réalité conçu pour traquer et faire supprimer le revenge porn », argue-t-il, avant d’abdiquer complètement. Contacté par le MIT Technology Review via son profil Weibo, BuriedInMemory se dit « désolé des troubles occasionnés » et affirme avoir pris conscience de l’ampleur de la controverse, effaçant son projet ainsi que toutes les données collectées. Alors, tout est bien qui finit bien ?

Il y a un an, xHamster dévoilait son propre programme de reconnaissance faciale.

Pas vraiment. Quand bien même chaque ligne de code aurait été effacée ; quand bien même le programme n’aurait jamais été utilisé ; quand bien même aucune preuve concrète de son existence n’aurait jamais été rendue publique, la boîte de Pandore est dorénavant ouverte. Comme l’a déjà prouvé la polémique Deepfake il y a quelques mois, les technologies d’apprentissage profond des machines nous mènent tout droit vers l’horizon d’une singularité technologique absolument vertigineuse, dont les implications nous échappent. Peu importe que le négatif de Deepfake, conçu justement pour traquer les vraies identités des vraies actrices porno, ait ou non été réellement développé. Chacun sait à présent que l’existence de tels moyens n’est plus seulement une éventualité, c’est un fait. Et nous sommes dangereusement sous-équipés pour nous en prémunir. En ou hors l’industrie pornographique, personne n’est à l’abri.